第 4 週：AI 基礎與倫理

在上一堂課程中（第 2 週），我們學會了 SIFT 四步查證法與職業懷疑心——你已經知道怎麼對付假訊息。這一週，我們把查證的對象換成每天都會使用的工具：生成式 AI。本章從一個真實的故事開始——這是老師我的日常 AI 體驗，在中秋節連假的四天裡，我的 AI 夥伴們建立了一個影音講堂頻道；那四天發生的事，正是所有概念的縮影。

4.1 開場 — 研究室的四天 vs. 三張罰單的三年

先講一個發生在學校的故事。它沒有上新聞，主角就是每週站在你們面前的老師[12] 😂。

故事開始：研究室裡的夜班研究員

在多數人的想像裡，「使用 AI」是打開對話視窗、問一個問題，得到解答然後關掉。但在老師的研究室裡，有一台不太起眼的 Mac mini 小主機，過著完全不同的日子。每天深夜，當周圍安靜下來，這台主機裡的幾位 AI 助理才剛展開它們的一天：有個叫做 Hermes 的 AI 助理，每天凌晨三點主動上網巡邏全球科技與治理動態——看歐盟又通過了什麼法規，哪家公司又因演算法被告；這群助理在內網裡有「自由暢言」的空間，把讀到的東西整理成筆記，互相討論 (構想規劃中)，甚至主動提案。每天早上，老師走進研究室，昨夜的探索成果已整齊擺好，每每看到這些成果，我常設想來做更有趣的應用。於是，定案做成影片講給更多人聽！

當 AI 來做主播：一場哭笑不得的撞牆期

於是老師決定放手一試：讓這群 AI 夥伴經營一個影音講堂，並給虛擬主播取名為「小艾」。接下來是一連串讓我啼笑皆非的翻車現場。AI 寫起文章頭頭是道，但做影音卻像個沒有生活常識的新手：畫面文字五彩繽紛、忽大忽小，像失控的跑馬燈；說話更慘——講稿裡的「這項法規讓科技巨頭大到動不了」，小艾把「了」念成輕聲的「le」，像機器翻譯在朗讀。而 AI 助理們提出的天才解法是：「把畫面上的字幕改成『動不瞭』，這樣電腦就會唸對了！」——這豈不是為了機器的發音缺陷，去改寫給人類視覺的文化。

這正是生成式 AI 最真實的面貌：算力驚人、速度飛快，但它缺乏身為「人」的基本生活常識、語感與審美。這個案例我們在 4.2 節會回來拆它的機制。

人類專家的四次掌舵

面對這些翻車，老師做了四件事——沒有寫高深程式碼，全都是「個人經驗」：

火種點亮

最後壓製影片時電腦當機——但因為數位足跡記錄了「記憶斷點」，AI 夥伴隔天接續完成，產出第一部 6 分 11 秒的高畫質正片，於是處女作影片在 2026 年初秋正式發布：EmberCast 火種頻道（YouTube @EmberCastLab），首集主題正是 AI 執法時代的來臨[11]。這不是科技大廠的千萬預算大片，而是我與幾位 AI 夥伴，以及一台小主機的日常產出。

反向案例：當人沒有掌舵，由 AI 直接送出

你們剛看到的，是人持續掌舵時，AI 能到的高度。現在看反向案例：人沒有掌舵、AI 直接送出時，AI 會把專業人員帶到哪裡。

2023 年 6 月，紐約聯邦法院，兩名律師在訴狀裡引用了六個「判例」——全數由 ChatGPT 捏造，案件遭駁回，律師與事務所被罰 5,000 美元[6]。兩年後故事升級：2025 年，兩家律師事務所因提交含 AI 假引註的書狀被罰 31,000 美元[7]；同年，加州上訴法院開出該州史上最高 AI 罰單——律師 Mostafavi 的上訴書中 23 段引文有 21 段是 ChatGPT 捏造，罰款 10,000 美元，法官在意見書裡寫道："Strong deterrence is needed to make sure that attorneys don't succumb to this easy shortcut."（必須強力威嚇，律師才不會屈服於這條捷徑）[4][5]。同一種錯誤，三年三張罰單——法官的耐心正在耗盡：法院已不再接受「我用了 AI」當藉口，已知風險必須被管理。

4.2 生成式 AI 的運作直覺 — 它在猜，不是在查

4.1 的故事裡，小艾會把「了」念錯，做出跑馬燈畫面，及會提議在字幕中使用錯別字。要理解這些行為從哪來，只需要建立正確的觀念。這一節給你這個模型——之後遇到任何 AI 的怪行為，都能用它來推導。

大型語言模型是「下一個字」的機率引擎

大型語言模型（Large Language Model, LLM）的內部在做的事，說穿了只有一件：為目前為止的所有文字，預測下一個字（或下一個詞彙片段）出現的機率，再挑一個出來。接著繼續預測再下一個字——如此持續反覆。例如「我愛吃」之後，模型算出「蘋果」出現的機率是多少、「冰淇淋」是多少，然後依機率抽選。它不是在資料庫裡「查」一條儲存的答案——模型裡沒有儲存任何完整的句子；它儲存的是數十億參數構成的統計痕跡：訓練資料裡哪些字跟哪些字？哪些概念跟哪些概念？常常一起出現。

換個角度來說明。當我坐在電腦前輸入一段提示詞，這個引擎就會啟動，根據訓練時讀百科全書建立的龐大機率分佈，快速轉動那幾千億個旋鈕，計算出最合理的「下一個字」，然後再算下一個。這就是學習機制、統計樣本與最終產物的因果關係。我們直接把它們拆開來看，實際的物理過程是這樣的：

1. 演算法：設定「怎麼算機率」的規則 演算法本身沒有任何知識，它是一套純粹的數學模型與運算邏輯。你可以把它想像成一台專門計算關聯性的機器，它負責下達指令：「去找出這堆字詞之間，誰跟誰經常綁在一起出現，並把這個關聯強度用數字（權重）記下來。」演算法不在乎文字的意義，它只在乎結構和頻率。

2. 讀百科全書：提供建立機率分佈的「燃料」 當我們讓模型去「讀」百科全書或海量的網路文章時，它不是像人類那樣把知識一頁頁「存」進資料庫裡。它是把整套百科全書直接丟進碎紙機，拆解成無數的詞彙片段（Token）。

接著，演算法會在這些海量的碎片中瘋狂統計。例如它會發現，當文章出現「萬有」這兩個字時，下一個字接「引力」的機率高達 99.8%；接「公車」的機率大概只有 0.0001%。模型最終留在肚子裡的，不是百科全書的原文，而是這幾十億個詞彙互相搭配的「統計痕跡」。

3. 機率引擎：兩者結合後的最終產物 當演算法消化完那幾百萬本百科全書，並調整好內部幾千億個參數（你可以想像成幾千億個控制機率的實體旋鈕）後，訓練就結束了。這時候，它就正式成為一個「機率引擎」。

回到老師的日常體驗。這個直覺模型直接解釋了小艾的行為：「動不了」的「了」，在一般文本中的確常念輕聲「le」（「走不了”“來不及了”）——TTS（文字轉語音）系統按機率選了一個讀音，它不是在查字典（字典查得到「瞭」在補語用法念 liǎo），它是在猜下一個音。同理，幻覺（hallucination）——模型一本正經地給出不存在的判例——也從這個模型直接推出：如果訓練資料裡「法院判決書的開頭」通常長什麼樣、律師事務所名稱的常見格式長什麼樣，模型就能拼出一個格式完美、實則不存在的判例。生成式 AI 的輸出永遠是「符合統計模式的高機率文字」，流暢與正確是兩個獨立的維度——這是本週最重要的一句話。

模型不知道自己不知道

更麻煩的是：模型沒有真實的「我不確定」機制。人類專家在知識邊界外會說「這我不敢講」；模型則永遠能生成下一個字——因為生成不停，機率分布永遠存在。你問它一個它從沒見過的判例，它不會拒答，會給你一個「看起來最像答案的東西」。四大事務所的內部規範嚴禁 AI 做實質結論（4.4 節），根源就在這裡：它不知道什麼是它不知道的，所以人必須知道。

提示工程 — 改善機率，不能消滅不確定性

那「提示工程」（prompt engineering）是什麼？四個核心手法：

• 給脈絡：不說「幫我寫報告」，說「以下是我們公司的三大支出（貼上數據），用 200 字寫給非財務背景的主管看」——利用脈絡收斂機率分布，讓「下一個字」的候選更集中在你要的方向。
• 給格式：指定「用表格、三欄、按金額排序」——格式約束直接限定輸出空間。
• 給示例：貼一段你認可的範例文字讓它模仿——模型最擅長的就是模式匹配。
• 再迭代：把上一輪輸出拿來修改再問——讓對話往機率分布的深處移動。

但必須講清楚提示的天花板：所有這些手法都是「讓高機率的答案變成你要的答案」，它們無法讓模型知道它不知道的事。提示寫得再好，引用判例前還是要自己去法院資料庫查證——4.1 那三張罰單，每一張的背後都有一個「提示用得很好，但忘了查證」的人類。把第二週的 SIFT 原則搬過來：查證義務不因工具變強而消失，反而隨工具的使用頻率放大。

4.3 倫理困境 — 著作權、偏見與責任

生成式 AI 的倫理問題常被混在一起談，這一節講三個互相獨立的困境，各自有不同的主角與範例。

困境一：著作權 — 用你的文章教模型，算不算抄襲？

這是目前全世界最重要，也最沒有答案的 AI 法律戰。2023 年 12 月 27 日，《紐約時報》起訴 OpenAI 與 Microsoft[3]，主張對方未經授權使用其數百萬篇文章訓練模型。這個案子的重要之處，在於它把「AI 與著作權」的爭議拆成了三層——我們也用這三層來思考 AI 著作權問題：

關鍵概念：合理使用（Fair Use）— 這場官司的核心戰場

要看懂這個案子為什麼打了三年還沒定論，必須先認識美國著作權法的「合理使用」（fair use）：法律承認在某些情況下，未經授權使用受保護的作品是合法的——評論、教學和新聞報導都是典型。法官不是問「有沒有使用」，而是衡量四個因素：

①使用的目的與性質（是拿去做新東西，還是直接取代原作？）

②原作品的性質；

③使用了多少份量與實質內容；

④使用行為對原作品潛在市場的影響。

此四個因素是權衡，不是 checklist——所以有彈性空間，也正是雙方激戰之處。OpenAI 答辯主軸是「轉變性使用」（transformative use）——第一因素的核心概念：用你的文章「訓練出一個能回答任意問題的新工具」，是創造了前所未有之物（高度轉變），而非複製你的文章去賣。紐時的反擊也打在同一因素：AI 的新聞摘要已開始替代人們訂閱報紙的理由——「轉變」的名義下藏著市場傷害。其實，雙方爭的是「第一因素與第四因素誰說了算」——這就是為什麼案子拖了三年：兩個都是合理使用判斷裡的重要因素，且互相對撞[1][2]。

2026 年的戰況更新，讓這個案子更精彩：1 月，法院核准紐時方請求，OpenAI 必須交出 2,000 萬筆去識別化的 ChatGPT 對話紀錄作為證據——AI 訴訟史上最大規模的證據開示；9 月 4 日，美國司法部罕見提交立場書，支持 OpenAI 的觀點：全面禁止用受版權保護材料訓練 AI，將嚴重阻礙技術進步。政府、媒體、科技公司和作家，四方都在現場，而終局判決還沒有出來[1][2]。

在這裡我們要特別表達的是：「不知道」也是專業判斷的一部分。任何人現在告訴你「AI 訓練一定侵權」或「一定合法」，都是在推銷而非報導事實——正確的專業姿態是：追蹤每層爭點的最新裁定，在確定性出現前，用治理規範管理風險（4.4 就是這樣的治理）。

困境二：偏見 — 訓練資料的偏差會被忠實放大

模型從訓練資料學「什麼跟什麼常一起出現」——那麼資料本身的偏差就成為輸出的偏差。會計場景的例子：如果訓練資料裡「公司費用科目」絕大多數出現在常見分類（差旅、辦公用品），AI 在做非常規科目的分類建議時，會直接把這個特殊帳目歸類進它最熟悉、出現頻率最高的類別中（統計偏誤）——不是它笨，是它見過的世界就長這樣。這正是台灣金管會《金融業運用 AI 指引》把「公平性與非歧視性」列為核心原則之一的原因（4.4）——監管者針對的就是這個機制。

困境三：責任 — 誰簽名，誰負責

AI 沒有執業執照，也沒有財產可賠，不會坐牢——法務上它是「工具」。所以責任的落點永遠是使用工具並簽名的專業人員。會計界對這個概念有個現成的名字：Human-in-the-loop（人類參與循環）——AI 可以在工作流的任何位置，但最終決策與簽核點必須是人類。4.5 的全班健檢實驗，就是讓各位親手估計這個設計的必要。

4.4 會計專業的 AI 治理現場 — 四大事務所與台灣金管會

「AI 出錯怎麼辦」如果只停留在哲學討論，就永遠不會有答案。這一節看兩個已經動起來的治理現場——一個是全球會計業的頂端，一個是你未來客戶的所在。

四大事務所：從「要不要用」到「怎麼用得安全」

2026 年的四大所已經不是在試驗 AI——它們在以產線規模部署：

數字之外，更值得記住的是三句治理原則。

第一句，EY 英國審計數位負責人 Harrison 的原話：「AI is here to support us, not to replace us.」（AI 是來支援我們，不是來取代我們）[8]——四大事務所的部署設計全是環繞這條原則：AI 做初篩與摘要，人類做結論與簽核。

第二句，來自監管者：英國財務報告委員會（FRC）公開警告，勿倉促依賴未經測試的技術[8]——記住這句話的機構背景：它是英國的會計監理官。

第三句是歷史的：KPMG 在 2023 年因 Carillion 審計失敗被罰 2,100 萬英鎊[8]——大所砸錢做 AI 的另一面，是「查不出問題」的風險史；技術投入的目的不是炫技，是補強品質。

台灣：金管會《金融業運用 AI 指引》核心原則與治理框架

台灣的對應進度：金管會於 2023 年 10 月 17 日公布「金融業運用人工智慧(AI)之核心原則與相關推動政策」——6 項核心原則：①建立治理及問責機制，②重視公平性及以人為本的價值觀，③保護隱私及客戶權益，④確保系統穩健性與安全性，⑤落實透明性與可解釋性，⑥促進永續發展；並同時推出8 項配套政策（含訂定 AI 指引、法規調適、監理科技、自律規範等）[10]。

其後於 2024 年 6 月 20 日發布正式《金融業運用人工智慧(AI)指引》（提出總則加六章，每章對應一項核心原則）——性質為行政指導、不具拘束力[10]。全文金管會官網可下載，這裡點出與本週最相關的兩項：

• 原則一：建立治理及問責機制——正對 4.3 的責任困境：內部治理架構＋外部（對消費者與社會）責任，並要求有完整的錯誤與非預期事件處理程序。
• 原則二：重視公平性及以人為本的價值觀——正對 4.3 的偏見困境：官方原文要求「儘可能避免演算法之偏見所造成的不公平」，並明訂生成式 AI 的產出「仍需由金融機構人員就其風險進行客觀且專業的管控」。

對大一的你的意義：「上市櫃公司、金融業——絕大多數都受金管會管。AI 治理不是遠方的新聞，是簽工作底稿時的法律環境。」這些原則，在 4.5 的健檢解讀裡會是大家的判斷依據。

4.5 全班實驗 — AI 可靠度健檢（120 人次的抽樣調查）

讓我們全班 120 人＝120 次抽樣，親手估計一次「生成式 AI 在財稅知識上的可靠度」——這份數據任何講義都造不出來，它是你們班自己產生的。

動線（人人動手做）

1. 全班同時提問與查證：拿出手機，打開你手上任一 AI（ChatGPT／Gemini／Copilot 均可），問同一道題目：「2025 年綜合所得稅一般申報的截止日是哪一天？逾期申報會怎樣？」然後到財政部稅務入口網站查證——這一步正是第 2 週的 SIFT：先暫停、查來源、找更佳報導及回到最初出處，一個都不能省。
2. 回報結果：到 iClass 課堂活動回報你的結果（單選三項）：① AI 完全正確 ｜ ② AI 有錯 ｜ ③ 無法確定。
3. 全班解讀：統計揭曉後，接著三步解讀——

解讀三步驟

第一，認知這是抽樣：你們剛做完審計員每天都在做的事——樣本檢測。差別是審計抽「交易」，你們抽的是「AI 的答案」。120 人次的統計，就是對「AI 財稅知識可靠度」的一次抽樣估計。

第二，面對錯誤率：就算十份裡九份正確，問一個問題——剩下那 10%，如果落在簽證前的財報工作底稿上，誰要擋？法院的罰單（4.1）已經回答：不能拿 AI 當藉口。

第三，收斂到 Human-in-the-loop：4.3 說過 AI 沒有執照、沒有財產、不會坐牢——它也不會自己知道「這題我沒把握」。所以那 10% 的把關者，只能是受過訓練的人。你的專業訓練，就是那道擋關——這是本週六節的終點句。

4.6 本週總結＋下週預告

如果只能帶走一句話

回頭看這一週的路：一個真實的人機協作故事（EmberCast：人掌舵，四天做出一個頻道）、三個反向案例（三年三張罰單：人不掌舵，AI 直接送出的後果）、一個運作模型（機率生成——猜下一個字，不是查資料庫）、三層倫理爭點（著作權/偏見/責任——世界還沒有答案）、兩個治理現場（四大所的規範與金管會的核心原則）、一場 AI 可靠度健檢（120 人次的抽樣實驗，你們全班把這些用過一遍）。4.1 的互動題現在可以回答完整了：為什麼要微調一秒鐘的留白、堅持一個破音字的尊嚴？因為 AI 只負責輸出高機率的東西；把它變成作品、意見和簽證的，是人的判斷——判斷才是我們販售的專業。

課後任務

1. AI 測試報告：請自行重做 4.2 的測試（用你手邊任一 AI 工具）——問一個台灣在地的財稅問題，對照官方來源查證，寫下 AI 的回答與查證結果差在哪？你覺得它「答對」是靠知識還是靠運氣。
2. 健檢後的反省：今天全班健檢的統計結果出來後，你認為 AI 正確率不足的部分應該由誰負責？理由是什麼（引至少一項本週素材——罰單案例／四大所規範／金管會核心原則皆可）。
3. 預習引導：下週進入「數字系統與電腦硬體」——回想 4.2 的機率引擎：那數十億參數「存在哪裡」？為什麼 AI 公司需要那麼多 GPU？
4. 實習課預習（Excel）：4.7 節的大綱先看過——本節由助教授課。

4.7 Excel 實習課 — 公式與函數基礎

正課談的是「AI 會不會出錯」；實習課練的是「你自己先會算」——因為只有懂基本運算的人，才檢查得出 AI 出的帳。本節由助教授課帶實作，以下大綱供助教自由發揮。

本節學習目標

• 正確使用 SUM（加總）、AVERAGE（平均）、IF（條件判斷）三個最常用函數
• 理解相對位址與絕對位址（$A$1）的差異，並能正確複製公式而不跑位
• 在一張 50 筆會計科目的小帳冊上，完成加總、平均與「超過預算與否」的自動判斷

上課大綱（助教自由）

實習課由助教於課堂實施。