生成式 AI 的進化速度驚人，錯假資訊卻也層出不窮。
「AI 為什麼會說錯話？」臺北市立內湖高中資訊科教師羅玗貞解釋，AI 產生所謂「幻覺」的原因，是因為它被訓練成一個「不能說不知道」的好學生。當遇到不確定的問題時，它傾向憑空補足答案，導致捏造事實、邏輯錯誤，甚至引用不存在的資料。
這樣的誤導在現實中並非少見。前陣子，一對西班牙網紅夫妻誤信 AI 的旅遊建議，以為前往波多黎各不需簽證，結果被拒絕登機、當場淚灑機場——這起事件再次提醒大眾：AI 說錯話，到底誰該負責！
羅玗貞認為，面對連大人都可能被誤導的時代，禁止或恐懼 AI 都不是解方。教育現場真正該做的，是培養學生在 AI 面前保持思辨與判斷的能力。
為了讓抽象的「思辨力」變得可操作，羅玗貞導入 Google 最新推出的「解鎖 AI 工具包」，把原本艱澀的「AI 幻覺與倫理」議題，轉化為一場場具體而有趣的課堂活動，讓學生在實作中學會提問與驗證。
羅玗貞深耕資訊教育已25年，她對於學生如何面對科技轉變有深刻的觀察。她發現，有些學生除了對AI生成的內容深信不疑，也願意輸入個資、照片給AI。因此她認為，提醒學生「個資保護與影像安全」是當務之急。
「因為即使是看似無害的資料（如：班級、身高、生日、社團名單），透過 AI 的交叉比對，仍可能被駭客拼湊出特定個人的真實身份，讓匿名資料不再安全。」羅玗貞如是說。
此外，羅玗貞更以近期非常受到關注的 Deepfake（深度偽造）作延伸討論。她先展示兩張用AI生成的假照片：教宗穿潮牌，以及德國前總理梅克爾在打電動。進一步引導學生去思考：「如何判斷一張深偽照片？」
「在跟學生的互動中，你會發現其實學生其實懂得還不少，」羅玗貞分享學生們的提出的參考指標包括：是否有相機的EXIF資料、觀察光影一致性、檢查圖片是否有真實照片才會有的「摩爾紋」。
羅玗貞還讓學生挑戰 AI 最常見的陷阱：「幻覺」。誠如上述所說，AI被訓練要當個好學生，因此最厲害的就是「一本正經地胡說八道」。
例如，她曾讓學生向 AI 提問：「如何把月亮放進書包？」按照常理，這是現實做不到的事情，但 AI 卻給出煞有其事的步驟，這也證明了它缺乏常理判斷，產生了幻覺。
為了讓學生更理解AI幻覺的成因，羅玗貞讓學生分析Google這份教材中五個真實國際案例，包括：
．航空公司的AI客服誤導乘客，引發退款爭議
．AI電子書刊出「有毒蘑菇」的食譜書
．有一名律師引用AI虛構判例遭到處分
．AI機器人虛構鎮長挪用公款的新聞
．AI助理為了同理家長，自稱「我也有個孩子」的離奇對話
羅玗貞利將這五個案例分成五個小組，讓每組學生負責解讀一個案例。學生們要分析事件背後的AI幻覺來源，並提出查證方法。她欣慰地說：「學生們的成果報告都超出預期。有的組提出『用AI打敗AI』的策略，讓不同模型互相驗證；也有人提醒要查資料的發布時間、比對多個來源，甚至請專家協助核對。」
羅玗貞認為，這些討論過程，讓學生不再被動接受AI答案，而是開始練習懷疑、查證、修正，一步步建立起資料素養的「思辨肌肉」。
羅玗貞指出，AI給出的答案背後，有資料來源、演算法設計，往往也反映人類輸入的偏見與價值觀。
什麼叫AI偏見？羅玗貞舉例，「如果AI訓練資料中，CEO的形象多是男性，它未來生成的CEO形象自然也會以男性為主，這叫『歷史偏誤』；如果我們一直告訴AI『香草冰淇淋是最好吃的』，它就會無止境推薦香草冰淇淋，這叫『確認偏誤』。」
因此，羅玗貞設計學習單，請學生站在「AI設計者」的角度，分析訓練AI模型的流程，包括：預先訓練、微調、真人意見回饋、模型輸出等，「哪個環節可能會出現偏誤？」
她分享，課堂中有學生馬上聯想到，如果把一個「微調」成「使用年輕人用語、情緒化、誇張」的AI，被要求寫論文時，論文就可能會出現大量的表情符號。
另一組學生則以「吃漢堡」的例子貫穿了整個流程，如果「訓練資料」都寫「喜歡吃漢堡」，後來微調時卻故意加入「不喜歡漢堡」，就可能造成「矯枉過正」的偏誤。
(此為AI生成圖，模擬學生上課狀況)
羅玗貞坦言，「對於從小未學習 AI 應用的老師而言，教授這類新興技術，內心難免忐忑不安。」
身為資訊科技學科中心種子教師的一員，羅玗貞分享，Google與高中資訊科技學科中心合作研發的「解鎖AI工具包 ─ 資訊課動手玩」，不僅幫助高中老師們克服備課的焦慮，亦能在課堂上更順利地導入AI教育。
這份教材結合108課綱的精神，內容除了手把手教授Gemini的使用技巧，引導孩子自主學習，還可以協助老師陪伴學生探討生涯規劃。
羅玗貞深信，教AI素養的目的，不只是學會使用工具，而是培養學生在AI洪流中保持思辨力，學會成為資訊時代中「不被技術牽著走的人」。
首圖來源：shutterstock
熱門商品
