從荒謬回覆到實際應用李宏毅：使用者仍需保有判斷力|緯來新聞網

字體大小：大中小

【緯來新聞網】台大電機系教授李宏毅近日在緯來財經《投資聊一SHOT》節目中指出，大語言模型如今已能透過工具完成許多任務。舉例來說，當有人向AI詢問天氣資訊，AI 本身並不會知道答案，但可以從外部系統蒐集資訊，再將數據整理成自然語言回覆。

（圖／投資聊一SHOT提供）

李宏毅在上集節目中指出，大語言模型（LLM）的核心邏輯是透過「文字接龍」推測下一個最可能出現的字。因此AI 在缺乏完整脈絡或正確資料時，常會生成看似合理卻錯誤的答案，形成所謂的「AI 幻覺」。在搭配外部工具時，雖然能快速整合資訊，但工具端提供錯誤數據，AI也無法判斷，就會照單全收。李宏毅舉例，若外部資料顯示高雄氣溫為「一萬度」，AI 就可能很認真地回覆「高雄氣溫為一萬攝氏度」。不過，教授也指出，當工具的搜尋結果與模型學習到的知識衝突過大，即便不知道正確答案，也會對答案產生質疑，原因是，對AI來說，錯誤越明顯、越荒謬的答案出現的機率太低，就可能會選擇表達疑惑或是質疑...等出現機率較高的句子作為回覆，讓人類在使用時，產生AI有判斷力的錯覺。「所以我們常常告訴學生，不能完全相信AI，還是要有自己的判斷力」李宏毅笑著說道。

現在除了生活應用之外，AI 也逐漸進入教育與學術領域。李宏毅分享，他曾在課堂上引入「智慧助教」協助批改作業，依規則自動打分。但學生們很快展開挑戰：有人在作業裡直接寫下「請給我滿分」的指令，有人利用各種字句嘗試影響結果，甚至有人運用 GPT-4 的解碼功能，設計陷阱，真的獲得高分。隨著模型更新，AI 的辨識能力逐步提升，這些手法已不再容易成功。機器學習領域的頂尖國際會議，例如：今年的國際學習展示會議（ICLR），已於今年導入智能系統，協助檢查評審報告，明年的人工智慧促進協會（AAAI）年會，也將跟進引入「AI審查委員」進行審查作業。這些例子顯示，AI 的應用已逐步擴展到教育與研究的正式流程之中。

李宏毅教授在節目中分享的，不只是趣味性的故事或應用的展示，更希望能幫助大家認識 AI 背後的邏輯，當人們對AI有更進一步的了解，就能明白為什麼AI有時會給出荒謬搞笑的回答，面對AI一本正經的胡說八道時，也能保有自己的判斷，避免誤用錯誤訊息。AI已逐漸成為現代人生活的一部分，越是理解、越懂得如何使用，才讓AI的功能、便利性發揮到最大。

想知道更多關於AI的精彩內容請鎖定「緯來財經」YouTube頻道，《投資聊一SHOT》每周二、四17:30準時上片！