撰文 王毓茹
AI 產出很快,但會讓錯誤「貌似合理」!台大教授提醒:你一定要把關 3 個維度
分享
在 2025 年,美國麻省理工學院(MIT)的研究發現,長期使用 ChatGPT 等大型語言模型(LLM),可能對人類認知能力、批判性思考產生有害影響。
實驗將 54 名 18∼39 歲受試者分成 3 組,一組使用 ChatGPT 寫文章、一組用 Google 搜尋、一組純靠腦力。研究人員監測他們大腦 32 個區域活動,發現 ChatGPT 組大腦活躍和連結性顯著下降,甚至不記得自己寫過的內容。
這是因為,AI 已經提供答案,容易讓使用者跳過主動整合資訊、邏輯思考、評估和產生新想法等步驟,逐漸養成大腦外包的習慣。負責操作此實驗的學者娜塔莉亞.科斯米納(Nataliya Kosmyna)表示,「使用 AI 雖然能提升效率,但過度依賴恐會弱化批判性思考、創造力和解決問題能力。」
這種把大腦外包給 AI 的現象,如今愈來愈普遍。開設「解決問題理論與實務」課程、教導解決問題和批判性思考的台灣大學領導學程兼任教授李聖珉表示,當每個人都能用 AI 產出 80 分內容,拉開差距的關鍵,正是誰能判斷 AI 產出的價值和風險,「批判性思考,就是把人從 80 分帶到 95 分、甚至 100 分的關鍵能力。」
什麼是批判性思考?1990 年,美國哲學學會(APA)發布《德爾菲報告》(The Delphi Report),召集 46 位專家,針對批判性思考定義形成共識,是「一種有目的、自我調整的判斷。」這個判斷涉及詮釋、分析、評估與推論,並對該判斷所依據的的證據、概念、方法和準則等加以說明。從美國到全球,有許多教育機構和商業課程在設計批判性思維課程與測驗時,都把這份報告當成重要理論依據。一般認為,批判性思考幾乎涵蓋了生活與學習的各個面向,有助於克服偏見與非理性,是民主社會必備的關鍵能力之一。
李聖珉根據《德爾菲報告》的定義,進一步將批判性思考歸納成 3 大維度,分別是「接收資訊的過濾與評估能力」,包含詮釋、分析和評估訊息;「創造論述的發展與論證能力」則是推導結論、發想假設和事證需求;以及「提升批判思考的自我治理能力」,像是清楚敘事和自我規範等。
AI 常犯錯、還會合理化錯誤,挑戰人類的推理與判斷力
在資訊爆炸、AI 融入日常生活的時代,這項能力變得更加重要,也遭遇到更大的挑戰。
在 2025 年底,全球 4 大會計師事務所德勤(Deloitte)澳洲分公司犯下嚴重錯誤,他們為政府所撰寫的報告使用生成式 AI,引用不存在的學術研究,充滿虛構內容的「AI 幻覺」。
科學期刊《Frontiers》指出,之所以要對 AI 保持警惕,是因為大型語言模型(LLM)本身就容易出現2個問題,一是我們輸入提示詞時,因為不夠明確、具有誤導性,導致AI容易生出錯誤的資訊;二是模型本身的架構、資料訓練和推論行為造成錯誤內容產出。如果沒有仔細判斷驗證,就會出現澳洲德勤的狀況。
「AI 產出的內容是根據關聯性,而非邏輯性,」李聖珉強調,因此邏輯出現問題時,AI 不但無法修正,反而會試圖讓錯誤看起來更合理。
人類的價值也在此彰顯,《反智》提到,推理、反思和推斷能力,是我們最精良的技能之一。因此,透過思考,主動拆解邏輯、質疑並要求 AI 提出更多證據,才能讓我們不被看似完美卻低品質的內容誤導。不過,以邏輯架構和理性為基礎的推理和反思,其實相當「反直覺」,必須經過訓練,人腦才能愈磨愈利,不致落入「垃圾進,垃圾出」的陷阱。
大量閱讀、累積底層知識,掌握知識之間的邏輯性
在 AI 的時代中生存,許多人都有強烈的AI焦慮,害怕被取代,甚至懷疑人類的價值。但就如《AI 世界的底層邏輯與生存法則》所言,批判性思考是人類的最後一塊淨土,也是將人類與機器區隔開來的最重要元素,具備「主動性」的批判性思考能力,或許是現在我們少數領先AI的技能之一。
李聖珉表示:「批判性思考的能力絕對是訓練出來的,」首先是靠大量閱讀得到知識,再加上自身累積的經驗,並進行反思。而且,批判性思考不是通用技能。就好比一個在台積電具備極強批判性思考能力的人,到台大醫院工作可能會表現得笨拙,因為他缺乏醫學領域知識基礎。李聖珉強調,大量閱讀才能建構出重要的底層知識,「知識像鋼筋水泥,如果沒有底層的累積,成為中心骨架,思考會像泥沙一樣淺薄。」
有了知識基礎後,接下來是訓練邏輯性,因為批判性思考必須掌握知識間的因果關係,結合實務情境。李聖珉建議,練習用金字塔方式來描述你的邏輯架構。《金字塔原理》是麥肯錫的寫作與思考架構,金字塔頂端是結論,中層列出支持結論的「前提」或「理由」,並確認彼此之間存在因果關係,每一個論點都必須透過「演繹法」或「歸納法」來組織,導出合理的結論,並且要做好 MECE(互不重複、全無遺漏),最底層則是提出事實和證據,「讓自己養成這樣的思考習慣,如果你的金字塔畫不出來,就代表可能存在邏輯謬誤。」
也可以用這套原理來詢問 AI,例如:「這個結論是怎麼推導出來的?哪些訊息得出這些結論?」交叉對比自己和 AI 畫出的金字塔架構,對照雙方觀點和補充脈絡,「把 AI 當成一個對答夥伴,但這個夥伴不靠譜,批判性思考也沒有比你強多少。」
所以和 AI 互動時,你需要不斷質疑和追問。輝達(NVIDIA)執行長黃仁勳就曾向 CNN 表示,「我和 AI 互動時,幾乎都在提問。」要提出好的問題,必須經過思考、分析和推理。向 AI 提問時,他總是拒絕接受第一個答案,要追問「你確定這是你能提供的最佳答案嗎?」迫使 AI 反思和強化;其次,使用交叉驗證,將同一個問題詢問不同的 AI,他形容這就像徵詢3位醫生的意見一樣,還會要求不同的 AI 互相批評對方的回答,最終彙整出最適合的方案。
不斷提問、交叉比對,幫助刺激思考並找出盲點
台北科技大學應用英文系教授陳雅玫長期深耕翻譯與寫作教學,在 ChatGPT 問世不久後便把 AI 導入教學現場。因為她發現,AI 能快速翻譯,但人類的思考力才是價值所在,便把 ChatGPT 當成工具,訓練學生思考判斷。例如同一篇英文,用於活潑的廣告文案與嚴謹的教學手冊,譯法截然不同,「你如何針對不同情境做出精準的判斷?」
陳雅玫以蘇格拉底提問法作為提示詞,讓 AI 執行 3 階段的思考訓練。首先是釐清問題,拿到文章後,先不急著翻譯,而是分析讀者是誰?翻譯的難點在哪?其次是設計策略,思考提問的角度。例如:如何讓台灣讀者理解專業術語?是否需要加入通俗解釋?再來是判斷與取捨:對AI產出的內容進行質疑與辯證,討論為何選用A字而非B字。
陳雅玫表示,這 3 階段的訓練不只用在翻譯,也能在各方面對自身不斷提問與辯證。關鍵是,不要害怕被質疑。李聖珉也說,批判性思考強的人不會接受 AI 餵的答案,更不會排斥反面意見。因為只有聽取不同觀點,才能檢視自己原有的規則或既定信念是否正確。