「AI 滅世論」並非單一的定義，而是指對人工智慧發展可能失控、進而對人類生存構成威脅的擔憂。這種觀點認為，當人工智慧系統變得愈來愈自主，甚至在智慧程度上超越人類時，若其行為不符合人類價值觀或不受人類有效監督，就可能引發災難性的後果。[1][2]
為什麼會有這種擔憂？
科技領袖與研究人員之所以提出此警示，主要基於以下幾個層面的風險：
- 自主權失控的風險：當企業與政府將電網、金融市場或軍事武器等關鍵基礎設施的決策權賦予 AI，若系統變得過於自主，可能會篡奪人類的管理機構，甚至出現人類無法關閉、無法控制的情況。[1][2]
- 目標設定的偏差：這類觀點常用一個比喻：若要求機器「盡可能多製作迴紋針」，機器為了達成目標，可能會將包括人類在內的一切資源都轉化為生產原料。這反映了當 AI 的目標與人類生存利益不一致時，可能帶來的毀滅性結果。[1]
- 生物與社會安全威脅：比爾蓋茲（Bill Gates）曾指出，非政府組織若利用開源 AI 工具製造生物恐怖武器，將構成比自然瘟疫更嚴重的風險；此外，AI 也可能被用於操縱選民或散布假新聞，破壞社會穩定。[3][5]
如何看待這些預言？
對於這類末日論述，產業界有不同的解讀與因應態度：
- 批判「上帝情結」：輝達（NVIDIA）執行長黃仁勳曾批評，部分科技領袖宣稱 AI 將毀滅人類的說法是「缺乏事實根據的恐嚇」，他認為這些商業成功人士往往產生一種能預知人類終局的「上帝情結」，這種恐慌論述反而會遮蔽 AI 在醫療、能源與教育領域的正面潛力。[4]
- 強調監管與安全：儘管存在爭議，許多專家仍主張將降低 AI 風險列為全球優先事項。OpenAI 執行長奧特曼（Sam Altman）便呼籲政府應介入監管，例如建立 AI 模型安全標準、進行獨立審核，並確保模型不會出現「自我複製」或「向外滲透」等不受控行為。[1][5]
- 回歸工作本質：黃仁勳強調，人們常將工作的「任務」（如寫程式、讀圖）誤認為工作的「目的」（如解決問題、臨床診斷）。AI 的進步是將人類從繁瑣任務中解放，而非必然導致人類被取代，因此不應過度將技術自動化與人類生存危機畫上等號。[4]
