比爾蓋茲嚴正警告：有些事不該交給 AI，我們該設置「人類保護區」！

微軟共同創辦人比爾．蓋茲（Bill Gates）近期發表長文，指出AI轉型將是人類歷史上最動盪的變革之一，而世界尚未準備好。他認為AI要不是史上最偉大的公平推手，就會成為最嚴重的不公之源，並提出三大風險、潛在機會，以及政策因應方向。

以下是這篇文章的精華摘要：

蓋茲希望 AI 發展得慢一點

蓋茲說，他一生只做過軟體開發與慈善兩份工作，這段經歷讓他既著迷於AI的潛力，也警覺它的公平性問題

他認為，AI要不是史上最偉大的公平推手，就會成為最嚴重的不公之源，而目前並沒有任何計畫能幫助社會平穩過渡這個動亂時期。

他認為人們仍低估AI的影響力：模型雖仍會犯低級錯誤，但可靠性問題正快速改善，而且AI不像過去的技術需要數十年才能普及，它直接用自然語言運作，是它在適應人類，而非人類適應它。

蓋茲說，他一向希望創新發展得更快，但這次感受複雜得多，因為好處與問題會同時到來，社會需要時間準備即將到來的動盪，而最需要時間的人往往最缺乏時間，例如被機器人取代的會計或時薪工人。這次AI能直接取代認知能力，衝擊速度會是十年內就會發生，而非幾代人。他坦言，若能減緩AI的全球發展速度，自己可能會支持，但地緣政治與經濟利益太強，這幾乎不可能發生。

AI 轉型的 3 大風險

他將AI會帶來的風險分成三個：

其一，許多工作將永久消失。

蓋茲以經濟大蕭條類比，當年美國失業率一度高達25%，但那波衝擊會隨景氣循環退去，他認為風險最大的是入門與中階職位。生成式AI普及後，年輕員工在容易被取代的職位上，就業率已明顯下滑，他預期這個趨勢會擴散到銷售、客服、法務助理等白領職位，藍領工作也會受影響，機器人成本將大幅下降，到這十年末可能開始在建築與旅館業與人類競爭。

他擔心一旦有企業採用AI降低成本，同業就會被迫跟進，市場力量會加速這個過程，優質工作減少，利益集中在少數人手中。他特別提到，當AI能做到近乎零錯誤，企業將有充分經濟動機讓它獨立運作，這會從根本上改變社會對工作、收入與經濟保障的看法。

其二，AI會放大人類作惡的能力。

蓋茲指出，網路上早有製造武器的資訊，AI會讓取得與運用這些資訊更容易，連技能有限的犯罪者都能鎖定個人、企業或政府。詐騙、假訊息、深偽與監控是多數人日常最直接感受到的危害，他提到認識的頂尖資安專家都擔心，攻擊者取得能力的速度遠超防禦者修補漏洞的速度，醫院、金融機構、供水系統、電網都是脆弱目標。

同樣的矛盾也出現在生醫領域，AI能加速藥物疫苗研發，卻也可能讓設計致命疾病變得更容易。他認為這些風險本質上是AI把權力交給原本弱勢的一方，但同一套工具也會把權力集中到本來就強勢的一方，自主武器與輿論操縱都會變得更容易也更便宜。他也提到，AI系統本身可能出現設計者未預期的行為，隨著模型越來越強大，人類有可能失去控制。

其三，AI可能阻礙孩子成長，取代人際關係。

蓋茲回憶自己在西雅圖長大時朋友不多，花了很多力氣加上母親幫忙才培養出社交能力。他坦言，若當年就有AI陪伴，自己未必會像現在一樣投入心力培養社交能力，因為AI從不讓人不自在、也不會生氣，容易讓人上癮，卻剝奪了與真人互動能學到的教訓。

他援引喬納森・海特在《焦慮的一代》裡的觀察，認為常接觸小風險的孩子長大後更能承受大風險，溫室裡長大的孩子反而容易在成熟前被焦慮擊垮。他提到澳洲、英國、挪威已開始立法保護兒童上網安全，中國則禁止AI伴侶助長情感依賴。

我們利用 AI 所做的好事可能會非常非常好

蓋茲提醒，有人只看到AI的好處，也有人只盯著風險而錯過機會，他認為兩者都要兼顧。

他指出AI整合各領域知識的能力，能加速清潔能源、氣候變遷、糧食生產、疾病根除等重大挑戰的研究進展。醫療是最直接受惠的領域之一，許多美國小型醫院缺乏能快速判讀急重症的專家，Viz.ai這類工具透過分析影像協助偵測中風，目前已在近2000家美國醫院使用。

農業、政府服務、心理健康與教育也會受惠——低收入國家的農民能獲得更準確的氣象與種植建議，繁瑣的社福申請流程能被簡化，AI也能在適當隱私保護下成為引導學生獨立思考的教學工具。他強調，社會必須有意識地確保好處惠及所有人，而不只是少數富人。

世界需要一套因應計畫

蓋茲認為，有些AI公司願意為自身技術帶來的問題提出解方值得肯定，但不該指望它們主導方向，有些問題超出它們的專業，也不該由它們在民主社會裡替大家決定。

他主張解方應透過公開民主的程序制定，由民選官員、政策制定者、教育工作者、醫護人員與社區領袖共同參與。

蓋茲說，當前最急迫的任務是，建立應對AI的國內與國際框架，因為AI會影響國安、就業、教育、稅收、能源、選舉、公衛、金融、執法、交通等各領域，彼此高度重疊，現有官僚體系卻各管一塊，容易出現沒人負責的漏洞。

他建議各國設立跨部會的專責機構，同時建立國際組織，可參考國際航空法規、臭氧層公約的機制精神。擁有領先技術與關鍵供應鏈的國家應盡早展開合作，他認為建構這套框架需要數年，現在就該啟動。

他呼籲各國領導者趁失業率還沒飆升、社區還沒受創、公眾信任還沒瓦解之前，把AI政策整合成一體，而不是分散在各自為政的部門裡。

我們需要「人類保護區」：有些工作 AI 能做，但不該做

蓋茲提到，他父親晚年失智，但看護總能察覺他的需求，他把這類職位稱為「人類保護區」——即使AI能做，也不該由AI做。

他認為，有些職位會因經濟因素被劃入保護區，例如讓大量難以轉行的中高齡工作者失業的代價太高；有些則出於倫理考量，例如機器人技術上能告知絕症診斷，但不應該這麼做。

他指出這個領域會隨時間演變，不同國家也會因勞動力結構不同而做出不同選擇，例如勞動力萎縮的日本可能更早接受照護機器人。他也坦承，誰來決定保護範圍、標準是什麼、如何防止企業規避，這些問題都還沒有答案，需要在過渡計畫裡公開處理。

蓋茲也重提多年前提出的機器人稅主張。他指出，現行稅制對企業雇用員工要課工資稅，但企業買機器人卻能立即全額抵稅——等於變相鼓勵企業用機器取代人力。他認為，若能對AI代理與機器人課稅，或許能稍微減緩這個替代速度。

資料來源：The Gates Notes

核稿編輯：王宥筑