整理 · 撰文 李心平
AI 的危險性讓 OpenAI 執行長擔心到失眠！是什麼引起科技領袖的恐懼？
2022 年底 ChatGPT 火爆全球，各行各業都在關心如何在其業務中導入人工智慧，全球最大的管理諮詢公司埃森哲（Accenture）近日才宣布，將投資 30 億美元（約 920 億元新台幣）於人工智慧，以幫助建構新的產業解決方案，讓所有產業的客戶都有足夠能力運用人工智慧達到更大的成長、效率與彈性。
埃森哲認為，雲端、數據、人工智慧生態系統，將會徹底改變其為客戶提供的服務性質，而《財星》（Fortune）世界 500 強的公司中有超過 3/4 是埃森哲的客戶。埃森哲董事長兼執行長朱莉・斯威特（Julie Sweet）觀察：「人們對人工智慧的所有領域都產生了前所未有的興趣，我們在數據和人工智慧實踐上進行的大量投資，將幫助我們的客戶從興趣轉向行動再到價值，並將能提供明確的業務運用案例。」
「我不在乎你的企業規模有多大或是多小，你必須了解人工智慧。」科技公司創業家馬克．庫班（Mark Cuban）日前在一場美國的地區商會舉辦的會議上指出，所有的企業都必須了解並思考人工智慧將會怎樣影響公司營運，藉此發展更牢固的客戶關係並且挖掘新的客戶，「儘管它看起來很複雜，但是你必須要有足夠的好奇心把人工智慧搞清楚，要是忽略這個趨勢恐怕會嚐到苦果。」庫班認為，能夠有效運用人工智慧的公司，將可以確保其長期發展的穩定性。
「開發 ChatGPT 可能是非常糟糕的事情！」OpenAI 執行長因 AI 的危險性而睡不著
然而，帶起 AI 風潮的 ChatGPT 母公司卻沒有那麼樂觀，OpenAI 執行長山姆．奧特曼（Sam Altman）近日就坦言，考慮到 AI 的潛在風險，他擔心開發 ChatGPT 是件「非常糟糕的事情」，還因此失眠。 當被問及 AI 是否應該像核能一樣受到監管時，奧特曼回應，應該要有一個更好的系統來檢核 AI 的使用，「這樣我們就可以對正在做這件事的人進行審核、許可，並在部署前進行安全測試。」
不只奧特曼，許多科技領袖和政府官員早已對於人工智慧的發展速度表示擔憂。2023 年 3 月，包括特斯拉創辦人伊隆．馬斯克（Elon Musk）、蘋果共同創辦人史蒂夫・沃茲尼克（Steve Wozniak）等科技領袖與生命未來研究所（Future of Life Institute）就共同寫了一封公開信警告：應該在確保人工智慧會帶來正面影響時，才繼續開發強大的人工智慧系統，讓風險是可控的。
人工智慧到底危險在哪裡？
這些顧慮其來有自，其中一個原因是，人工智慧會產生錯誤訊息，這是一個事實，也是一個巨大的風險，OpenAI 的研究人員就在報告中寫明：「即使是最先進的模型也容易產生虛假訊息，它們在對資訊不確定的時候，有捏造事實的傾向。」如果使用不當，可能會帶給大眾負面影響。
日前奧特曼也與 350 多名科學家和技術領袖簽署了一份聲明，表達對人工智慧背後風險的深切關注，聲明中寫道：「降低人工智慧可能造成的風險，應該與流行疾病、核戰爭等其他可能危及社會的風險，一起被列為全球優先事項。」
此外，當企業、政府單位賦予人工智慧系統愈來愈多的自主權，並將它們連接到重要的基礎設施，包括電網、股票市場和軍事武器，可能將引發問題。「人工智慧將逐漸被授權，隨著它變得更加自主，它可能會篡奪當前人類和人類管理機構的決策和思維。」生命未來研究所共同創辦人安東尼・阿吉雷（Anthony Aguirre）警告，在某些時候，運作社會和經濟的大型機器並不真的在人類的控制之下，也無法關閉。
《紐約時報》（The New York Times）報導寫道，對人工智慧感到悲觀人常使用一個簡單的比喻：如果你要求一台機器盡可能多製作迴紋針，它可能將一切（包括人類）都帶回工廠，藉此生產出更多迴紋針。
蒙特婁大學（University of Montreal）教授兼人工智慧研究員約書亞・班吉歐（Yoshua Bengio）表示，今日的人工智慧系統要構成人類的生存風險，還差得遠，
「但在一年、兩年、五年後，有太多的不確定性，這就是問題所在。我們不確定這是否將會在某個時刻演變成災難。」
當人工智慧技術的發展比人們預想的還快時，同時帶來了兩種可能：跟不上趨勢的企業可能會被商場淘汰；另一方面，倘若技術未被適當控管而失控的話，可能如科幻電影的劇情一樣，將導致人類的生存危機。要如何因應人工智慧的發展趨勢，仰賴更多科技領袖、政府單位做出更好的決策。
