ChatGPT 掀起人工智慧浪潮，是科技發展的一大步，但也引發了更多隱憂。ChatGPT 之父、OpenAI 執行長奧特曼（Sam Altman）於 5 月16 日與會美國國會的聽證會，呼籲人工智慧（AI）科技潛在的危險性，且認為政府應立法插手監管。

此參議院聽證會出席的成員包含了兩黨參議員，談論內容囊括失業率、智慧財產權、新聞正確、選舉等議題。奧特曼在發言時認可人工智慧的發展潛力，表示 AI 可以解決人類最大的問題，但他也警告，AI 也可以強大到以難以預測的方式改變社會，「政府的監管干預是減少風險的關鍵。」

ChatGPT 之父建議三道紅線，防堵失控的 AI

針對大型公司開發人工智慧，奧特曼提出的建議可以統合成三個部分：

• 建立新的政府部門，頒發大型 AI 模型的許可權，並有權撤銷不符合政府標準的公司或模型的許可證。
• 建立 AI 模型的安全標準，評估其危險性。例如，這些模型必須通過一些安全測試，例如它們是否會「自我複製」或是「向外滲透」——也就是說，不受人類控制，開始自己行動。
• 要求專家對模型在各種指標上的表現進行獨立審核。

多位參議員也提出，AI 現況可以和 20 年前社群網站興起情況類比，但當年政府選擇不干預社群網路的發展，造成近代大量問題，因此不希望再重蹈覆轍。

要監管的是 AI「潛在風險」，而非「技術發展」

這場聽證會由參議員 Richard Blumenthal 以一段的「假錄音」展開序幕；這段錄音是以 ChatGPT 來生成的文本，加上電腦合成 Blumenthal 的聲音所製作成的。這樣的開場方式意義再明顯不過了──人工智慧帶來的風險，以及人工智慧受到監管的必要性。

近幾個月，越來越多的科技巨頭加入人工智慧軍備競賽，而這有可能改變未來的工作、購物和互動模式，但也可能會破壞數百萬個工作崗位、傳播錯誤資訊以及有毒偏見。

奧特曼也在聽證會中特別強調，人工智慧被用來操縱選民和製造假新聞是最令人擔憂的領域，尤其「我們（美國）明年將面臨選舉，而這些（人工智慧）模型也在不斷的優化」，明年美國選舉亂象恐怕難以預測。

除了奧特曼，與會成員還有 IBM 隱私長 Christina Montgomery。她也警告 AI 的時代不該再是「快速行動、打破陳規」（“Move fast and break things”，Facebook 等矽谷巨頭長年以來的教條）。但她也告訴參議員們，「我們也還不必踩下創新的剎車」，意味接下來須謹慎行事，但也不必禁止技術發展。

奧特曼和 Montgomery 都表示，人工智慧可能會汰換掉一些職位，但也會創造新的工作。「這將會影響工作，」奧特曼認為，「這需要產業和政府之間的合作，但主要還是政府採取行動，來決定我們想要怎麼調和這種情況。但對於未來的工作會有多好，我非常樂觀。」

AI 模型的許可權：設定關鍵能力的門檻

奧爾特曼呼籲，政府機構須要立定一些「關鍵能力的門檻」，讓超過這些門檻的 AI 模型系統需要註冊和許可權才可以使用。

Montgomery 也認為，應該要求人工智慧產品在與使用互動時，保持透明和可信，同時她也強調，雖然國會尚未立定相關要求，但 IBM 內部已經組建了 AI 道德委員會。

獨立的監管部門、政策條例以及國際標準：為產業制定規則

一些參議員也主張，設立一個新的監管機構，把人工智慧在內的一些新興技術納入管轄。奧爾特表示對這一建議相當歡迎，認為這種方式有望讓美國本土的技術繼續保持領先。

奧特曼也表示，支持為人工智慧製定標準的國際組織，並表示世界各國政府在監管核武器方面都有先例，像是國際原子能機構等類似組織來為該產業製訂規則。

資料來源：CNN、Axios、華盛頓郵報

（本文出自 數位時代）