

在1956年,一群數學家和工程師聚集在達特茅斯學院(Dartmouth College),制定了一個建構人工智慧(AI)的宏偉計畫。他們希望撰寫程式讓電腦能夠推理、規畫、導航、處理和翻譯自然語言,感知周圍的世界,並展現創造力和直覺。
在當時,這似乎是一個遙不可及的目標。但如今,我們已經擁有能在西洋棋中戰勝人類的電腦、能在旅途中指路的智慧型手機、能寫論文草稿的聊天機器人,以及能夠即時翻譯語言的應用程式。
凱洛格商學院(Kellogg school of management)金融系教授塞爾吉奧.雷貝洛(Sergio Rebelo)表示:「我們在AI領域取得了很多成就,已經走了很長的路。但這些進展都是經過多年失敗之後才實現的。」
在最近由凱洛格執行長教育單位(Kellogg Executive Education)和《凱洛格洞察》(Kellogg Insight)主辦的研討會上,雷貝洛以總體經濟學家的視角回顧了AI的歷史教訓,以幫助我們為AI在當今社會和未來幾年中的快速擴張做好準備。
1.看似一夜成名,實則需要數十年努力
AI早期的策略之一是創建專家系統(expert systems),目標是盡可能把大量知識輸入電腦,使其成為能利用這些資訊執行任務的「專家」。
在冷戰期間,美國國防部(U.S. Defense Department)採用了這種戰術,試圖建立一個能夠快速將捕捉到的俄語短句翻譯成英語的機器。電腦科學家們向機器輸入大量詞彙、規則和定義,然後讓它逐字翻譯。
然而,這台機器經常無法理解語言中的細微差別,最終產生了不準確的翻譯。例如,聖經中「精神是願意的,但肉體是軟弱的」(the Spirit is willing, but the flesh is weak,意為心有餘而力不足),當被翻譯成俄語再翻譯回英語時,就變成了「威士忌很烈,但肉已經腐爛了」。
幾十年後,Google翻譯團隊仍在使用同樣的「專家AI」的概念處理翻譯。不出所料,翻譯結果往往過於字面化,忽略了語言的微妙之處。
直到2016年,Google放棄了這種方法,AI翻譯才真正起飛。團隊利用神經網絡(neural networks)一次處理整個句子,使用上下文來改進翻譯。
雷貝洛說,這並非一夜之間的成功,而是經過多年的反覆試驗,才使AI翻譯達到今天的水準,「而我們現在在生成式AI(generative
AI)看到的成果也有點類似。看似一夕成功,實際上是超過50年努力的結果。」
雷貝洛補充說,這些進展之現在之所以可能實現,很大程度上要歸功於,政府長期以來對AI研究的資助,「我們之所以能達到現在的水準,是因為儘管失敗了50年,政府仍然持續資助這項研究。」他說。
2.直覺可以指引你承擔明智的風險
在李飛飛還在史丹佛大學(Stanford University)的當助理教授時,這位電腦科學家對限制AI發展的因素有了一個想法。
雷貝洛說,她的直覺告訴她「缺少的是數據。如果有更多的數據和處理這些數據的計算能力,可能就能開啟神奇的結果。」
受到啟發後,她投入了所有資源來驗證這個直覺。於是,她和她的博士生們開始手動標注圖像,以創建一個足夠大的數據集來訓練演算法,希望AI最終能夠理解圖像。
雷貝洛說:「她決定做一件非常冒險的事情」,用了大約2年半的時間專注於這件事,而不是那些更有把握、可能更容易幫助她獲得終身教職的專案。
這個賭注最終催生出ImageNet,這是一個包含數百萬張圖像的公共大型視覺資料庫。透過ImageNet的幫助,另一個由AI教父傑佛瑞.辛頓(Geoffrey Hinton)帶領的電腦科學家團隊得以開發出一個能夠描述圖片內容並給予標籤的演算法。
辛頓的團隊在2012年的一場AI競賽中,讓他們設計的演算法分析了一組新的圖像,結果完全超越了其他參賽者。
雷貝洛說:「這種進步是戲劇性的。這是一個驚人的突破,是現代AI的分水嶺。」
從那時起,獲取足夠數據來餵養這些永不滿足的演算法競賽就開始了。人們開始明白,推進AI的發展較少依賴在演算法中建立知識,而是更大程度透過大數據來擴展它們。
隨後不久發生AI的巨大進步,正是因為一位科學家在她的職涯早期決定冒險。
3.我們說要堅持數十年?不如試試一世紀
然而,雷貝洛指出,並非所有AI的探索都能如此快速地結出果實。一些探索面臨著重大障礙,跨越了數十年甚至一個世紀才取得進展。
數學家安德烈.馬爾可夫(Andrey Markov)花費多年研究早期語言模型,在1921年向聖彼得堡科學院(Academy of Sciences of St. Petersburg)寫信告訴他們他取得了突破。
他一直在研究一個設計用來「寫詩」的演算法,問題是,他沒辦法親自到科學院報告他的工作成果。科學院寄給他一雙靴子來幫助他,但尺寸不合適。馬爾可夫最終未能成行。大約一年後,他去世了。
將近一個世紀之後,在2017年,一個Google電腦科學家團隊使用一種新型的神經網絡(Transformer)解決了馬爾可夫當年探討的問題,這種神經網絡最終成為了如ChatGPT等當今流行的大型語言模型(LLMs)的基礎。
雷貝洛說:「我們現在在大型語言模型方面取得的突破,也許可以更早實現,如果我們沒有在1921年失去那篇論文的話。不管怎樣……,Transformer現在已經產生了驚人的結果。」
儘管有這些進展,AI仍然存在許多需要解決的問題。一個常見的問題是幻覺(hallucination),即AI編造部分資訊。
這個缺陷讓許多人感到擔憂。例如,一名律師被發現向法官提交了一份AI撰寫的訴狀,當中充滿虛構的案例,導致一些律師事務所禁止員工在工作中使用大型語言模型。
但從雷貝洛的角度來看,出於恐懼而禁用AI是一個錯誤——這只會讓人們更加落後。
雷貝洛說:「人們對被AI取代感到非常焦慮,我要告訴你們——最先被取代的將是那些不知道如何使用AI的人。而且他們將不是被AI取代,而是被那些懂得如何使用AI的人取代。」
4.警惕誇大宣傳
雷貝洛說,在AI發展的諸多里程碑中,「迄今為止最令人印象深刻的成就是在生物學領域」,他指的是AI在理解蛋白質結構方面的應用。
直到2019年,科學家們已經確定了大約17萬個蛋白質的結構,考慮到解析單個蛋白質的折疊被視為一個值得用多年研究的博士論文題目,這是一個巨大的成就。然而,在2020年,AI模型阿爾法折疊(AlphaFold)確定了超過2億個蛋白質的獨特結構。
雷貝洛說:「顯然,我們正處在某個新事物的黎明。同時,也存在著大量的炒作和欺騙性宣傳。」人們有一種印象,認為「AI是某種神奇的、一體適用的工具,但現實並非如此。」
以ChatGPT為例,在普通人眼中,它看起來像是一個單一的、複雜的演算法,能夠完成很多任務——從各種文本生成到聲音處理。但在背後,它是一個專門演算法的集合,這些算法各自在執行特定任務時表現出色,但在處理大多數其他任務時則表現糟糕。
雷貝洛說:「有時人們認為AI看起來像一系列漂亮、閃亮的銅管;但實際上,它更像是我的地下室,所有東西都用膠帶修補著。AI中有許多這樣的修補工作。」
也有人擔心AI正在遇到瓶頸,OpenAI的新型大型語言模型Orion並不一定比其前身ChatGPT更好。關於Google的Gemini和Anthropic最新版本的聊天機器人Claude也存在類似的傳聞。
雷貝洛說:「數據擴展是否會繼續成為AI重大進步的來源,還是我們正在進入一個報酬遞減的時代……沒有人知道。」不過,他說,這不構成不慶祝我們迄今為止所取得成就的理由,因為「毫無疑問,最近的成就確實相當驚人。」
(本文初稿由AI翻譯,審定|張玉琦)
原文〈Overnight Success? AI Has Been a Century in the Making.〉,於2024年12月刊登於Kellogg Insight,獲得凱洛格商學院授權刊登
Featured Faculty
塞爾吉奧.雷貝洛(Sergio Rebelo),MUFG Bank Distinguished Professor of International Finance; Professor of Finance.
About the Writer
Abraham Kim is senior research editor of Kellogg Insight.