整理．撰文 莊彙翌
提供錯誤決策被告，代替真人回答被批不道德！這些應用生成式 AI 的企業犯了哪些錯？
ChatGPT 從 2022 年底問世以來，全球有關生成式 AI 的應用呈現爆炸性的增長，許多企業躍躍欲試、紛紛導入新技術，希望能藉此提升人員的工作效率，或是發展出新商機、在不增加巨額成本的情況下幫助公司擴大規模，為組織帶來新氣象。
然而，就跟所有商業掏金風潮一樣，這股風氣至今並未促成大量的企業成功案例，反而延伸出更多風險。美國商業媒體《Inc.》因此評論：「輸家比贏家多。」
提供錯誤決策或回答！企業撤銷 AI 應用，甚至遭提告
生成式 AI 的不穩定及不確定性，讓許多企業承受失敗的後果。
比方說，利用 AI 模型進行保險決策的聯合健康集團（UnitedHealth Group）被 2 名不幸過世的病患家屬控訴，公司故意使用一個錯誤率高達 9 成的 AI 模型，拒絕原本應該要按照醫療保險計畫提供給老年患者的相關照護，導致聯合健康自身商譽受損，在去年 10 月正式宣布停用產出決策的 AI 模型。
另一個例子是加拿大航空（Air Canada），因為聊天機器人提供錯誤的服務條款而被要求退款給一名消費者。雖然加拿大航空表示，該機器人是採用比較早期的技術，但這起事件也讓他們體會到直接讓AI提供客戶服務的風險，因此已將機器人從服務中撤出。
美國公關公司 Mind Meld PR 在工作上需廣發推廣信件給媒體記者，而曾試圖用生成式 AI 讓工作流程自動化，不過效果不如預期，因為整個過程，包含磨練輸出結果，所需時間和員工直接執行整個工作流程一樣長。Mind Meld 執行長喬納森．納維（Jonathon Narvey）表示，AI 在回答問題時，會提供自信的答案，但後來卻會承認這些回答實際上是錯的。「我們嘗試過，但完全失敗。」
取代真人給心理建議，被抨擊「不道德」
提供能讓用戶匿名討論心理健康問題、尋求建議的美國線上平台 Koko，其創辦人羅伯特．莫里斯（Robert Morris）在社群平台 X（前身為推特）上承認，部分的支援和建議並不是「人」給予的。許多用戶收到品質高又快的回覆，內容富有同情心，能讓對方感受到自己感同身受，部分來自於 Koko 官方使用 ChatGPT 製作，再由人類編輯、按下傳送鍵的結果。
當人們正處於需要心理健康支援的狀態時，在他們不知情或未經他們同意的情況下，隱瞞他們成為實驗對象，被視為一件不道德的應用。這起事件讓許多學者和同行指責他的行為，莫里斯之後在 X 上表示，「一旦人們知道到這些訊息是和機器共同協作的，就不起作用了。模擬的同理心令人感覺奇怪且空虛。」他也提到，在找到更好的應用方式以前，會停止導入生成式AI的技術。
入口網站用生成式 AI 寫新聞、做民調，引發一連串爭議
他們在去年 8 月，於主頁上刊登一篇美國總統喬．拜登（Joe Biden）在夏威夷毛伊島野火導致百人喪命的默哀活動中睡著的假新聞；9 月美國前 NBA 球員布蘭登．亨特（Brandon Hunter）過世，MSN 發布一篇標題為「布蘭登．亨特於 42 歲無用」（Brandon Hunter useless at 42）的新聞，被嚴厲指責「AI不應該拿來寫訃聞」。
這些事件一波未平，一波又起。10 月時，MSN 被英國《衛報》（The Guardian）指控損害報譽，原因是網站轉載一篇有關澳大利亞校園霸凌致死的新聞，用生成式 AI 做了一項民意調查，放在新聞報導中，詢問讀者：「你認為這名女性死亡的原因為何？」還列出 3 種選項（包括謀殺、意外或自殺）讓讀者選擇，不道德的舉動引發眾人批評：「這是我見過最可悲、最令人厭惡的民意調查。」
這項使用生成式 AI 導致的荒謬意外，讓微軟迅速道歉，禁用 MSN 新聞文章的所有民意調查。
新技術風險仍多，部分企業禁止使用生成式 AI
看到如此多失敗的案例後，可以確定不是所有企業都會大力推動、投入生成式 AI。軟體開發公司思科系統（Cisco Systems）針對隱私和安全領域的專業人士進行一項調查，有超過 9 成的人認為，因為生成式 AI 本質上不同於其他技術，需要有新方法來管理資訊和相應風險，甚至已有超過 1/4 的人禁止使用這項技術。
顯然新技術並不是單純導入即可，其周邊問題才是需要花費大量時間討論並解決的課題，企業主還需要考慮到企業內部的資訊整合程度、制定 AI 相關使用政策和條款、人才培訓等面向，才有可能降低失敗風險，做好萬全準備。
美國第二大菸草公司雷諾茲菸草（Reynolds American）便是採取謹慎的態度，以有限度的方式測試生成式AI；資訊長亞倫．格溫納（Aaron Gwinner）表示，生成式 AI 仍存在著一些固有風險，因此他們目前僅會實驗用 AI 改善大數據分析，不會將它應用在高風險的金融用途，以及會和客戶打交道的工作裡。
即使生成式 AI 這 2 年迅速在全球擴散開來，但要讓這波趨勢普及化、真正落實到商業模式中，仍有很長一段路要走。
