愚人節當天，知名YouTuber小玉上傳了一則影片，畫面中顯示高雄市長韓國瑜身穿藍色襯衫，用誇大的言詞說著無俚頭的話。原來，這是小玉為了向民眾呼籲假新聞的風險，而利用Deepfake技術所製造出來的假影片。該影片很快就上了熱門影片排行，掀起網友熱議。

Deepfake，中文譯作「深假」或「深偽」，是一種透過人工智慧（AI）中的deep learning（深度學習）技術所創造出的fake（偽造）訊息。Deepfake技術可以用於影像及聲音，只需要仿造對象的人物影音素材，就能製造出唯妙唯肖的假影片。

即使Deepfake在台灣尚未被廣泛地應用，在西方國家卻已成為國際媒體頻繁討論的焦點。美國前總統歐巴馬、臉書創辦人馬克・祖克柏等名人的Deepfake影片近年來層出不窮，儼然成了有心人士在網路資訊戰上操弄風向的關鍵武器——可怕的是，不是工程師也可以辦得到。

小玉在影片中就表示：「（影片所使用的技術）是我花了150塊人民幣買下的AI換臉軟體， 只要花30分鐘的時間和一個配音員，我可以讓韓國瑜講出任何我想要他講的話 。」

的確，在Github等程式碼平台上，開源的Deepfake技術大幅降低應用門檻，讓人輕鬆下載就能使用的各式換臉App，要做出一個簡單的Deepfake影片並非難事。也因此，社群媒體如Facebook在今年1月祭出強硬措施，下架Deepfake影片，而Twitter也在2月時跟進。

令人擔心的是，從Deepfake衍生的問題，可不光只是假訊息。

逾9成明星A片都是假的，「深偽色情」一般人更難防

一項新科技所帶來的威脅，有可能會不斷演變、擴及不同領域。Deepfake一詞於2017年首次出現時，人們最擔心的，是它在色情影片上的應用。

根據AI新創Deeptrace於去年的報告顯示，截至目前，網路上仍有高達96％的Deepfake影片，是未經當事人許可下合成的色情影片。上傳這些色情影片的論壇累計超過1.34億次的瀏覽量，神力女超人蓋兒・加朵（Gal Gadot）及黑寡婦史嘉蕾・喬韓森（Scarlett Johansson）等上百位國際女星都是受害者。

明星或許還有名氣作為最後一層防護，但對一般人而言就不同了。社會新聞中，情侶分手後用「報復性色情影片」（Revenge Porn）要脅的事件屢見不鮮，但當報復性色情影片遇上Deepfake，恐怕將喚起人們心中最深層的恐懼。

2018年，一位印度的調查記者拉娜・艾雅伯（Rana Ayyub）在揭露了一則關於克什米爾女孩性侵事件的兩天後，於Whatsapp上看到社群在瘋傳以她為主角的Deepfake色情影片。她的社群平台被不雅影片的截圖給洗版，而她卻不知道如何向別人說明，影片中的人並不是她。

加拿大起家的新媒體Vice就曾派旗下記者實際到網路上找人客製化Deepfake色情影片，結果只花了約900塊新台幣就得到了成品，顯示Deepfake的產製已長出了基礎的商業模式。

這就是Deepfake恐怖之處，只要找到門路，任何人都能用極高說服力，將你沒有說過的話、沒有做過的事給強壓在你身上。不過，既然Deepfake是以AI作為武器，以其人之道還治其人之身，「AI攻防戰」似乎是最主要的解套方式。

來自AI的黑暗威脅，假訊息攻防戰沒人能倖免

以查破社群平台假帳號起家的以色列新創Cyabra，近來就成功研發偵破Deepfake的AI技術，並以該技術在今年2月的美台科技挑戰賽中獲得亞軍。Cyabra全球業務副總裁阿賽夫・丹比（Assaf Danby）表示，透過他們所開發的AI演算法揪出Deepfake影片，準確率可達97％。

他們是怎麼做到的？他們研究影片的解析度及壓縮率等數值，並拿來分析人物臉部表情及肢體動作是否自然。

好比說，戴上眼鏡後人臉焦距的變化是否正確？嘴唇的動作與下巴及喉結肌肉的連動狀況有無異狀？「我們能夠一幀一幀的檢驗影片的真偽。」丹比說。

Cyabra今年的任務，本是與美國國務院合作，為2020年美國總統大選防堵假資訊。但自從新冠狀病毒（COVID-19，俗稱武漢肺炎）疫情爆發以來，查核疫情不實資訊就成了他們的主要目標。「3月底時我們就發現，有一個以國際藥廠Roche（羅氏）為名的影片，聲稱他們做出了疫苗。」

從色情影片威脅、到各種議題的資訊操作，隨著Deepfake技術日新月異，涉及的犯罪領域也不斷擴大。丹比呼籲，下一波Deepfake攻擊，可能將鎖定網路銀行的用戶。「愈來愈多用戶選擇透過視訊電話來開戶，而Deepfake影片也能偽造某人身分，在視訊電話中通過銀行的人臉辨識系統審查。」

說到底，技術畢竟是中性的。對丹比來說，AI是世界正式踏入「人類世」的證據。「這項技術將繼續改變人類的生活——無論是好是壞，」他說，「或許人類世所代表的，就是我們在好壞之間拉鋸，與AI共舞的時代。」

在這些真假難辨的資訊中，唯有一件事情是肯定的，那便是人們對於「真相」的理解將重新被形塑。

（本文出自數位時代）