網紅小玉製作「換臉片」遭法辦、百人受害!Deepfake 衍生的問題,不光是假訊息?

網紅小玉製作「換臉片」遭法辦、百人受害!Deepfake 衍生的問題,不光是假訊息?

經理人 Managertoday
https://bnextmedia.s3.hicloud.net.tw/image/album/2020-04/img-1586869607-24143@900.jpg
Deepfake一詞於2017年問世,3年來的技術精進,讓deepfake門檻降低,只需要仿造對象的人物影音素材,就能製造出假影片。
(2021/10/19 更新)編按:知名網紅小玉因利用 AI 換臉技術「Deepfake」移植多位名人、網紅的臉孔到色情片演員身上以牟取不法獲利,日前遭警方逮捕,據悉已百人受害,全案依涉嫌散播猥褻物與妨害名譽等罪解送新北地檢署偵辦。究竟「Deepfake」技術是如何做到以假亂真的換臉?《數位時代》2020 年 4 月曾詳解這項技術。 愚人節當天,知名YouTuber小玉上傳了一則影片,畫面中顯示高雄市長韓國瑜身穿藍色襯衫,用誇大的言詞說著無俚頭的話。原來,這是小玉為了向民眾呼籲假新聞的風險,而利用Deepfake技術所製造出來的假影片。該影片很快就上了熱門影片排行,掀起網友熱議。 Deepfake,中文譯作「深假」或「深偽」,是一種透過人工智慧(AI)中的deep learning(深度學習)技術所創造出的fake(偽造)訊息。Deepfake技術可以用於影像及聲音,只需要仿造對象的人物影音素材,就能製造出唯妙唯肖的假影片。 延伸閱讀 讓 12 歲孩童賺進千萬!鯰魚、猴子價值數百萬,NFT 交易特別在哪?有何風險? Deepfake是怎麼製作的?《數位時代》大解密 即使Deepfake在台灣尚未被廣泛地應用,在西方國家卻已成為國際媒體頻繁討論的焦點。美國前總統歐巴馬、臉書創辦人馬克・祖克柏等名人的Deepfake影片近年來層出不窮,儼然成了有心人士在網路資訊戰上操弄風向的關鍵武器——可怕的是,不是工程師也可以辦得到。 小玉在影片中就表示:「(影片所使用的技術)是我花了150塊人民幣買下的AI換臉軟體, 只要花30分鐘的時間和一個配音員,我可以讓韓國瑜講出任何我想要他講的話 。」 Deepfake是一種透過AI中的deep learning(深度學習)技術所創造出的fake(偽造)訊息。Deepfake只需要仿造對象的人物影音素材,就能製造出唯妙唯肖的假影片。 Facebook AI 的確,在Github等程式碼平台上,開源的Deepfake技術大幅降低應用門檻,讓人輕鬆下載就能使用的各式換臉App,要做出一個簡單的Deepfake影片並非難事。也因此,社群媒體如Facebook在今年1月祭出強硬措施,下架Deepfake影片,而Twitter也在2月時跟進。 令人擔心的是,從Deepfake衍生的問題,可不光只是假訊息。 逾9成明星A片都是假的,「深偽色情」一般人更難防 一項新科技所帶來的威脅,有可能會不斷演變、擴及不同領域。Deepfake一詞於2017年首次出現時,人們最擔心的,是它在色情影片上的應用。 根據AI新創Deeptrace於去年的報告顯示,截至目前,網路上仍有高達96%的Deepfake影片,是未經當事人許可下合成的色情影片。上傳這些色情影片的論壇累計超過1.34億次的瀏覽量,神力女超人蓋兒・加朵(Gal Gadot)及黑寡婦史嘉蕾・喬韓森(Scarlett Johansson)等上百位國際女星都是受害者。 明星或許還有名氣作為最後一層防護,但對一般人而言就不同了。社會新聞中,情侶分手後用「報復性色情影片」(Revenge Porn)要脅的事件屢見不鮮,但當報復性色情影片遇上Deepfake,恐怕將喚起人們心中最深層的恐懼。 透過既有的Deepfacelab等Deepfake生成軟體,AI會自動分析影片中的人臉,讓使用者不用深厚的程式撰寫能力,也能製造出Deepfake影片。 數位時代 2018年,一位印度的調查記者拉娜・艾雅伯(Rana Ayyub)在揭露了一則關於克什米爾女孩性侵事件的兩天後,於Whatsapp上看到社群在瘋傳以她為主角的Deepfake色情影片。她的社群平台被不雅影片的截圖給洗版,而她卻不知道如何向別人說明,影片中的人並不是她。 加拿大起家的新媒體Vice就曾派旗下記者實際到網路上找人客製化Deepfake色情影片,結果只花了約900塊新台幣就得到了成品,顯示Deepfake的產製已長出了基礎的商業模式。 這就是Deepfake恐怖之處,只要找到門路,任何人都能用極高說服力,將你沒有說過的話、沒有做過的事給強壓在你身上。不過,既然Deepfake是以AI作為武器,以其人之道還治其人之身,「AI攻防戰」似乎是最主要的解套方式。 來自AI的黑暗威脅,假訊息攻防戰沒人能倖免 以查破社群平台假帳號起家的以色列新創Cyabra,近來就成功研發偵破Deepfake的AI技術,並以該技術在今年2月的美台科技挑戰賽中獲得亞軍。Cyabra全球業務副總裁阿賽夫・丹比(Assaf Danby)表示,透過他們所開發的AI演算法揪出Deepfake影片,準確率可達97%。 他們是怎麼做到的?他們研究影片的解析度及壓縮率等數值,並拿來分析人物臉部表情及肢體動作是否自然。 延伸閱讀 大麥克、薯條打上馬賽克!麥當勞新廣告掀話題,愈看不到的設計愈誘人? 好比說,戴上眼鏡後人臉焦距的變化是否正確?嘴唇的動作與下巴及喉結肌肉的連動狀況有無異狀?「我們能夠一幀一幀的檢驗影片的真偽。」丹比說。 Cyabra今年的任務,本是與美國國務院合作,為2020年美國總統大選防堵假資訊。但自從新冠狀病毒(COVID-19,俗稱武漢肺炎)疫情爆發以來,查核疫情不實資訊就成了他們的主要目標。「3月底時我們就發現,有一個以國際藥廠Roche(羅氏)為名的影片,聲稱他們做出了疫苗。」 Assaf Danby表示,Cyabra成員大多來自以色列國防軍隊中的網路資訊戰部隊,在協助公部門抵擋宣傳戰上面有多年的經驗。 蔣曜宇攝影 從色情影片威脅、到各種議題的資訊操作,隨著Deepfake技術日新月異,涉及的犯罪領域也不斷擴大。丹比呼籲,下一波Deepfake攻擊,可能將鎖定網路銀行的用戶。「愈來愈多用戶選擇透過視訊電話來開戶,而Deepfake影片也能偽造某人身分,在視訊電話中通過銀行的人臉辨識系統審查。」 說到底,技術畢竟是中性的。對丹比來說,AI是世界正式踏入「人類世」的證據。「這項技術將繼續改變人類的生活——無論是好是壞,」他說,「或許人類世所代表的,就是我們在好壞之間拉鋸,與AI共舞的時代。」 在這些真假難辨的資訊中,唯有一件事情是肯定的,那便是人們對於「真相」的理解將重新被形塑。 (本文出自數位時代)