機器之心報道
機器之心編輯部
「AI Yoon」是首個使用 deepfake 技術合成的官方「候選人」。
近日，DeepFake 技術被用到了南韓大選中，構造了是世界上第一個官方 deepfake 政界候選人。
這個名為「AI Yoon」的數字人以南韓國民力量黨候選人尹錫悅（Yoon Suk-yeol）為原型。借助尹錫悅 20 小時的音頻和視訊片段、以及其專門為研究人員錄制的 3000 多個句子，當地一家 deepfake 技術公司建立了虛拟形象 AI Yoon，并在網絡上迅速走紅。
此前也有 AI 技術被用于選舉，比如紐約市長候選人楊安澤（Andrew Yang）曾在虛拟世界中進行競選。但 「AI Yoon」 的創造者認為這是世界上第一個官方 deepfake 候選人。
乍一看，「AI Yoon」 可能會被誤認為是一個真正的候選人，梳着整齊的黑發，穿着正式的西裝，從外表上看幾乎和尹錫悅本人一模一樣。但為了吸引年輕選民，研究者讓「AI Yoon」使用一些風趣的語言和俏皮話。自 1 月 1 日首次亮相以來，已經吸引了數百萬的觀看次數。
實際上 AI Yoon 表達的内容是由競選團隊撰寫的，而不是候選人本人。
首爾女子大學資訊安全教授 Kim Myuhng-joo 告訴當地媒體，AI Yoon 參加活動使用的腳本借鑒了網絡遊戲中使用的語言。她說：「AI Yoon 直接朗讀了由其創造者編寫的腳本。」
「AI Yoon」研發團隊負責人 Baik Kyeong-hoon 則表示：尹錫悅在現實世界中常說的話在 AI Yoon 中也得到了很好的展現。
南韓國民力量黨候選人尹錫悅。
AI Yoon 的迅速蹿紅為候選人尹錫悅提高了人氣。在年齡 20 多歲的選民群體中，尹錫悅的人氣領先于競争對手李在明。
這和 AI Yoon 的語言風格及其研發團隊有很大關系。AI Yoon 的創作者 Baik 和另外兩名技術成員是尹錫悅競選團隊中最年輕的員工。争取年輕選民的選票可能是他們的用意之一。
該團隊為 AI Yoon 的頭腦風暴式問答生成回應，可能隻需要 30 分鐘。這與通常在公共政策辯論中經過精心打磨的言辭形成鮮明對比。Baik 認為：使用 deepfake 技術建立大量内容非常容易，AI 将為未來的競選活動提供支援。
在能被識别出是 deepfake 技術合成，且不傳播錯誤資訊的條件下，南韓的選舉監管機構允許使用此類「AI 候選人」。
然而，這項技術通常被限制使用。
2018 年，美國新聞網站 Buzzfeed 聯合喜劇演員 Jordan Peele 利用 deepfake 技術僞造了一段前美國總統奧巴馬的視訊，之後 Buzzfeed 又警告網友不要相信相關的視訊資訊。
奧巴馬和 Jordan Peele。
2018 年，美國新聞網站 Buzzfeed 聯合喜劇演員 Jordan Peele 利用 deepfake 技術制作了一段美國前總統奧巴馬的視訊，之後 Buzzfeed 又警告網友不要相信相關的視訊資訊。
類似地，2019 年陌陌推出了一款名為 ZAO 的 AI 換臉應用，上架幾天就沖到應用榜榜首，但很快就因存在濫用隐患而下架了。2021 年，一段用換臉技生成的「螞蟻呀嘿」視訊及其制作軟體 Avatarify 再掀風波，并在一周之後火速下架。
實際上，換臉所帶來的隐私安全問題确實令人擔憂。一方面技術濫用會導緻虛假資訊泛濫；另一方面，如使用明星等他人的照片來制作相關視訊，就可能涉及名譽權、肖像權、知識産權等法律問題。此外，個人隐私洩漏可能會涉及資産安全、人身安全等問題。
是以，deepfake 技術雖已日漸成熟，但其廣泛應用仍需更多的安全和法律保障。
參考連結：
https://www.france24.com/en/live-news/20220214-deepfake-democracy-south-korean-candidate-goes-virtual-for-votes