文/點蒼居士

3月18日，國家網信辦、公安部指導各地網信部門、公安機關，依法約談11家互聯網企業，包括映客、小米、快手、阿里、騰訊等互聯網巨頭。

值得關注的是約談事由。相關公告稱，這些企業的軟件被點名“未履行安全評估程序”和“涉‘深度僞造’技術”，要求其認真開展安全評估，切實履行企業信息內容安全主體責任。

一

2019年6月，一款名爲DeepNude的App風靡全球。用戶只需上傳一張照片，其中人物便可自動“脫掉”衣服，裸體示人。

2020年12月流傳的一則視頻中，“英國女王”在發表聖誕致辭時突然跳上桌子手舞足蹈，說自己早就不滿於對着鏡頭念稿。事後媒體承認，該視頻是將女王面孔合成到演員身上製成，用以警示人們“虛假信息充斥網絡”。

今年，不少短視頻平臺推出魔性“螞蟻呀嘿”視頻。玩家只需上傳一張照片，圖中人就能扭起脖子、瞪着眼睛唱歌。有網友說：只要找到臉，蒙娜麗莎都能蹦起來。

這些產品的基礎都是深度僞造技術。

所謂深度僞造（Deepfake），是指有關軟件通過AI換臉、語音模擬、視頻生成等方式，對既有圖像、聲音、視頻進行篡改、僞造，自動生成音視頻產品。

深度僞造通常由生成器、鑑別器兩個系統組成。生成器生成假音視頻片段，鑑別器辨別該片段真假，從而構成“生成式對抗網絡”，通過不間斷“反覆生產”，合成能以假亂真的音視頻。

技術有了，應用場景就多了。

比如，逼真的虛擬教師能讓數字教學更具互動性，虛擬主播在各大媒體平臺吸睛不斷，影視作品可憑虛擬化身突破創作的時空限制，醫療、零售、娛樂等領域的人形問診機器人、虛擬客服、虛擬偶像等也多由深度僞造生成。

但同時，深度僞造也被視作當今世界“最危險的AI技術”之一。

例如，DeepNude“脫衣換臉術”就曾進入國內市場，在一些平臺上只需100元即可打包購買數百部換臉色情片；某反欺詐語音軟件公司對美、英、法、德4國的語音合成市場調查結果顯示，每638個欺詐電話中就有一個是人工合成聲音；美聯社報道稱，一名間諜使用深度僞造技術生成圖片，在某職場社交平臺多次騙取行業信息。

短視頻平臺上流行的“螞蟻呀嘿”視頻（圖源：網絡）

二

在美劇《越獄》中，男主角的兄長被控謀殺，唯一的證據是停車場內的監控視頻。經過無數波折，男主角最終發現這視頻居然是剪輯、拼接修飾而成。那時還沒有深度僞造技術，但顯然，現在的技術給類似事件提供了更多實現的便利。

有研究論文稱，深度僞造可讓人“言”所未言、“行”所未行，甚至成爲實施色情報復、商業詆譭、敲詐勒索、網絡攻擊等非法行爲的工具，損害個人和企業合法權益。

美國情報界2019年研究報告稱，深度僞造已爲美國帶來一系列安全風險，包括出現了“假奧巴馬”在換臉視頻中人身攻擊競選對手、“假特朗普”出鏡批評別國環保政策等假視頻。該報告稱：“敵對勢力很有可能通過深度僞造加強對美國及其盟友的影響滲透。”

深度僞造還能通過篡改新聞報道、傳播虛假信息，削弱國家機構及官方新聞媒體公信力，擾亂公共秩序甚至政治秩序。2018年，印度有人在即時通訊軟件上散佈利用深度僞造技術製造的虛假信息，導致一些無辜民衆被認爲是綁架兒童的嫌犯，最終有20餘人被毆打致死。

此外，深度僞造還可能加深公衆對各方的不信任感，進而引發社會憂慮、信任危機。

中國傳媒大學國家傳播創新研究中心副研究員姬德強表示，在人類歷史中，“眼見爲實”佔據着最基本的認識論權威，大家相信視覺文本的客觀屬性。如今，深度僞造對此構成了前所未有的挑戰，很大程度將衝擊基於“真相”的社會意義和價值空間。

換言之，有了PS後，有圖不一定有真相；有了深度僞造呢？你看到和聽到的都未必是真實的。

三

對深度僞造嚴加監管，刻不容緩。

在國際上，比如美國近年來陸續出臺包括《2018年惡意僞造禁令法案》《深度僞造責任法案》在內的多項法案，對深度僞造技術進行嚴格的使用限制。

中國《民法典》規定，任何組織或個人不得以醜化、污損，或利用信息技術手段僞造等方式侵害他人的肖像權，未經肖像權人同意，不得製作、使用、公開肖像權人的肖像。

2020年12月，中共中央印發《法治社會建設實施綱要（2020-2025年）》，提出制定完善對網絡直播、自媒體、知識社區問答等新媒體業態和算法推薦、深度僞造等新技術應用的規範管理辦法。

從技術角度講，對深度僞造的負面應用要嚴防死守，有兩方面關鍵操作：

一是事前識別。將識別僞造音視頻技術部署在傳播渠道前端，禁止虛假內容發佈，或至少提出警告。業內人士建議，相關部門可嘗試建立全網“數字水印或簽名”系統，所有要播發的音視頻、圖片，都須打上數字水印或簽名，便於追溯查詢。

二是事後鑑僞。例如，鼓勵企業加大對鑑僞技術研發的投入，抓緊開發能識別深度僞造內容的工具。還有研究人員指明，區塊鏈技術或將成爲“恢復互聯網信任”的最佳切入口。

網絡技術與人工智能在帶來技術紅利的同時，也將達摩克利斯之劍高懸於人類社會的頭頂。如何兼顧技術進步與社會倫理、平衡收益與風險併兼顧發展與安全，將是未來人類社會的一場大考。