界面新聞記者 | 於浩

界面新聞編輯 | 文姝琪

日漸成熟的AI技術正在模糊虛擬與現實的邊界，諸多爭議也隨之出現。

2月19日，梅西於微博上就“邁阿密國際中國香港行沒有出場”一事作出澄清。視頻中梅西表示，未出場並非是由於政治原因或其他原因，只是因爲內收肌有炎症，確實無法上場參賽。

隨後這一視頻被質疑可能是由AI生成。質疑者稱，該視頻畫質模糊且存在多處剪輯痕跡，他認爲在視頻中的梅西面部反光異常、左肩膀陰影跳變過快、髮型與現在髮型有出入。基於上述因素，質疑者認爲這一視頻是可能是用巴黎時期因爲缺訓而公開道歉的視頻合成。

從技術角度來看，通過AI數字人、AI換臉變聲等手段製作一段“梅西本人視頻”並不是新鮮事。今年年初，阿里雲通義千問全民舞王功能已經能產出“馬斯克跳科目三”的視頻內容，如小冰、商湯等企業推出的數字人解決方案也已經步入商用階段，在真實程度上完成商業驗證。

AI換臉變聲則更加普遍，以“AI換臉”爲關鍵詞在視頻平臺搜索就可以很輕易找到相關教程，通過AI換臉變聲技術實施詐騙的案例在近幾年也頻繁出現。

多發的詐騙案例側面說明了AI生成視頻內容質量已達到一定水平。具體到梅西發佈澄清視頻的案例中，上海哈沐科技CEO鄧庭豪認爲，上述質疑者指出的“面部反光不自然”、“未露出牙齒”等特徵因素可以作爲辨別時的參考，但是並不能百分之百下定論。“AI生成的（視頻）牙齒也可以很清晰的。”

上海哈沐科技此前曾以換臉技術爲基礎服務出海短劇的製作，據鄧庭豪的觀察，類似澄清視頻這種講話場景，現階段的技術已經可以做到肉眼很難分辨，AI容易出紕漏的點在於手指。他表示，AI很難生成正常的連續活動的手指。佈局出海短劇的易點天下也在嘗試使用AI換臉技術。易點天下KreadoAI負責人羅曉奇也指出，在手部遮擋臉部的時候，AI產出的內容往往會有很大的瑕疵。

整體來看，瑞萊智慧聯合創始人、算法科學家蕭子豪在接受界面新聞採訪時曾表示，AI生成內容越來越逼真是近幾年的一個趨勢，個人用戶想要通過肉眼進行分辨會很困難。

在視頻電話等場景下，蕭子豪建議通過讓對方做一些大幅度的搖頭、張嘴之類的動作來嘗試辨別真僞。在技術手段較弱的情況下，對方有可能會出現面部邊緣或者牙齒的瑕疵。

肉眼可能很難分辨，但是藉由技術手段依然可能捕捉到一些端倪。瑞萊智慧所推出的生成式人工智能內容檢測平臺DeepReal可對圖像、視頻、音頻內容進行真僞辨別，在學術數據集和主流方式生成的網絡數據集中的準確率爲99%以上。

據蕭子豪介紹，瑞萊智慧辨別思路大致可分爲兩種，一種是尋找圖像編輯痕跡，“一般來說這類換臉都會對原先的人臉進行編輯，做動畫的過程中會有類似圖片編輯的操作並且留下痕跡，這類痕跡和真正拍攝時的痕跡是不一樣的。我們會檢測這類痕跡做出記錄。”蕭子豪解釋說。

另一類則是檢測視頻中是否會展現出不符合常識的行爲，如長時間不眨眼等等。綜合上述特徵，瑞萊智慧團隊就可以判別是否存在深度僞造的可能性，並根據可能性大小來處置這一內容。 

據瑞萊智慧相關工作人員介紹，生成式人工智能內容檢測平臺DeepReal檢測結果顯示，梅西澄清視頻沒有明顯的AI生成技術痕跡。鑑定視頻是否爲僞造，還需結合梅西的日常習慣、發佈者賬號等常識性信息進行聯合研判。

與“梅西澄清視頻是否真人拍攝”相比，AI技術背後可能存在的安全隱患或許更值得公衆關注。2月初香港便出現了一起詐騙金額高達2億元港幣的詐騙案例，據瑞萊智慧的不完全統計，2023年全年AI詐騙案件在全國已發生至少16起。

隨着AI技術不斷取得新進展，相關監管政策也在逐步跟進。2023年年中《生成式人工智能服務管理暫行辦法》中指出，服務提供者應當對圖片、視頻等生成內容進行標識。目前，如抖音、B站等視頻平臺都已上線了相關提示功能，在有AI參與制作的視頻內容下都出現了“疑似AI生成”的提示。

對於個人而言，因爲深度僞造製作的全材料是個人音頻、圖片、視頻，這些數據越多訓練出的視頻就越逼真，所以瑞萊智慧建議，可以儘量避免在公開平臺上大量曬出自己或家人的照片和視頻，給不法分子提供便利。

責任編輯：石秀珍 SF183