財聯社4月27日訊（編輯 史正丞）隨着AI技術快步邁入大規模應用的階段，技術遭到惡意濫用的問題再度浮上水面。前陣子一度引發微博熱議的“一鍵修圖變成一鍵去衣”，正在美國以更加惡意的形式上演。

據美國技術媒體404 Media週五報道，在該媒體的推動下，蘋果、谷歌分別從應用商店內下架了多款標榜能夠進行“一鍵去衣”的應用。真正的問題在於，包括收廣告費推廣這些應用的Meta在內，這些互聯網巨頭似乎並不能自行找到這些違反其政策的應用。

惡意AI應用“登堂入室”

報道稱，通過比對Meta平臺的廣告資料庫，404 Media找到一系列推廣“一鍵去衣”軟件的廣告，投放記錄顯示宣傳這些惡意AI軟件的廣告曾在3、4月間，在Meta旗下的多款社交媒體平臺上投放。

這類軟件標榜的功能，正是可以上傳真人照片，並且可以“一鍵擦除任意衣服”，開發者通過收費來牟利。

更令人震驚的是，這類軟件並不是存活在互聯網的陰暗角落中，而是正大光明地出現在蘋果應用商店裏。當用戶點擊社交媒體上的廣告後，會直接跳轉至蘋果應用商店。在商店裏的應用被僞裝成了AI藝術生成器，並沒有披露應用背後的實際用處（因爲這肯定違反應用商店政策）。

在本週這件事情被曝光前，這些廣告仍一直在Meta的社交平臺上掛着，非法應用也一直混跡在蘋果、谷歌的應用商店裏。

接到舉報後，Meta找到爆料的媒體，請求他們“將所有看到的廣告鏈接發給他們”，並迅速下架刪除。公司發言人Daniel Roberts隨後表示，Meta不允許存在成人內容的廣告，一旦發現會迅速刪除。公司接下來將加大審查力度，並對違反政策的賬戶採取行動。

週五的最新消息顯示，蘋果公司在收到舉報後，也把媒體發現的3款應用程序做了下架處理。谷歌則在近期下架了一款AI“換臉”程序。

事實上，這類具有“深度僞造”（DeepFake）功能的app至少在2022年就已經出現在應用商店裏，但當時蘋果、谷歌接到舉報後，僅僅是要求開發者停止投放廣告宣傳不法用途，而不是將其下架。

已有美國學生因此被捕

雖然互聯網平臺對這類app處理的方式頗爲被動，但這些應用已經產生了惡劣的社會後果。

據《連線》雜誌報道，去年12月有兩名佛羅里達州的中學生，因爲使用AI生成同學的裸照遭到警方逮捕和重罪控訴。

警方提供的報告稱，兩名男孩的年齡分別是13和14歲，所製作照片的對象是12至13歲之間的學生。根據佛羅里達州法律，他們的行爲與重大汽車盜竊、非法拘禁同屬三級重罪。

雖然該案被美國媒體稱爲“首個引發逮捕和起訴的案例”，但在公開報道中，加州、華盛頓州、新澤西州的中學都有過類似的事件，只不過沒有提到是否引發刑事指控。

目前在美國只有十個州將此類行爲入罪，並沒有聯邦層面的法律進行規管。轉機出現在今年1月底，由於在馬斯克的X平臺上爆發使用AI製作泰勒·斯威夫特露骨照片的事件。在事態最嚴重的狀態下，X平臺不得不禁止使用“泰勒·斯威夫特”作爲關鍵詞進行搜索。

在這一事件後，美國參議院兩黨議員聯合提起了一項名爲《2024打擊非法僞造圖像和未經同意編輯法案》的立法。

聯名提出這項法案的共和黨參議員喬什·霍利當時對媒體表示，無論是明星還是普通人，都不應該發現自己出現在AI色情製品中。無辜者有權捍衛自己的名譽，並在法庭上追究加害者的責任。