英國能源公司總經理相信他的老闆在電話中下達命令，把24萬美元電匯到匈牙利的一個賬戶上。

美國前總統奧巴馬的假視頻。

該公司的保險公司稱，竊賊使用模仿語音的軟件來模仿公司高管的講話，並欺騙他的下屬將數十萬美元發送到一個祕密賬戶，這是一個值得注意的案例，一些研究人員稱，這是世界上第一次公開報道的人工智能盜竊案。

法國保險巨頭歐拉·赫爾墨斯(Euler Hermes)的代表表示，一家英國能源公司的董事總經理說，他在3月的一個星期五下午接到老闆的電話，要求將逾24萬美元電匯至匈牙利的一個賬戶。該公司拒絕透露該公司的名稱。

這位總經理後來在一封電子郵件中指出，這個請求“相當奇怪”，但聲音如此逼真，以至於他覺得自己別無選擇，只能服從。

這種語音合成軟件目前正由衆多硅谷巨頭和人工智能初創公司開發，能夠複製人的聲音的節奏和語調，並被用來製作令人信服的演講。

像谷歌這樣的科技巨頭和諸如“超現實的聲音克隆”這樣的小公司幫助改進了產生的假貨，並使這些工具更廣泛地免費和無限制地使用。

這些合成音頻和人工智能製作的視頻被稱爲“深假”，加劇了人們對新技術如何侵蝕公衆信任、增強罪犯權能、以及讓傳統通信-從商業交易、到家庭電話的擔憂，而這些更容易受到電腦化操縱的影響。

一位安全專家說：“這一技術在10年前聽起來是異乎尋常的，現在已經在任何有創造力的非專業罪犯的範圍之內。”

這項技術的開發者指出了它的積極用途，稱它可以幫助自動化電話系統人性化，並幫助人們保持沉默。

但其不受監管的增長也引發了人們對其欺詐、有針對性的黑客攻擊和網絡犯罪可能性的擔憂。

賽門鐵克網絡安全公司(Symantec)的研究人員表示，他們發現至少有三起高管的聲音被模仿來欺騙公司。

該公司拒絕透露受害公司的姓名，也不願透露Euler Hermes案是否是其中之一，但指出其中一宗案件的損失總計達數百萬美元。

該系統的工作方式是處理一個人的聲音，並將其分解成語音或音節等成分，然後重新排列，形成具有類似語音模式、音調和音調的新短語。

例如，賴伯德宣傳“世界上最現實的人造聲音”，並允許任何人通過上傳至少一分鐘真實世界的演講來創造一個模仿聲音的“聲音化身”。

在賽門鐵克位於加州的研究實驗室裏，研究這種“對抗性攻擊”的高級研究員saurabhshinte說，由於算法在處理數據和計算結果方面的突破，音頻生成技術近年來取得了“變革”的進展。

他說，訓練語音模擬工具以產生引人注目的模仿所需的錄音演講數量也在迅速減少。

除了技術的能力之外，竊賊還依靠古老的騙局戰術來提高他們的效率，利用時間壓力，比如即將到來的最後期限，或者社會壓力，比如安撫老闆的願望，讓聽者不再懷疑。

在某些情況下，犯罪分子以公司會計或預算部門的財務爲目標，知道他們可能有能力立即寄錢。

歐拉赫姆斯公司的代表說，該公司是一家德國能源公司的英國子公司，與執法部門聯繫，但尚未透露任何潛在嫌疑人的姓名。

這位受害董事總經理最初是在3月的一個星期五下午被打電話的，這個聲音要求他緊急給匈牙利的一家供應商發電報，以幫助挽救公司的滯納金。這位假老闆向董事指名，並通過電子郵件發送財務細節。

Euler Hermes的發言人Antje Wolters說，這位董事和他的老闆已經直接交談了好幾次，他指出電話沒有被記錄下來。

Euler Hermes的代表說，242，000美元通過匈牙利和墨西哥的賬戶輸送，然後分散到其他地方。

保險公司說，目前還沒有嫌疑人的名字，而且錢也不見了。

人工智能開發人員正致力於構建能夠檢測和打擊假音頻的系統，但模擬語音的技術正在迅速發展，如何保障公衆隱私數據，將會是以後網絡發展的重點。

相關文章