財聯社5月25日訊(編輯 趙昊)當地時間週三(5月24日),谷歌前首席執行官埃裏克·施密特警告稱,人工智能可能帶來“生存風險”,各國政府需要知道如何確保該技術不被“壞人濫用”。

施密特在一場倫敦舉行的活動中表示,他所述的“生存風險”(existential risks)是指“許多、許多、許多人會受到傷害或死亡”。

由於聊天機器人ChatGPT的迅速走紅,引發了人們對人工智能(AI)這項技術的狂熱,全球許多科技公司都想推出ChatGPT的競品,其中就包括了施密特的“老東家”谷歌公司,這些企業希望以此展示他們的AI實力。

但施密特認爲,人工智能系統遲早有一天能夠找到網絡的“零日漏洞”(zero-day),或者發現新的生物種類,“雖然這可能在今天還難以實現,但這將很快就會出現。”

“零日漏洞”又叫零時差攻擊,是指被發現後立即被惡意利用的安全漏洞。通俗地講,即安全補丁與瑕疵曝光的同一日內,相關的惡意程序就出現。這種攻擊往往具有很大的突發性與破壞性。

施密特表示,“當這種情況發生時,我們希望能做好準備,知道如何確保這些東西不被邪惡的人濫用。”

施密特於2001年至2011年擔任谷歌CEO,目前他在美國人工智能國家安全委員會擔任主席。該委員會在2021年發表的審查報告中警告稱,美國對人工智能時代的準備不足。

值得一提的是,施密特並不是第一個警告AI風險的技術人物。此前,ChatGPT開發商OpenAI的首席執行官山姆·阿爾特曼也承認,他對一些潛在的濫用行爲“有點害怕”。

而OpenAI創始人之一的埃隆·馬斯克也表示,人工智能是未來人類文明最大的風險之一。在2018年的一次採訪中,他更是強調,人工智能要比核武器危險得多。

先前,有一些參議員主張設立一個新的監管機構,將人工智能在內的一衆新興技術納入管轄。阿爾特曼對這一建議表達了歡迎,認爲這種方式有望讓美國本土的技術繼續領跑。

不過,施密特認爲,美國不太可能成立一個專門監管人工智能的新機構。他說這實質上是一個“更廣泛的社會問題”。

相關文章