ChatGPT開發商OpenAI的CEO山姆·奧特曼週二表示,一個非常微妙的“社會失衡”就能給AI系統帶來嚴重的破壞,他爲此徹夜難眠。

奧特曼今日在迪拜舉行的世界政府峯會(WGS)上通過視頻電話發表講話,他呼籲建立一個像國際原子能機構(IAEA)這樣的機構來監督AI的發展。他說,AI的發展速度可能遠快於世界的預期。

奧特曼稱:“有些東西很容易讓人聯想到哪裏出了問題。如果大街上的一個機器人出現錯誤,我不是很感興趣。我更感興趣的是一個非常微妙的社會失衡。在這種情況下,即使AI系統本身沒有特別的惡意,事情也會出現可怕的結果。”

所謂的社會失衡,是指一個人的態度和觀點與他人背道而馳時,可能會發生的一種社會不協調現象。爲此,奧特曼希望建立一個像IAEA這樣的機構來監督AI的發展。他同時強調,包括OpenAI在內的AI行業,在制定監管該行業的法規時,不應該處於主導地位。

他說:“我們仍在進行大量討論。當前,幾乎世界上的每個人都在舉行會議,每個人都有一個想法,一份政策文件,這些都沒問題。我們仍處於一個需要辯論的時期,這是健康的。但在未來幾年,我們必須要制定出一項在世界各地都能得到認可的行動計劃。”

奧特曼還稱,如今當看到學校將AI視爲對未來至關重要的技術時,他倍感鼓舞。之前,由於老師擔心學生會使用AI來寫論文,一直存有抵制情緒。

奧特曼認爲,AI目前仍處於初級階段。他說:“與當初的黑白屏幕手機一樣。給我們一些時間,再過幾年它會比現在好得多。十年後,它應該會非常了不起。”

相關文章