“AI監管比較像一把雙刃劍，我們既要鼓勵新科技產生，但又要防範和監督它。但絕對不能像歐洲這樣對它五花大綁，完全沒有生長的空間。”

我們的藝術家們曾無數次地設想過，當機器人可以自己思考，自己生成代碼，甚至統治地球時會是什麼樣。但讓所有人始料未及的是，這一天的到來，竟然是猝不及防的。

身穿深藍色西服，頭髮有點微亂，眼神裏透出一股技術男特有的單純和執着，昨天晚上（美國時間16日上午10點）ChatGPT之父、OpenAI創始人兼CEO山姆·奧特曼在美國國會參加了自去年年底OpenAI的聊天機器人ChatGPT席捲全球以來的首次聽證會。

OpenAI創始人兼CEO山姆·奧特曼

而同一時間，銀柿財經也邀請了浙江大學人工智能研究所所長、求是特聘教授吳飛跟我們一起聊了聊，究竟要對AI進行怎樣的管控。

山姆·奧特曼：人工智能是一種工具，而不是“生物”

聊天機器人工具ChatGPT成功開發後，再次引發了一場全球關於人工智能的軍備競賽。而這也引發了立法者對該技術帶來的風險的擔憂。

爲說明技術帶來的潛在風險，參議院隱私和技術小組主席理查德•布盧門撒爾在週二的聽證會開始時，播放了一段虛擬錄音。這段錄音來自ChatGPT撰寫的評論，但聲音卻是Blumenthal的真實聲音。布盧門撒爾表示：“這些非常逼真的虛假信息，將會任意傳播，這將是非常恐怖的。”

OpenAI首席執行官山姆•奧特曼在週二的講話中表示，人工智能可能會被用來操縱選民和可能產生虛假信息，這是“我最擔心的領域”之一，尤其因爲“明年美國將面臨選舉。”

奧特曼週二表示，美國政府應爲開發人工智能系統的公司建立許可證制度，這種“許可和測試相結合的要求”可以應用於“人工智能模型的開發和發佈”。

技術專家認爲，儘管建立許可制度有助於集中監管AI，並防止其濫用，但如果AI發展得太快，這一制度可能會排擠較小的參與者或者失去相關性。

據悉，OpenAI的一名員工最近提議成立一個美國AI許可機構，名字叫人工智能安全和基礎設施安全辦公室（簡稱OASIS）。奧特曼並未在他的證詞中對OASIS發表評論，不過他提議建立一個足夠靈活的治理機制，以適應新的技術發展。

IBM副總裁兼首席隱私和信任官克里斯蒂娜•蒙哥馬利警告不要創造一個“快速行動，打破現狀”的新時代，因爲這是臉書等硅谷巨頭們長期以來的口頭禪。蒙哥馬利告訴立法者：“人工智能時代不可能是另一個‘快速行動、打破現狀’的時代。”她說，“但我們也不必對創新踩剎車。”

奧特曼和蒙哥馬利也表示，儘管人工智能可能會消除一些工作崗位，但會創造新的工作崗位。奧特曼告訴布盧門撒爾：“總體上，我對未來充滿樂觀。”

奧特曼發表上述言論的前一天，他與60多名衆議院議員共進晚餐。據與會人士稱，奧特曼展示了ChatGPT的各種用途，“非常有趣”，他形容議員們被這場活動“吸引住了”。該人士補充道，大多數與會者普遍承認，對人工智能的監管是必要的。奧特曼在晚宴上強調，人工智能是一種工具，而不是“生物”，人工智能“可以幫助完成任務，而不是工作”。

在今年的採訪中，奧特曼表示，自己很注意人工智能帶來的風險，甚至對這項技術“有點害怕”，他和他的公司承諾以負責任的態度向前邁進。

埃隆·馬斯克與數十位技術領袖、教授和研究人員曾一起簽署了一封信，呼籲像OpenAI這樣的人工智能實驗室停止訓練最強大的人工智能系統至少六個月，理由是“對社會和人類的巨大風險”。奧特曼表示，他同意這封信的部分內容，但“我認爲這封信不是解決問題的最佳方式。”

吳飛：對人工智能必須要監管，但又不能五花大綁

關於ChatGPT的未來，加強監管一定是趨勢。吳飛教授在與銀柿財經的對話中也表示，“我們一定是要監管的，要監管它不能說謊話。”

爲了更好地理解ChatGPT等聊天機器人，所帶來的挑戰時，吳飛教授首先解釋ChatGPT了究竟如何生成它的自然語言的。

“它是一個語言合成模型，通過大數據，能從一個詞自然關聯到另外一個詞，有一點像單詞接龍。它更多的是一個存在的互聯網信息的合成。所以它的語言生成的邏輯就是，存在即合理。”

但現實社會中，大量的信息並不是存在即合理的。吳飛教授說，最怕的就是你今後可能生活在一個充斥錯誤信息的網絡中。

“互聯網上充斥大量錯誤的數據和信息，但如果ChatGPT讀了錯誤的信息後，然後輸出我們，我們信以爲真，然後把錯誤的信息再次發佈到網上，然後ChatGPT根據這些信息再次輸出，這樣就會形成一種信息錯誤鏈，讓你一直生活在各種謠言當中。”

怎麼監管呢？

近日，歐洲議會內部市場委員會和公民自由委員會以84票贊成、7票反對和12票棄權通過關於《AI法案》的談判授權草案，其中包含了有關面部識別、生物識別監控和其他AI應用使用的新規則，並提出了嚴格監管ChatGPT等AI工具的新思路。歐洲通過的這一法案草案，在吳飛教授看來，可能過於嚴格，會損害到新生物的產生，也有可能會讓歐洲落後於新一輪的科技變革中。

吳飛教授說起另一個案例：1865年英國頒佈了一個《道路機車法》，法律規定，機動車需配備一名“紅旗手”，換句話說，就是在其步行於車輛前方60碼（約55米）處的地方，手持一面醒目的紅旗以提前警示前方行人和馬車。這項法律的頒佈的直接原因，是馬車伕等對汽車的抗議，但這導致了汽車並不如馬車便利，這也直接導致英國錯失汽車大國的機會。

“AI監管比較像一把雙刃劍，我們既要鼓勵新科技產生，但又要防範和監督它。但絕對不能像歐洲這樣對它五花大綁，完全沒有生長的空間。”

吳飛教授建議要從技術、立法和道德上，三個層面對人工智能進行監管。“我們從技術層面做一些制約，同時也要積極立法，要對違法的平臺，開發團隊或者開發者予以相應處罰。同時也是要在人倫道德上，對AI進行監管，比如我們不能把AI用於武器，更不能把準確度只有60%的AI用於武器系統等等。”

今年4月國家網信辦已經就《生成式人工智能服務管理辦法》下發公開徵求意見的通知。吳飛教授看來，這一做法說明，中國政府已對此很重視，也在快速行動了，是高瞻遠矚的，有利於人工智能在國內健康發展和推進的。