12月14日,2023年《自然》年度10大人物(Nature‘s 10)正式揭曉,除了從全球重大科學事件中評選出的10位人物——5位男性,5位女性,今年還有1位非人類上榜——美國人工智能公司OpenAI發佈的聊天機器人ChatGPT。

事實上,ChatGPT應當是榮登《自然》11大人物,這本身就改變了歷史,也改變了《自然》的評和選規則。改變《自然》的規則還體現在,ChatGPT並非自然人,但是《自然》又把它當成自然人。

當然,ChatGPT改變歷史的不只是《自然》的規則,而是與其他10大人物一樣可能對人類社會產生巨大的影響,並改變歷史的進程。《自然》評選的10大人物其實並不亞於每年的諾貝爾獎獲得者,因爲他們都是各個領域的佼佼者和卓有貢獻者,而且範圍比諾貝爾獎還廣泛,包括自然、人文和社會各個領域,如這次的10大人物之一有巴西的環境部長瑪麗娜·席爾瓦(Marina Silva),理由是她守護亞馬遜雨林。

對於爲何要將ChatGPT 評選爲《自然》11大人物,該雜誌編輯部的理由是:“雖然(ChatGPT)這個工具不算人物,也不完全滿足《自然》10大人物的評選條件,但我們將其破例納入榜單,以承認生成式人工智能給科學發展和進步帶來的巨大改變。”

實際上,ChatGPT比《自然》評選的任何人物的知名度和影響力更大,而且對未來人類社會的影響更爲巨大和深遠,因此ChatGPT應當算是11大人物之首。從2022年11月ChatGPT作爲免費使用的自動對話代理(聊天機器人)發佈以來,就一直佔領着全球各種新聞頭條,不只是科學界,整個社會都切身感受到其震撼人心的影響。

ChatGPT不是一個人,但他是千萬個人,是無數人的集結和投影。美國的OpenAI公司創建了ChatGPT,它的基礎和建材是擁有數千億參數的神經網絡,這個神經網絡是建立在一個巨大的在線書籍和文檔語料庫上並進行訓練,估計耗資數千萬美元。還有大量研究人員、編輯評估它的回答,以進一步完善和塑造其輸出的內容。2023年,OpenAI升級了ChatGPT的底層大型語言模型(LLM),並將其與其他程序連接起來,以便該工具可以接收和創建圖像。

這也意味着ChatGPT是一個目前爲止最有實力也最有知識的百科全書式的“巨人”,它勝過無數的教授、學者、工程師、作家、醫生、藥劑師、會計、精算師、設計師、記者和幾乎所有人類的專業人員。因此,《自然》將其列爲年度十一大人物有充分的理由,有誰能勝過或強大於有數千億參數的神經網絡的ChatGPT呢?

儘管ChatGPT看起來十分強大,但從某種角度看,它也不過是一個泥足巨人,在應對很多簡單的問題上,並不如一位活生生的自然人。原因有很多,如缺少背景,訓練它的知識有限等,但最重要的是,它所獲得的知識和訓練以及輸出的信息都是不確定的,因爲它沒有像人那樣可以明察人類社會世事和自然的分辨能力,以及邏輯推理能力,當然更缺少人類的情感。它不會像一位小學老師教學生時會極其肯定的說,3+2等於5。如果你挑逗一下ChatGPT說,我老婆說3+2等於6,老婆一定是對的。於是,ChatGPT會馬上改口說,抱歉,我錯了,3+2應該等於6。

當然,ChatGPT的重大作用和巨大功能已經獲得人類認同,而且它將成爲人類最重要的工具之一,無論是幫助人們撰寫和生產各類產品,如各種文本、編寫程序和代碼,創作圖畫,設計藥物和疫苗等,都是既快又有一定水準。但是,ChatGPT的侷限和弊病也是顯而易見的。

有趣的是,此次《自然》的11大人物之一也有ChatGPT的創造者伊利亞·蘇茨克維(Ilya Sutskever)。蘇茨克維對ChatGPT和其他AI產品是抱有較大的戒備心的,因此,在對待自己所創建的ChatGPT上是比較保守的。他認爲,ChatGPT和其他AI如果不受到人類的有效控制,就有可能造成巨大風險和災難。因此,他現在正通過OpenAI的 “超級對齊 ”項目專注於控制人工智能系統。而且,他認爲,OpenAI和其他一些公司應將其代碼和訓練數據保密,從長遠來看,封閉系統將避免讓他人制造出強大的人工智能,這是負責任的做法。“到了某個時候,人工智能的能力將變得如此巨大,以至於開源模型顯然是不負責任的。”

蘇茨克維的觀點顯然與OpenAI首席執行官山姆·奧特曼(Sam Altman)不一致,併產生了OpenAI內部的“宮鬥”,後者先被解職,後來又復職。而奧特曼是極力主張將ChatGPT快速推向市場。但是,此次《自然》將蘇茨克維而非奧特曼評爲11大人物,體現了《自然》的思考和趨向,ChatGPT和其他AI產品可以研發和使用,但是,一定要小心謹慎。

因爲,ChatGPT除了會一本正經地胡說八道外,還有其他方方面面的錯誤和隱憂,包括幫助作弊和剽竊,幫助詐騙,編造事實,發明參考文獻,照搬仇恨言論,傳播謠言等。另外,ChatGPT還會扮演任何對話者想要的角色,時而順從,時而迷人,時而有趣,時而令人恐懼。

所有這些,都是人類設計、訓練和使用ChatGPT會產生的問題,如果不對ChatGPT提供的產品和答案進行人工審覈和查證,就有可能出錯,而且錯得離譜。也因此,對於ChatGPT和其他AI軟件和工具,除了在技術上要不斷完善和改進以適合現在人類的認知和實際情況外,還需要法律的監管。

2023年12月8日,歐盟委員會、歐洲議會和歐盟成員國代表就《人工智能法案》(AI Act)達成初步協議,新法案涉及包括ChatGPT在內的通用目的AI系統。這是全球首份針對AI監管的全面法規,意在保護人類基本權利和不阻礙人工智能行業發展之間尋求平衡。法案將AI系統分爲低風險、高風險、不可接受風險、特定透明度風險等不同等級,按照風險級別制定相應規定。

因此,《自然》將ChatGPT列爲本年度11大人物不只是因爲它會成爲人類最好的幫手,而且對它的應用也是人類現在和未來最大和最艱鉅的挑戰之一。

相關文章