最近，以ChatGPT爲代表的人工智能技術風靡全球，它不僅能流暢地與用戶對話，還能寫詩、寫文章、編碼。今年全國兩會上，ChatGPT同樣引起了委員和代表們的關注與討論。ChatGPT是人類的助手還是對手？如何注意科技倫理、趨利避害？

新京報記者邀請全國政協委員、中科院自動化所研究員趙曉光，清華大學計算機系教授、清華大學人工智能研究院視覺智能研究中心主任鄧志東，國家新一代人工智能治理專業委員會委員、中科院自動化所研究員、人工智能倫理與治理研究中心主任曾毅，做客《兩會三人談》欄目進行解讀。

人工智能進階

ChatGPT意味人工智能發展到了什麼程度？

ChatGPT近期引發了公衆的廣泛關注，有人覺得它具有顛覆性，也有人覺得它被“神話”了，這個語言大模型的出現意味着人工智能技術發展到哪一步了？

“這幾天，全國政協科技界別很多委員特別關注ChatGPT的技術，尤其是這項技術在我國的發展和未來會給我們帶來哪些啓示。”趙曉光說，從技術角度來看，ChatGPT是一個自然語言處理模型，讓計算機能跟人聊天。我國有很多研究機構也做了相關的技術，並一直在應用，比如大家熟悉的銀行自動語音服務等。ChatGPT之所以受到廣泛關注，是由於微軟把ChatGPT的技術嵌入到搜索引擎“必應”中，受到用戶人羣歡迎並願爲其付費。ChatGPT帶來了商業應用的巨大前景。

“這項技術給我們帶來的啓發就是未來人工智能技術如何跟場景更好地落地結合，如何培養更大的市場、挖掘更多的需求，通過滿足用戶的需求產生新應用，帶來更多效益。”她認爲，ChatGPT的出現和應用並不代表着通用人工智能時代的到來，“一些新聞報道稱它會理解人類的語言，我認爲理解應該打個引號。要模仿人類的理解恐怕還要走很多的路。”

鄧志東認爲，ChatGPT作爲大型生成式語言模型，是NLP（自然語言處理）領域中某種意義上的通用人工智能，而且是顛覆性的。2012年以來，以深度學習爲代表的人工智能在全球範圍內得到迅猛發展，但都屬於弱人工智能，對於人類而言是賦能的工具。ChatGPT則不同，它利用單一模型就能完成NLP領域中的多個任務，比如對話、翻譯、生成、搜索、編程與調試等，這就有了文本語言領域中通用人工智能的主要特點。同時，它在完成多個任務時還接近人類的水平，與以前根據特徵進行匹配或搜索的方法完全不同。

他說，隨着ChatGPT的版本不斷更新，全球上億用戶與其高頻度交互，且其具有持續的學習能力，它的NLP多任務完成能力還將提升，可能會在較短時間內達到專家的水平，將非常具有顛覆性，給人類帶來巨大進步。

在曾毅看來，ChatGPT是人工智能領域現有工程技術的組合創新，在用戶體驗上有顯著提升，但並非科學的突破。它使用自然語言處理領域的幾項關鍵技術，都是幾年前學術界已驗證有效、相對比較成熟的技術。但ChatGPT有數億用戶的反饋，其輸出不是提供最優化的結果，而是最接近人類需求、合乎人類期望的結果，“它離1956年達特茅斯會議上提出的‘人工智能’實現智能的各個方面達到人類水平的暢想還有很大距離。”

人工智能應用

未來哪些職業可能會被人工智能取代？

一些網友在和ChatGPT聊天之後，擔心自己的工作未來會被取代。那麼，ChatGPT是人類的助手還是對手？未來哪些職業可能會被取代？

趙曉光稱，人工智能確實取代了一些工作，是人類不願意從事的艱苦、枯燥、繁重、有危險的工作。比如速記員的工作，現在很多可以通過自然語言識別將語言轉變成文字，但計算機完成的工作依然需要人類校正，因爲會存在一些錯誤。她以法律系統舉例，ChatGPT可以審閱訴狀，進行簡單分類，做一些需要具備文化功底的簡單的體力勞動，但不能替代法官做更多判斷。所以目前來說，ChatGPT更多是提供了“方便”。

鄧志東認爲，ChatGPT不僅有文本理解能力，也有文本生成能力，“它的理解能力已經達到了相當高的水平，比如一些彎彎繞繞的表述，它都能理解，且給出合乎常識或價值觀的回答。隨着以ChatGPT爲代表的生成式人工智能在短期之內大規模商業化落地，以及對各行各業全面滲透，在大幅度提高生產力和生產效率的同時，也將對就業市場帶來影響，文案、新聞、翻譯、會計、律師、教師、程序員、藝術創作等職業中的中低端崗位會受到衝擊，尤其是不需要深入思考，僅完成簡單重複性文字整理的崗位。”

曾毅稱，科學技術的發明創造以及在社會上的應用，最初的目的就是部分替代人類勞動。信息技術與人工智能發明的初衷，不是讓絕大多數人失業。但確實需要思考的是，人類在所從事的職業中發揮的不可替代作用是什麼。

他以記者舉例，記者要追求真相，但目前人工智能對於“真相”的瞭解還是存在很大困難的。相比人工智能寫的稿件，媒體工作人員的作品中更能呈現人類對於世界的真正理解，也有背後的故事。

長期來看，必然會有一部分工作被暫時替代，此時需要人類重新思考工作的意義。比如做社會服務、養老助殘等需要以情感出發去關懷他人的工作，很難被機器替代。如果你哭了，機器人也可以安慰你，但這是基於數據的情感分析，而不是對情感的真正理解。即使機器有能力去替代人類時，人類也未必相信機器，“這樣的工作使得人類反思，人之所以爲人，與其他沒有情感的物體之間的差異，讓人類迴歸本該回到的地方。對於人類反思的能力，機器人和人工智能暫時難以達到同樣的高度。”

總體上，曾毅持樂觀態度，認爲真正需要和值得人投入精力的工作不會被替代，但他仍認爲，人類應該爲可能出現的部分領域的勞動替代做好準備。

人工智能倫理

如何注意科技倫理、趨利避害？

科技部部長王志剛日前在兩會“部長通道”上表示，對人工智能的研究與運用，需要注意科技倫理、趨利避害。哪些科技倫理問題已經顯現並值得我們關注？如何防範？

曾毅說，ChatGPT沒有帶來新的倫理挑戰，但它在很多領域無限放大了大家認爲可能還需很長時間纔會到來的倫理挑戰。比如統計生成模型需要發現大規模語料的統計顯著性，但全球200多個國家和地區文化具有多樣性，是不可以被統計的顯著性吞噬的。這就是科技倫理中非常重要的一個維度。

另外，ChatGPT的責任和問責也值得關注，它對於所有的輸出無法擔責，權利和義務是相伴相生的，所以何談版權問題。目前，人類構造看似智能的信息處理工具，人仍然是責任主體。同時，人工智能生成技術也需要關注用戶知情同意的問題，研發方和服務方不能混淆它和人之間的邊界，需要明確告訴用戶是人工智能在服務，所帶來的後果是人工智能沒有辦法承擔的。

“我不同意讓人工智能無處不在，它有適用領域，很多領域無需人工智能賦能。所以我們參與撰寫的聯合國教科文組織《全球人工智能倫理建議書》，其中明確指出人工智能的適度使用。”曾毅說。

鄧志東認爲，ChatGPT利用了全球約三分之二的海量文本數據，其中涉及數據安全、知識產權、隱私保護等問題。這些數據有可能還會存在種族和性別歧視、認知偏見、道德、倫理與價值導向等問題，甚至有違法數據，所以必須設立安全門。要通過全球合作的方式，提前採取有效的預防措施，制定相關國際倫理規範，而不是等問題發生了再去應對。目前，ChatGPT對人類還無法形成真正的威脅，在發展之初要以開放的心態看待新生事物，緊抓機遇，發展中國人工智能產業，賦能經濟和社會的發展。

作爲全國政協委員，趙曉光表示，自己是科技界的委員，也進行了機器人和人工智能的研究，未來將在這一領域提出意見和建議，希望人工智能在我國數字經濟的發展和數據融通處理中發揮作用，爲實體經濟發展賦能，帶來新的經濟增長點和新的業態，“未來五年，我將着重關注人工智能技術的落地應用、新技術領域的創新，並在這些方面做更多調查研究工作。”

新京報記者 張璐