出品:新浪科技《科學大家》 湛盧文化

王飛躍

中國自動化學會監事長

中國科學院自動化研究所複雜系統管理與控制國家重點實驗室主任

當今最好的人工智能程序到底有多智能?它們是如何工作的?能做些什麼?我們有必要擔心機器比人類聰明且將很快奪取我們的工作嗎?以上這些問題都頗受人們的關注。

“廣義歌德爾定理”

“GEB”的作者侯世達教授在谷歌的一次內部研討會上表示自己被人工智能的快速發展“嚇壞了”開始。更具體地說,侯世達是被“音樂智能實驗”(Experiments in Musical Intelligence,EMI)的優美創作嚇壞了,他曾這樣說道:“我被EMI嚇壞了,完全嚇壞了。我厭惡它,並感受到了極大的威脅——人工智能對我最珍視之人性的威脅。我認爲 EMI 是我對人工智能感到恐懼的最典型的實例。”我曾聽說過侯世達對人工智能的擔憂,但當時不以爲然,我認爲一個對人工智能瞭解如此之深、認識如此之深刻的學者不應過度害怕智能技術。

作爲一個堅信人工智能只是一項技術,不會主動侵害人類的科技工作者,我當時覺得這可能是由於侯世達遠離科研一線太久或年紀增長的原因,但書中侯世達的自白,讓我認識到我的猜測都不對,真正的原因在於音樂在他的心裏有着一種十分神聖甚至神祕的地位。

在“GEB”一書的最後,侯世達曾列出關於人工智能的“十大問題和猜想”,其中第一個就是關於音樂的。那時他認爲計算機可以譜寫出優美的音樂,但並不會很快實現,因爲音樂是一種關於情感的語言,在程序能夠擁有我們人類所擁有的這種複雜的情感之前,它絕無可能譜寫出任何優美的作品。我認爲,侯世達由此對人工智能產生的“恐懼”是中國藝術家潘公凱“錯構”理論的一種典型的體現,它不是一種在理性或技術層面的反應,而是一種本然的藝術或哲學性的反映。對此,我希望結合智能研究的起源以及我一直提倡的“廣義歌德爾定理”來說明我的看法。

近代以來,人們對智能的認識源自數學家希爾伯特(D。 Hilbert)的夢想,即數學推理機械化的“希爾伯特綱領”。伯特蘭·羅素(Bertrand Russell)與阿爾弗雷德·懷德海(Alfred N。 Whitehead)爲了給這一夢想奠定堅實的基石,二人花了10年的心血成就了一部三卷本的《數學原理》。但是不久,這基石就讓三個年輕人擊碎。先是歌德爾證明了不完備定理,接着圖靈提出了圖靈機,並將計算的本質歸於機械的操作,進而約翰·馮·諾依曼(John von Neumann)建立了數字計算機的邏輯操作結構。自此,我們有了現代計算機,並開始了人工智能研究,成就了今日之信息產業“舊”IT (information technology,信息技術 ),目前,已開始邁向智能產業“新”IT (intelligent technology,智能技術 )。在這一智能的計算化過程中,從邱奇 - 圖靈論題(Church-Turing thesis)開始,在諾依曼有意無意的引導下,學界關於智能的思考和認識逐漸形成了兩個派別:“圖靈派”和“歌德爾派”。

圖靈派本質上是計算主義,認爲基於簡單規則的計算可以湧現出複雜的行爲和智能。從物理符號系統的邏輯智能到聯結主義的計算智能,這一思想主導了人工智能至今的發展歷史,是構建智能系統的主要理論和方法源泉。歌德爾派認爲根本沒有構建智能的一般規律和方法,而且現有的一些規律和方法不應成爲第一性的,只有動因和信念纔是本質,接受現狀繼續演化是發展人工智能的唯一途徑。歌德爾派在人工智能的研究上至今並沒有產生很大的影響,然而,在理解智能的影響和意義方面,歌德爾派的認識則非常重要,而且對智能科學的未來發展更具有指導性意義。

歌德爾認爲,存在先於可計算的不可計算,即存在不可計算的客觀存在。存在不可計算的物理、生命和數學過程,且計算機不能真正理解語言和想象等相關的活動。研究人工智能的第一位華人學者王浩晚年曾致力於歌德爾的思想與哲學的研究,他總結道:“歌德爾認爲機器不可能超越人腦,除非數學不是人類發明的。而且,就算數學不是人類發明的,機器還是無法超越人腦。”

我曾把歌德爾關於智能的思想總結爲“廣義歌德爾定理”,即智能分爲算法智能(algorithmic intelligence,AI)、語言智能(linguistic intelligence,LI)和想象智能(imaginative intelligence,II)三個層面,算法智能無法超越語言智能,語言智能又無法超越想象智能。正如歌德爾在普林斯頓高等研究院的同事愛因斯坦所言:“智能的真正標識不是知識,而是想象。”

我們可以從兩個方向來理解廣義歌德爾定理:一是圖靈的想法,即AI的全體和極限是LI,LI的全體和極限是II ;二是II的局部和具體化是LI,而LI的局部和具體化是AI。計算機的智能只能是AI,無法達到人類所具有的LI和II層面。歌德爾對智能的認識及理解與中國哲學史上人們對《道德經》開頭的兩種不同解讀十分相似:一是“道可道,非常道”,即凡是能被言說的道,就不再是永恆的本源之道,就像世上每一個能被看到的具體的圓形,都無法符合圓形的抽象定義一樣;二是“道,可道,非常道”,即道有三種形態,自然中可執行的道(算法之道)、只能說出來的道(語言之道)、只能想象出來的道(想象之道)。總之,“道”一經說出,就不是本來的自然之道了。

哲學家伏爾泰曾說:“定義你的術語……否則我們將永遠無法相互理解。”然而前文的討論使我們認識到,即便有了定義,我們在語言和想象層面上可能也無法徹底理解。在人工智能領域,“智能”“思維”“意識”“認知”“情感”等術語很難定義,且至今沒有達成共識。這也正是20世紀的科學哲學家托馬斯·庫恩(Thomas Kuhn)在其“3C”理論中所闡述的:在人類語言詞典及其多維結構裏,我們進入一種本質上不可公度、不可比較、不可交流的境地。或許,在量子力學中的“薛定諤的貓”或海森堡的“測不準原理”之外,我們在智能的AI、LI、II 層面上是否分別存在各自的“算不清原理”“說不明原理”“想不準原理”?

回到侯世達對人工智能的“過激反應”這一問題,我想再用世界圍棋高手柯潔的例子加以說明。在李世石以1∶4輸給AlphaGo之後,柯潔發表了迫不及待想要挑戰AlphaGo的聲明:“就算AlphaGo戰勝了李世石,但它贏不了我。”在以0∶3的比分負於 AlphaGo 之後,柯潔渾身顫抖,只想大聲痛哭,認爲AlphaGo實在太完美了,並稱它就是“上帝”。我記得在《時代》雜誌上首次看到這一報道時,我的第一反應就是:“上帝?誰的上帝?反正不是我的上帝。”在我看來,柯潔的反應與侯世達是一樣的,是專業執着後的應激錯構,我們沒有因爲柯潔的失利而對AlphaGo感到畏懼,也無須因侯世達而對人工智能感到擔憂。實際上,我認爲,對這類問題進行持續深入的討論應是哲學家或有閒階級培養智能科學素質的腦力練習,專業人員更應關注探索人工智能技術及應用的合法、合規、合理與合情問題。

廣義傑文斯悖論

討論完對人工智能的“恐懼”之後,我們再來看看人工智能對人類工作的衝擊。近年來,在這方面總有許多令人擔憂的言論,如“機器取代人”“人工智能將使50%~70%的人失業”,有些世界著名的科學家和企業家甚至聲稱人工智能的興起意味着人類文明的終結。

正如哲學家黑格爾所揭示的:歷史給我們的教訓是,人們從來都不知道汲取歷史的教訓。實際上,人類在過去100多年內至少經歷了三次這種擔心,這就是“老”“舊”“新”三次IT變革。當年,人們對老IT(工業技術)的擔心遠大於今天我們對新 IT(智能技術)的擔心。在工業革命的發源地英國,紡織工業誘發“羊喫人”現象,女王擔心機器的大規模使用將使她的臣民變成乞丐,民衆更是揭竿而起,乾脆一把火將機器燒了。

70多年前,諾伯特·維納的控制論和數字計算機的出現開啓了舊 IT(信息技術)的變革,又一次引發社會對機器取代人類工作的擔心。爲此,維納還發表了《人有人的用處》(The Human Use of Human Beings )來專門討論這一問題,其中特別強調“信息永遠不能取代啓迪”(Information will never replace illumination。)。啓迪是語言和想象的核心功能,因此機器及其生產的代碼與信息根本無法取代人類,而且,計算機還爲“機器取代人”做了一個絕好的說明。20世紀50年代之前,英文中“computer”一詞其實是指從事計算工作的人類,但今天作爲機器的“computer”已經完全代替了作爲人類的“computer”;然而,被稱爲“computer”的機器,不但沒有使人類大規模失業,而且還爲人類創造了更好、更多的新工作,比如程序員、架構師、算法工程師、網絡管理員,等等。事實勝於“恐”辯,儘管機器可能造成一定程度的短暫的社會錯位,使一些人失去工作,但不會造成人類的大規模失業,相反,機器能夠創造出更多、更好、適合人類的工作,推動社會進步。

其實,這個問題在100多年前就已被研究清楚,這就是著名的“傑文斯悖論”(Jevons paradox)。 威 廉姆·斯坦利·傑文斯(William Stanley Jevons)是19世紀英國的數學家、哲學家和經濟學家,現代經濟學中的邊際效用理論的主要奠基人。在英國工業革命時期,工業大量消耗煤資源併產生了嚴重的污染,引發了利用技術提高燃煤效率的討論,但傑文斯的研究表明:燒煤效率越高,耗煤量將會越大。這就是傑文斯悖論:技術進步可以提高自然資源的利用效率,但結果是增加而不是減少人們對這種資源的需求,因爲效率的提高會導致生產規模的擴大,這會進一步刺激需要。

計算機的“機器取代人”的例子說明廣義的傑文斯悖論也成立:技術進步可以提高人力資源的利用效率,但結果是增加而不是減少社會對人力資源的需求,因爲效率的提高將導致生產規模的擴大。計算機的確完全消滅了名爲“computer”的職業,使其變成了一種真正的機器,但同時也擴大了社會對計算機生產、操作等相關人員的需求。還有很多這方面的例子,比如全球定位系統取代了許多測量工作崗位,但卻產生了更多基於位置的服務(location based services,LBS)的相關工作以及導航算法工程師等崗位;機器學習取代了很多統計員,但卻增加了更多不同的數據工程師工種。可以預見的是,隨着智能技術的發展,這類例子將會越來越多。

我們相信,表面上以取代人力爲目標的智能技術,將產生更多更適合人類的新的工作崗位,例如學習工程師、決策工程師、法務工程師,等等。智能技術可能會將今日之“碼農”解放出來,使其變成明日之“智農”,成爲“人機結合,知行合一,虛實一體”的“合一體”智慧員工。如此一來,維納所說的:“人有人的用途,機有機的用處”將會實現。

未來智能的方向與體系

40多年前,侯世達在“GEB”之末提出了關於智能的十大問題和猜想,吸引了年輕的米歇爾轉行隨其學習和研究人工智能。現在,米歇爾也在其著作的結語中也提出了當下人工智能領域備受關注的六個問題及其答案或推測,這本質上也是對未來智能技術發展的探討與期望。我個人更是堅信人工智能必須從長期佔據主導地位的邏輯智能(AI 1.0)和近20年來作爲主力的計算智能(AI 2.0),向人機混合、虛實交互的平行智能(AI 3.0)邁進。

未來的智能科技,必須將人以新的方式置於核心地位,切實落實“人有人用, 機有機用”的根本原則。社會物理信息系統(cyber- physical- social systems,CPSS)將成爲智能系統的基礎設施,進而保證 數據之力、計算之力、算法之力、網絡之力和區塊鏈之力能夠“五力合一”,使智能科技能上“真”[TRUE=trust(可信)+reliable(可靠)+useful(有用)+effective(有效)]之“ 道 ”[DAO=distributed/decentralized(去中心化的)+automated/autonomous(自動的)+organized/ordered(有序的)=decentralized autonomous organizations(分權自治組織)],實現系統學習和系統智能,邁向智能組織和智慧社會。

政治哲學家和經濟學者弗里德里希·哈耶克(Friedrich Hayek)曾說:“科學走過了頭,自由將無容身之地。”同理,智能越過了界,人性將無處安身。如何保證人工智能不越界?根據廣義哥德爾定理,我們不是不相信智能技術,我們只是不相信智能技術背後的人類。因此,人工智能的合法合規,必須依靠人類本身的文明和法制保證,智能科技只能起輔助作用。人類社會發展的歷史告訴我們,隨着技術的發展,我們需要越來越多的法務工作者。將來,或許罪犯會非常少,但“智警”或“法務工程師”會成爲智慧社會的重要從業人員,遠多於普通的警察和法官。這是隨智能產業發展而來的智慧社會的可能形態,也是我們研發新一代人工智能應該考慮的問題。

相關文章