新聞

封面故事

▲霍金時刻擔憂機器的智慧最終會反噬人類。

尼采說，“當你在凝視深淵時，深淵也在凝視你”。互聯網進入大數據時代，給我們的生活提供了前所未有的便利。但是，互聯網同時也在放大着人性之惡。你永遠也不知道，在互聯網的那頭是不是躲着一個被慾望吞噬的色狼。

從蒸汽時代到互聯網時代，當技術的邊界被無限放大，現實與未來的界限越來越模糊，人類再次來到對未來走向做出抉擇的十字路口，霍金、馬斯克、比爾蓋茨等精英不約而同地表達了他們的憂思。

“人與機器”到“人與人”：現實與未來的模糊界限

前段時間打車，我問出租司機最近生意怎麼樣？他說，做完這個月，他就退車了。問他爲什麼。司機說：當初沒有打車軟件，我每個月就是交份兒錢。現在有了打車軟件，份兒錢一分沒少，每搶一單，還得給軟件交錢。可打車的人，並沒有增加。原來一天工作8小時，每月能賺8000塊，現在每天工作12小時，每月卻只能賺6000多塊。

聽完有些驚訝。原以爲這些打車軟件是提升用戶數量，然後在增量中尋求利潤，可現實看來，他們僅僅是用補貼的方式擠進市場，然後並沒有在做增量上下功夫，而是直接參與到殘酷的盤剝當中。

馬克思在《資本論》裏寫道：如果有10%的利潤，資本就保證到處被使用；有20%的利潤，資本就活躍起來；有50%的利潤，資本就鋌而走險；爲了100%的利潤，資本就敢踐踏一切人間法律；有300%的利潤，資本就敢犯任何罪行，甚至冒絞首的危險。

我們確實在享受互聯網帶來的便利，但卻忽視了這些便利之下的道德成本。在“資本的本性就是逐利”的說辭之下，一切扭曲和淪喪都變得金光閃閃，甚至還耀武揚威起來。於是太多人都匍匐在資本的腳下，奔跑在逐利的路上。

現在，幾乎所有成功的產品，都利用了“弱點營銷”。

團購網站往往能提供非常低廉的價格來吸引眼球，在貪便宜心理的驅使下，很多用戶盲目消費，參與各種各樣的團購，可結果越花越多；在商業領域，VIP本來指的是創造了80%利潤的20%人羣，所謂付費的纔是用戶，免費的都是商品。而廠商也極力增加會員的功能和福利，彰顯VIP不一樣的“貴族身份”；電商網站也突出強調了便捷這一特點，一鍵下單，然後就躺着等待收快遞，電商和快遞的出現使得許多人走上了宅男宅女的道路。

這是一個從本性出發取悅自己的時代。不知不覺中，我們就習慣了互聯網主宰的生活，我們每個人都好像走得更近，卻又離得更遠。程序、算法、流量、補貼塑造了反鄙視鏈的新圖騰，天佑、Gai、皮幾萬們的商業成功遠比許知遠更有說服力，就像《貧民窟的百萬富翁》中說的：“夢想只能控制你自己的大腦，但是有了錢，你就能控制別人的大腦”。當互聯網替我們決定了不配看穆旦或博爾赫斯，只應該喜歡比基尼女郎、土嗨歌或尬舞天團時，我們究竟是被尊重還是被侮辱了？

18世紀60年代，第一次工業革命，以蒸汽機動力爲代表，技術第一次可以取代大量人力，它改變的是“人類使用工具”的方式；第二次工業革命，以電力和電器的動力和動能爲代表，改變的是“人類使用能源”的方式；第三次工業革命，以計算機、信息技術、互聯網爲代表，改變的是“人類與世界連接”的方式。

互聯網革命重新建立商業文明的秩序，早期的互聯網已經協助人類完成了信息的獲取，而接下來自然是對線下服務的需求，這些實際的需求帶來了互聯網對現實的最終反噬。

馬雲曾說：“在過去20年裏，我們把人變成像機器一樣，接下來的20年，我們將把機器變得像人，機器將會非常聰明。”

從工業革命到人工智能，技術正在從某個笨重的龐然大物變成能夠融入每一個人生活的存在，它變得越來越聰明，它像一隻生物正越來越多地感知和理解到我們的需求並做出回應，無疑是社會生產力的又一次突破。當技術的邊界被無限放大，現實與未來的界限也越來越模糊。

卡辛斯基們的反科技宣言

希爾多·卡辛斯基，16歲讀哈佛的神童，曾經的伯克利大學數學系助理教授，蒙大拿州的隱士。他還有另外三重身份，17年連環爆炸案的主謀，恐怖分子，反科技“鬥士”。

自從1978年他自制的第一顆炸彈被西北大學的一位保安引爆，多年來，他一直孜孜不倦地向大學中高科技領域的研究者寄送炸彈，因爲討厭飛機，他也不忘給航空公司送去兩顆自制的蹩腳貨。所以，聯邦調查局管他叫“大學航空炸彈怪客 ”。其實他也炸過電腦商鋪的老闆和公關公司的總裁，而且，把他們炸死了。

聯邦調查局追蹤了他17年，一無所獲，卡辛斯基說，“聯邦調查局是個笑話。”對於一個智商170的數學家而言，這話算不得輕蔑。

卡辛斯基這樣的反科技人士並非橫空出世。早在19世紀前葉的英國，就有一大批工人誓與機器抗爭到底，他們就是卡辛斯基的前輩。“紡織機的發明，極大地解放了紡織工人”，這種評說對當時的紡織工人們而言，簡直就是惡搞。工人們發現機器正在和他們搶“飯碗”。失業、降薪、朝不保夕。於是，工人們憤怒了，以伯明翰郡爲中心，一股破壞機器的風潮迅速在英國蔓延，最終這股風潮變爲一場羣氓的暴動。

在工業化高歌猛進的1932年，在人與機器開始蜜月的年代，英國小說家赫胥黎出版了一部名叫《美麗新世界》的小說。在這本小說中赫胥黎預言，“人類會漸漸愛上壓迫，崇拜那些使他們喪失思考能力的工業技術。”作爲對這部小說遙遠的呼應，在63年後的1995年，卡辛斯基在他的反科技宣言《工業社會及其未來》中寫道：“人類太輕易得讓自己陷入這樣一種對機器強烈依賴的境地，以至於到了最後，他們沒有別的選擇，只能完全聽從機器的決定。”

卡辛斯基曾評價道，“工業文明及其產生的後果，對於人類就是一場災難。”

2017年，美國電動汽車廠商特斯拉首席執行官馬斯克和社交媒體網絡臉譜創始人扎克伯格就人工智能（AI）技術的危害隔空辯論之後，全球一百多位人工智能專家聯名致信聯合國，呼籲禁止基於該技術的自動化武器的發展。人工智能產業化前景毋庸置疑，但其雙面性使得如何在以人類安全和利益爲重的前提下，對其潛在的威脅進行制衡正引發越來越多的思考。

事實上，當年施瓦辛格的影片《終結者：創世紀》在美國一上映，就引發了科學界的震動。在阿根廷舉辦的人工智能聯合大會上，包括史蒂芬·霍金、埃隆·馬斯克、史蒂夫·沃茲尼亞克等在內的科技界、企業界大佬，聯手向世人發佈警告信。信中寫道：“在銀幕上，《終結者》系列開啓了黑色科幻電影的序幕，而在現實中，人類對於人工智能的恐慌正在加劇蔓延。我們相信，貫穿30年的影片畫面或許在幾年內就會變成現實，而不是幾十年！”

▲從工業革命到人工智能，技術正在融入每個人的生活，同時也引發人類的警惕與憂思。圖爲山東建築大學校園內的火車餐廳。 曲永欣/圖

當人類再次來到對未來走向做出抉擇的十字路口

早在1968年，大師庫布里克通過《2001太空漫遊》對未來進行了大討論。如今時間早走過2001年，雖然人類並未實現真正隨意的太空遨遊，但片中的那些高科技裝備、平板電腦、人工智能全都有了對應產品。執導《星際穿越》的諾蘭曾說過：“現代科學尚無法觸及的層面，電影能夠做出無限接近於真實的預測，科學家們暫時兌現不了的實驗，電影能在影像中先行一步。”

英國著名物理學家霍金的警示提供了另一種態度——對於科幻電影，天馬行空的同時請別忘記憂思。

由於患有運動神經元疾病，霍金需要利用一臺機器與外界交流。受智能手機輸入法啓發，美英兩家科技公司爲霍金量身定製出一款打字軟件，使這位科學家的“說話”速度提升了一倍。這種可以猜測使用者思維的軟件，讓霍金本身成爲人工智能的受益者。但他坦言，自己時刻在擔憂機器的智慧最終會反噬人類，“到時它將可能以不斷加快的速度重新設計自己。而人類則受制於生物進化速度，無法與其競爭，最終被超越。”

在2014年被谷歌收購前，馬斯克曾是人工智能實驗室DeepMind投資者。馬斯克稱，他投資DeepMind不是爲了獲得資金回報，而是要關注人工智能的發展。

比爾·蓋茨也在Reddit上說：我站在擔憂超級智能的陣營。人工智能有可能變得非常強大，足以引發我們的擔憂。

不過，也有人持“無需擔心人工智能威脅”的觀點，支持者通常有兩大理由：其一，這根本不會發生；其二；我們可以再開發一些機器人同盟軍，來對抗背叛的機器人。

2016年，在馬斯克宣佈成立OpenAI僅三週，扎克伯格就發佈了新年度挑戰任務，其中包括打造一個全能的人工智能助手。扎克伯格曾表示：“人工智能能爲我們所用，並協助我們工作。有些人認爲人工智能是個巨大的威脅，但我認爲，它的危險程度遠不及疾病和暴力。”去年4月，扎克伯格在Facebook開發者大會上還稱：“相對於恐懼，我更願意選擇希望。”

在歐、美、日本等發達地區，工業機器人應用已開展多年，在我國，也帶來了對經濟和勞動力市場的實際挑戰。兩位清華才女郝景芳和劉慧凝談到人工智能與教育及人類未來的關係，也不約而同地表示了擔憂。

近代以來的社會變革，始終伴隨着科技與人文的纏鬥，結果是科技明顯佔了上風。文藝復興與啓蒙運動，就像是給科技注入了強心劑一樣，加速科技擺脫宗教的束縛與人文的掣肘。科技簡直就是搭上了無畏自然、上帝，可以“肆意妄爲”無須節制的戰車。

當人類再次來到對未來走向做出抉擇的十字路口，人文引領科技，而不是相反，這應該成爲人類在文明發展過程中一個根本立場。

相關文章