超級英雄 DeepMind CEO： 創(chuàng)造比人類大腦更強(qiáng)力的軟件 | 深度專訪

eaoogle_WSN

按：本文來自theguardian，新智元原創(chuàng)翻譯。

通過他的公司DeepMind，倫敦人Demis Hassabis正在領(lǐng)導(dǎo)著谷歌的一個計劃——創(chuàng)造比人類大腦更強(qiáng)力的軟件。但是，這對于人類的未來而言，意味著什么？

Demis Hassabis有著謙遜低調(diào)的風(fēng)度和平易近人的神情，但是當(dāng)他告訴我他正在為“解開智力的謎團(tuán)，隨后將之用于解決其他一切問題”的使命而努力時，他看上去無比嚴(yán)肅。如果從其他人——幾乎任何一個其他人——口中

聽到這句話，都會讓人發(fā)笑，但是從他口中聽到就沒那么讓人想笑了。

39歲的Hassabis曾經(jīng)是一位圍棋大師和一位視頻游戲策劃，而他的人工智能研究初創(chuàng)公司DeepMind在2014年據(jù)傳被谷歌以6.25億美元收購。他的父母都是移民，他在Finchley讀了一所州立綜合學(xué)校，又從劍橋大學(xué)和倫敦大學(xué)學(xué)院（UCL）獲得了計算機(jī)科學(xué)和認(rèn)知神經(jīng)科學(xué)的學(xué)位。一位“空想家”，與他一起工作的人們是這么評價他的，Hassabis也順?biāo)�推舟地表示，他已�?jīng)找到了“讓科學(xué)研究更高效”的方法，并且在領(lǐng)導(dǎo)著一個“21世紀(jì)的阿波羅登月計劃”。他是那種你在街上看到也不會留下印象的樣貌平平的家伙，但是Tim Berners-Lee曾經(jīng)對我說，他是地球上最聰明的人之一。

人工智能已經(jīng)來到我們的身邊，這毫無疑問，每當(dāng)我們詢問Siri或是從安卓上看到推薦信息時，背后都有人工智能的影子。而在短期內(nèi)，谷歌的產(chǎn)品肯定會從Hassabis的研究中獲益，即使個人化、搜索、YouTube、語音和面部識別從名字上看并沒有“AI”這個詞（“于是這只是軟件，對吧？”他露齒一笑，“這只是某種能派上用場的東西。”）。不過，從長遠(yuǎn)來看，他正在研發(fā)的技術(shù)所具有的意義并不會僅僅止步于有情感的機(jī)器人和更智能的手機(jī)。它甚至不會止步于谷歌，也不會止步于Facebook、微軟、蘋果、以及其他正在搜刮人工智能博士并往這場最近的科技軍備競賽中砸下數(shù)以億計金錢的巨頭們。它關(guān)系著我們能想象得到的一切，以及更多我們想象不到的東西。

如果這聽上去極其野心勃勃——就是這樣沒錯。大多數(shù)AI系統(tǒng)都是“狹隘”的，訓(xùn)練事前編寫好程序的代理（agent）來掌握某種特定的任務(wù)，它們并沒有太多其他的能力了。所以IBM的“深藍(lán)”可以在國際象棋上擊敗Gary Kasparov，卻無法在畫圈圈叉叉的井字棋上和一個三歲小孩對戰(zhàn)。Hassabis站在另一邊：他從人類大腦中獲取靈感，試圖創(chuàng)造第一臺“通用用途的學(xué)習(xí)機(jī)器”，一組靈活的、適應(yīng)性強(qiáng)的算法，能夠——就像生物系統(tǒng)做的那樣——只利用原始數(shù)據(jù)來學(xué)習(xí)如何從頭開始掌握任何一種任務(wù)。

這就是人工通用智能（AGI），重點在于“通用”。在他憧憬的未來中，超級智能的機(jī)器將會與人類專家共同協(xié)作，差不多能解決任何問題。“癌癥、氣候變化、能源、基因組、宏觀經(jīng)濟(jì)、金融系統(tǒng)、物理學(xué)，我們想要掌握的系統(tǒng)中有許多都在變得日益復(fù)雜，”他說道，“信息太過泛濫，即使是對于最聰明的人類來說，要在有限的生命中掌握這些也正變得越來越艱難。我們要如何篩選這些鋪天蓋地的數(shù)據(jù)、從中找到正確的洞見？人工通用智能可以被當(dāng)作某種自動將非結(jié)構(gòu)信息轉(zhuǎn)化為有行動意義（actionable）的知識的過程。”

獲得這種元解決方案可能仍然有數(shù)十年的路要走，但是它似乎正在不可避免地漸漸來臨。2015年2月，全球頂尖的科學(xué)雜志《自然》在封面上刊登了像素游戲“太空侵略者”的圖片，配以“自我學(xué)習(xí)的AI軟件”已經(jīng)獲得了“人類級別的視頻游戲表現(xiàn)”的概述。翻開這期雜志，這篇來自DeepMind的論文描述了第一個成功的通用“端到端”學(xué)習(xí)系統(tǒng)，其中他們的人工代理（agent）——圖像處理單元上一個被稱作Deep-Q網(wǎng)絡(luò)的算法——學(xué)會了如何處理屏幕上的一個輸入，理解這個輸入的意義，然后做出決策來達(dá)到希望的結(jié)果（在這個例子里，就是成為精通許多經(jīng)典雅達(dá)利2600游戲（包括太空侵略者、拳擊、和Pong）的超人）。這個突破在科技界一石激起千層浪。

隨后，在上個月，DeepMind第二次登上了《自然》雜志封面——在如此短的時間內(nèi)第二次登上封面本身就是一件值得稱道的事了。這次，它略過70年代和80年代的復(fù)古街機(jī)游戲，回溯到更久以前選擇游戲。圍棋，這種來自中國的深奧的策略游戲，已經(jīng)有超過2500年的歷史，連孔子的作品中也提到過圍棋。圍棋的分支因子非常龐大，它可能的行動步數(shù)超過了宇宙中的原子數(shù)量，并且，與象棋不同，它不能通過暴力計算來破解。它非常棘手，也不可能為它寫出一個評估函數(shù)（通過一組規(guī)則來告訴你誰在某個位置的輸贏以及輸多少贏多少）。取而代之的是，圍棋需要旗手具備某種類似“直覺”的東西：當(dāng)被問起為何做出某個落子的決定時，專業(yè)旗手們往往說出類似這樣的話：“這樣做感覺比較對。”

很顯然，計算機(jī)一直以來在做這種判斷方面都不太在行。因此，對于AI來說，圍棋始終被視為“不同凡響的偉大挑戰(zhàn)”之一，大部分研究者預(yù)期至少還需要10年才能看到機(jī)器破解圍棋的希望。

但是經(jīng)過嚴(yán)格的同行評審的證據(jù)就擺在面前：DeepMind的最新人工智能算法，AlphaGo，已經(jīng)在去年秋天的一場秘密賽事中以5比0的成績完勝蟬聯(lián)三屆歐洲圍棋冠軍的樊麾，并且將在之后的3月于世界圍棋冠軍李世石對戰(zhàn)。“一個讓人震驚的成就”，帝國理工學(xué)院認(rèn)知機(jī)器人學(xué)教授Murray Shanahan這樣向我描述這件事。“一個重要的里程碑”，超人類主義哲學(xué)家Nick Bostrom表示了贊同，他在《超級智能：路線圖，危險性與應(yīng)對策略》一書中曾寫道，如果能夠完成AGI，這將會是一個無與倫比的事件——也許，借用谷歌工程主管Ray Kurzweil的話來說，甚至稱得上是“撕裂人類固有的歷史結(jié)構(gòu)（a rupture in the fabric of history）”。在Bostrom位于牛津大學(xué)人類未來研究所的辦公室中，他告訴我，AlphaGo的出現(xiàn)“讓過去幾年間機(jī)器學(xué)習(xí)領(lǐng)域的進(jìn)展一下子變得引人注目起來”。

“這相當(dāng)酷，當(dāng)然，”Hassabis同意道。當(dāng)時我們約在他的辦公室見面，討論最近的這場勝利。像往常一樣，他穿著不倫不類的黑色上衣、褲子、以及鞋子：你覺得他是一個實習(xí)生也無可厚非，雖然據(jù)傳谷歌的收購讓他個人獲益8000萬歐元。“圍棋就是終極：它是所有游戲的頂峰，需要的智力深度（intellectual depth）也最高。它讓人目眩神迷，而令我們感到激動的不只是我們掌握了這個游戲，還有我們在其中使用的神奇有趣的算法。”比起科學(xué)，下圍棋更像一種藝術(shù)，他堅持道，“而AlphaGo的下棋方法與人類非常像，因為它是像人類一樣學(xué)習(xí)圍棋、接著通過不斷下棋變得日益強(qiáng)大的，就像你我會做的那樣。”Hassabis可能看上去還像個學(xué)生，但是他現(xiàn)在笑得像是為孩子感到自豪的家長。AlphaGo是他在職業(yè)生涯中獲得的最讓人興奮的成就。“這個量級超出了任何人的想象，”他對此津津樂道，“不過對于我們來說，最重要的是，這不是一個使用手工打造的規(guī)則的專家系統(tǒng)。使用通用用途的機(jī)器學(xué)習(xí)技術(shù)，它自己學(xué)會并精通了這個游戲。最終，我們希望將這些技術(shù)應(yīng)用于中藥的現(xiàn)實世界的問題上，比如氣候建模或是復(fù)雜病癥分析，對吧？所以開始想象它可能下一步會解決什么問題是非常激動人心的。”

“氣候建模，復(fù)雜病癥分析——開始想象它可能下一步會解決什么問題是非常激動人心的。”

——Demis Hassabis

我第一次見到Hassabis是在2014年夏天，那是DeepMind被收購之后幾個月。從那時起，我一直觀察著他在各種各樣的環(huán)境中工作，在過去的8個月里也曾在不同情況下對他進(jìn)行了3次正式采訪。這段時間里，我看著他從一個谷歌的AI天才逐漸成長為一個言辭鑿鑿的溝通者，找到了有效的方式向我這種非科學(xué)家描述他那極其復(fù)雜的工作——他對那些工作熱情洋溢——以及為何他的工作是重要的。他用詞質(zhì)樸而易懂，非常擅長深入淺出地講解DeepMind使用的方法——也就是結(jié)合舊有和全新的AI技術(shù)——比如，在圍棋中，使用了傳統(tǒng)的“樹搜索”方法來分析落子效果，以及新穎的“深度學(xué)習(xí)網(wǎng)絡(luò)”（它模擬了大腦中的神經(jīng)元網(wǎng)絡(luò)）——還有他們對不同領(lǐng)域AI研究的方法學(xué)“聯(lián)姻”。

在DeepQ中，他們將深度神經(jīng)網(wǎng)絡(luò)與“強(qiáng)化學(xué)習(xí)”相結(jié)合，強(qiáng)化學(xué)習(xí)是所有動物都用到的、通過大腦中多巴胺驅(qū)動的獎勵系統(tǒng)進(jìn)行學(xué)習(xí)的方法。在AlphaGo中，他們更進(jìn)一步，增加了另一個更深度的強(qiáng)化學(xué)習(xí)，用來處理長期規(guī)劃。下一步，他們將會整合其他的，比如說記憶能力，以及其他的東西——直到理論上所有的智力里程碑（intelligence milestone）都就位。“我們在這些能力的數(shù)量方面有一個想法，”Hassabis說道，“結(jié)合所有這些不同的領(lǐng)域會是一把鑰匙，因為我們有興趣的是能夠?qū)⒃谀硞�領(lǐng)域中學(xué)到的東西應(yīng)用到另一個領(lǐng)域中的算法。”

這聽上去有一點像人類自身。對于他簡歷的第一印象可能是他對一切都一知半解的好奇心，從棋盤游戲到視頻游戲到計算機(jī)編程到認(rèn)知神經(jīng)科學(xué)，更不用說人工智能了。事實上，他能取得今天的地位是因為聚焦于一點：將他強(qiáng)大的、幾十年一遇的智力與他畢生鉆研的那些領(lǐng)域精心結(jié)合。（簡要重點回顧：8歲編寫自己的計算機(jī)游戲；13歲國際象棋達(dá)到大師水平；17歲創(chuàng)造最早的包含AI的游戲之一“主題公園”；20歲從劍橋大學(xué)獲得計算機(jī)科學(xué)雙重一級榮譽學(xué)位（double first）；不久之后創(chuàng)辦自己的開創(chuàng)性視頻游戲公司Elixir；在2011年創(chuàng)辦DeepMind之前一直在被譽為“拼圖的最后一塊”的海馬體和情節(jié)記憶方面進(jìn)行開拓性的學(xué)術(shù)研究）

“我很容易感到厭倦，而這個世界是那么有趣，有那么多很棒的事情可以做，”他承認(rèn)（他也保持著蟬聯(lián)5屆腦力奧林匹克運動會全能腦力王（Pentamind）稱號的紀(jì)錄，腦力奧林匹克運動會中，參賽者們通過各種游戲進(jìn)行比賽）。“如果我是一個體育運動員，我一定會想要成為一個十項全能選手。”

體育運動比賽的榮耀從未垂青于他。雖然Hassabis是利物浦球隊的忠實粉絲，也喜歡觀看所有的體育比賽，他4歲時開始下國際象棋，只有僅僅一年就在國內(nèi)立于不敗之地，并在不久之后世界無敵。想必這很明顯地預(yù)示了他日后的生命將以腦力為重心。

1976年的倫敦北部，他誕生在一個有希臘-塞浦路斯混血的父親和新加坡-中國混血的母親的家庭中，是3個孩子中的老大。他的父母都是教師，曾經(jīng)開過玩具店。他的妹妹是一位作曲家和鋼琴家；他的弟弟研究的是創(chuàng)造性寫作。對科技的熱情并沒有盤踞在這個家庭中。“在我家，我絕對是一頭奇怪的黑羊，”他開了一個玩笑，回憶起他小時候怎樣把國際象棋比賽的獎金花在當(dāng)時的個人電腦ZX Spectrum 48K和Commodore Amiga上——買回來以后，他立刻將它們拆開，找出了如何編程的方法。“我的父母都是不喜歡新科技的人。他們不怎么喜歡計算機(jī)。他們有一些像波西米亞人。我的妹妹和弟弟也都走了藝術(shù)家的路線。他們沒有一個人真的對數(shù)學(xué)或是科學(xué)有興趣，”他聳了聳肩，有些抱歉的意思，“所以，好吧，這有些怪異，我不太確定（我的）這一切是從哪兒來的。”

他的公司在谷歌收購時只有50名員工，現(xiàn)在已經(jīng)雇傭了接近200人；他們來自超過45個國家，將位于倫敦國王十字地區(qū)一角的大樓的6個樓層都占滿了。Hassabis下定決心要讓他的公司接近他的根源，無論受到何種搬遷的壓力（想必也包括搬遷往硅谷山景城）。

“倫敦北部生養(yǎng)了我，”他提醒我，“我絕對熱愛這座城市，這就是為什么我堅持留在這里：我不覺得有什么理由說倫敦不能擁有一個世界頂級AI研究所。而且我對于我們所在的地方感到非常自豪。”所有的房間都以智力上的巨人命名：特斯拉、拉瑪奴江、柏拉圖、費曼、亞里士多德。還有瑪麗·雪萊（他是粉絲嗎？“當(dāng)然，”他向我保證，“《科學(xué)怪人（Frankenstein）》我讀了好幾遍。時刻記得這些東西是很重要的。”）

一樓是一間咖啡屋和裸露著磚塊結(jié)構(gòu)的接待臺，擺著儲存椰子水的冰箱、桌上足球機(jī)和沙包，就像你對一家世界上最雄心勃勃的科技公司的期待一樣。上樓以后，在原本的樓頂上是新添的現(xiàn)代開放式結(jié)構(gòu)，放眼望去，滿目都是倫敦的屋頂風(fēng)光，美麗得讓人難以抗拒。

星期五的晚上，DeepMind的員工就在這里聚會歡飲。一位員工熱情地向我描述這個聚會，說是“醉人地結(jié)束一周”的方法。社交是一種內(nèi)在生活方式：他們告訴我DeepMind內(nèi)部有跑步俱樂部、足球隊、還有棋盤游戲俱樂部。墻上有一幅帶有可移動照片的位置圖，上面標(biāo)明了每個人在特定某天會出現(xiàn)在哪張辦公桌上（hot-desking）。這是一種激進(jìn)的開放式環(huán)境。走廊中與我擦肩而過的工程師們——大部分是男性——粉碎了我對于在科學(xué)的枯燥角落工作著的人們的刻板印象：這些家伙看上去健康，快樂，又酷炫。不得不說，空氣中散發(fā)著一股才智的迷人氣息。盡管有許多谷歌的最大競爭對手們都越來越多地重視起AI，更不用說全球的一流大學(xué)了，但是毫無疑問，地球上最聰明的人們都在排著隊想進(jìn)入這里工作，到現(xiàn)在為止離職率還是漂亮的0%。

“我們真的很幸運，”Hassabis說，他將他的公司與阿波羅計劃和曼哈頓計劃類比，因為他正在以越來越快的速度集結(jié)起來的研究人員的質(zhì)量和DeepMind的野心都讓人驚嘆不已。“每一年，毫不夸張地說，我們都能夠從每個國家獲得最好的科學(xué)家。所以我們將會有，比如說，波蘭的奧林匹克物理冠軍，法國的頂尖數(shù)學(xué)博士。我們已經(jīng)有的想法比我們已經(jīng)有的研究人員還要多，不過與此同時，青睞我們的優(yōu)秀人才數(shù)量也比我們能接收的還要多。所以我們正處在一個非常幸運的位置。唯一的局限是，在不傷害公司文化的前提下，我們能吸收的人員數(shù)量。”

這種文化不只是沙包、免費的零食和屋頂?shù)钠【啤�Hassabis堅持不讓谷歌的收購以任何方式強(qiáng)行影響他自己的研究路徑，他估計自己花費了“至少和思考算法一樣多的時間來思考DeepMind的運轉(zhuǎn)效率”，并將這家公司描述為“調(diào)和了最好的學(xué)術(shù)圈與最激動人心的初創(chuàng)企業(yè)，擁有令人難以置信的能量來為創(chuàng)造力和成就助力。”他好幾次提到“創(chuàng)造力”這個詞，他觀察到，雖然他接受的正式訓(xùn)練都來自于科學(xué)領(lǐng)域，但是他“本能地站在創(chuàng)造力或是直覺的一側(cè)”。“我談不上是一個標(biāo)準(zhǔn)的科學(xué)家，”他評價道，看上去并無諷刺之意。對于DeepMind的構(gòu)造來說至關(guān)重要的，是被他稱作“膠水大腦（glue minds）”的人才：能夠在相當(dāng)程度上理解無數(shù)科學(xué)領(lǐng)域、以此“用某種別具一格的方式找到不同領(lǐng)域間的連接點、隨后迅速鑒別出有前途的交叉領(lǐng)域連接可能是什么”的博學(xué)者。符合標(biāo)準(zhǔn)以后，這些像膠水一樣的人才可以每隔幾周在工作中的小組中登記信息，隨后快速靈活地在需要時調(diào)用資源和工程師。“所以如果你有一個讓人吃驚的天才研究員，那么幾乎立刻——與學(xué)術(shù)圈中不同——就會有三四個來自其他領(lǐng)域的人可以接過他的指揮棒、將自己的智慧添加進(jìn)去，”他這樣描述道，“這會導(dǎo)致令人震驚的結(jié)果的產(chǎn)出速度非常迅速。”啟動于僅僅18個月前的AlphaGo項目就是對這一點的完美闡釋。

每天晚上，Hassabis都要登上北線列車，及時回家與家人團(tuán)聚、享用晚餐。他們居住在海格特，離他長大的地方不遠(yuǎn)。他的妻子是一位意大利分子生物學(xué)家，研究的是阿茲海默病。他們的兩個兒子一個7歲，一個9歲。Hassabis會與他們一起玩游戲、讀書，或是幫他們一起做作業(yè)（“他們都以自己的方式發(fā)揮著聰明才智，但是他們幾乎就像我對立的兩面，一面是科學(xué)，一面是創(chuàng)造”）。

他會帶他們上床睡覺，就像任何一個普通人家的父親一樣。隨后，大概晚上11點左右，當(dāng)大部分人可能都合理地預(yù)計將要睡覺了的時候，他開始了他自己說的“第二天”。與美國方面的常規(guī)Skype通話將會持續(xù)到凌晨1點。之后是“純粹思考的時間。直到凌晨3點或是4點之前，那是我用來思考的時間：思考研究，思考我們的下一個挑戰(zhàn)，或是寫一份算法設(shè)計文檔”。

并沒有太多真正的AI代碼，他承認(rèn)，“因為我的數(shù)學(xué)現(xiàn)在已經(jīng)不行了。這更像是直覺性的思考。或者可能是對公司的策略性思考：如何擴(kuò)張它，如何管理好它。或者可能只是我從一篇文章里讀到的東西、或是那一天從新聞里看到的東西，我會思考我們的研究能如何與它相連。”

這讓我想起了AlphaGo，它就在谷歌強(qiáng)大到難以想象的計算云中，不停地下棋、下棋、下棋，每一天的每一分每一秒都在自我提高，因為它學(xué)習(xí)的唯一方式就是繼續(xù)不停地做下去…

“它休息過嗎？”我問。

“沒有。無休無止！它甚至沒有圣誕假期。”

我猶豫了一下。“它需要休息嗎？”

“也許它就喜歡這樣，”他駁回了我的話，眼神閃亮。

懂了。所以Hassabis自己呢？“絕對是超人，”他的一位同事順口告訴過我。他關(guān)機(jī)休息過嗎？他能夠讓自己關(guān)機(jī)休息嗎？“這很難，”他承認(rèn)，“我從來沒有真的感到過工作與生活對立的問題；它們是同一張畫布上的部分。我的確喜歡讀書、看電影、聽音樂，但這些都傾向于和我做的事有所關(guān)聯(lián)。”（他是一個影迷，與最近執(zhí)導(dǎo)AI電影《Ex Machina》的Alex Garland是朋友；他也提到了他剛與美國電影制片人Brian Grazer見過面，那是一個“真的很酷的家伙”，而他們的會面討論的是，你猜得到的，就是AI）。“我的大腦就是為它而運轉(zhuǎn)的。”

那他的孩子、朋友、還有日常生活呢？“當(dāng)然，我在試圖保持腳踏實地，否則我會變得有點瘋狂。關(guān)于孩子，最神奇的一點是，他們是唯一能讓你以類似的方式度過時間的存在。”

“如果存在超越了人類智能的數(shù)字智能，那么‘助手’這個詞就不是一個正確的描述了。”

—Elon Musk

他和自己的朋友們保持著親密的關(guān)系：他在UCL讀博士的時候遇到了DeepMind的聯(lián)合創(chuàng)始人之一Shane Legg，另一位Muatafa Suleyman則是他的發(fā)小。他講述了一段令人愉快的經(jīng)歷：他在劍橋大學(xué)時與本科同學(xué)Dave Silver成了朋友，隨后在空閑時間教他如何下棋盤游戲，包括某種古老的中國游戲。二十年后，我注意到，David Silver是DeepMind里圍棋項目的主要程序員，而且也是最近這篇《自然》論文的第一作者。“是的，Dave和我認(rèn)識很久了，”Hassabis笑著說，“我們曾經(jīng)夢想在未來做這件事情，所以19歲的我們可能對于現(xiàn)在取得的這個成就感到非常欣慰。”

他沉思了一下，補(bǔ)充道：“雖然如此，但我真的沒有多少日常生活。在所有醒著的時刻，我都在思考這些東西，也許在我夢里也是這樣。因為它是如此讓人興奮，如此重要，也是我最有熱情的事情。”

他的眼里有一種神采，我只能用熠熠生輝來描述，就像孩子一樣天真無辜。“我覺得太幸運了。我想不出比我正在研究的更有趣的問題了，而且我也可以每天都思考這些問題。每時每刻，我都在致力于做那些我抱有信心的事。否則的話，生命如此短暫，為何還要做這些（不抱信心的）事呢？”

如果史蒂芬霍金、比爾蓋茨、Elon Musk、Jaan Tllinn、Nick Bostrom和其他一些偉大科學(xué)家對于AI的恐懼成真了，那么我們的生命可能會比我們預(yù)期的要短很多。對AI的顧慮從未經(jīng)審查的人工通用智能武裝、到揮散不去的“技術(shù)奇點”的陰影，最終是讓機(jī)器有能力迭代地自我完善的“智能爆炸”，這會讓機(jī)器的智能超越人腦的智能，接著，就是超越人類的控制。如果超級智能之災(zāi)即將來臨，那么過去的歷史是無法可靠地指示我們預(yù)見到這一點、在一切無法挽回前退出AI軍備競賽的。“當(dāng)你看到某樣?xùn)|西在技術(shù)上很誘人時，”Robert Oppenheimer曾經(jīng)觀察到，這非常著名，“你會上前研究它；而只有在你取得了技術(shù)成果以后，你才會回過頭來討論應(yīng)該用它來做什么。”“如果有辦法能確保超級智能永遠(yuǎn)不會傷害人類，”Bostrom在幾十年后說道，“那么這樣的智能將會被創(chuàng)造出來。如果沒有這樣的保證，可能無論如何它們也會被創(chuàng)造出來。”“成功創(chuàng)造AI，”霍金在最近簡練地總結(jié)道，將是“人類歷史上最大的事件。但不幸的是，它可能也是最后一個事件。”

“好吧，我希望不會這樣，”Hassabis面不改色地說。在他看來，公眾對人工通用智能危言聳聽的態(tài)度，模糊了它近期巨大的潛力和價值，而且在根本上就錯位了，尤其是在時間上。 “我們距離任何類似人類水平的通用智能的東西都還有幾十年的時間，”他提醒我，“我們還踩在梯子的第一條橫杠上。我們都不過是在玩游戲。”他也認(rèn)同，有一些“我們應(yīng)該現(xiàn)在就考慮起來的法律風(fēng)險”，但是他堅定地認(rèn)為，這些要考慮的風(fēng)險不是科幻小說中超級智能機(jī)器把它們的人類創(chuàng)造者無情消滅的反烏托邦場景。

此外，他強(qiáng)調(diào)，談到減少人工通用智能的潛在危險時，這個領(lǐng)域的領(lǐng)導(dǎo)者是DeepMind。雖然，很明顯，這家公司不像政府領(lǐng)導(dǎo)的阿波羅計劃和曼哈頓計劃那樣需要接受官方審查，但它的運作也相當(dāng)透明。它傾向于發(fā)布自己的代碼，而它接受谷歌收購時的協(xié)議也包含了禁止將它的技術(shù)應(yīng)用于軍備或是智能應(yīng)用的條款。Hassabis和他的同事們在召開2015年波多黎各人工智能大會方面起到了重要的作用，并且簽署了公開信宣誓為“良好的目的”而使用技術(shù)，同時“避免潛在的陷阱”。最近他們幫助協(xié)辦了另一場在紐約的會議，會議期間他們組建了被大肆報道的內(nèi)部倫理委員會和咨詢委員會（雖然是私下組建的）。“Hassabis對人工智能的安全性爭議了解得非常透徹，”Murray Shanahan說，“他當(dāng)然不是幼稚的人，也不會把頭埋在沙子里當(dāng)鴕鳥。”

“在鼓勵圍繞這些問題展開對話溝通這一方面，DeepMind一直是行業(yè)中的佼佼者，”Bostrom對此表示贊同，“并且在致力于進(jìn)行一些未來可能需要用于解決這些挑戰(zhàn)的研究方面也是如此。”

我讓Hassabis列出他認(rèn)為的未來主要的長期挑戰(zhàn)。“隨著這些系統(tǒng)變得越來越復(fù)雜，我們需要開始思考它們能怎樣做出優(yōu)化、能對什么做出優(yōu)化，”他回答道，“技術(shù)本身是中性的，但它是一個學(xué)習(xí)系統(tǒng)，所以，不可避免地，它們會帶有一些設(shè)計者的價值體系和文化背景的印記，所以我們對于價值觀的思考必須非常謹(jǐn)慎小心。”

關(guān)于超級智能問題，他說：“我們需要確保設(shè)定的目標(biāo)是正確指明的，并且其中沒有任何模棱兩可的東西，隨著時間推移也依舊穩(wěn)定。但在我們所有的系統(tǒng)中，最高級的目標(biāo)仍然要由它的設(shè)計者們指定。系統(tǒng)可能會得出自己的方法來實現(xiàn)這個目標(biāo)，但是它自己是不會創(chuàng)造一個自己的目標(biāo)的。”

他用毫無動搖的語調(diào)寬慰我。“看，這些都是既有趣又困難的挑戰(zhàn)。隨著配備上所有新穎強(qiáng)大的技術(shù)，人工智能需要被負(fù)責(zé)地、符合倫理地使用，而這就是為什么我們現(xiàn)在正積極地呼吁對這個問題展開辯論和研究，那么當(dāng)時候到來時，我們才會準(zhǔn)備充足。”

什么時候到來？機(jī)器變得超級智能的時候，還是它們超越人類的時候？他笑了起來，“不，不，不，我指的是還要在那些之前！”（我覺得他是在開玩笑，盡管在2011年，他的同事Shane Legg的確說過：“我認(rèn)為人類滅絕這件事可能會發(fā)生，而技術(shù)有可能在其中發(fā)揮不小的作用。”）Hassabis澄清道：“我的意思是，當(dāng)這些系統(tǒng)強(qiáng)大到不只是會玩游戲時，我們放任它們處理更現(xiàn)實、更重要的事，比如醫(yī)療。然后我們需要確保我們知道它們將會有怎樣的能力。”他對我露齒一笑：“那將會阻止機(jī)器掌管世界的情景成真。”

Hassabis經(jīng)常微笑。他待人友好，言辭讓人信服。他所說的一切似乎都很有道理，并不自以為是，而且誰知道呢：說不定人工通用智能將一直處于在我們的控制之下。但是許多人仍持懷疑的態(tài)度。“顯然，如果存在一個任何方面都大大超過人類的數(shù)字智能，‘助手’這個詞就不是一個正確的描述了。”Elon Musk反對道，他最近將AI技術(shù)的進(jìn)步描繪成人類“正在召喚一個惡魔”。這位SpaceX的創(chuàng)始人、Tesla和PayPal的聯(lián)合創(chuàng)始人，曾經(jīng)是DeepMind最早的投資者之一，但他投資DeepMind不是為了獲得金錢上的回報。“我的投資并不是為了投資所帶來的經(jīng)濟(jì)利益，”他在加利福尼亞州的辦公室中這樣對我說，“我投資DeepMind的原因僅僅是因為想對AI的進(jìn)展與威脅有更好的理解。如果我們對AI不夠小心，讓一些不好的事情發(fā)生了，到那時銀行存款將變得毫無意義。”

“Elon是這個行業(yè)里最聰明的人之一，并且有著驚人的溝通能力，”Hassabis態(tài)度中立地回應(yīng)道，“而且我真的認(rèn)為，像他這樣的人正在如此關(guān)注AI，是一件很酷的事情，因為這恰恰顯示了AI是一件大事。”他保持著外交辭令般的回應(yīng)，但是來自其他領(lǐng)域的科學(xué)家放肆地公開對AI下斷言這樣的事確實激怒了他：畢竟，你沒有聽到過他對粒子物理學(xué)指手畫腳。

“總體來說，我發(fā)現(xiàn)了那些不真正在AI領(lǐng)域工作的人對于AI的理解都是不完全的。他們通常都沒有與許多AI專家交談過，所以他們腦袋里的思想實驗總是把他們帶偏，因為這些想法都是基于一些我認(rèn)為即將被證明是錯誤的假設(shè)。”他又再一次提到，他組織的內(nèi)部倫理委員會和咨詢委員會——其中都是來自各個科學(xué)和哲學(xué)領(lǐng)域的頂尖學(xué)者——將會管理未來任何的人工通用智能技術(shù)的應(yīng)用。他毫不動搖地堅持現(xiàn)階段不公開進(jìn)程的決定。“之前沒有任何人嘗試做過類似的東西，所以在我們對于公眾揣測我們在Twitter或者其他什么東西上做了什么能有額外的審查之前，我們還有許多事情需要探索，從第一天就要開始。”這個初始階段，他說，是關(guān)于“給每個人提供最新的消息，這樣下一階段我們才能準(zhǔn)備好討論實際的算法和應(yīng)用。對于許多參與其中的人來說，這不是他們的核心領(lǐng)域。我們需要他們的專業(yè)知識，但是他們必須弄清楚將會發(fā)生什么事。”

史蒂芬霍金作為一個“得到最新消息”意味著什么的榜樣，被人引以為鑒。Hassabis最近邀請霍金在劍橋大學(xué)進(jìn)行私人會談。“僅僅是見到他對于我來說就顯然是巨大的榮耀了，” Hassabis興奮地說著，拿出手機(jī)——無論他的新東家怎么看，Hassabis仍然是霍金的擁躉——向我展示了他和霍金的自拍合照。“我們本來只安排了1個小時的時間，但是他提出了那么多的問題，以至于我們最后談了4個小時。他錯過了午餐，所以他的陪同人員不大喜歡我。”

在他們的會面之后，Hassabis指出，霍金沒有再在媒體報道時提及“任何關(guān)于AI的有煽動性的言論”；最令人驚訝的是，在他上個月的BBC Reith講座上，他所列出的他認(rèn)為將會對人類產(chǎn)生威脅的列表上沒有將AI技術(shù)。“可能聽到更多關(guān)于實用性、更多關(guān)于我們可能建立的真實的系統(tǒng)，以及我們對這些系統(tǒng)能夠有的監(jiān)察和控制的討論，的確起到了作用。” Hassabis大膽地猜想道。他環(huán)顧這間有許多布滿了難以辨認(rèn)的字跡的白板的屋子。“一旦你理解了工程，這一切看上去就變得好理解多了，也合理得多了。”

很明顯，我沒有希望做到這一點，但是他真的相信霍金轉(zhuǎn)變了思想嗎？“我想，在談話的最后，是的，他寬慰了不少。他擁有這種好笑的、干巴巴的幽默感，在我離開之前，我對他說，‘所以你怎么想呢？’，然后他把打出了這樣的字，‘我祝你好運’。隨后，他眼里閃爍著的光芒，又補(bǔ)充道，‘但是不要太多。’”Demis Hassabis給了我一個勝利的微笑，說到：“我當(dāng)時想，‘我會把這當(dāng)做是勝利的宣告’。”