Demis Hassabis：AI 的強(qiáng)大，超乎想象
發(fā)布人：傳感器技術(shù)
時(shí)間：2022-08-15
來源：工程師
發(fā)布文章
加入技術(shù)交流群
掃碼加入
和技術(shù)大咖面對(duì)面交流
海量資料庫(kù)查詢
1
從游戲到 AILex Fridman：你是從什么時(shí)候開始喜歡上編程的？Demis Hassabis：我大約4歲開始下棋，8歲時(shí)用在一場(chǎng)國(guó)際象棋比賽中獲得的獎(jiǎng)金買了我的第一臺(tái)電腦，一臺(tái)zx spectrum，后面我買了關(guān)于編程的書。我在一開始用電腦制作游戲時(shí)就愛上了計(jì)算機(jī)，覺得它們非常神奇，是自己思想的延伸，你可以讓它們做一些任務(wù)，隔天睡醒回來時(shí)它就已經(jīng)解決了。當(dāng)然，所有機(jī)器在某種程度上都能做到這一點(diǎn)，增強(qiáng)我們的自然能力，例如汽車讓我們的移動(dòng)速度超過奔跑速度。但人工智能是機(jī)器能夠做所有學(xué)習(xí)的最終表現(xiàn)，因此，我的想法也很自然地延伸到了人工智能。Lex Fridman：你是什么時(shí)候愛上人工智能的呢？什么時(shí)候開始了解到，它不只可以在睡覺的時(shí)候?qū)懗绦?/strong>、做數(shù)學(xué)運(yùn)算，還可以執(zhí)行比數(shù)學(xué)運(yùn)算更復(fù)雜的任務(wù)？Demis Hassabis：大概可以分為幾個(gè)階段。我是青少年國(guó)際象棋隊(duì)的隊(duì)長(zhǎng)，在大概10歲、11歲的時(shí)候打算成為一名職業(yè)棋手，這是我的第一個(gè)夢(mèng)想。12歲時(shí)我達(dá)到大師級(jí)的水平，是世界上排名第二的棋手，僅次于Judith Pologer。當(dāng)我試圖提高棋藝，首先需要提高自己的思維過程，思考大腦是如何想出這些想法的？它為什么會(huì)犯錯(cuò)？怎樣才能改善這個(gè)思維過程？就像80年代早期和中期的國(guó)際象棋計(jì)算機(jī)，我已經(jīng)習(xí)慣了有一個(gè) Kasparov 的品牌版本，雖然不像今天那么強(qiáng)大，但也可以通過與其練習(xí)來達(dá)到提高的目的。當(dāng)時(shí)我想，這真是太神奇了，有人把這個(gè)棋盤編成程序來下象棋。我買了一本 David Levy 在1984年出版的《國(guó)際象棋計(jì)算機(jī)手冊(cè)》，這是本非常有意義的書，讓我可以充分了解國(guó)際象棋程序是如何制作的。
圖注：Kasparov，前蘇聯(lián)、俄羅斯職業(yè)國(guó)際象棋棋手，國(guó)際象棋特級(jí)大師我的第一個(gè)人工智能程序是由我的Amiga編程的，我寫了一個(gè)程序來玩奧賽羅逆向思維，這是一個(gè)比國(guó)際象棋稍微簡(jiǎn)單的游戲，但我在當(dāng)中使用了國(guó)際象棋程序的所有原則，即α-β搜索等。第二個(gè)階段是在我16、17歲左右時(shí)設(shè)計(jì)的一個(gè)叫 "主題公園 "的游戲，其中涉及到 AI 在游戲中模擬，盡管以今天的 AI 標(biāo)準(zhǔn)來看它很簡(jiǎn)單，但它會(huì)對(duì)你作為玩家的游戲方式做出反應(yīng)，因此它也被稱為沙盒游戲。Lex Fridman：可否說一些你同 AI 的關(guān)鍵聯(lián)系？在游戲中創(chuàng)建 AI 系統(tǒng)需要什么？Demis Hassabis：在我還是個(gè)孩子時(shí)就在游戲中訓(xùn)練自己，后面經(jīng)歷了一個(gè)設(shè)計(jì)游戲和編寫 AI for 游戲的階段。我90年代寫的所有游戲，都以人工智能為核心組成部分。之所以在游戲行業(yè)這么做，是因?yàn)楫?dāng)時(shí)我認(rèn)為游戲行業(yè)是技術(shù)的最前沿，像 John Carmack 和 Quake，好像都是在游戲中進(jìn)行的。我們?nèi)栽趶漠?dāng)中獲取好處，像GPU，是為計(jì)算機(jī)圖形而發(fā)明的，但后來被發(fā)現(xiàn)對(duì) AI 有重要作用。所以當(dāng)時(shí)我認(rèn)為，游戲中擁有最前沿的人工智能。早期我參與過一個(gè)叫"黑白"的游戲，它是強(qiáng)化學(xué)習(xí)在計(jì)算機(jī)游戲中應(yīng)用最深刻的例子。你可以在游戲中訓(xùn)練一個(gè)小寵物，它會(huì)從你對(duì)待它的方式中進(jìn)行學(xué)習(xí)，如果你對(duì)它不好，那它就會(huì)變得刻薄，并對(duì)你的村民和你所管理的小部落刻薄。但如果你善待它，它也會(huì)變得善良。Lex Fridman：游戲對(duì)善與惡的映射讓我意識(shí)到，你可以通過你所做的選擇來確定結(jié)局。游戲可以帶來這種哲學(xué)意義。Demis Hassabis：我認(rèn)為游戲是一種獨(dú)特的媒介，作為玩家并不僅僅是被動(dòng)地消費(fèi)娛樂，實(shí)際上，你是作為一個(gè)代表積極參與的。所以我認(rèn)為這就是游戲在某些方面比其他媒介，例如電影和書籍等更有內(nèi)涵的原因。從一開始我們就對(duì) AI 進(jìn)行了深入的思考，將游戲作為證明和開放 AI 算法的試驗(yàn)場(chǎng)。這也是 Deepmind 最初使用大量游戲作為主要測(cè)試平臺(tái)的原因，因?yàn)橛螒蚍浅８咝?，也很容易有指?biāo)來查看 AI 系統(tǒng)是如何改進(jìn)的，思考的方向，以及是否在做漸進(jìn)式地改進(jìn)。Lex Fridman：假設(shè)我們不能制造一臺(tái)能在國(guó)際象棋中擊敗人類的機(jī)器，那么人們會(huì)認(rèn)為，由于組合的復(fù)雜性，圍棋是一個(gè)無法破解的游戲。但最終，AI 研究者造出了這臺(tái)機(jī)器，人類才意識(shí)到，我們沒有想象中那么聰明。Demis Hassabis：這是一段有趣的思考旅程，尤其是當(dāng)我從兩個(gè)角度（AI 創(chuàng)造者與游戲玩家）來理解時(shí)，更覺得神奇，同時(shí)又有點(diǎn)苦樂參半的感覺。Kasparov 將國(guó)際象棋稱為智能“果蠅”，我蠻喜歡這個(gè)形容，因?yàn)閲?guó)際象棋從一開始就與 AI 密切相關(guān)。我認(rèn)為每一位 AI 實(shí)踐者，包括圖靈和香農(nóng)，以及這一領(lǐng)域的所有先輩們，都嘗試過編寫一個(gè)國(guó)際象棋程序。香農(nóng)在1949年寫了第一個(gè)關(guān)于國(guó)際象棋的程序文檔，圖靈也曾寫過一個(gè)著名的國(guó)際象棋程序，但由于計(jì)算機(jī)太慢無法運(yùn)行，因此他用鉛筆和紙來手動(dòng)運(yùn)行程序，跟朋友一起玩。DeepBlue 的出現(xiàn)是一個(gè)重要的時(shí)刻，它結(jié)合了我喜歡的所有東西，包括國(guó)際象棋、計(jì)算機(jī)和人工智能。1996年，它打敗了 Garry Kasparov。在那之后，我對(duì) Kasparov 頭腦的印象比對(duì) DeepBlue 印象更深，因?yàn)?Kasparov 是人類的頭腦，他不僅可以與計(jì)算機(jī)在下棋方面達(dá)到同一水平，Kasparov 也可以做人類能做的一切，比如騎自行車、說多國(guó)語言、參與政治活動(dòng)等等。DeepBlue 雖然在國(guó)際象棋中有過輝煌時(shí)刻，但它實(shí)際上是將國(guó)際象棋大師的知識(shí)提煉成一個(gè)程序，無法做其他任何事情。因此我認(rèn)為該系統(tǒng)中缺少了一些智能的東西，這也是我們嘗試做 AlphaGo 的原因。Lex Fridman：讓我們簡(jiǎn)單地談?wù)剣?guó)際象棋中關(guān)于人類的一面。你從游戲設(shè)計(jì)的角度提出，象棋之所以吸引人是因?yàn)樗怯螒?。能否解釋一下，在bishop（國(guó)際象棋中的“象”）和knight（國(guó)際象棋中的“馬”）之間是否存在一種創(chuàng)造性的張力？是什么讓游戲具有吸引力，并且能跨越幾個(gè)世紀(jì)？Demis Hassabis：我也在思考這個(gè)問題。實(shí)際上很多優(yōu)秀的象棋玩家并不一定是從游戲設(shè)計(jì)師的角度去思考這個(gè)問題。為什么國(guó)際象棋如此吸引人？我認(rèn)為一個(gè)關(guān)鍵的原因是不同棋位的動(dòng)態(tài)，你可以分辨出它們是封閉的還是開放的，想一下象和馬的移動(dòng)方式有多么不同，而后國(guó)際象棋在已經(jīng)進(jìn)化到平衡這二者的程度，大致都是3分。
Lex Fridman：所以你認(rèn)為動(dòng)態(tài)總是存在的，而剩下的規(guī)則是試圖穩(wěn)定游戲。Demis Hassabis：也許這有點(diǎn)像雞生蛋還是蛋生雞的情況，但二者達(dá)到一種美麗的平衡，象和馬和騎士權(quán)力不同，但在整個(gè)宇宙的位置中其價(jià)值是相等的。過去的幾百年里，它們一直被人類所平衡，我認(rèn)為這賦予了游戲創(chuàng)造性的張力。Lex Fridman：你認(rèn)為 AI 系統(tǒng)能吸引人類去設(shè)計(jì)游戲嗎?Demis Hassabis：這是個(gè)有趣的問題。如果把創(chuàng)造力定義為想出一些原創(chuàng)的、對(duì)某個(gè)目的有用的東西，那么最低水平的創(chuàng)造力就像一個(gè)插值表達(dá)，基礎(chǔ)的 AI 系統(tǒng)都具備這樣的能力。給它看數(shù)百萬張貓的照片，然后給我一只普通的貓，這個(gè)被稱之為插值。還有像 AlphaGo，它可以推斷。AlphaGo 與自己對(duì)弈了數(shù)百萬場(chǎng)后想出了一些非常棒的新點(diǎn)子，比如在對(duì)弈中走37步，提供了一個(gè)人類從未想到的策略，盡管我們已經(jīng)玩了上百數(shù)千年。在此之上還有一個(gè)層次，就是能否跳出思維定式做真正的創(chuàng)新。你能發(fā)明象棋，而不是想出一個(gè)棋步么？是否能發(fā)明國(guó)際象棋、或其他和國(guó)際象棋或圍棋一樣的東西？我認(rèn)為有一天 AI 可以做到，而現(xiàn)在的問題是如何給一個(gè)程序指定這個(gè)任務(wù)。我們還不能把高層次抽象概念具體到人工智能系統(tǒng)中，它們?cè)谡嬲斫飧邔哟蔚母拍罨虺橄蟾拍罘矫嫒匀蝗鄙僖恍〇|西。就目前而言，它們可以組合和構(gòu)成，AI 能夠做插值和推斷，但都不是真正的發(fā)明。Lex Fridman：提出規(guī)則集并優(yōu)化，圍繞這些規(guī)則集制定復(fù)雜的目標(biāo)，是我們目前無法做到的。但是否可以采用一個(gè)特定的規(guī)則集并運(yùn)行，觀察 AI 系統(tǒng)從頭開始學(xué)習(xí)的時(shí)間有多長(zhǎng)？Demis Hassabis：實(shí)際上我考慮過，這對(duì)于游戲設(shè)計(jì)師來說是驚人的。如果有一個(gè)系統(tǒng)拿你的游戲玩上千萬次，也許一夜之間就能實(shí)現(xiàn)自動(dòng)平衡規(guī)則?？梢酝ㄟ^方程或參數(shù)來調(diào)整游戲中的單位或規(guī)則，使游戲更平衡。這有點(diǎn)像給出一個(gè)基本集，通過蒙特卡羅方法搜索或類似的方法來探索，那將是超級(jí)強(qiáng)大的工具。而為了自動(dòng)平衡，通常需要從數(shù)百場(chǎng)比賽中訓(xùn)練數(shù)千小時(shí)，平衡像星際爭(zhēng)霸、暴雪等這樣的游戲是令人震驚的，這需要測(cè)試人員年復(fù)一年的時(shí)間。所以可以想象，當(dāng)某個(gè)時(shí)刻這些東西變得足夠有效，你可能會(huì)想在一夜之間做到。Lex Fridman：你認(rèn)為我們是生活在模擬（Simulation）中嗎？Demis Hassabis：是的。Nick Bostrom 首次提出了著名的模擬理論，但我不太相信它。從某種意義上說，我們是在某種電腦游戲中，或者我們的后代以某種方式在 21 世紀(jì)重塑地球。理解物理學(xué)和宇宙的最佳方式是從計(jì)算的角度將其理解為信息宇宙，實(shí)際上，信息是現(xiàn)實(shí)的最基本單位。與物質(zhì)或能量相比，物理學(xué)家會(huì)說 E=mc2，這是宇宙的基礎(chǔ)。但我認(rèn)為，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物質(zhì)正確的物質(zhì)。因此可以說我們處于某種模擬中。但我不同意這些想法丟棄數(shù)十億個(gè)模擬。Lex Fridman：基于你對(duì)通用術(shù)語機(jī)器的理解、對(duì)計(jì)算機(jī)的理解，你認(rèn)為宇宙中存在計(jì)算機(jī)能力之外的東西嗎？你并不認(rèn)同 Roger Penrose （數(shù)學(xué)物理學(xué)家）的意見？Demis Hassabis： Roger Penrose 很有名，曾參與過許多精彩的辯論，我讀過他的經(jīng)典著作《皇帝新腦》，他解釋大腦中的意識(shí)還需要更多量子的東西。我工作中也一直在思考我們正在做什么，實(shí)際上，我們正將圖靈機(jī)或經(jīng)典計(jì)算推向極限。經(jīng)典計(jì)算的極限是什么？我也研究了神經(jīng)科學(xué)，這是我博士選擇這一方向的原因，從神經(jīng)科學(xué)或生物學(xué)的角度來看大腦中是否有量子存在。到目前為止，大多數(shù)神經(jīng)科學(xué)家和生物學(xué)家會(huì)說，沒有證據(jù)表明大腦中有任何量子系統(tǒng)或效應(yīng)，大多可以用經(jīng)典理論和生物學(xué)方面的知識(shí)來解釋。但與此同時(shí)，從圖靈機(jī)可以做的事情開始，包括 AI 系統(tǒng)，這個(gè)過程是一直在進(jìn)行的，尤其是在過去的十年里。我不敢打****通用圖靈機(jī)和經(jīng)典計(jì)算范式能走多遠(yuǎn)，但大腦中發(fā)生的事情或許可以在機(jī)器上模仿，而不需要形而上學(xué)或量子的東西。2
Al for scienceLex Fridman：下面我們談?wù)?AlphaFold，你認(rèn)為人類思維都來自于這種類似神經(jīng)網(wǎng)絡(luò)的、生物的計(jì)算糊狀物，而非直接在精神上工作？Demis Hassabis： 在我看來，宇宙中最大的奇跡就是我們頭骨里只有幾磅的糊狀物，它也是大腦和目前所知宇宙中最復(fù)雜的物體。我認(rèn)為這是一臺(tái)令人驚奇的高效機(jī)器，這也是我一直想構(gòu)建 AI 的原因之一。通過構(gòu)建像 AI 這樣的智能體，將其與人類思維進(jìn)行比較，或能幫助我們歷史以來一直想知道的心靈的獨(dú)特性，和真正的秘密、意識(shí)、做夢(mèng)、創(chuàng)造力、情感等一切事物。現(xiàn)在有了大量的工具來實(shí)現(xiàn)這件事。所有的神經(jīng)科學(xué)工具、FMI機(jī)器都可以記錄，也有 AI 計(jì)算能力可以建立智能系統(tǒng)。人類思維所能做的事情令人驚訝，人類創(chuàng)造了像計(jì)算機(jī)這樣的東西，并思考和研究這些問題，也都是對(duì)人類頭腦的證明，有助于我們更清晰地了解宇宙和人類的思想。甚至可以說，我們或許是宇宙嘗試和理解自己美麗的機(jī)制所在。從另一個(gè)角度看，生物學(xué)的基本構(gòu)件也可以用于理解人類思想和身體，從基本構(gòu)建開始模擬和建立模型是件很神奇的事情，你可以構(gòu)建越來越大的、更復(fù)雜的系統(tǒng)，甚至是整個(gè)人類生物學(xué)。還有一個(gè)被認(rèn)為不可能解決的問題，就是蛋白質(zhì)折疊，而 AlphaFold 解決了蛋白質(zhì)折疊問題，這是結(jié)構(gòu)生物學(xué)史上最大的突破之一。蛋白質(zhì)是所有生命都必不可少的，身體每一個(gè)功能都依賴于蛋白質(zhì)。蛋白質(zhì)由它們的基因序列（也被稱為氨基酸序列）指定，可以將其視為它們的基本構(gòu)件。它們會(huì)在身體中、在自然界中折疊成一個(gè)三維結(jié)構(gòu)，這個(gè)三維結(jié)構(gòu)決定了它在身體中的功能。此外，如果你對(duì)****物或疾病感興趣，想用一種****物化合物來阻斷蛋白質(zhì)的作用，前提是要了解蛋白質(zhì)表面結(jié)合點(diǎn)的三維結(jié)構(gòu)。
圖注：2021年7月，DeepMind 首次通過與歐洲分子生物學(xué)實(shí)驗(yàn)室（EMBL）合作建立的數(shù)據(jù)庫(kù)公開發(fā)布 AlphaFold 預(yù)測(cè)結(jié)果，初始數(shù)據(jù)庫(kù)包含了所有人類蛋白質(zhì)的98%Lex Fridman：蛋白質(zhì)折疊問題的本質(zhì)是，你能從氨基酸序列中得到一維的字母串嗎？能通過計(jì)算立即預(yù)測(cè)出三維結(jié)構(gòu)嗎？這是50多年來生物學(xué)界的一個(gè)重大挑戰(zhàn)。1972年的諾貝爾獎(jiǎng)獲得者 Christian Anfinsen 首次闡述，他推測(cè)，從氨基酸序列到三維結(jié)構(gòu)是可以實(shí)現(xiàn)的。Demis Hassabis： Christian Anfinsen 的這句話開啟了整個(gè)計(jì)算生物學(xué)的50個(gè)邊緣領(lǐng)域，他們被困在當(dāng)中、并沒有完成得很好。在 AlphaFold 出現(xiàn)之前，這都是通過實(shí)驗(yàn)來完成的，讓蛋白質(zhì)結(jié)晶是件非常困難的事情，有些蛋白質(zhì)不能像膜蛋白那樣結(jié)晶，必須使用昂貴的電子顯微鏡或X射線晶體分析儀，才能得到三維結(jié)構(gòu)并將其結(jié)構(gòu)可視化。有了 AlphaFold 后，兩個(gè)人就能在幾秒鐘內(nèi)預(yù)測(cè)出三維結(jié)構(gòu)。Lex Fridman：有一個(gè)數(shù)據(jù)集，它在這個(gè)數(shù)據(jù)集上進(jìn)行訓(xùn)練，以及如何映射氨基酸。令人難以相信的是，這個(gè)小的化學(xué)計(jì)算機(jī)能以某種分布式方法來計(jì)算，且算得非?？臁?/strong>Demis Hassabis： 或許我們?cè)撚懻撘幌律钠鹪?。?shí)際上，蛋白質(zhì)本身是一個(gè)神奇的小生物和動(dòng)物機(jī)器。提出列文塔爾悖論的科學(xué)家 Cyrus Levinthal 大致計(jì)算了一下，一般的蛋白質(zhì)可能有2000個(gè)氨基酸堿基長(zhǎng)，可以有10到300種不同的蛋白質(zhì)折疊方式。而在自然界中，物理學(xué)以某種方式解決了這個(gè)問題，蛋白質(zhì)會(huì)在幾毫秒、或是一秒的時(shí)間內(nèi)，在你的身體中折疊起來。Lex Fridman：該序列有獨(dú)特的方式來自我形成，它找到了一種在巨大可能性中保持穩(wěn)定的方式。某些情況下可能會(huì)出現(xiàn)功能失調(diào)等情況，但大多時(shí)候是獨(dú)特的映射，而這種映射并不明顯。Demis Hassabis：如果是健康通常有一個(gè)獨(dú)特的映射，那患病時(shí)，究竟問題出在哪里。例如，曾經(jīng)有一個(gè)對(duì)阿爾茨海默氏癥的猜想是，因?yàn)橐藻e(cuò)誤的方式折疊 β-淀粉樣蛋白導(dǎo)致折疊錯(cuò)位，以至于在神經(jīng)元中糾纏在一起。因此，要了解健康、功能和疾病，就需要了解它們是如何結(jié)構(gòu)化的，知道這些東西在做什么超級(jí)重要。下一步是當(dāng)?shù)鞍踪|(zhì)與某些東西相互作用時(shí)，它們會(huì)改變形狀。因此在生物學(xué)中，它們不一定是靜態(tài)的。Lex Fridman：或許你可以給出一些解決 AlphaFold 的方法，與游戲不同，這是真正的物理系統(tǒng)。這當(dāng)中什么是非常難解決的？有哪些跟解決方案是相關(guān)的？Demis Hassabis：AlphaFold 是迄今為止我們構(gòu)建的最復(fù)雜、可能也是最有意義的系統(tǒng)。我們起初構(gòu)建的 AlphaGo 和 AlphaZero 都是與游戲相關(guān)，但最終目標(biāo)不僅僅是破解游戲，而是使用它們來引導(dǎo)通用學(xué)習(xí)系統(tǒng)，并應(yīng)對(duì)現(xiàn)實(shí)世界的挑戰(zhàn)。我們更多是希望致力于像蛋白質(zhì)折疊這樣的科學(xué)挑戰(zhàn)，AlphaFold 是我們的第一個(gè)重要證明點(diǎn)。就數(shù)據(jù)來說，創(chuàng)新數(shù)量大概需要30多種不同的組成算法，放在一起來破解蛋白質(zhì)折疊。一些重大的創(chuàng)新是圍繞物理學(xué)和進(jìn)化生物學(xué)，建立了硬編碼來約束像蛋白質(zhì)中鍵角之類的東西，但不會(huì)影響學(xué)習(xí)系統(tǒng)，因此，系統(tǒng)仍能從案例中學(xué)習(xí)物理。假設(shè)只有大約15萬個(gè)蛋白質(zhì)，即使經(jīng)過40年的實(shí)驗(yàn)，也大概只有約5萬種蛋白質(zhì)結(jié)構(gòu)會(huì)被發(fā)現(xiàn)。訓(xùn)練集比通常使用的數(shù)據(jù)量要少得多，但當(dāng)中使用了像自我提取等各種技巧。因此，使用 AlphaFold 做一些非常有信心的預(yù)測(cè)時(shí)，將其放回訓(xùn)練集中使訓(xùn)練集更大，對(duì) AlphaFold 工作至關(guān)重要。實(shí)際上，為了解決這個(gè)問題，需要進(jìn)行大量的創(chuàng)新，AlphaFold 產(chǎn)生的是一個(gè)直方圖，一種蛋白質(zhì)中所有分子之間的成對(duì)距離的矩陣，它們必須是一個(gè)單獨(dú)的優(yōu)化過程來創(chuàng)建三維結(jié)構(gòu)。要使 AlphaFold 真正地從端到端，可直接從氨基酸的堿基序列到三維結(jié)構(gòu)，跳過中間步驟。從機(jī)器學(xué)習(xí)中也可以發(fā)現(xiàn)，越是端到端，就越能使系統(tǒng)變得更好，系統(tǒng)比人類設(shè)計(jì)者更善于學(xué)習(xí)約束條件。在這種情況下，三維結(jié)構(gòu)要比有中間步驟更好，因?yàn)槟潜仨毷止みM(jìn)入下個(gè)步驟。最好的辦法是讓梯度和學(xué)習(xí)一直流經(jīng)系統(tǒng)，從終點(diǎn)到想要的最終輸出，再到輸入。Lex Fridman：關(guān)于 AlphaFold 的設(shè)想，那或許是生物學(xué)中一個(gè)漫長(zhǎng)旅程的早期步驟，你認(rèn)為同樣的方法是否預(yù)測(cè)更復(fù)雜的生物系統(tǒng)的結(jié)構(gòu)和功能、多蛋白質(zhì)相互作用；其作為一個(gè)起點(diǎn)，能模擬越來越大的系統(tǒng)，最終模擬像人的大腦、人體這樣的東西嗎？你認(rèn)為這是一個(gè)長(zhǎng)期的愿景嗎？Demis Hassabis：當(dāng)然，一旦我們有了足夠強(qiáng)大的生物學(xué)系統(tǒng)，治療疾病和理解生物學(xué)就是我的 To Do List 上的首要任務(wù)，這也是我親自推動(dòng) AlphaFold 的原因之一，AlphaFold 只是一個(gè)開始。AlphaFold 解決了蛋白質(zhì)結(jié)構(gòu)這個(gè)巨大的問題，但生物學(xué)是動(dòng)態(tài)的，我們所研究的所有東西都是蛋白質(zhì)液體結(jié)合。與分子發(fā)生反應(yīng)，搭建通路，最終形成一個(gè)虛擬細(xì)胞，那是我的夢(mèng)想。我一直同很多生物學(xué)朋友交談，其中就包括了克里克研究所的生物學(xué)家 Paul Nurse。對(duì)生物學(xué)和疾病發(fā)現(xiàn)來說，構(gòu)建一個(gè)虛擬細(xì)胞是不可思議的，因?yàn)槟憧梢栽谔摂M細(xì)胞上進(jìn)行大量實(shí)驗(yàn)，最后階段再進(jìn)入實(shí)驗(yàn)室來驗(yàn)證。就發(fā)現(xiàn)新****而言，從確定目標(biāo)到擁有一個(gè)候選****物大約需要10年時(shí)間，如果能在虛擬細(xì)胞中完成大部分工作，或許可以將時(shí)間縮短一個(gè)數(shù)量級(jí)。為了實(shí)現(xiàn)虛擬細(xì)胞，必須建立對(duì)生物學(xué)不同部分相互作用的理解。每隔幾年，我們就會(huì)與跟 Paul 談?wù)撨@個(gè)問題。去年在 AlphaFold 之后，我說現(xiàn)在終于是我們可以去做的時(shí)候了，Paul 非常激動(dòng)。我們與他的實(shí)驗(yàn)室有一些合作。在 AlphaFold 的基礎(chǔ)上，相信生物學(xué)會(huì)有一些驚人的進(jìn)步，目前也可以看到，在 AlphaFold 開源之后已經(jīng)有社區(qū)在做了。我認(rèn)為有一天，人工智能系統(tǒng)可能會(huì)解決像廣義相對(duì)論這樣的問題，而不僅僅是通過對(duì)互聯(lián)網(wǎng)或公共醫(yī)療上的內(nèi)容進(jìn)行處理。這將非常有趣，看它會(huì)能夠想出什么。這有點(diǎn)像我們之前關(guān)于創(chuàng)造力發(fā)明圍棋的辯論，不是僅僅想出一個(gè)好的圍棋動(dòng)作。如果想要獲得像諾貝爾獎(jiǎng)的獎(jiǎng)項(xiàng)，那它需要做的是發(fā)明圍棋，而不是由人類科學(xué)家或創(chuàng)造者來指定。Lex Fridman：很多人確實(shí)把科學(xué)看作是站在巨人的肩膀上，而問題是你在巨人的肩膀上真正達(dá)到了多少？也許它只是吸收了過去的不同類型的結(jié)果，最終以新的視角提供了突破性的想法。Demis Hassabis：這是一個(gè)很大的謎團(tuán)，我相信在過去十年甚至未來幾十年中，很多新的重大突破都會(huì)出現(xiàn)在不同學(xué)科領(lǐng)域的交叉點(diǎn)上，在這些看似不相干的領(lǐng)域之間會(huì)發(fā)現(xiàn)一些新的聯(lián)系。人們甚至可以認(rèn)為，深層思維是神經(jīng)科學(xué)思想和 AI 工程思想間的一種交叉學(xué)科。Lex Fridman：你有一篇論文是“通過深度強(qiáng)化學(xué)習(xí)對(duì)托卡馬克等離子體進(jìn)行磁控制”，所以你在尋求用深度強(qiáng)化學(xué)習(xí)來解決核聚變，做高溫等離子體的控制。你能解釋一下 AI 為什么最終能解決這個(gè)嗎？Demis Hassabis：過去的一兩年里，我們的工作非常有趣和看到了成效，我們啟動(dòng)了很多我的夢(mèng)想項(xiàng)目，這些是我多年來收集的同科學(xué)領(lǐng)域相關(guān)的項(xiàng)目。如果我們能參與推動(dòng)，或許能帶來具有變革性的影響，科學(xué)挑戰(zhàn)本身就是一個(gè)非常有趣的問題。目前，核聚變面臨許多挑戰(zhàn)，主要在物理、材料、科學(xué)和工程等方面，以及如何建造這些大規(guī)模的核聚變反應(yīng)堆并容納等離子體。我們與瑞士洛桑聯(lián)邦理工學(xué)院（EPFL）和瑞士技術(shù)研究所合作，他們有一個(gè)測(cè)試反應(yīng)器愿意讓我們使用。這是一個(gè)驚人的測(cè)試反應(yīng)堆，他們?cè)谏厦鎳L試各種相當(dāng)瘋狂的實(shí)驗(yàn)。而我們則看的是，當(dāng)進(jìn)入一個(gè)新領(lǐng)域如核聚變時(shí)，瓶頸問題是什么？從第一原理思考阻礙核聚變運(yùn)作的底層問題是什么？在這種情況下，血漿控制是完美的。這個(gè)等離子體有100萬℃，比太陽還熱，顯然沒有任何材料可以容納它。因此必須有非常強(qiáng)大的超導(dǎo)磁場(chǎng)，但問題是等離子體相當(dāng)不穩(wěn)定，就像在一個(gè)反應(yīng)堆中持有許多顆星，提前預(yù)測(cè)等離子體會(huì)做什么，你可以在幾百萬秒內(nèi)移動(dòng)磁場(chǎng)來控制它接下來會(huì)做什么。如果你把它看作是一個(gè)強(qiáng)化學(xué)習(xí)預(yù)測(cè)問題，這似乎很完美，有控制器，可以移動(dòng)磁場(chǎng)和切割，但此前用的是傳統(tǒng)的控制器。我希望有一種可控的規(guī)則是他們不能在當(dāng)下對(duì)等離子體做出反應(yīng)，必須是硬編碼的。Lex Fridman：AI 最終解決了核聚變。Demis Hassabis：去年我們?cè)凇蹲匀弧冯s志上發(fā)表了關(guān)于解決這個(gè)問題的論文，把等離子體固定在一個(gè)特定的形狀。實(shí)際上這幾乎就像是把等離子體雕刻成不同的形狀，控制它并保持在那里創(chuàng)紀(jì)錄的時(shí)間。這是核聚變的一個(gè)未解決的問題。把它包含在結(jié)構(gòu)中并保持，還有一些不同形狀更有利于能量的產(chǎn)生，稱為滴液等等，這是很重要的。我們正與許多核聚變初創(chuàng)公司溝通，看在核聚變領(lǐng)域可以解決的下一個(gè)問題是什么。Lex Fridman：論文標(biāo)題中還有一個(gè)迷人的地方，通過解決分?jǐn)?shù)電子問題來推動(dòng)密度函數(shù)的前沿。你能解釋一下這項(xiàng)工作嗎？AI 在未來能否對(duì)任意的量子力學(xué)系統(tǒng)進(jìn)行建模和模擬？Demis Hassabis：人們?cè)噲D寫出密度函數(shù)的近似值以及對(duì)電子云的描述，觀察兩個(gè)元素放在一起時(shí)如何相互作用。而我們?cè)噲D做的是學(xué)習(xí)一種模擬，學(xué)習(xí)一種能夠描述更多化學(xué)類型的化學(xué)函數(shù)。到目前為止，AI 可以運(yùn)行昂貴的模擬，但只能模擬非常小和非常簡(jiǎn)單的分子，我們無法做到模擬大型材料。因此要建立函數(shù)近似值來展示其方程后，描述電子在做什么，所有材料科學(xué)和性質(zhì)都是由電子如何相互作用來控制的。Lex Fridman：通過功能對(duì)模擬進(jìn)行總結(jié)來接近實(shí)際模擬出來的結(jié)果，這項(xiàng)任務(wù)的難度在于運(yùn)行復(fù)雜的模擬，學(xué)習(xí)從初始條件和模擬參數(shù)的映射任務(wù)，學(xué)習(xí)函數(shù)會(huì)是什么？Demis Hassabis：這很棘手，但好消息是我們已經(jīng)做到了，我們可以在計(jì)算集群上運(yùn)行大量的模擬，即分子動(dòng)力學(xué)模擬，由此產(chǎn)生了大量的數(shù)據(jù)。在這種情況下，數(shù)據(jù)是生成的。這就是為什么我們使用游戲模擬器來生成數(shù)據(jù)，因?yàn)榭梢噪S心所欲地創(chuàng)造出更多的數(shù)據(jù)。如果在云端有空閑的電腦，我們就可以運(yùn)行這些計(jì)算。3
AI 與人類Lex Fridman：你怎么理解生命起源？Demis Hassabis：我認(rèn)為 AI 的最終用途是將科學(xué)加速到極致。它有點(diǎn)像知識(shí)之樹。如果你想象這就是宇宙中要獲得的所有知識(shí)，但目前為止，我們幾乎只觸及了它的表面。AI 會(huì)加速這個(gè)過程，盡可能多地探索這棵知識(shí)樹。Lex Fridman：直覺告訴我，人類的知識(shí)之樹是非常小的，考慮到我們的認(rèn)知局限。即使有工具，我們?nèi)匀徊荒芾斫夂芏嗍虑椤＿@也許是非人類系統(tǒng)能夠走得更遠(yuǎn)的原因。Demis Hassabis：是的，很有可能。但首先，這是兩件不同的事情。就像我們今天理解了什么，人類的思想能理解什么，我們要理解的整體是什么，這里有三個(gè)同心，你可以把它們想象成三棵更大的樹，或者探索這棵樹的更多分支。有了 AI 后我們會(huì)探索更多。現(xiàn)在的問題是，如果你思考一下我們能理解的事物的總體是什么，可能有些事物不能被理解，比如模擬之外的事物，或宇宙之外的事物。Lex Fridman：因?yàn)槿祟惔竽X已經(jīng)習(xí)慣了這個(gè)有時(shí)間的三維世界的狀態(tài)。Demis Hassabis：但我們的工具可以超越這些。它們可以是11維，12維的。我經(jīng)常舉的例子是當(dāng)我和 Gary Kasparov 下棋時(shí)，我們討論過象棋之類的東西，如果你很擅長(zhǎng)下棋，你不能想 Gary 他的走法，但他可以給你解釋。你可以將其理解為事后推理。有一個(gè)進(jìn)一步的解釋，也許你不可能發(fā)明這個(gè)東西，但你可以理解和欣賞，就像你欣賞維瓦爾第或莫扎特一樣欣賞它的美。Lex Fridman：我想問一些更瘋狂的問題。比如，你認(rèn)為地球之外有外星文明嗎？Demis Hassabis：我個(gè)人的看法是，我們目前是孤獨(dú)的。我們已經(jīng)有各種天文望遠(yuǎn)鏡和其他探測(cè)技術(shù)，嘗試著在太空里尋找其他文明的信號(hào)，如果現(xiàn)在有許多外星文明在同時(shí)做這樣的事，那我們應(yīng)該聽到來自外太空的嘈雜聲音。可事實(shí)是，我們什么信號(hào)也沒收到。有很多人會(huì)爭(zhēng)辯說，世界上有外星文明，只是我們還沒有真正好好地去搜索，或者說我們找的波段錯(cuò)誤，也有可能使用了錯(cuò)誤的設(shè)備，我們沒有意識(shí)到外星人存在的形式非常不同，等等。但我不同意這些觀點(diǎn)，我們其實(shí)已經(jīng)做了很多探索了，如果真有那么多外星文明，那我們應(yīng)該早就發(fā)現(xiàn)了。有趣的是，如果地球是孤獨(dú)的文明，從大過濾器（Great Filters）的角度來看，這還挺令人欣慰，這意味著我們已經(jīng)通過大過濾器的篩選了。說回你剛才問的生命起源問題，生命起源于一些令人難以置信的事物，而且沒人知道這些事是怎么發(fā)生的。如果在地球以外的地方看到單細(xì)胞的某種生命形式，比如細(xì)菌，我不會(huì)感到驚訝。但就憑其能夠捕獲線粒體并將線粒體為我所用的這個(gè)能力，多細(xì)胞生命的出現(xiàn)的難度就是空前絕后的。
圖注：Demis Hassabis所提到的大過濾器理論Lex Fridman：你認(rèn)為需要有意識(shí)才能有真正的智能嗎?Demis Hassabis：我個(gè)人認(rèn)為，意識(shí)和智慧是雙重分離的，所以我們可以在沒有智慧的同時(shí)實(shí)現(xiàn)意識(shí)，反過來也一樣。舉個(gè)例子，很多動(dòng)物是有自我意識(shí)的，也會(huì)社交和做夢(mèng)，它們可以被定義為有一定的自我意識(shí)，但是它們沒有智慧。但同時(shí)，那些在某一任務(wù)上非常聰明的人工智能，它們會(huì)下象棋，或者執(zhí)行其他任務(wù)執(zhí)行得非常好，但是它們沒有任何的自我意識(shí)。Lex Fridman：前段時(shí)間谷歌的一個(gè)工程師認(rèn)為某個(gè)語言模型是有感知的，你遇到過有感知的語言模型嗎？如果一個(gè)系統(tǒng)出現(xiàn)了“感知”，你怎么理解這種情況？Demis Hassabis：我不覺得目前世界上的任何一個(gè) AI 系統(tǒng)是有意識(shí)或者有感知的，這是我每天與 AI 互動(dòng)的真實(shí)感受。所謂感知，更多是我們大腦自己的投射，由于那是一個(gè)語言模型，與智慧息息相關(guān)，所以人們就很容易把系統(tǒng)擬人化。這也是為什么我認(rèn)為圖靈測(cè)試有缺陷，因?yàn)樗⒂谌说姆磻?yīng)和判斷上。我們應(yīng)該和頂尖的哲學(xué)家談?wù)勔庾R(shí)，比如 Daniel Dennett 和 David Charmers，以及其他對(duì)意識(shí)有深刻思考的人。目前意識(shí)還沒有公認(rèn)的定義，如果讓我來說的話，我覺得意識(shí)的定義是，信息得到處理時(shí)帶來的感覺。Lex Fridman：讓我問一個(gè)黑暗的私人問題。你說創(chuàng)造一個(gè)世界上最強(qiáng)大的超級(jí)人工智能系統(tǒng)。正如老話所說，絕對(duì)權(quán)力導(dǎo)致腐敗，你也很有可能成為其中一員，因?yàn)槟闶?/strong>最有可能控制這個(gè)系統(tǒng)的人。你會(huì)考慮這些么?Demis Hassabis：我每時(shí)每刻都在思考有什么能對(duì)抗這種腐敗的防御措施。人類最大利益的工具或技術(shù)讓我們進(jìn)入一個(gè)激進(jìn)的世界，我們面臨著許多艱巨的挑戰(zhàn)。AI 可以幫助我們解決問題，最終使人類走向終極繁榮，甚至找到外星人。而 AI 的創(chuàng)造者，AI 所依賴的文化，AI 擁有的價(jià)值觀，AI 系統(tǒng)的構(gòu)建者都會(huì)影響它的發(fā)展。即使 AI 系統(tǒng)會(huì)自己學(xué)習(xí)，但其大部分知識(shí)也會(huì)帶有一定已有文化和創(chuàng)造者價(jià)值觀的殘留。不同的文化讓我們比以往任何時(shí)候都更加分裂，也許當(dāng)我們進(jìn)入了一個(gè)極度富足的時(shí)代以后，資源不那么稀缺了，我們就不需要激烈競(jìng)爭(zhēng)，而是可以轉(zhuǎn)向更好的合作。Lex Fridman：當(dāng)資源受到重大限制時(shí)，一些暴行就會(huì)發(fā)生。Demis Hassabis：資源稀缺是導(dǎo)致競(jìng)爭(zhēng)和破壞的原因之一，全人類都想生活在善良、安全的世界里，所以我們必須解決稀缺性的問題。但這還不足以達(dá)成和平，因?yàn)檫€有其他東西會(huì)產(chǎn)生腐敗。AI 不應(yīng)該任由僅僅一個(gè)人、或者一個(gè)組織來運(yùn)行。我認(rèn)為 AI 應(yīng)該屬于世界，屬于人類，每個(gè)人都應(yīng)該對(duì) AI 有發(fā)言權(quán)。Lex Fridman：你對(duì)高中生和大學(xué)生有什么建議嗎? 如果年輕人有從事 AI 的愿望，或者想以自己的力量影響這個(gè)世界，他們應(yīng)該如何獲得一份自己由衷感到自豪的職業(yè)？如何找到理想的生活？Demis Hassabis：我總喜歡對(duì)年輕人說兩句話，第一句話是，你真正的激情在何處？年輕人應(yīng)該去盡可能地探索這個(gè)世界。在人年輕時(shí)，我們有足夠多的時(shí)間，還能夠承擔(dān)探索帶來的風(fēng)險(xiǎn)。以自己獨(dú)特的方式去尋找事物之間的聯(lián)系，我認(rèn)為這是尋找激情所在的好方法。第二句話是，了解你自己。要花很多時(shí)間去了解自己最佳的工作方式是什么，最佳的工作時(shí)間是什么時(shí)候，最佳的學(xué)習(xí)方式是什么?，如何應(yīng)對(duì)壓力。年輕人應(yīng)該在不同的環(huán)境下測(cè)試自己，嘗試改進(jìn)自己的弱點(diǎn)，找出自己獨(dú)特的技能和優(yōu)勢(shì)，然后磨練它們，這些就是你以后在這個(gè)世界上的價(jià)值。如果你能把這兩件事結(jié)合起來，找到自己的激情所在，鍛煉出你自己獨(dú)特而強(qiáng)大的技能，那么你就會(huì)獲得不可思議的能量，給世界帶來巨大的改變。來源：學(xué)術(shù)頭條
*博客內(nèi)容為網(wǎng)友個(gè)人發(fā)布，僅代表博主個(gè)人觀點(diǎn)，如有侵權(quán)請(qǐng)聯(lián)系工作人員刪除。
