Demis Hassabis：AI 的強大，超乎想象
加入技術(shù)交流群
1
從游戲到 AILex Fridman：你是從什么時候開始喜歡上編程的？Demis Hassabis：我大約4歲開始下棋，8歲時用在一場國際象棋比賽中獲得的獎金買了我的第一臺電腦，一臺zx spectrum，后面我買了關(guān)于編程的書。我在一開始用電腦制作游戲時就愛上了計算機，覺得它們非常神奇，是自己思想的延伸，你可以讓它們做一些任務(wù)，隔天睡醒回來時它就已經(jīng)解決了。當(dāng)然，所有機器在某種程度上都能做到這一點，增強我們的自然能力，例如汽車讓我們的移動速度超過奔跑速度。但人工智能是機器能夠做所有學(xué)習(xí)的最終表現(xiàn)，因此，我的想法也很自然地延伸到了人工智能。Lex Fridman：你是什么時候愛上人工智能的呢？什么時候開始了解到，它不只可以在睡覺的時候?qū)懗绦?/strong>、做數(shù)學(xué)運算，還可以執(zhí)行比數(shù)學(xué)運算更復(fù)雜的任務(wù)？Demis Hassabis：大概可以分為幾個階段。我是青少年國際象棋隊的隊長，在大概10歲、11歲的時候打算成為一名職業(yè)棋手，這是我的第一個夢想。12歲時我達到大師級的水平，是世界上排名第二的棋手，僅次于Judith Pologer。當(dāng)我試圖提高棋藝，首先需要提高自己的思維過程，思考大腦是如何想出這些想法的？它為什么會犯錯？怎樣才能改善這個思維過程？就像80年代早期和中期的國際象棋計算機，我已經(jīng)習(xí)慣了有一個 Kasparov 的品牌版本，雖然不像今天那么強大，但也可以通過與其練習(xí)來達到提高的目的。當(dāng)時我想，這真是太神奇了，有人把這個棋盤編成程序來下象棋。我買了一本 David Levy 在1984年出版的《國際象棋計算機手冊》，這是本非常有意義的書，讓我可以充分了解國際象棋程序是如何制作的。
圖注：Kasparov，前蘇聯(lián)、俄羅斯職業(yè)國際象棋棋手，國際象棋特級大師我的第一個人工智能程序是由我的Amiga編程的，我寫了一個程序來玩奧賽羅逆向思維，這是一個比國際象棋稍微簡單的游戲，但我在當(dāng)中使用了國際象棋程序的所有原則，即α-β搜索等。第二個階段是在我16、17歲左右時設(shè)計的一個叫 "主題公園 "的游戲，其中涉及到 AI 在游戲中模擬，盡管以今天的 AI 標(biāo)準(zhǔn)來看它很簡單，但它會對你作為玩家的游戲方式做出反應(yīng)，因此它也被稱為沙盒游戲。Lex Fridman：可否說一些你同 AI 的關(guān)鍵聯(lián)系？在游戲中創(chuàng)建 AI 系統(tǒng)需要什么？Demis Hassabis：在我還是個孩子時就在游戲中訓(xùn)練自己，后面經(jīng)歷了一個設(shè)計游戲和編寫 AI for 游戲的階段。我90年代寫的所有游戲，都以人工智能為核心組成部分。之所以在游戲行業(yè)這么做，是因為當(dāng)時我認(rèn)為游戲行業(yè)是技術(shù)的最前沿，像 John Carmack 和 Quake，好像都是在游戲中進行的。我們?nèi)栽趶漠?dāng)中獲取好處，像GPU，是為計算機圖形而發(fā)明的，但后來被發(fā)現(xiàn)對 AI 有重要作用。所以當(dāng)時我認(rèn)為，游戲中擁有最前沿的人工智能。早期我參與過一個叫"黑白"的游戲，它是強化學(xué)習(xí)在計算機游戲中應(yīng)用最深刻的例子。你可以在游戲中訓(xùn)練一個小寵物，它會從你對待它的方式中進行學(xué)習(xí)，如果你對它不好，那它就會變得刻薄，并對你的村民和你所管理的小部落刻薄。但如果你善待它，它也會變得善良。Lex Fridman：游戲對善與惡的映射讓我意識到，你可以通過你所做的選擇來確定結(jié)局。游戲可以帶來這種哲學(xué)意義。Demis Hassabis：我認(rèn)為游戲是一種獨特的媒介，作為玩家并不僅僅是被動地消費娛樂，實際上，你是作為一個代表積極參與的。所以我認(rèn)為這就是游戲在某些方面比其他媒介，例如電影和書籍等更有內(nèi)涵的原因。從一開始我們就對 AI 進行了深入的思考，將游戲作為證明和開放 AI 算法的試驗場。這也是 Deepmind 最初使用大量游戲作為主要測試平臺的原因，因為游戲非常高效，也很容易有指標(biāo)來查看 AI 系統(tǒng)是如何改進的，思考的方向，以及是否在做漸進式地改進。Lex Fridman：假設(shè)我們不能制造一臺能在國際象棋中擊敗人類的機器，那么人們會認(rèn)為，由于組合的復(fù)雜性，圍棋是一個無法破解的游戲。但最終，AI 研究者造出了這臺機器，人類才意識到，我們沒有想象中那么聰明。Demis Hassabis：這是一段有趣的思考旅程，尤其是當(dāng)我從兩個角度（AI 創(chuàng)造者與游戲玩家）來理解時，更覺得神奇，同時又有點苦樂參半的感覺。Kasparov 將國際象棋稱為智能“果蠅”，我蠻喜歡這個形容，因為國際象棋從一開始就與 AI 密切相關(guān)。我認(rèn)為每一位 AI 實踐者，包括圖靈和香農(nóng)，以及這一領(lǐng)域的所有先輩們，都嘗試過編寫一個國際象棋程序。香農(nóng)在1949年寫了第一個關(guān)于國際象棋的程序文檔，圖靈也曾寫過一個著名的國際象棋程序，但由于計算機太慢無法運行，因此他用鉛筆和紙來手動運行程序，跟朋友一起玩。DeepBlue 的出現(xiàn)是一個重要的時刻，它結(jié)合了我喜歡的所有東西，包括國際象棋、計算機和人工智能。1996年，它打敗了 Garry Kasparov。在那之后，我對 Kasparov 頭腦的印象比對 DeepBlue 印象更深，因為 Kasparov 是人類的頭腦，他不僅可以與計算機在下棋方面達到同一水平，Kasparov 也可以做人類能做的一切，比如騎自行車、說多國語言、參與政治活動等等。DeepBlue 雖然在國際象棋中有過輝煌時刻，但它實際上是將國際象棋大師的知識提煉成一個程序，無法做其他任何事情。因此我認(rèn)為該系統(tǒng)中缺少了一些智能的東西，這也是我們嘗試做 AlphaGo 的原因。Lex Fridman：讓我們簡單地談?wù)剣H象棋中關(guān)于人類的一面。你從游戲設(shè)計的角度提出，象棋之所以吸引人是因為它是游戲。能否解釋一下，在bishop（國際象棋中的“象”）和knight（國際象棋中的“馬”）之間是否存在一種創(chuàng)造性的張力？是什么讓游戲具有吸引力，并且能跨越幾個世紀(jì)？Demis Hassabis：我也在思考這個問題。實際上很多優(yōu)秀的象棋玩家并不一定是從游戲設(shè)計師的角度去思考這個問題。為什么國際象棋如此吸引人？我認(rèn)為一個關(guān)鍵的原因是不同棋位的動態(tài)，你可以分辨出它們是封閉的還是開放的，想一下象和馬的移動方式有多么不同，而后國際象棋在已經(jīng)進化到平衡這二者的程度，大致都是3分。
Lex Fridman：所以你認(rèn)為動態(tài)總是存在的，而剩下的規(guī)則是試圖穩(wěn)定游戲。Demis Hassabis：也許這有點像雞生蛋還是蛋生雞的情況，但二者達到一種美麗的平衡，象和馬和騎士權(quán)力不同，但在整個宇宙的位置中其價值是相等的。過去的幾百年里，它們一直被人類所平衡，我認(rèn)為這賦予了游戲創(chuàng)造性的張力。Lex Fridman：你認(rèn)為 AI 系統(tǒng)能吸引人類去設(shè)計游戲嗎?Demis Hassabis：這是個有趣的問題。如果把創(chuàng)造力定義為想出一些原創(chuàng)的、對某個目的有用的東西，那么最低水平的創(chuàng)造力就像一個插值表達，基礎(chǔ)的 AI 系統(tǒng)都具備這樣的能力。給它看數(shù)百萬張貓的照片，然后給我一只普通的貓，這個被稱之為插值。還有像 AlphaGo，它可以推斷。AlphaGo 與自己對弈了數(shù)百萬場后想出了一些非常棒的新點子，比如在對弈中走37步，提供了一個人類從未想到的策略，盡管我們已經(jīng)玩了上百數(shù)千年。在此之上還有一個層次，就是能否跳出思維定式做真正的創(chuàng)新。你能發(fā)明象棋，而不是想出一個棋步么？是否能發(fā)明國際象棋、或其他和國際象棋或圍棋一樣的東西？我認(rèn)為有一天 AI 可以做到，而現(xiàn)在的問題是如何給一個程序指定這個任務(wù)。我們還不能把高層次抽象概念具體到人工智能系統(tǒng)中，它們在真正理解高層次的概念或抽象概念方面仍然缺少一些東西。就目前而言，它們可以組合和構(gòu)成，AI 能夠做插值和推斷，但都不是真正的發(fā)明。Lex Fridman：提出規(guī)則集并優(yōu)化，圍繞這些規(guī)則集制定復(fù)雜的目標(biāo)，是我們目前無法做到的。但是否可以采用一個特定的規(guī)則集并運行，觀察 AI 系統(tǒng)從頭開始學(xué)習(xí)的時間有多長？Demis Hassabis：實際上我考慮過，這對于游戲設(shè)計師來說是驚人的。如果有一個系統(tǒng)拿你的游戲玩上千萬次，也許一夜之間就能實現(xiàn)自動平衡規(guī)則?？梢酝ㄟ^方程或參數(shù)來調(diào)整游戲中的單位或規(guī)則，使游戲更平衡。這有點像給出一個基本集，通過蒙特卡羅方法搜索或類似的方法來探索，那將是超級強大的工具。而為了自動平衡，通常需要從數(shù)百場比賽中訓(xùn)練數(shù)千小時，平衡像星際爭霸、暴雪等這樣的游戲是令人震驚的，這需要測試人員年復(fù)一年的時間。所以可以想象，當(dāng)某個時刻這些東西變得足夠有效，你可能會想在一夜之間做到。Lex Fridman：你認(rèn)為我們是生活在模擬（Simulation）中嗎？Demis Hassabis：是的。Nick Bostrom 首次提出了著名的模擬理論，但我不太相信它。從某種意義上說，我們是在某種電腦游戲中，或者我們的后代以某種方式在 21 世紀(jì)重塑地球。理解物理學(xué)和宇宙的最佳方式是從計算的角度將其理解為信息宇宙，實際上，信息是現(xiàn)實的最基本單位。與物質(zhì)或能量相比，物理學(xué)家會說 E=mc2，這是宇宙的基礎(chǔ)。但我認(rèn)為，信息可能是描述宇宙的最基本方式，它本身可以指定能量或物質(zhì)正確的物質(zhì)。因此可以說我們處于某種模擬中。但我不同意這些想法丟棄數(shù)十億個模擬。Lex Fridman：基于你對通用術(shù)語機器的理解、對計算機的理解，你認(rèn)為宇宙中存在計算機能力之外的東西嗎？你并不認(rèn)同 Roger Penrose （數(shù)學(xué)物理學(xué)家）的意見？Demis Hassabis： Roger Penrose 很有名，曾參與過許多精彩的辯論，我讀過他的經(jīng)典著作《皇帝新腦》，他解釋大腦中的意識還需要更多量子的東西。我工作中也一直在思考我們正在做什么，實際上，我們正將圖靈機或經(jīng)典計算推向極限。經(jīng)典計算的極限是什么？我也研究了神經(jīng)科學(xué)，這是我博士選擇這一方向的原因，從神經(jīng)科學(xué)或生物學(xué)的角度來看大腦中是否有量子存在。到目前為止，大多數(shù)神經(jīng)科學(xué)家和生物學(xué)家會說，沒有證據(jù)表明大腦中有任何量子系統(tǒng)或效應(yīng)，大多可以用經(jīng)典理論和生物學(xué)方面的知識來解釋。但與此同時，從圖靈機可以做的事情開始，包括 AI 系統(tǒng)，這個過程是一直在進行的，尤其是在過去的十年里。我不敢打****通用圖靈機和經(jīng)典計算范式能走多遠，但大腦中發(fā)生的事情或許可以在機器上模仿，而不需要形而上學(xué)或量子的東西。2
Al for scienceLex Fridman：下面我們談?wù)?AlphaFold，你認(rèn)為人類思維都來自于這種類似神經(jīng)網(wǎng)絡(luò)的、生物的計算糊狀物，而非直接在精神上工作？Demis Hassabis： 在我看來，宇宙中最大的奇跡就是我們頭骨里只有幾磅的糊狀物，它也是大腦和目前所知宇宙中最復(fù)雜的物體。我認(rèn)為這是一臺令人驚奇的高效機器，這也是我一直想構(gòu)建 AI 的原因之一。通過構(gòu)建像 AI 這樣的智能體，將其與人類思維進行比較，或能幫助我們歷史以來一直想知道的心靈的獨特性，和真正的秘密、意識、做夢、創(chuàng)造力、情感等一切事物。現(xiàn)在有了大量的工具來實現(xiàn)這件事。所有的神經(jīng)科學(xué)工具、FMI機器都可以記錄，也有 AI 計算能力可以建立智能系統(tǒng)。人類思維所能做的事情令人驚訝，人類創(chuàng)造了像計算機這樣的東西，并思考和研究這些問題，也都是對人類頭腦的證明，有助于我們更清晰地了解宇宙和人類的思想。甚至可以說，我們或許是宇宙嘗試和理解自己美麗的機制所在。從另一個角度看，生物學(xué)的基本構(gòu)件也可以用于理解人類思想和身體，從基本構(gòu)建開始模擬和建立模型是件很神奇的事情，你可以構(gòu)建越來越大的、更復(fù)雜的系統(tǒng)，甚至是整個人類生物學(xué)。還有一個被認(rèn)為不可能解決的問題，就是蛋白質(zhì)折疊，而 AlphaFold 解決了蛋白質(zhì)折疊問題，這是結(jié)構(gòu)生物學(xué)史上最大的突破之一。蛋白質(zhì)是所有生命都必不可少的，身體每一個功能都依賴于蛋白質(zhì)。蛋白質(zhì)由它們的基因序列（也被稱為氨基酸序列）指定，可以將其視為它們的基本構(gòu)件。它們會在身體中、在自然界中折疊成一個三維結(jié)構(gòu)，這個三維結(jié)構(gòu)決定了它在身體中的功能。此外，如果你對****物或疾病感興趣，想用一種****物化合物來阻斷蛋白質(zhì)的作用，前提是要了解蛋白質(zhì)表面結(jié)合點的三維結(jié)構(gòu)。
圖注：2021年7月，DeepMind 首次通過與歐洲分子生物學(xué)實驗室（EMBL）合作建立的數(shù)據(jù)庫公開發(fā)布 AlphaFold 預(yù)測結(jié)果，初始數(shù)據(jù)庫包含了所有人類蛋白質(zhì)的98%Lex Fridman：蛋白質(zhì)折疊問題的本質(zhì)是，你能從氨基酸序列中得到一維的字母串嗎？能通過計算立即預(yù)測出三維結(jié)構(gòu)嗎？這是50多年來生物學(xué)界的一個重大挑戰(zhàn)。1972年的諾貝爾獎獲得者 Christian Anfinsen 首次闡述，他推測，從氨基酸序列到三維結(jié)構(gòu)是可以實現(xiàn)的。Demis Hassabis： Christian Anfinsen 的這句話開啟了整個計算生物學(xué)的50個邊緣領(lǐng)域，他們被困在當(dāng)中、并沒有完成得很好。在 AlphaFold 出現(xiàn)之前，這都是通過實驗來完成的，讓蛋白質(zhì)結(jié)晶是件非常困難的事情，有些蛋白質(zhì)不能像膜蛋白那樣結(jié)晶，必須使用昂貴的電子顯微鏡或X射線晶體分析儀，才能得到三維結(jié)構(gòu)并將其結(jié)構(gòu)可視化。有了 AlphaFold 后，兩個人就能在幾秒鐘內(nèi)預(yù)測出三維結(jié)構(gòu)。Lex Fridman：有一個數(shù)據(jù)集，它在這個數(shù)據(jù)集上進行訓(xùn)練，以及如何映射氨基酸。令人難以相信的是，這個小的化學(xué)計算機能以某種分布式方法來計算，且算得非?？臁?/strong>Demis Hassabis： 或許我們該討論一下生命的起源。實際上，蛋白質(zhì)本身是一個神奇的小生物和動物機器。提出列文塔爾悖論的科學(xué)家 Cyrus Levinthal 大致計算了一下，一般的蛋白質(zhì)可能有2000個氨基酸堿基長，可以有10到300種不同的蛋白質(zhì)折疊方式。而在自然界中，物理學(xué)以某種方式解決了這個問題，蛋白質(zhì)會在幾毫秒、或是一秒的時間內(nèi)，在你的身體中折疊起來。Lex Fridman：該序列有獨特的方式來自我形成，它找到了一種在巨大可能性中保持穩(wěn)定的方式。某些情況下可能會出現(xiàn)功能失調(diào)等情況，但大多時候是獨特的映射，而這種映射并不明顯。Demis Hassabis：如果是健康通常有一個獨特的映射，那患病時，究竟問題出在哪里。例如，曾經(jīng)有一個對阿爾茨海默氏癥的猜想是，因為以錯誤的方式折疊 β-淀粉樣蛋白導(dǎo)致折疊錯位，以至于在神經(jīng)元中糾纏在一起。因此，要了解健康、功能和疾病，就需要了解它們是如何結(jié)構(gòu)化的，知道這些東西在做什么超級重要。下一步是當(dāng)?shù)鞍踪|(zhì)與某些東西相互作用時，它們會改變形狀。因此在生物學(xué)中，它們不一定是靜態(tài)的。Lex Fridman：或許你可以給出一些解決 AlphaFold 的方法，與游戲不同，這是真正的物理系統(tǒng)。這當(dāng)中什么是非常難解決的？有哪些跟解決方案是相關(guān)的？Demis Hassabis：AlphaFold 是迄今為止我們構(gòu)建的最復(fù)雜、可能也是最有意義的系統(tǒng)。我們起初構(gòu)建的 AlphaGo 和 AlphaZero 都是與游戲相關(guān)，但最終目標(biāo)不僅僅是破解游戲，而是使用它們來引導(dǎo)通用學(xué)習(xí)系統(tǒng)，并應(yīng)對現(xiàn)實世界的挑戰(zhàn)。我們更多是希望致力于像蛋白質(zhì)折疊這樣的科學(xué)挑戰(zhàn)，AlphaFold 是我們的第一個重要證明點。就數(shù)據(jù)來說，創(chuàng)新數(shù)量大概需要30多種不同的組成算法，放在一起來破解蛋白質(zhì)折疊。一些重大的創(chuàng)新是圍繞物理學(xué)和進化生物學(xué)，建立了硬編碼來約束像蛋白質(zhì)中鍵角之類的東西，但不會影響學(xué)習(xí)系統(tǒng)，因此，系統(tǒng)仍能從案例中學(xué)習(xí)物理。假設(shè)只有大約15萬個蛋白質(zhì)，即使經(jīng)過40年的實驗，也大概只有約5萬種蛋白質(zhì)結(jié)構(gòu)會被發(fā)現(xiàn)。訓(xùn)練集比通常使用的數(shù)據(jù)量要少得多，但當(dāng)中使用了像自我提取等各種技巧。因此，使用 AlphaFold 做一些非常有信心的預(yù)測時，將其放回訓(xùn)練集中使訓(xùn)練集更大，對 AlphaFold 工作至關(guān)重要。實際上，為了解決這個問題，需要進行大量的創(chuàng)新，AlphaFold 產(chǎn)生的是一個直方圖，一種蛋白質(zhì)中所有分子之間的成對距離的矩陣，它們必須是一個單獨的優(yōu)化過程來創(chuàng)建三維結(jié)構(gòu)。要使 AlphaFold 真正地從端到端，可直接從氨基酸的堿基序列到三維結(jié)構(gòu)，跳過中間步驟。從機器學(xué)習(xí)中也可以發(fā)現(xiàn)，越是端到端，就越能使系統(tǒng)變得更好，系統(tǒng)比人類設(shè)計者更善于學(xué)習(xí)約束條件。在這種情況下，三維結(jié)構(gòu)要比有中間步驟更好，因為那必須手工進入下個步驟。最好的辦法是讓梯度和學(xué)習(xí)一直流經(jīng)系統(tǒng)，從終點到想要的最終輸出，再到輸入。Lex Fridman：關(guān)于 AlphaFold 的設(shè)想，那或許是生物學(xué)中一個漫長旅程的早期步驟，你認(rèn)為同樣的方法是否預(yù)測更復(fù)雜的生物系統(tǒng)的結(jié)構(gòu)和功能、多蛋白質(zhì)相互作用；其作為一個起點，能模擬越來越大的系統(tǒng)，最終模擬像人的大腦、人體這樣的東西嗎？你認(rèn)為這是一個長期的愿景嗎？Demis Hassabis：當(dāng)然，一旦我們有了足夠強大的生物學(xué)系統(tǒng)，治療疾病和理解生物學(xué)就是我的 To Do List 上的首要任務(wù)，這也是我親自推動 AlphaFold 的原因之一，AlphaFold 只是一個開始。AlphaFold 解決了蛋白質(zhì)結(jié)構(gòu)這個巨大的問題，但生物學(xué)是動態(tài)的，我們所研究的所有東西都是蛋白質(zhì)液體結(jié)合。與分子發(fā)生反應(yīng)，搭建通路，最終形成一個虛擬細胞，那是我的夢想。我一直同很多生物學(xué)朋友交談，其中就包括了克里克研究所的生物學(xué)家 Paul Nurse。對生物學(xué)和疾病發(fā)現(xiàn)來說，構(gòu)建一個虛擬細胞是不可思議的，因為你可以在虛擬細胞上進行大量實驗，最后階段再進入實驗室來驗證。就發(fā)現(xiàn)新****而言，從確定目標(biāo)到擁有一個候選****物大約需要10年時間，如果能在虛擬細胞中完成大部分工作，或許可以將時間縮短一個數(shù)量級。為了實現(xiàn)虛擬細胞，必須建立對生物學(xué)不同部分相互作用的理解。每隔幾年，我們就會與跟 Paul 談?wù)撨@個問題。去年在 AlphaFold 之后，我說現(xiàn)在終于是我們可以去做的時候了，Paul 非常激動。我們與他的實驗室有一些合作。在 AlphaFold 的基礎(chǔ)上，相信生物學(xué)會有一些驚人的進步，目前也可以看到，在 AlphaFold 開源之后已經(jīng)有社區(qū)在做了。我認(rèn)為有一天，人工智能系統(tǒng)可能會解決像廣義相對論這樣的問題，而不僅僅是通過對互聯(lián)網(wǎng)或公共醫(yī)療上的內(nèi)容進行處理。這將非常有趣，看它會能夠想出什么。這有點像我們之前關(guān)于創(chuàng)造力發(fā)明圍棋的辯論，不是僅僅想出一個好的圍棋動作。如果想要獲得像諾貝爾獎的獎項，那它需要做的是發(fā)明圍棋，而不是由人類科學(xué)家或創(chuàng)造者來指定。Lex Fridman：很多人確實把科學(xué)看作是站在巨人的肩膀上，而問題是你在巨人的肩膀上真正達到了多少？也許它只是吸收了過去的不同類型的結(jié)果，最終以新的視角提供了突破性的想法。Demis Hassabis：這是一個很大的謎團，我相信在過去十年甚至未來幾十年中，很多新的重大突破都會出現(xiàn)在不同學(xué)科領(lǐng)域的交叉點上，在這些看似不相干的領(lǐng)域之間會發(fā)現(xiàn)一些新的聯(lián)系。人們甚至可以認(rèn)為，深層思維是神經(jīng)科學(xué)思想和 AI 工程思想間的一種交叉學(xué)科。Lex Fridman：你有一篇論文是“通過深度強化學(xué)習(xí)對托卡馬克等離子體進行磁控制”，所以你在尋求用深度強化學(xué)習(xí)來解決核聚變，做高溫等離子體的控制。你能解釋一下 AI 為什么最終能解決這個嗎？Demis Hassabis：過去的一兩年里，我們的工作非常有趣和看到了成效，我們啟動了很多我的夢想項目，這些是我多年來收集的同科學(xué)領(lǐng)域相關(guān)的項目。如果我們能參與推動，或許能帶來具有變革性的影響，科學(xué)挑戰(zhàn)本身就是一個非常有趣的問題。目前，核聚變面臨許多挑戰(zhàn)，主要在物理、材料、科學(xué)和工程等方面，以及如何建造這些大規(guī)模的核聚變反應(yīng)堆并容納等離子體。我們與瑞士洛桑聯(lián)邦理工學(xué)院（EPFL）和瑞士技術(shù)研究所合作，他們有一個測試反應(yīng)器愿意讓我們使用。這是一個驚人的測試反應(yīng)堆，他們在上面嘗試各種相當(dāng)瘋狂的實驗。而我們則看的是，當(dāng)進入一個新領(lǐng)域如核聚變時，瓶頸問題是什么？從第一原理思考阻礙核聚變運作的底層問題是什么？在這種情況下，血漿控制是完美的。這個等離子體有100萬℃，比太陽還熱，顯然沒有任何材料可以容納它。因此必須有非常強大的超導(dǎo)磁場，但問題是等離子體相當(dāng)不穩(wěn)定，就像在一個反應(yīng)堆中持有許多顆星，提前預(yù)測等離子體會做什么，你可以在幾百萬秒內(nèi)移動磁場來控制它接下來會做什么。如果你把它看作是一個強化學(xué)習(xí)預(yù)測問題，這似乎很完美，有控制器，可以移動磁場和切割，但此前用的是傳統(tǒng)的控制器。我希望有一種可控的規(guī)則是他們不能在當(dāng)下對等離子體做出反應(yīng)，必須是硬編碼的。Lex Fridman：AI 最終解決了核聚變。Demis Hassabis：去年我們在《自然》雜志上發(fā)表了關(guān)于解決這個問題的論文，把等離子體固定在一個特定的形狀。實際上這幾乎就像是把等離子體雕刻成不同的形狀，控制它并保持在那里創(chuàng)紀(jì)錄的時間。這是核聚變的一個未解決的問題。把它包含在結(jié)構(gòu)中并保持，還有一些不同形狀更有利于能量的產(chǎn)生，稱為滴液等等，這是很重要的。我們正與許多核聚變初創(chuàng)公司溝通，看在核聚變領(lǐng)域可以解決的下一個問題是什么。Lex Fridman：論文標(biāo)題中還有一個迷人的地方，通過解決分?jǐn)?shù)電子問題來推動密度函數(shù)的前沿。你能解釋一下這項工作嗎？AI 在未來能否對任意的量子力學(xué)系統(tǒng)進行建模和模擬？Demis Hassabis：人們試圖寫出密度函數(shù)的近似值以及對電子云的描述，觀察兩個元素放在一起時如何相互作用。而我們試圖做的是學(xué)習(xí)一種模擬，學(xué)習(xí)一種能夠描述更多化學(xué)類型的化學(xué)函數(shù)。到目前為止，AI 可以運行昂貴的模擬，但只能模擬非常小和非常簡單的分子，我們無法做到模擬大型材料。因此要建立函數(shù)近似值來展示其方程后，描述電子在做什么，所有材料科學(xué)和性質(zhì)都是由電子如何相互作用來控制的。Lex Fridman：通過功能對模擬進行總結(jié)來接近實際模擬出來的結(jié)果，這項任務(wù)的難度在于運行復(fù)雜的模擬，學(xué)習(xí)從初始條件和模擬參數(shù)的映射任務(wù)，學(xué)習(xí)函數(shù)會是什么？Demis Hassabis：這很棘手，但好消息是我們已經(jīng)做到了，我們可以在計算集群上運行大量的模擬，即分子動力學(xué)模擬，由此產(chǎn)生了大量的數(shù)據(jù)。在這種情況下，數(shù)據(jù)是生成的。這就是為什么我們使用游戲模擬器來生成數(shù)據(jù)，因為可以隨心所欲地創(chuàng)造出更多的數(shù)據(jù)。如果在云端有空閑的電腦，我們就可以運行這些計算。3
AI 與人類Lex Fridman：你怎么理解生命起源？Demis Hassabis：我認(rèn)為 AI 的最終用途是將科學(xué)加速到極致。它有點像知識之樹。如果你想象這就是宇宙中要獲得的所有知識，但目前為止，我們幾乎只觸及了它的表面。AI 會加速這個過程，盡可能多地探索這棵知識樹。Lex Fridman：直覺告訴我，人類的知識之樹是非常小的，考慮到我們的認(rèn)知局限。即使有工具，我們?nèi)匀徊荒芾斫夂芏嗍虑椤＿@也許是非人類系統(tǒng)能夠走得更遠的原因。Demis Hassabis：是的，很有可能。但首先，這是兩件不同的事情。就像我們今天理解了什么，人類的思想能理解什么，我們要理解的整體是什么，這里有三個同心，你可以把它們想象成三棵更大的樹，或者探索這棵樹的更多分支。有了 AI 后我們會探索更多。現(xiàn)在的問題是，如果你思考一下我們能理解的事物的總體是什么，可能有些事物不能被理解，比如模擬之外的事物，或宇宙之外的事物。Lex Fridman：因為人類大腦已經(jīng)習(xí)慣了這個有時間的三維世界的狀態(tài)。Demis Hassabis：但我們的工具可以超越這些。它們可以是11維，12維的。我經(jīng)常舉的例子是當(dāng)我和 Gary Kasparov 下棋時，我們討論過象棋之類的東西，如果你很擅長下棋，你不能想 Gary 他的走法，但他可以給你解釋。你可以將其理解為事后推理。有一個進一步的解釋，也許你不可能發(fā)明這個東西，但你可以理解和欣賞，就像你欣賞維瓦爾第或莫扎特一樣欣賞它的美。Lex Fridman：我想問一些更瘋狂的問題。比如，你認(rèn)為地球之外有外星文明嗎？Demis Hassabis：我個人的看法是，我們目前是孤獨的。我們已經(jīng)有各種天文望遠鏡和其他探測技術(shù)，嘗試著在太空里尋找其他文明的信號，如果現(xiàn)在有許多外星文明在同時做這樣的事，那我們應(yīng)該聽到來自外太空的嘈雜聲音?？墒聦嵤牵覀兪裁葱盘栆矝]收到。有很多人會爭辯說，世界上有外星文明，只是我們還沒有真正好好地去搜索，或者說我們找的波段錯誤，也有可能使用了錯誤的設(shè)備，我們沒有意識到外星人存在的形式非常不同，等等。但我不同意這些觀點，我們其實已經(jīng)做了很多探索了，如果真有那么多外星文明，那我們應(yīng)該早就發(fā)現(xiàn)了。有趣的是，如果地球是孤獨的文明，從大過濾器（Great Filters）的角度來看，這還挺令人欣慰，這意味著我們已經(jīng)通過大過濾器的篩選了。說回你剛才問的生命起源問題，生命起源于一些令人難以置信的事物，而且沒人知道這些事是怎么發(fā)生的。如果在地球以外的地方看到單細胞的某種生命形式，比如細菌，我不會感到驚訝。但就憑其能夠捕獲線粒體并將線粒體為我所用的這個能力，多細胞生命的出現(xiàn)的難度就是空前絕后的。
圖注：Demis Hassabis所提到的大過濾器理論Lex Fridman：你認(rèn)為需要有意識才能有真正的智能嗎?Demis Hassabis：我個人認(rèn)為，意識和智慧是雙重分離的，所以我們可以在沒有智慧的同時實現(xiàn)意識，反過來也一樣。舉個例子，很多動物是有自我意識的，也會社交和做夢，它們可以被定義為有一定的自我意識，但是它們沒有智慧。但同時，那些在某一任務(wù)上非常聰明的人工智能，它們會下象棋，或者執(zhí)行其他任務(wù)執(zhí)行得非常好，但是它們沒有任何的自我意識。Lex Fridman：前段時間谷歌的一個工程師認(rèn)為某個語言模型是有感知的，你遇到過有感知的語言模型嗎？如果一個系統(tǒng)出現(xiàn)了“感知”，你怎么理解這種情況？Demis Hassabis：我不覺得目前世界上的任何一個 AI 系統(tǒng)是有意識或者有感知的，這是我每天與 AI 互動的真實感受。所謂感知，更多是我們大腦自己的投射，由于那是一個語言模型，與智慧息息相關(guān)，所以人們就很容易把系統(tǒng)擬人化。這也是為什么我認(rèn)為圖靈測試有缺陷，因為它建立于人的反應(yīng)和判斷上。我們應(yīng)該和頂尖的哲學(xué)家談?wù)勔庾R，比如 Daniel Dennett 和 David Charmers，以及其他對意識有深刻思考的人。目前意識還沒有公認(rèn)的定義，如果讓我來說的話，我覺得意識的定義是，信息得到處理時帶來的感覺。Lex Fridman：讓我問一個黑暗的私人問題。你說創(chuàng)造一個世界上最強大的超級人工智能系統(tǒng)。正如老話所說，絕對權(quán)力導(dǎo)致腐敗，你也很有可能成為其中一員，因為你是最有可能控制這個系統(tǒng)的人。你會考慮這些么?Demis Hassabis：我每時每刻都在思考有什么能對抗這種腐敗的防御措施。人類最大利益的工具或技術(shù)讓我們進入一個激進的世界，我們面臨著許多艱巨的挑戰(zhàn)。AI 可以幫助我們解決問題，最終使人類走向終極繁榮，甚至找到外星人。而 AI 的創(chuàng)造者，AI 所依賴的文化，AI 擁有的價值觀，AI 系統(tǒng)的構(gòu)建者都會影響它的發(fā)展。即使 AI 系統(tǒng)會自己學(xué)習(xí)，但其大部分知識也會帶有一定已有文化和創(chuàng)造者價值觀的殘留。不同的文化讓我們比以往任何時候都更加分裂，也許當(dāng)我們進入了一個極度富足的時代以后，資源不那么稀缺了，我們就不需要激烈競爭，而是可以轉(zhuǎn)向更好的合作。Lex Fridman：當(dāng)資源受到重大限制時，一些暴行就會發(fā)生。Demis Hassabis：資源稀缺是導(dǎo)致競爭和破壞的原因之一，全人類都想生活在善良、安全的世界里，所以我們必須解決稀缺性的問題。但這還不足以達成和平，因為還有其他東西會產(chǎn)生腐敗。AI 不應(yīng)該任由僅僅一個人、或者一個組織來運行。我認(rèn)為 AI 應(yīng)該屬于世界，屬于人類，每個人都應(yīng)該對 AI 有發(fā)言權(quán)。Lex Fridman：你對高中生和大學(xué)生有什么建議嗎? 如果年輕人有從事 AI 的愿望，或者想以自己的力量影響這個世界，他們應(yīng)該如何獲得一份自己由衷感到自豪的職業(yè)？如何找到理想的生活？Demis Hassabis：我總喜歡對年輕人說兩句話，第一句話是，你真正的激情在何處？年輕人應(yīng)該去盡可能地探索這個世界。在人年輕時，我們有足夠多的時間，還能夠承擔(dān)探索帶來的風(fēng)險。以自己獨特的方式去尋找事物之間的聯(lián)系，我認(rèn)為這是尋找激情所在的好方法。第二句話是，了解你自己。要花很多時間去了解自己最佳的工作方式是什么，最佳的工作時間是什么時候，最佳的學(xué)習(xí)方式是什么?，如何應(yīng)對壓力。年輕人應(yīng)該在不同的環(huán)境下測試自己，嘗試改進自己的弱點，找出自己獨特的技能和優(yōu)勢，然后磨練它們，這些就是你以后在這個世界上的價值。如果你能把這兩件事結(jié)合起來，找到自己的激情所在，鍛煉出你自己獨特而強大的技能，那么你就會獲得不可思議的能量，給世界帶來巨大的改變。來源：學(xué)術(shù)頭條
*博客內(nèi)容為網(wǎng)友個人發(fā)布，僅代表博主個人觀點，如有侵權(quán)請聯(lián)系工作人員刪除。
