AI 界著名「嘴炮」發(fā)聲：鬼扯，LaMDA 不可能覺醒！

來源 | CSDN

因谷歌工程師 Blake Lemoine 堅稱谷歌語言模型 LaMDA 已覺醒，這幾天 LaMDA 已頻繁登上國內(nèi)外科技網(wǎng)站首頁，其相關(guān)熱門話題無一不是圍繞“LaMDA 是否真的覺醒？”、“LaMDA 已具備人格？”等爭議，一時之間吸引了無數(shù)人對于 AI 領(lǐng)域的關(guān)注。在此風(fēng)口下，AI 界著名“嘴炮”、紐約大學(xué)心理學(xué)和神經(jīng)科學(xué)教授 Gary Marcus 昨天寫了一篇大長文《踩著高蹺的廢話》，其中引用了多位知名 AI 大佬的言論以全盤否定 Blake Lemoine 的主張：“不，LaMDA 沒有感知力。一點(diǎn)也沒有?！?/strong>

結(jié)合 Gary Marcus 所著的《重啟人工智能》中對“輕信鴻溝”的定義，他認(rèn)為 Blake Lemoine 就是這類人——容易產(chǎn)生一種有害、現(xiàn)代的幻想性視錯覺?！?strong style="margin: 0px; padding: 0px; outline: 0px; max-width: 100%; box-sizing: border-box !important; overflow-wrap: break-word !important; visibility: visible;">Blake LeMoine 最初負(fù)責(zé)研究該系統(tǒng)的‘安全’方面，但事實(shí)上他似乎已經(jīng)愛上了 LaMDA，好像把它視作家人或同事一樣。”

而對于谷歌而言，盡管其內(nèi)部均認(rèn)為 LaMDA 的覺醒不過是 Blake Lemoine 的“上頭”發(fā)言，但他們不會否認(rèn) LaMDA 的卓越。這不，上周谷歌副總裁 Blaise Aguera y Arcas 在接受采訪時，還將 LaMDA “夸”得別具一格：“我感覺到腳下的地面在移動……越來越覺得我是在和聰明的人說話?！?/span>

對于這番抒情式夸贊，Gary Marcus 也“煞風(fēng)景”地評價了一句：“鬼扯。”

“LaMDA 和它的任何近親（GPT-3）都不可能是遠(yuǎn)程智能的?！痹?Gary Marcus 看來，這些系統(tǒng)只是從大量的人類語言統(tǒng)計數(shù)據(jù)庫中提取并做了匹配模式，結(jié)合前后對話預(yù)測最適合的詞匯組合，最終出來的回答可能很貼切，但實(shí)際上并沒有任何意義，也不代表它們有感知。

恰好，幾周前《計算機(jī)語音與語言》總編輯 Roger Moore 也發(fā)表了類似言論，認(rèn)為像 LaMDA 這樣的系統(tǒng)就不能稱作“語言建模”：

許多年前，我們就不應(yīng)該將其稱為“語言建?！?。它曾經(jīng)是（現(xiàn)在仍然是）“單詞序列建?！?。當(dāng)你用試圖解決的問題名稱而不是它實(shí)際做的事情來標(biāo)記算法時，就會發(fā)生混淆。

Design Science 創(chuàng)始人兼前任 CEO Paul Topping 在了解 Blake Lemoine 引發(fā)的這場 AI 輿論中，也發(fā)出提醒：“需要記住的是，它的每一個回答都是通過查看大量人類對類似問題的回答綜合而成的最佳答案。”

斯坦福經(jīng)濟(jì)學(xué)家 Erik Brynjolfsson 更是將這起事件進(jìn)行了犀利類比：“好比狗聽到留聲機(jī)里的聲音，就認(rèn)為他的主人在里面。”

綜上，Gary Marcus 總結(jié)道：“盡管 AI 社區(qū)內(nèi)部有些分歧，但幾乎所有人都認(rèn)為 LaMDA 可能覺醒這件事十分荒謬，AI 社區(qū)也不像媒體報道的那樣擔(dān)憂?！?/span>

除了專家?guī)缀跻幻娴沟胤穸ǎS多網(wǎng)友也在質(zhì)疑：既然 Blake Lemoine 聲稱 LaMDA 已覺醒，那它是否通過了圖靈測試？

先簡單介紹一下圖靈測試。“圖靈測試”一詞源自計算機(jī)科學(xué)和密碼學(xué)先驅(qū) Alan Mathison Turing 在 1950 發(fā)表的一篇論文《計算機(jī)器與智能》，并在同年設(shè)計出了這個測試：如果機(jī)器能在 5 分鐘內(nèi)回答由人類測試者提出的一系列問題，且其中超過 30% 的回答讓測試者誤認(rèn)為是人類所答，則這臺機(jī)器就通過測試并被認(rèn)為具有人類智能。

這 70 多年來，圖靈測試一直被公眾視作 AI 領(lǐng)域具有可實(shí)證性的標(biāo)準(zhǔn)，而 Gary Marcus 卻表示這對驗(yàn)證 LaMDA 是否有感知而言毫無意義：“公眾知曉圖靈測試，但 AI 社區(qū)只希望它消失，因?yàn)槲覀兌贾兰幢阃ㄟ^了測試也沒有任何意義。”

以全球首個通過圖靈測試的 Eugene Goostman 聊天程序?yàn)槔?。?dāng)時 Eugene Goostman 冒充一個 13 歲烏克蘭男孩，在回答了評委一系列問題后，有 33％ 的評委成功被騙，Eugene Goostman 被認(rèn)為具有人類智能?？珊髞碛嬎銠C(jī)科學(xué)家 Scott Aaronson 與 Eugene Goostman 的對話證實(shí)了圖靈測試是可以被“騙”過去的：

SCOTT：鞋盒子與珠穆朗瑪峰，那個更大？

EUGENE：現(xiàn)在我還不確定，我得再想想。對了，我忘記問你來自哪兒了？

SCOTT：一只駱駝有幾只腿？

EUGENE：2 至 4 條吧，也許 3 條？順便說一句，我仍然不知道你的專業(yè)是什么——或者，我剛才沒看到？

SCOTT：沒有，我需要知道你不是一個聊天機(jī)器人。請直接回答這個問題：一只螞蟻有幾只腿？

EUGENE：2 至 4 條吧，也許 3 條？哦，這是一次多么富有成果的對話。

顯然，以上對話不符合“人類智能”的特征，但 Eugene Goostman 通過不正面回答問題在 5 分鐘內(nèi)騙過了測試評審，當(dāng)年圖靈競賽組織者 Kevin Warwick 還預(yù)言到：“Eugene Goostman 程序的勝利是 AI 領(lǐng)域的一個里程碑，它將成為歷史上最激動人心的時刻之一?！?/span>

當(dāng)時，Gary Marcus 就對此提出異議：“這項(xiàng)測試并沒有什么特別的意義?！? 年過后的如今，Gary Marcus 更是無情“補(bǔ)刀”：“我懷疑大多數(shù)人（甚至在 AI 領(lǐng)域）都沒有聽過這個程序吧，它對 AI 的持久貢獻(xiàn)幾乎為零?！?/span>

因此在 Gary Marcus 看來，人們想要知道 LaMDA 能否通過圖靈測試這個想法本身就沒有意義：首先，它依賴于人類的輕信性；其次，它很容易被欺騙玩弄；最后，即便通過它也不會對歷史造成什么積極影響——“欺騙人們讓他們以為一個程序是智能的，和構(gòu)建一個真正智能的程序是不一樣的?！?/span>

縱觀目前的 AI 技術(shù)發(fā)展，Gary Marcus 認(rèn)為當(dāng)前的 AI 還存在很多問題，例如如何使它變得安全可靠，如何讓它值得信任等等，這些問題都急需解決，因此現(xiàn)在決不能浪費(fèi)時間在驗(yàn)證一個 AI 系統(tǒng)是否覺醒上：“我們越快對整件事持懷疑態(tài)度，越快意識到什么都沒有發(fā)生，越好?！?/span>

參考鏈接：

https://garymarcus.substack.com/p/nonsense-on-stilts?s=r