本文來自微信公眾號(hào)： Web3天空之城 ，作者：Web3天空之城，原文標(biāo)題：《Google DeepMind創(chuàng)始人斯坦福最新對(duì)話: 在AGI奇點(diǎn)的山腳下 | Demis Hassabis專訪》

本次對(duì)話由斯坦福大學(xué)校長(zhǎng)John Levin主持，邀請(qǐng)了Google DeepMind聯(lián)合創(chuàng)始人兼首席執(zhí)行官、2024年諾貝爾化學(xué)獎(jiǎng)得主Demis Hassabis。對(duì)話涵蓋了Hassabis跨越國(guó)際象棋、游戲和神經(jīng)科學(xué)的傳奇職業(yè)生涯，深入探討了DeepMind從AlphaGo到AlphaFold的突破歷程。Hassabis提出了AGI可能在2030年左右實(shí)現(xiàn)的預(yù)見，并就AI的社會(huì)責(zé)任、地緣政治競(jìng)賽、動(dòng)態(tài)監(jiān)管以及AI對(duì)人類文明、經(jīng)濟(jì)體系和科學(xué)發(fā)現(xiàn)的深遠(yuǎn)影響分享了深刻見解。

核心觀點(diǎn)

• AI作為終極科學(xué)工具

  
  

  ：AI的核心使命是解決智能問題，進(jìn)而利用智能作為工具去加速解決科學(xué)、醫(yī)學(xué)及人類面臨的各種重大課題。

  
  

• 2030年奇點(diǎn)預(yù)判

  
  

  ：AGI可能在2030年左右實(shí)現(xiàn)，人類正處于一個(gè)全新紀(jì)元的起點(diǎn)，技術(shù)進(jìn)步的速度和規(guī)模將遠(yuǎn)超工業(yè)革命。

  
  

• 非零和世界的可能性

  
  

  ：AI可能引領(lǐng)人類進(jìn)入后稀缺時(shí)代，這需要一套全新的、非零和博弈的經(jīng)濟(jì)體系，以及對(duì)人類意義and目的的重新思考。

  
  

• 動(dòng)態(tài)監(jiān)管的必要性

  
  

  ：面對(duì)激烈的實(shí)驗(yàn)室競(jìng)爭(zhēng)和地緣政治博弈，傳統(tǒng)的遲緩監(jiān)管已不適用，亟需建立一種能隨技術(shù)進(jìn)展快速調(diào)整的“智能動(dòng)態(tài)監(jiān)管”。

  
  

• 智能與意識(shí)的分離

  
  

  ：Hassabis認(rèn)為智能與意識(shí)是可以分離的，當(dāng)前的系統(tǒng)并不具備意識(shí)，人類應(yīng)對(duì)是否賦予AI意識(shí)保持極高的審慎。

  
  

01

職業(yè)生涯的北極星：從國(guó)際象棋到“解決智能”

哈薩比斯的職業(yè)軌跡如同部精心規(guī)劃的劇本。從早期的國(guó)際象棋神童到90年代的游戲開發(fā)者，再到神經(jīng)科學(xué)博士，每一段經(jīng)歷都在為他的終極使命服務(wù)。哈薩比斯直言，他從小就將AI視為職業(yè)生涯中最重要的事業(yè)。——“我一直試圖復(fù)用每一段經(jīng)歷，來服務(wù)于我30多年前確立的‘北極星使命’。我當(dāng)時(shí)的商業(yè)計(jì)劃書極其簡(jiǎn)單：第一步，解決智能；第二步，利用它解決其他一切問題”。

在DeepMind創(chuàng)立初期，這種宏大愿景曾讓風(fēng)險(xiǎn)投資人感到困惑。但哈薩比斯深信，AI是一種終極的通用技術(shù)。他將人工智能定義為一門“工程科學(xué)”，旨在將創(chuàng)造性工作、科學(xué)探索與硬核工程融合。早期的Atari游戲測(cè)試曾讓實(shí)驗(yàn)室陷入數(shù)月的沉寂，直到系統(tǒng)在《Pong》中拿到第一分?！耙坏┠隳茉跈C(jī)器學(xué)習(xí)中站穩(wěn)腳跟，通常就能通過迭代走出困境。這是AI的發(fā)展史：一旦有了可行方案，就有辦法進(jìn)一步優(yōu)化”。

02

AlphaFold：重塑生命科學(xué)的底座

如果說AlphaGo證明了AI在直覺與策略上的優(yōu)越性，那么AlphaFold則標(biāo)志著AI正式成為改變現(xiàn)實(shí)世界的科學(xué)利器。通過攻克困擾科學(xué)界50年的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題，AlphaFold不僅為哈薩比斯贏得了諾貝爾獎(jiǎng)，更重塑了生物醫(yī)學(xué)的研究范式。

盡管具備極高的商業(yè)價(jià)值，哈薩比斯卻選擇將AlphaFold的數(shù)據(jù)向全球科研界免費(fèi)開放。——“我們依賴公共數(shù)據(jù)進(jìn)行訓(xùn)練，回饋科學(xué)界是理所應(yīng)當(dāng)?shù)?。全世界有三百萬名研究人員正在使用它，這種深遠(yuǎn)影響單靠一家公司是無法實(shí)現(xiàn)的”。如今，哈薩比斯通過Alphabet旗下的Isomorphic Labs，試圖將藥物研發(fā)周期從數(shù)年縮短至數(shù)月。他認(rèn)為，AI在科學(xué)領(lǐng)域的應(yīng)用是“毋庸置疑的福祉”，這正是業(yè)界反擊公眾負(fù)面情緒、證明技術(shù)價(jià)值的核心陣地。

03

預(yù)見2030：百倍速的工業(yè)革命

哈薩比斯在訪談中重申了他對(duì)“奇點(diǎn)”的預(yù)判。他認(rèn)為，隨著AI代理（Agents）和工具使用能力的進(jìn)步，AGI的實(shí)現(xiàn)窗口已鎖定在2030年左右。——“當(dāng)我們十年后回首此時(shí)，會(huì)意識(shí)到我們現(xiàn)在正站在奇點(diǎn)的山腳下。這標(biāo)志著一個(gè)全新人類紀(jì)元的開啟”。

為了量化這種變革，哈薩比斯給出了一個(gè)震撼的參照系：——“我認(rèn)為AI的影響力將是工業(yè)革命的10倍，速度快10倍。綜合來看，這大約是工業(yè)革命速度的100倍”。這種指數(shù)級(jí)的演變意味著，社會(huì)沒有太多的時(shí)間來緩慢適應(yīng)。雖然他對(duì)技術(shù)解決氣候、能源和疾病充滿信心，但也坦言這種變革在技術(shù)、經(jīng)濟(jì)和哲學(xué)層面都將帶來巨大的顛覆。

04

后稀缺時(shí)代：尋找當(dāng)代的“凱恩斯”

面對(duì)AI可能引發(fā)的社會(huì)失調(diào)，哈薩比斯指出當(dāng)前的討論存在嚴(yán)重滯后。他特別呼吁社會(huì)科學(xué)家與經(jīng)濟(jì)學(xué)家的介入。——“如果我們要進(jìn)入一個(gè)后稀缺時(shí)代，為什么還要沿用舊有的理論？現(xiàn)有的經(jīng)濟(jì)體系都是基于‘資源有限’和‘零和博弈’構(gòu)建的。而AI可能讓我們首次進(jìn)入非零和的世界”。

當(dāng)下的經(jīng)濟(jì)學(xué)家往往還在糾結(jié)AI對(duì)GDP的具體貢獻(xiàn)，而忽視了其對(duì)人類生存狀態(tài)的根本性重塑。哈薩比斯借用凱恩斯（Keynes）在大蕭條時(shí)期的展望，呼吁當(dāng)代的智者去勾勒一套適應(yīng)“資源極大充裕”時(shí)代的全新經(jīng)濟(jì)體系?！斑@不再僅僅是技術(shù)專家的任務(wù)，我們需要哲學(xué)家來定義什么是美德，什么是目的。這需要跨學(xué)科的共同努力”。

05

動(dòng)態(tài)監(jiān)管：打破地緣政治的“囚徒困境”

在當(dāng)前的全球局勢(shì)下，AI實(shí)驗(yàn)室正處于激烈的雙重競(jìng)賽中：一是公司層面的生死時(shí)速，二是地緣政治層面的博弈。哈薩比斯承認(rèn)，這種競(jìng)爭(zhēng)環(huán)境絕非理想?！拔覀兿萑肓艘环N類似于囚徒困境的局面。如果你花費(fèi)更多時(shí)間去做安全測(cè)試，由于‘背叛者獲益’的機(jī)制，你可能會(huì)在競(jìng)爭(zhēng)中失去優(yōu)勢(shì)”。

為了平衡創(chuàng)新與安全，哈薩比斯提出了“動(dòng)態(tài)監(jiān)管”的概念。他認(rèn)為傳統(tǒng)的遲緩監(jiān)管已無法跟上每周都在迭代的技術(shù)前沿?！拔覀冃枰环N真正意義上的‘智能監(jiān)管’，它必須具有高度的反應(yīng)敏捷性，能夠根據(jù)最新進(jìn)展快速調(diào)整風(fēng)險(xiǎn)清單，而不是關(guān)注多年前預(yù)設(shè)的陳舊指標(biāo)”。

06

智能、意識(shí)與“AI原生代”的未來

在訪談的最后，哈薩比斯深入探討了關(guān)于“意識(shí)”的哲學(xué)邊界。他堅(jiān)持認(rèn)為，智能與意識(shí)是可以分離的?！爱?dāng)前的系統(tǒng)并不具備意識(shí)。我認(rèn)為沒必要為了構(gòu)建智能系統(tǒng)而賦予其意識(shí)。這應(yīng)當(dāng)是一個(gè)慎重的選擇，我們應(yīng)先將AI構(gòu)建為強(qiáng)大的智能工具”。

對(duì)于正在斯坦福等高校學(xué)習(xí)的“AI原生代”學(xué)生，哈薩比斯給出了極具啟發(fā)性的建議。他認(rèn)為博雅教育將迎來黃金時(shí)代，因?yàn)樵诔錆M變數(shù)的未來，適應(yīng)能力和廣博的知識(shí)儲(chǔ)備將是個(gè)人最強(qiáng)的防御。——“未來十年，一切都將發(fā)生改變。但我建議大家不要聽信任何說‘未來已定’的人。未來仍有待書寫，你們將掌握這些史上最強(qiáng)大的超能力，去決定那個(gè)世界如何構(gòu)建”。

完整訪談

跨學(xué)科協(xié)作與AI的未來

莎拉·蘇爾

非常榮幸能見到各位參加與Demis Hassabis的對(duì)話。今天由John Levin校長(zhǎng)主持這場(chǎng)爐邊談話，我們倍感榮幸。Stanford University的獨(dú)特之處在于，許多最重要的思想并非源自單一學(xué)院或?qū)W科，而是誕生于不同領(lǐng)域的交叉點(diǎn)，各個(gè)學(xué)院與部門的交叉地帶。這種跨學(xué)科協(xié)作的精神在當(dāng)下尤為重要，因?yàn)锳I的進(jìn)步正開始重塑社會(huì)的幾乎每一個(gè)領(lǐng)域。

而醫(yī)學(xué)領(lǐng)域受到的影響最為深遠(yuǎn)。我個(gè)人對(duì)此感觸頗深，得益于GSB與Stanford School of Medicine之間的緊密合作，他們正致力于通過匯集社會(huì)科學(xué)家、科學(xué)家、臨床醫(yī)生、工程師和創(chuàng)新者，重新構(gòu)想癌癥的創(chuàng)新與護(hù)理，旨在從預(yù)防到康復(fù)的全過程中改善患者的就醫(yī)體驗(yàn)。這一愿景宏大且富有遠(yuǎn)見，需要一所偉大大學(xué)發(fā)揮其全面協(xié)作的能力才能實(shí)現(xiàn)。Stanford University的力量不僅在于各領(lǐng)域的卓越表現(xiàn)，更在于我們將不同領(lǐng)域連接起來的能力。我們讓AI研究人員與醫(yī)生攜手，讓組織領(lǐng)導(dǎo)者與科學(xué)家合作，讓企業(yè)家與致力于人類福祉的人們并肩同行。

這也是為何今天的對(duì)話顯得如此重要。Demis Hassabis是一位人工智能研究員、企業(yè)家及諾貝爾獎(jiǎng)得主，他的工作恰好處于這些學(xué)科的交叉點(diǎn)。他是Google DeepMind的聯(lián)合創(chuàng)始人兼首席執(zhí)行官，該公司是全球領(lǐng)先的人工智能研究公司之一。該公司于2010年以DeepMind之名創(chuàng)立，并于2014年被Google收購(gòu)。如今，該公司已成為Google人工智能工作的核心，并取得了一些該領(lǐng)域最具決定性的突破。

這些突破包括AlphaGo，這是首個(gè)在圍棋比賽中擊敗世界冠軍的程序。還有AlphaFold，它通過精確預(yù)測(cè)蛋白質(zhì)的三維結(jié)構(gòu)，解決了困擾科學(xué)界50年的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)這一重大挑戰(zhàn)。這是一項(xiàng)對(duì)理解疾病和藥物研發(fā)具有深遠(yuǎn)影響的突破。憑借這項(xiàng)工作，Demis與John Jumper和David Baker共同獲得了2024年諾貝爾化學(xué)獎(jiǎng)。他也是英國(guó)皇家學(xué)會(huì)和英國(guó)皇家工程院的院士。2024年，他因在人工智能領(lǐng)域的貢獻(xiàn)而被授予爵士爵位。他曾多次入選《Time》雜志全球最具影響力人物100強(qiáng)榜單，包括2017年和2025年。

但真正讓這一時(shí)刻在Stanford顯得尤為引人注目的是，這里關(guān)于AI的討論從來不僅僅局限于能力層面，它同時(shí)關(guān)乎人類的蓬勃發(fā)展。幾年前，F(xiàn)ei-Fei Lee和Jennifer Ocker教授開始在Stanford開設(shè)一門關(guān)于AI如何助力人類蓬勃發(fā)展的課程，該課程圍繞著一系列深刻的問題展開。作為人類意味著什么？蓬勃發(fā)展又是怎樣的景象？以及，技術(shù)在何時(shí)有助于實(shí)現(xiàn)這些目標(biāo)，又在何時(shí)削弱了它們？

這項(xiàng)工作帶給我一個(gè)非常深刻的見解，那就是某些形式的阻力實(shí)際上是起到承重作用的。斟酌詞句的掙扎、艱難對(duì)話帶來的不適感，以及學(xué)習(xí)新事物的挑戰(zhàn)，這些并非需要消除的效率低下。相反，它們恰恰是促成個(gè)人成長(zhǎng)、主體性、韌性與意義產(chǎn)生的核心體驗(yàn)。這也正是為什么我們今天的討論至關(guān)重要。在Stanford，AI領(lǐng)域的進(jìn)步并非抽象概念。它們正在重塑我們對(duì)科學(xué)發(fā)現(xiàn)、臨床診斷、領(lǐng)導(dǎo)力、學(xué)習(xí)方式以及人類潛能本身的認(rèn)知。AI的進(jìn)步也迫使我們?nèi)ヌ接懹嘘P(guān)判斷、倫理、制度，以及我們終究希望科技助力我們構(gòu)建何種生活等更宏大的議題。感謝各位的光臨，請(qǐng)和我一起歡迎President John Levin和Demis Hassabis上臺(tái)。

職業(yè)生涯的主線：從國(guó)際象棋到AGI

喬納森·萊文

Demis，很高興你能來到Stanford。能來到這里真是太棒了。

德米斯·哈薩比斯

謝謝大家的到來。

喬納森·萊文

非常感謝你們參與此次活動(dòng)。那么，我準(zhǔn)備向你提出一些問題。

我們也會(huì)安排一些來自學(xué)生的問題，期待聽到你的見解。

或許我們可以從這里開始。你最近經(jīng)常被報(bào)道，還有相關(guān)的紀(jì)錄片和書籍。很多人都聽說過您的職業(yè)軌跡，這非常了不起。國(guó)際象棋神童、電子游戲開發(fā)者、科學(xué)家、科技創(chuàng)業(yè)者兼領(lǐng)袖、諾貝爾獎(jiǎng)得主，這僅僅是您職業(yè)生涯的前半段。那么，如果您要試著為您所做過的所有這些不同領(lǐng)域的事情畫一條貫穿其中的主線，那會(huì)是什么呢？

德米斯·哈薩比斯

我覺得在這些看似有些互不關(guān)聯(lián)的學(xué)科中，實(shí)際上存在幾條貫穿其中的主線。首先，我一直非常熱衷于在創(chuàng)造力與技術(shù)的交叉領(lǐng)域工作，并且其范疇被界定得非常寬泛。因此，電子游戲行業(yè)——也就是我90年代職業(yè)生涯初期的那一階段——實(shí)際上是所有行業(yè)中最具創(chuàng)造力的空間之一，它利用尖端技術(shù)結(jié)合藝術(shù)與設(shè)計(jì)，創(chuàng)造出了一種全新的娛樂媒介，那真是一段令人驚嘆的時(shí)光。事實(shí)上，我職業(yè)生涯中最快樂的時(shí)光有一些就出現(xiàn)在90年代早期。國(guó)際象棋和神經(jīng)科學(xué)，我所做的一切嘗試都源于一個(gè)理念，即投身于AI研究，并認(rèn)為AI是一個(gè)人職業(yè)生涯中最重要、最值得投入心血去從事的事業(yè)，這種想法我從很小的時(shí)候就有了。

所以，青少年時(shí)期我可能讀了太多的科幻小說，讀過《G?del Escher Bach》這類書，以及我的一些科學(xué)偶像——比如Turing、Feynman等人的傳記。因此，所有這些經(jīng)歷都在激勵(lì)我嘗試以一種非常深刻的方式去理解我們周圍的世界。而構(gòu)建AI正是我實(shí)現(xiàn)這一使命的表達(dá)方式，旨在嘗試打造終極的科學(xué)工具。我一直試圖——因?yàn)槿松虝骸獜?fù)用并重新利用我所擁有的每一段經(jīng)歷，來服務(wù)于我30多年來一直追求的那個(gè)宏大的北極星使命。

所以，我的國(guó)際象棋訓(xùn)練塑造了我思考商業(yè)、組織事務(wù)和規(guī)劃的方式，也是我能夠?qū)⒑甏蟮挠?jì)劃拆解為更小、更易于管理的步驟的方法。我想說，這一切都源于某種國(guó)際象棋式的思維方式。接著是利用游戲，首先是構(gòu)建游戲，學(xué)習(xí)如何進(jìn)行大規(guī)模的工程項(xiàng)目，經(jīng)營(yíng)公司and初創(chuàng)企業(yè)，然后將這種創(chuàng)造力與工程學(xué)融合在一起。實(shí)際上，這正是我們今天在AI領(lǐng)域所做的事情。它是一門工程科學(xué)。因此，你正在將創(chuàng)造性工作、科學(xué)工作與極其硬核的前沿工程技術(shù)融合起來。所有這些因素共同發(fā)揮了作用。

最后談到游戲，正如大家所知，我們?cè)贒eepMind的早期階段就將游戲用作了完美的試驗(yàn)場(chǎng)。用于測(cè)試算法構(gòu)想，最著名的例子莫過于AlphaGo。我認(rèn)為我們剛剛度過了它的10周年紀(jì)念日，回過頭來看，那或許正是現(xiàn)代人工智能時(shí)代的開端。

DeepMind的北極星使命：解決智能

喬納森·萊文

當(dāng)你2010年左右以職業(yè)身份進(jìn)入人工智能領(lǐng)域并創(chuàng)立DeepMind時(shí)，你有著非常宏偉的愿景。你當(dāng)時(shí)打算先解決智能問題，然后再去解決其他所有問題。進(jìn)展如何？我們可以展開講講。有哪些進(jìn)展是符合計(jì)劃的，又有哪些是偏離了計(jì)劃的？

德米斯·哈薩比斯

從宏觀層面來看，進(jìn)展得好到令人難以置信，甚至超乎想象。

要知道，當(dāng)我們?cè)?010年創(chuàng)辦DeepMind時(shí)，你可以想象一下，我們當(dāng)時(shí)試圖去尋找英國(guó)的風(fēng)險(xiǎn)投資機(jī)構(gòu)，而那時(shí)的投資機(jī)構(gòu)并不多。而當(dāng)時(shí)的商業(yè)計(jì)劃書內(nèi)容就是：第一步，解決智能問題；第二步，利用它來解決其他一切問題。人們對(duì)此感到相當(dāng)困惑。但我們確實(shí)是認(rèn)真的。

其實(shí)，我們可能會(huì)回歸使用最初的那句使命陳述，因?yàn)槲覀兯f的“解決智能”是指構(gòu)建AGI。理想情況下，在通往構(gòu)建AGI的過程中，還要理解智能的本質(zhì)，或許可以利用AGI來幫助我們更好地理解我們自己的大腦。以及心靈，比如意識(shí)的本質(zhì)、什么是創(chuàng)造力、夢(mèng)境，所有這些關(guān)于心靈的深?yuàn)W奧秘。我學(xué)習(xí)神經(jīng)科學(xué)的原因之一，就是試圖從我們對(duì)大腦的理解中汲取靈感，從而獲得算法構(gòu)思。

所以，第一步是嘗試構(gòu)建AGI，而我們心中始終有一個(gè)預(yù)想，即最終發(fā)生的情況——當(dāng)然，它是一種通用技術(shù)，也許是終極的通用技術(shù)。如果構(gòu)建方式正確，即它是一個(gè)極其通用的學(xué)習(xí)系統(tǒng)，那么它所能應(yīng)用的領(lǐng)域極限在哪里？夢(mèng)想就是，它幾乎可以應(yīng)用于任何領(lǐng)域。我認(rèn)為這一點(diǎn)已經(jīng)得到了證實(shí)。

對(duì)于第二步，我特別想到的是推進(jìn)科學(xué)和醫(yī)學(xué)的發(fā)展。這就是我所說的“利用它來解決其他所有問題”的含義。我指的是科學(xué)領(lǐng)域中的那些重大課題，所有這些課題。我當(dāng)時(shí)很想去探究，我被所有這些問題深深吸引了，比如時(shí)間的本質(zhì)、現(xiàn)實(shí)的本質(zhì)?；蛟S這才是最根本的一個(gè)問題。我在學(xué)校時(shí)就熱愛物理。那是我最喜歡的學(xué)科。我認(rèn)為當(dāng)你對(duì)這些重大課題產(chǎn)生興趣時(shí)，你最終可能會(huì)去鉆研物理，大概是這樣。

但我做決定的原因是有太多引人入勝的重大課題了。那么，一個(gè)人該如何在有限的一生中去嘗試解決所有這些問題呢？在我看來，這意味著要構(gòu)建新的工具。并借助最優(yōu)秀的科學(xué)家和專家，在他們所鉆研的領(lǐng)域以及那些重大且重要的問題上，取得更快的進(jìn)展。當(dāng)然，AI本身也是一個(gè)迷人的產(chǎn)物，一種科學(xué)意義上的研究對(duì)象，完全值得我們深入探究。這幾乎是一個(gè)全新的領(lǐng)域。

因此，對(duì)我而言，這似乎是畢生投入其中最令人著迷、也最為重要的事情。即使它沒有成功，我依然會(huì)去做這件事；我總會(huì)找到某種方式來完成它，無論是在學(xué)術(shù)界還是其他地方。這正是我一直計(jì)劃投入畢生精力去從事的事業(yè)。我早期所做的一切，其實(shí)都是在以不同的方式積累經(jīng)驗(yàn)，我認(rèn)為這些積累讓我獲得了足夠的知識(shí)儲(chǔ)備，得以在2010年嘗試創(chuàng)立DeepMind。當(dāng)時(shí)我們覺得，自己已經(jīng)準(zhǔn)備好去快速推進(jìn)這一進(jìn)程了。當(dāng)然，那一愿景的第二部分——利用它去解決其他所有問題——現(xiàn)在涵蓋的范圍已經(jīng)遠(yuǎn)不止科學(xué)和醫(yī)學(xué)領(lǐng)域，盡管這正是我個(gè)人嘗試開展工作的方向，同時(shí)我也在負(fù)責(zé)整個(gè)組織的運(yùn)營(yíng)。但顯而易見，除了科學(xué)和醫(yī)學(xué)，它在提升生產(chǎn)力以及改善世界各地的諸多其他方面都將發(fā)揮驚人的作用。

從游戲像素到圍棋之巔

喬納森·萊文

當(dāng)你在DeepMind構(gòu)建這些不同的模型時(shí)，你們是從游戲起步，隨后進(jìn)入了科學(xué)領(lǐng)域。有沒有那么幾個(gè)特定的時(shí)刻——我是說，雖然你一開始就懷揣著堅(jiān)定的信念，但我好奇，是否曾有過某些瞬間讓你意識(shí)到，這項(xiàng)事業(yè)真的能成？比如AlphaGo在對(duì)弈中下出的那一步……

德米斯·哈薩比斯

沒錯(cuò)，有很多時(shí)刻我確實(shí)覺得它行不通，話就說到這兒吧。所以我記得很清楚的其中一點(diǎn)是，我們從游戲開始，因?yàn)樗鼈兪亲郧⒌南到y(tǒng)。顯然，它們本身就是由其他人設(shè)計(jì)出來的，旨在讓其他人覺得具有挑戰(zhàn)性或充滿樂趣。它們通常——我熱愛游戲——往往是許多現(xiàn)實(shí)世界場(chǎng)景的縮影。如果你想到圍棋、撲克或國(guó)際象棋，我經(jīng)常覺得，如果我開設(shè)一門MBA課程或商學(xué)院課程，其中一個(gè)模塊就是游戲，用來研究諸如Diplomacy之類的游戲。它們都具備現(xiàn)實(shí)生活中最優(yōu)秀游戲所擁有的非常有趣的側(cè)面。而且你顯然可以在一個(gè)相對(duì)安全的場(chǎng)景中進(jìn)行多次練習(xí)。這就是我認(rèn)為游戲真正有用的地方。

這也適用于正在學(xué)習(xí)的AI系統(tǒng)。它們是精巧的環(huán)境，既具挑戰(zhàn)性，又有著明確的目標(biāo)函數(shù)，這對(duì)我們?cè)缙诘膹?qiáng)化學(xué)習(xí)研究也非常重要。幾乎沒有人將強(qiáng)化學(xué)習(xí)應(yīng)用于任何規(guī)?；膶?shí)際問題。它當(dāng)時(shí)的使用范圍僅限于學(xué)術(shù)研究，主要用于像小型網(wǎng)格世界這類玩具級(jí)問題。當(dāng)時(shí)并不確定它能否擴(kuò)展到任何重大領(lǐng)域。

因此，我們從最著名但也是最基礎(chǔ)的、享譽(yù)全球的游戲入手，也就是70年代的Atari游戲。我們從最簡(jiǎn)單的游戲Pong開始，就是那個(gè)只有球拍and球的游戲，兩個(gè)球拍和一個(gè)球。游戲內(nèi)置了一個(gè)AI系統(tǒng)——其實(shí)不算真正的AI，只是一個(gè)內(nèi)置系統(tǒng)來控制對(duì)手，它利用游戲所掌握的所有信息（如球的位置等）來移動(dòng)球拍。我們想做的是，能否僅通過屏幕上的像素來玩Pong，即直接使用原始數(shù)據(jù)和視覺輸入，而不獲取任何其他信息，不接觸程序內(nèi)部關(guān)于球的位置或速度等特權(quán)信息。程序本身顯然掌握這些，但我們沒有向被稱為DQN的Atari系統(tǒng)提供任何此類信息。它只接收屏幕上的20000個(gè)像素。

20000個(gè)像素在今天看來似乎微不足道。但在2010年，這已經(jīng)是巨大的輸入數(shù)據(jù)量了。此前從未有人處理過如此復(fù)雜的數(shù)據(jù)，更不用說還要乘以你所運(yùn)行的所有幀數(shù)。那段時(shí)間感覺大概有六個(gè)月之久。也許實(shí)際上只有兩個(gè)月。但我們?cè)赑ong上連一分都拿不到。所以亂揮球拍反而更好一些。當(dāng)時(shí)的情況就像是，它到底能不能哪怕稍微控制一下球拍啊。當(dāng)然，它對(duì)此毫無概念。它只是在內(nèi)置AI對(duì)戰(zhàn)中以0比21慘敗。

我確實(shí)思考過，我們嘗試過幾種不同的攻擊方式，但我們幾乎沒有資金，維持運(yùn)營(yíng)的現(xiàn)金流，也就是我們僅有的幾百萬美元融資，這在今天連支付一名實(shí)習(xí)生的工資都不夠，這對(duì)你們學(xué)生來說是好事，但這卻是我們的全部資金。而且，我們拿著微薄到幾乎為零的薪水，資金也在不斷耗盡。我當(dāng)時(shí)想，噢，也許事實(shí)證明，我們還是領(lǐng)先時(shí)代太早了，也許領(lǐng)先了10年，甚至20年。然后奇跡般地，它拿到了一分，當(dāng)時(shí)的感覺是，噢，也許這只是運(yùn)氣。緊接著它開始贏得很多分，然后開始贏得整場(chǎng)比賽。隨后，那種感覺就像是：我們現(xiàn)在起飛了。

所以現(xiàn)在，你們這些在機(jī)器學(xué)習(xí)領(lǐng)域工作的人應(yīng)該會(huì)明白這一點(diǎn)。如果你能站穩(wěn)腳跟，通常就能通過爬山算法走出困境。我想說，這就是AI的發(fā)展史，一旦有了可行的方案，通常就有辦法進(jìn)一步對(duì)其進(jìn)行優(yōu)化。這正是Atari游戲項(xiàng)目的結(jié)果。那是我們的第一個(gè)重大成果，也是我們的第一篇Nature論文，確實(shí)是第一個(gè)真正規(guī)?；纳疃葟?qiáng)化學(xué)習(xí)模型。它結(jié)合了深度學(xué)習(xí)來學(xué)習(xí)領(lǐng)域知識(shí)、處理感知輸入和應(yīng)對(duì)輸入的復(fù)雜性，從中發(fā)現(xiàn)模式；并在其之上構(gòu)建強(qiáng)化學(xué)習(xí)，以此來做出決策并執(zhí)行規(guī)劃。

當(dāng)然，這最終促成了AlphaGo的誕生，這始終是我們——也就是我和該項(xiàng)目的負(fù)責(zé)人Dave Silver——的目標(biāo)。我們?cè)贑ambridge讀本科時(shí)就朋友，從那時(shí)起我們就一直在討論這個(gè)問題，那是在90年代中期。Deep Blue與Kasparov的對(duì)決就發(fā)生在我們上大學(xué)期間。當(dāng)然，無論是從國(guó)際象棋的角度還是人工智能的角度來看，我都被它深深吸引了。

但我對(duì)Kasparov大腦的印象比對(duì)Deep Blue更深刻，因?yàn)镵asparov擁有令人難以置信的頭腦，他至今仍是有史以來最偉大的國(guó)際象棋天才之一，他能夠與身旁這臺(tái)依靠暴力計(jì)算的超級(jí)計(jì)算機(jī)平起平坐地展開競(jìng)爭(zhēng)。但當(dāng)然，他還能用大腦完成所有其他事情，比如講五種語言、從事政治活動(dòng)、駕駛汽車以及人類所能做的其他一切事情。對(duì)我而言，這非常了不起。那才是更令人印象深刻的。

所以，Deep Blue系統(tǒng)中確實(shí)缺少了一些東西。顯然，那些通過人工整理啟發(fā)式規(guī)則并疊加暴力搜索的專家系統(tǒng)技術(shù)，在今天許多傳統(tǒng)國(guó)際象棋程序中仍在使用。這在國(guó)際象棋中行得通，但在圍棋中卻從未奏效，因?yàn)閲迨且豁?xiàng)極其深?yuàn)W的游戲。它沒有子力的區(qū)別，每一顆棋子的價(jià)值都是相同的，一切都關(guān)乎格局和直覺，即便是頂尖的圍棋選手也是如此。

因此，我們意識(shí)到——或者說我們當(dāng)時(shí)認(rèn)為——如果有人能真正達(dá)到圍棋世界冠軍的水平，這不僅僅是達(dá)到那個(gè)水平的問題，更重要的是，所采用的方法可能是一種非常有趣的算法路徑，并且希望這種方法能夠推廣到其他領(lǐng)域。這正是AlphaGo最終實(shí)現(xiàn)的結(jié)果。它超越了我們最瘋狂的想象，因?yàn)樗粌H在2016年贏得了與Lee Sedol的對(duì)局，還創(chuàng)造了許多此前從未出現(xiàn)過的著名新策略，盡管人類已經(jīng)下了幾千年的圍棋。圍棋是人類發(fā)明最古老的游戲，已有2000多年的歷史，并且已經(jīng)職業(yè)化地進(jìn)行了數(shù)百年。而我們此前從未發(fā)現(xiàn)過那些策略。

所以，這對(duì)我就像是一種雙重震撼。我一直在等待那個(gè)時(shí)刻，即AI能夠提出一些新穎的東西。當(dāng)然，除此之外還有更多層面的創(chuàng)造力，但至少這已經(jīng)是一個(gè)新穎的構(gòu)思了。那對(duì)我而言，正是等待已久的契機(jī)，讓我開始將AI應(yīng)用于科學(xué)研究。所以從Seoul回來后，我們便立即啟動(dòng)了AlphaFold項(xiàng)目。

AlphaFold：攻克50年科學(xué)難題

喬納森·萊文

那么，讓我們來聊聊科學(xué)本身，因?yàn)槟惝?dāng)時(shí)切入了蛋白質(zhì)折疊問題，而且你再次選擇了一個(gè)既有數(shù)據(jù)，又在蛋白質(zhì)折疊考量上有著明確目標(biāo)函數(shù)的問題，最后它成功了。你們確實(shí)成功解決了這個(gè)長(zhǎng)期存在的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)難題。你在推出AlphaFold時(shí)做了一件非常有意思的事，這顯然是一項(xiàng)足以獲得諾貝爾獎(jiǎng)的重大科學(xué)突破，同時(shí)也具備極高的商業(yè)價(jià)值。但你卻選擇將其免費(fèi)公之于眾。我很好奇，你是如何做出這個(gè)決定的？這背后有什么考量嗎？你是否有考慮過其他處理方式？為什么要把它免費(fèi)開放？

德米斯·哈薩比斯

所以我們選擇了蛋白質(zhì)折疊問題。我從在Cambridge讀本科時(shí)就一直關(guān)注這個(gè)問題。那時(shí)我第一次接觸到它，我有幾位生物學(xué)家朋友對(duì)蛋白質(zhì)折疊問題非常著迷。實(shí)際上，他們后來在職業(yè)生涯中也都成為了結(jié)構(gòu)生物學(xué)家。我特別記得其中一位，每次我們?cè)诰瓢赏孀郎献闱蚧蚱渌裁礀|西時(shí)，他總會(huì)喋喋不休地談?wù)撨@是生物學(xué)中最重要的問題。更重要的是，我認(rèn)為這是一個(gè)根本性的問題。如果你能攻克它并找到蛋白質(zhì)的結(jié)構(gòu)，那將開啟全新的研究途徑。比如藥物研發(fā)，顯然我們正在努力推進(jìn)這一點(diǎn)，還有基礎(chǔ)生物學(xué)和對(duì)疾病的理解。因此，由于它會(huì)產(chǎn)生深遠(yuǎn)的后續(xù)影響，這是一個(gè)非常值得投入大量精力和時(shí)間去研究的問題。

在我看來，這是一個(gè)引人入勝的問題，就像終極謎題，這是一個(gè)三維謎題，關(guān)于這種氨基酸序列是如何折疊的？你可以把它看作是基因序列折疊成了這種三維結(jié)構(gòu)。這真是一件極其有趣且復(fù)雜的事物。我對(duì)蛋白質(zhì)研究得越深入，就越對(duì)生物學(xué)感到敬畏和驚嘆。就像這些令人難以置信的小型生物納米機(jī)器一樣，顯而易見，一切生命活動(dòng)都依賴于蛋白質(zhì)。當(dāng)你開始研究它們的結(jié)構(gòu)時(shí)，你便開始理解它們的功能。因此，作為一個(gè)科學(xué)課題，這對(duì)我而言非常迷人。

隨后，這里有一個(gè)明確的目標(biāo)。這在某種程度上就像是最小化系統(tǒng)中的自由能。推測(cè)起來，物理學(xué)正是這樣運(yùn)作的。這就是為什么人體內(nèi)這些蛋白質(zhì)能在毫秒內(nèi)完成折疊，每秒鐘發(fā)生數(shù)十億次。所以，物理學(xué)以某種方式解決了這個(gè)問題。所以不可能是無跡可尋的，一定存在某種拓?fù)浣Y(jié)構(gòu)，比方說，你可以通過深度學(xué)習(xí)系統(tǒng)來學(xué)習(xí)這種結(jié)構(gòu)，進(jìn)而引導(dǎo)搜索過程。就像我們利用AlphaGo在圍棋中尋找絕妙著法一樣，在圍棋中，可能的棋步數(shù)量超過了宇宙中原子的總數(shù)，而蛋白質(zhì)折疊的搜索空間比這還要大。但總有一些方法能夠以合理的方式縮小搜索范圍。你利用深度學(xué)習(xí)模型學(xué)習(xí)一種啟發(fā)式策略，然后引導(dǎo)搜索，使問題變得可計(jì)算。這在科學(xué)上感覺確實(shí)與我們?cè)趪逯薪鉀Q的問題非常相似，可以說是將其中一些相同的方法和理論應(yīng)用到了這個(gè)領(lǐng)域。

另一方面，顯而易見，過去50年來許多優(yōu)秀的實(shí)驗(yàn)室和科研人員在晶體學(xué)和結(jié)構(gòu)生物學(xué)領(lǐng)域付出了極其艱苦的努力，即便如此，PDB這個(gè)主要數(shù)據(jù)庫(kù)中也僅收錄了約150,000個(gè)結(jié)構(gòu)，實(shí)際上這并不多。顯然，為了獲取這些數(shù)據(jù)已經(jīng)投入了巨大的人力物力，但目前已知有2億種蛋白質(zhì)，而對(duì)于機(jī)器學(xué)習(xí)系統(tǒng)來說，150,000的數(shù)據(jù)量是非常小的。因此，大多數(shù)人都認(rèn)為至少還需要10到20年，我們才擁有足夠的數(shù)據(jù)and合適的算法來解決這個(gè)問題。但我們認(rèn)為，只要運(yùn)用我們所掌握的所有技術(shù)，最終是可以取得進(jìn)展的。事實(shí)證明確實(shí)如此。

隨后，當(dāng)我們決定如何利用這一點(diǎn)產(chǎn)生最大影響力時(shí)，對(duì)我而言顯而易見的是，我們應(yīng)該折疊所有的蛋白質(zhì)。之所以這樣做，是因?yàn)樗粌H達(dá)到了AlphaFold的準(zhǔn)確度，而且速度極快。它可以在幾秒鐘內(nèi)完成蛋白質(zhì)折疊。最終，我們與位于劍橋的European Bioinformatics Institute展開合作，該機(jī)構(gòu)托管了許多科學(xué)家使用的頂級(jí)生物學(xué)數(shù)據(jù)庫(kù)，并將全部2億個(gè)蛋白質(zhì)結(jié)構(gòu)托管在他們的數(shù)據(jù)庫(kù)中，使其能夠像Google搜索一樣簡(jiǎn)單地找到蛋白質(zhì)結(jié)構(gòu)，同時(shí)提供機(jī)器學(xué)習(xí)系統(tǒng)給出的置信區(qū)間，標(biāo)注出其對(duì)蛋白質(zhì)結(jié)構(gòu)中哪些部分具有把握，這對(duì)我們的生物學(xué)家來說至關(guān)重要。

我們將這些整合在一起，這當(dāng)然是非常有價(jià)值的。我不知道具體價(jià)值是多少十億美元，或者其他什么數(shù)字。這取決于你如何計(jì)算。如果通過實(shí)驗(yàn)手段來完成，其成本將是不可估量的。但如果將其作為專利技術(shù)保留，其價(jià)值將非常巨大。然而對(duì)我們來說，我們感到如果僅憑一己之力，將這些結(jié)構(gòu)公之于世所能帶來的深遠(yuǎn)影響，我們只能觸及冰山一角。因?yàn)槿澜缬腥偃f名研究人員幾乎每天都在使用AlphaFold，這涵蓋了全球幾乎所有的生物學(xué)家和醫(yī)學(xué)研究人員。單靠一家機(jī)構(gòu)是不可能做到這一點(diǎn)的。

所以這顯然是正確的做法。我們也依賴公共數(shù)據(jù)來訓(xùn)練AlphaFold的第一個(gè)版本，因此回饋這個(gè)群體——即結(jié)構(gòu)生物學(xué)界——是理所應(yīng)當(dāng)?shù)模覀儗⑦@一令人驚嘆的資源提供給他們，這放大了他們此前辛勤積累的成果。對(duì)我來說這甚至不成問題，而且很高興Google的高管們也熱愛科學(xué)，完全理解這一點(diǎn)。我不認(rèn)為所有的公司都會(huì)做出那樣的決定。所以我也要為他們?cè)谶@方面的表現(xiàn)點(diǎn)贊。那是一場(chǎng)輕松的討論。

此后，我們嘗試通過Alphabet旗下的分拆公司Isomorphic Labs將這一成果推向應(yīng)用下游，該公司正在構(gòu)建多種類似于AlphaFold級(jí)別的突破性技術(shù)，并以某種方式將它們整合在一起。這有望加速藥物研發(fā)進(jìn)程，將其從數(shù)年縮短至數(shù)月，甚至未來可能縮短至數(shù)周，就像我們處理蛋白質(zhì)結(jié)構(gòu)那樣——過去測(cè)定一個(gè)結(jié)構(gòu)需要數(shù)年時(shí)間，而現(xiàn)在我們可以在幾秒鐘內(nèi)完成。

預(yù)見2030：站在奇點(diǎn)的山腳下

喬納森·萊文

這是AI未來真正令人興奮的領(lǐng)域之一。我想花點(diǎn)時(shí)間談?wù)勀惚局茉缧r(shí)候說過的話。你本周上了新聞，因?yàn)樵谝淮未笮虶oogle活動(dòng)上，你說我們正處于奇點(diǎn)（singularity）的山腳下。

德米斯·哈薩比斯

那句話引起了相當(dāng)多的關(guān)注。

喬納森·萊文

確實(shí)引起了廣泛關(guān)注。我理解Google新聞團(tuán)隊(duì)可能對(duì)此并不太高興。但既然你公開這么說了，你指的是什么？

德米斯·哈薩比斯

我在會(huì)議結(jié)尾所表達(dá)的完整意思是，當(dāng)我們回首這段時(shí)期時(shí)，我認(rèn)為，也許是考慮從現(xiàn)在起10年后，我們會(huì)意識(shí)到我們現(xiàn)在正站在奇點(diǎn)的山腳下。之所以選擇這個(gè)詞，是因?yàn)榧夹g(shù)層面存在AGI。我們一直將下一代真正通用的人工智能稱為AGI。我相信我們距離那一刻只有幾年時(shí)間了，可能大約是2030年左右，這確實(shí)令人震驚。我認(rèn)為那將是一個(gè)巨大的變革性技術(shù)時(shí)代，它實(shí)際上將開啟一個(gè)新的人類紀(jì)元。這就是我所指的奇點(diǎn)，也是許多科幻小說作家所描述的概念，它描述的是我們?cè)贏GI到來之時(shí)及其前后所處的時(shí)代。

因此，我認(rèn)為今年我們能感受到這一點(diǎn)。盡管我已為此努力了30年，但我認(rèn)為今年隨著Agent的運(yùn)作方式和工具使用的進(jìn)步，它開始變得真正實(shí)用，雖然仍處于早期階段，但已切實(shí)融入了人們的工作流程中，我們能夠看清還需要完成哪些額外工作，而我們所有的領(lǐng)先實(shí)驗(yàn)室也都在致力于此。我認(rèn)為這只是一個(gè)開端，目前還處于起步階段。

我認(rèn)為仍有大量工作要做，這不僅僅是單一事物，而是多種不同技術(shù)和應(yīng)用場(chǎng)景的結(jié)合。我曾以為某些技術(shù)還需要更久才能實(shí)現(xiàn)，但現(xiàn)在它們正匯聚在一起，讓我感到整體趨勢(shì)確實(shí)如此。我想強(qiáng)調(diào)這一點(diǎn)，因?yàn)槲艺J(rèn)為社會(huì)需要聽到這些，我們沒有太多時(shí)間來為即將發(fā)生的影響做準(zhǔn)備，我認(rèn)為這將產(chǎn)生極其深遠(yuǎn)的影響。在我看來，未來尚未定型，但接下來的幾年對(duì)于局勢(shì)的走向，以及我們共同希望未來呈現(xiàn)何種樣貌，將起到至關(guān)重要的作用。

挑戰(zhàn)與民主化：100倍速的工業(yè)革命

喬納森·萊文

如果你觀察關(guān)于人們?nèi)绾慰创鼳I的調(diào)查，尤其是在這個(gè)國(guó)家，目前的輿論非常負(fù)面?；蛟S這里比其他國(guó)家的負(fù)面情緒還要更嚴(yán)重。這背后可能有很多驅(qū)動(dòng)因素，比如對(duì)隱私、國(guó)家控制、科技公司規(guī)模或就業(yè)問題的擔(dān)憂。作為一家領(lǐng)先實(shí)驗(yàn)室的負(fù)責(zé)人，你如何看待公眾對(duì)這項(xiàng)技術(shù)的擔(dān)憂？

德米斯·哈薩比斯

我認(rèn)為公眾有理由感到擔(dān)憂。我認(rèn)為有些事情確實(shí)值得憂慮，我也對(duì)這項(xiàng)技術(shù)作為一種雙用途技術(shù)所涉及的多個(gè)方面感到擔(dān)憂。這是一種如此深遠(yuǎn)的技術(shù)。我有時(shí)會(huì)這樣描述和量化它：其影響將是工業(yè)革命的10倍，且速度快10倍。所以，這發(fā)生在十年內(nèi)，而不是一個(gè)世紀(jì)。所以這大約是工業(yè)革命速度的100倍。

老實(shí)說，這可能還是個(gè)保守估計(jì)，但這對(duì)我們來說可能已經(jīng)足夠去嘗試?yán)斫夂蛻?yīng)對(duì)了。當(dāng)然，我認(rèn)為會(huì)有令人超級(jí)興奮的事情發(fā)生，會(huì)有奇妙的事情出現(xiàn)，比如我們正試圖通過AI解決所有疾病，我相信當(dāng)今社會(huì)面臨的其他許多挑戰(zhàn)，從氣候到能源再到疾病，都將得到AI的幫助，我對(duì)此深信不疑。事實(shí)上，如果我不認(rèn)為未來會(huì)有AI這樣的技術(shù)出現(xiàn)，我會(huì)對(duì)這些挑戰(zhàn)感到更加擔(dān)憂。

但這將導(dǎo)致巨大的變革和顛覆，實(shí)際上涵蓋技術(shù)、經(jīng)濟(jì)和哲學(xué)層面。我認(rèn)為我們必須經(jīng)過深思熟慮，并召集社會(huì)各界共同討論這個(gè)問題，而不僅僅是技術(shù)專家。技術(shù)本身以及技術(shù)的安全性只是其中的一環(huán)。我們需要經(jīng)濟(jì)學(xué)家、社會(huì)科學(xué)家、人文和人類學(xué)專家來共同規(guī)劃未來將會(huì)發(fā)生什么。

我認(rèn)為這里出現(xiàn)負(fù)面情緒的原因之一，是因?yàn)樗谄渌麌?guó)家的情況有所不同。例如，當(dāng)我們從印度的峰會(huì)回來時(shí)，我發(fā)現(xiàn)它在印度年輕人中非常受歡迎，因?yàn)樗麄兛吹搅怂鼘樗麄儙淼拿裰骰瘷C(jī)遇。他們能夠獲得與去Silicon Valley所需的一樣基礎(chǔ)的工具。對(duì)于世界而言，這是一個(gè)了不起的時(shí)刻，每個(gè)人幾乎都可以接觸到前沿實(shí)驗(yàn)室正在發(fā)生的事情，而且只有幾個(gè)月的延遲。如果你仔細(xì)想想，這確實(shí)是前所未有的。

因此，這其中蘊(yùn)含著不可思議的事情。但我認(rèn)為，部分原因在于我的一些同行表達(dá)觀點(diǎn)的方式，我認(rèn)為他們?cè)跍贤〞r(shí)非常謹(jǐn)慎，并且意識(shí)到自己表現(xiàn)得過于篤定。我想說，在某些聲明上，他們顯得太過確信，而實(shí)際上我認(rèn)為其中存在巨大的不確定性，這本身就令人擔(dān)憂，但也意味著一切尚未成定局，這是我的觀點(diǎn)。我認(rèn)為這在某種程度上是未知的，任何聲稱了解一切的人都可能言過其實(shí)。我認(rèn)為在方向上我可以告訴你一些事情，但很大程度上確實(shí)取決于未來幾年所采取的行動(dòng)。

此外，今天的年輕人，也就是今天在座的許多學(xué)生，你們將塑造未來。你們是第一代在AI native環(huán)境中成長(zhǎng)起來的人，就像我當(dāng)年成長(zhǎng)在computer native環(huán)境中一樣。正如每一代人一樣，你們將掌握這些技術(shù)，并利用它們變得超級(jí)高效。實(shí)際上我認(rèn)為，至少在接下來的10年里會(huì)是這樣，在此之后就很難預(yù)測(cè)了。如果你能以正確的方式使用它們，你幾乎會(huì)擁有超能力。個(gè)人能夠完成的創(chuàng)意和項(xiàng)目數(shù)量將會(huì)大大增加。

但這也許會(huì)改變工作的本質(zhì)。未來將會(huì)有更多小型的創(chuàng)業(yè)項(xiàng)目，而非大型公司。我也不確定。這將會(huì)帶來巨大的改變。我認(rèn)為，社會(huì)各界——而不僅僅是技術(shù)專家、經(jīng)濟(jì)學(xué)家及其他相關(guān)人士——需要團(tuán)結(jié)起來，真正重視這種指數(shù)級(jí)的增長(zhǎng)。我們昨晚也在討論這個(gè)問題，現(xiàn)在就需要認(rèn)真對(duì)待，并開始規(guī)劃未來的藍(lán)圖。例如，如果我們處于一個(gè)后稀缺時(shí)代，每個(gè)人該如何從中獲益？

要知道，很大程度上這關(guān)乎于，顯然，只讓少數(shù)人、少數(shù)幾家公司甚至少數(shù)幾個(gè)國(guó)家從這項(xiàng)技術(shù)中獲益是不正確的。這需要具有廣泛性，因?yàn)樗鼘⒂绊懭祟?，必須讓所有人都能廣泛地享受到其中的紅利。但該如何實(shí)現(xiàn)這一點(diǎn)呢？我們確實(shí)需要，我們很多人討論這個(gè)問題已經(jīng)有一段時(shí)間了，但我們現(xiàn)在真正需要的是答案，以及需要采取的具體措施和行動(dòng)。我計(jì)劃為此貢獻(xiàn)自己的一份力量。這些年來我一直在深入思考這個(gè)問題，并進(jìn)行規(guī)劃and積累影響力，我會(huì)盡我所能。

顯然，我們是一個(gè)重要的參與者，但我們只是這個(gè)領(lǐng)域中的參與者之一。但我希望，我知道好消息是，所有的領(lǐng)先實(shí)驗(yàn)室及其負(fù)責(zé)人，盡管他們?cè)谠S多事情上存在分歧，但他們確實(shí)在擔(dān)憂未來可能出現(xiàn)的此類問題。但我們需要更多的論壇，讓我們能夠聚集在一起，更坦誠(chéng)地討論這些事情。我認(rèn)為公眾所察覺到的，可能恰恰是關(guān)于未來走向的討論存在些許偏差，或許在某些信息傳遞背后還隱藏著不可告人的動(dòng)機(jī)，比如融資或其他目的。

但我認(rèn)為我們需要達(dá)成共識(shí)，要運(yùn)用科學(xué)方法，在這個(gè)歷史的關(guān)鍵時(shí)刻保持真正的嚴(yán)謹(jǐn)和深思熟慮。最后我想說的是，我非常希望能看到。我認(rèn)為業(yè)界和該領(lǐng)域有責(zé)任更明確地展示其益處，不僅是談?wù)撍鼈儯且獙?shí)實(shí)在在地證明它們。因此在健康、醫(yī)學(xué)和科學(xué)領(lǐng)域，在我看來，這些事物都是毋庸置疑的福祉，比如AlphaFold。但這樣的例子還不夠多。應(yīng)該有20個(gè)AlphaFold才對(duì)，不是嗎？我們必須停止在假設(shè)層面上談?wù)撝斡┌Y，而要真正去治愈癌癥。

因此我認(rèn)為，我們需要向公眾證明，為什么我們這些對(duì)人工智能感到興奮的人——在座的許多人也是如此——會(huì)對(duì)此感到興奮？為什么我們畢生致力于此？同時(shí)，我們要如何在實(shí)現(xiàn)所有我們期待的美好愿景的同時(shí)，具體地降低相關(guān)風(fēng)險(xiǎn)？我認(rèn)為社會(huì)需要這些。

呼喚現(xiàn)代凱恩斯：后稀缺時(shí)代的經(jīng)濟(jì)學(xué)

喬納森·萊文

我認(rèn)為這里提到了許多很好的觀點(diǎn)：如果AI的突破能帶來一些切實(shí)的好處，比如在人類健康或藥物研發(fā)方面，那可能會(huì)在某種程度上改變?nèi)藗兊目捶?。而且我很贊同那個(gè)建議，即嘗試從更長(zhǎng)遠(yuǎn)的角度去思考一個(gè)在生產(chǎn)力等方面可能截然不同的世界。事實(shí)上，這很難做到。在社會(huì)科學(xué)領(lǐng)域，人們很少能跳出當(dāng)前的框架去進(jìn)行真正的遠(yuǎn)景展望。我想到Keynes在大蕭條時(shí)期那篇偉大的文章，他展望了我們子孫后代的經(jīng)濟(jì)生活。正如你昨晚所說，現(xiàn)在我們需要一位類似Keynes的人物，這實(shí)屬罕見?；蛟S，我們觀眾席中就有人能做到這一點(diǎn)。也許觀眾席中就有人會(huì)去實(shí)現(xiàn)它。

請(qǐng)?jiān)试S我提問，多年來你一直談?wù)摰囊患率牵把貙?shí)驗(yàn)室在某種意義上需要自我監(jiān)管。那就是有時(shí)選擇不發(fā)布某些類型的技術(shù)。那些可能構(gòu)成安全威脅的技術(shù)等等。目前很清楚，各大實(shí)驗(yàn)室正處于激烈的競(jìng)爭(zhēng)之中。他們投入了一切。他們正在全力以赴。你是否仍然認(rèn)為實(shí)驗(yàn)室應(yīng)該進(jìn)行自我監(jiān)管？你認(rèn)為政府是否應(yīng)該介入并以某種方式監(jiān)管AI？相對(duì)于你過去所談?wù)摰膬?nèi)容，你如何看待當(dāng)前的態(tài)勢(shì)？

德米斯·哈薩比斯

首先，為了提供一些歷史背景。關(guān)于我們之前談到的技術(shù)發(fā)展情況，我認(rèn)為技術(shù)的發(fā)展令人驚嘆，甚至可能比我20年前想象的還要好。但這種環(huán)境，它所孕育的條件，絕非理想，甚至相去甚遠(yuǎn)，我曾在15年前、10年前感到非常擔(dān)憂，擔(dān)心隨著越來越多的人、越來越多的公司、越來越多的雄心勃勃的科技領(lǐng)袖意識(shí)到我20多年來一直深知的事實(shí)——即這項(xiàng)技術(shù)將會(huì)有多么重要——從而引發(fā)這種競(jìng)爭(zhēng)態(tài)勢(shì)。

我們也在現(xiàn)場(chǎng)討論過這種競(jìng)爭(zhēng)態(tài)勢(shì)所帶來的危險(xiǎn)。遺憾的是，由于技術(shù)發(fā)展的路徑所致，如果我們能揮動(dòng)魔法棒，我本會(huì)選擇在一個(gè)研究機(jī)構(gòu)中構(gòu)建AGI，即通用技術(shù)，類似于CERN那樣，匯集最頂尖的大腦，相互審視彼此的構(gòu)思，確保我們嚴(yán)謹(jǐn)?shù)刈裱茖W(xué)方法進(jìn)行測(cè)試，并理解我們所邁出的每一步。但那樣我們就無需等待了。當(dāng)然，這意味著AGI會(huì)晚一些到來，也許會(huì)晚10年，但我們不必等到那時(shí)才能獲得它的社會(huì)效益，因?yàn)榕c此同時(shí)，我們可以從中拆分出部分功能，將其應(yīng)用于專業(yè)化系統(tǒng)，例如更多的AlphaFold，用于攻克疾病。這是可以做到的，因?yàn)槟切儆贏lphaFold類系統(tǒng)，是一種專業(yè)化的混合系統(tǒng)。它運(yùn)用了許多通用系統(tǒng)所采用的理念，并專門針對(duì)蛋白質(zhì)折疊進(jìn)行了優(yōu)化。

所以，這實(shí)際上是我的愿景，你們也可以看到這就是我的初衷，因?yàn)檫@正是我們當(dāng)時(shí)正在做的事情。但隨后聊天機(jī)器人改變了這一點(diǎn)，因?yàn)閷?shí)際上，這可能是我在過去15年左右的科學(xué)領(lǐng)域中唯一感到驚訝的事情，那就是Transformers在語言處理方面最終變得如此高效。而且，僅僅通過互聯(lián)網(wǎng)就能將語言剝離出來并進(jìn)行學(xué)習(xí)，而無需在現(xiàn)實(shí)世界（無論是機(jī)器人技術(shù)還是模擬環(huán)境）中進(jìn)行交互，這一事實(shí)確實(shí)令人矚目。這非常有趣，至于其中的原因，那將會(huì)是另一個(gè)完全不同的話題。我對(duì)此有一些理論。

語言的根基比語言學(xué)家們所認(rèn)為的要深厚得多。通過人類測(cè)試者所進(jìn)行的強(qiáng)化學(xué)習(xí)反饋，確實(shí)存在某種根基，因?yàn)楹茱@然，我們是植根于現(xiàn)實(shí)世界的。因此，當(dāng)我們對(duì)某些事物說“是”或“否”時(shí)，我們的這種根基便以一種非常低帶寬的方式，最終影響并改變了foundation model的理解。所以我認(rèn)為，確實(shí)發(fā)生了一些意想不到的事情。隨后，這使它成為了一項(xiàng)具有極高商業(yè)價(jià)值的技術(shù)，可以通過工程投入and資金支持等方式進(jìn)行擴(kuò)展，這正是當(dāng)今我們所看到的景象。

而這改變了整個(gè)動(dòng)態(tài)格局。隨后便造就了我們今天所見的局面，這可能是迄今為止最激烈、最具競(jìng)爭(zhēng)性的環(huán)境。我敢說這是前所未有的，至少在科技行業(yè)和科技時(shí)代是如此，甚至可能是歷史上最激烈的?；蛟S商學(xué)院的史學(xué)家們會(huì)告訴我事實(shí)并非如此。但身處其中，這種感覺極其強(qiáng)烈，對(duì)所有參與者來說皆是如此。在此之上，還要疊加地緣政治的復(fù)雜性。所以，這其實(shí)是一場(chǎng)雙重競(jìng)賽。一方面是公司之間的競(jìng)爭(zhēng)，對(duì)它們而言這事關(guān)生死；另一方面是美中關(guān)系及其他地緣政治層面的博弈，那也是一場(chǎng)競(jìng)賽。所以這是雙重層面的競(jìng)爭(zhēng)，非常棘手。

目前，我仍然希望各方之間能達(dá)成某種合作與協(xié)調(diào)——我們作為實(shí)驗(yàn)室領(lǐng)導(dǎo)者當(dāng)然也會(huì)探討這一點(diǎn)——尤其是在安全性和防御性要素方面。這是所有人的共識(shí)。沒有人希望發(fā)生災(zāi)難性的失控。問題在于我們陷入了一種類似于囚徒困境的局面：根據(jù)定義，如果你花費(fèi)更多時(shí)間去發(fā)布產(chǎn)品或提高產(chǎn)品的安全性，這顯然比直接發(fā)布產(chǎn)品并觀察其表現(xiàn)要困難得多。結(jié)果就是背叛者會(huì)獲得某種優(yōu)勢(shì)，這就是競(jìng)相逐底機(jī)制中的經(jīng)典問題。

我們必須設(shè)法改變這種狀況，我認(rèn)為這非常迫切。我認(rèn)為解決辦法的一部分是某種形式的政府介入。當(dāng)然，困難在于任何與監(jiān)管相關(guān)的事物都過于遲緩；現(xiàn)在每周都會(huì)有新進(jìn)展，如果我們兩年前制定了監(jiān)管規(guī)定，那現(xiàn)在看來就如同陳年舊事一樣，幾乎可以肯定那是完全錯(cuò)誤的舉措。因此，無論采取何種設(shè)計(jì)，它都需要具備動(dòng)態(tài)性。但這通常與監(jiān)管這個(gè)詞格格不入，所以它必須像反應(yīng)敏捷一樣，能夠根據(jù)最新進(jìn)展獲取信息，從而適應(yīng)真正的風(fēng)險(xiǎn)所在，而不是去關(guān)注那些很多年前預(yù)設(shè)、最終被證明并非如此或并非關(guān)鍵所在的那類所謂風(fēng)險(xiǎn)。

這對(duì)AI來說根本行不通，即使在今天，我們也知道領(lǐng)先的科學(xué)家們未必能就一份簡(jiǎn)短的風(fēng)險(xiǎn)清單達(dá)成一致。我知道他們肯定無法就所需的制衡機(jī)制達(dá)成簡(jiǎn)短的共識(shí)，這是因?yàn)橄嚓P(guān)科學(xué)尚未定論，且進(jìn)展速度確實(shí)超前于我們的理解，這正是當(dāng)前的現(xiàn)實(shí)，也是競(jìng)賽動(dòng)態(tài)的一部分，但我們需要設(shè)法重新平衡這一點(diǎn)。我們需要某種形式的、真正意義上的智能監(jiān)管，它必須是動(dòng)態(tài)的，能夠隨時(shí)代迅速調(diào)整，并可能由領(lǐng)先的實(shí)驗(yàn)室提供參考。

動(dòng)態(tài)監(jiān)管與科學(xué)前沿

喬納森·萊文

好的，這個(gè)話題就此打住，我認(rèn)為在如何建立監(jiān)管體系的前景方面，還有很多值得探討的地方。針對(duì)AI采取監(jiān)管措施，同時(shí)又要確保不阻礙你所提到的那些對(duì)地緣政治有益的突破。]

喬納森·萊文

我們想要所有的創(chuàng)新，我們想要攻克疾病。所以準(zhǔn)確地說，你該如何促進(jìn)良好的用例，同時(shí)緩解負(fù)面影響呢？

我非常期待你今年能拿出相關(guān)計(jì)劃。我想留點(diǎn)時(shí)間給學(xué)生提問。

觀眾提問

你好，Demis。我是商學(xué)院二年級(jí)的學(xué)生Arind。我的問題是，您如何平衡推動(dòng)AI前沿發(fā)展與確保健康及科學(xué)紅利在非洲和全球南方等需求最迫切、但部署與研究基礎(chǔ)設(shè)施最薄弱的地區(qū)實(shí)現(xiàn)均衡分配？

德米斯·哈薩比斯

我們實(shí)際上經(jīng)常思考這個(gè)問題。我可以舉的一個(gè)例子是關(guān)于AlphaFold的，當(dāng)時(shí)我們將所有蛋白質(zhì)結(jié)構(gòu)折疊并放入數(shù)據(jù)庫(kù)中，讓世界各地的人都能訪問。所以，這300萬研究人員來自190個(gè)國(guó)家，說清楚一點(diǎn)，這幾乎涵蓋了每個(gè)國(guó)家、每位研究人員。

這意味著他們能夠利用AlphaFold做些什么，而我們?cè)缙谠谂嘤献鞣矫嫠龅墓ぷ鞣浅０簟Ｎ覀兣cDNDDI（被忽視疾病藥物研發(fā)聯(lián)盟）進(jìn)行了合作，它是瑞士WHO的一部分，專門研究世界上那些醫(yī)療體系不完善的貧困地區(qū)所面臨的疾病。如您所知，其中一些疾病被忽視了，因?yàn)榇笮椭扑幑驹谶@些市場(chǎng)上無法盈利。因此，那些主要影響世界這些地區(qū)或區(qū)域的疾病，就無法獲得足夠的研發(fā)資源支持。

因此，我們能夠與該研究所及當(dāng)?shù)卦S多實(shí)際的大學(xué)開展合作，直接幫助他們跨越了自行解析瘧疾病毒或Zika病毒等結(jié)構(gòu)的過程，而這些工作本需要他們投入大量繁瑣的結(jié)構(gòu)生物學(xué)研究。他們可以直接將這些結(jié)構(gòu)視為已知前提，立即投入到藥物研發(fā)工作中。這極大地加速了整個(gè)研發(fā)進(jìn)程。他們可以利用目標(biāo)蛋白結(jié)構(gòu)直接推進(jìn)后續(xù)工作。

受氣候變化影響的作物抗逆性研究也是如此。我們?cè)谶@些領(lǐng)域與Jennifer Doudna的研究所及其他機(jī)構(gòu)合作，因?yàn)榇饲霸S多植物蛋白的結(jié)構(gòu)尚未被解析。顯而易見，絕大多數(shù)結(jié)構(gòu)生物學(xué)研究都集中在人類蛋白質(zhì)上。因此，在動(dòng)物或植物領(lǐng)域，現(xiàn)有的數(shù)據(jù)要少得多。所以他們能夠?qū)崿F(xiàn)突破，這使得該技術(shù)在這些領(lǐng)域具有更為顯著的影響力。

最后我想說的是，如果我們能做到——我認(rèn)為這也是資本引擎發(fā)揮正面作用的地方——如果我們能將我們?cè)贗somorphic致力于研發(fā)的藥物發(fā)現(xiàn)平臺(tái)打造得像我所說的那樣高效，即把研發(fā)周期從幾年縮短到幾個(gè)月。因此，與其耗資數(shù)十億美元，現(xiàn)在的成本僅為數(shù)千萬美元。甚至可能低至數(shù)百萬美元。我希望Isomorphic能做到的是，我們不僅能治愈那些可能影響全球較富裕地區(qū)的棘手疾病。這可以盈利，并以此作為驅(qū)動(dòng)力，但隨后我們可以采取某種慈善方式，由公司去尋找那些不需要追求回報(bào)的疾病療法，因?yàn)槠溲邪l(fā)速度夠快、成本夠低，可以在短時(shí)間內(nèi)完成。所以我認(rèn)為，這就是我對(duì)Isomorphic如何助力全世界的夢(mèng)想。

哲學(xué)、美德與后稀缺時(shí)代

觀眾提問

你好，Demis。非常感謝你抽出時(shí)間與我們交談。我叫Miki。我是Dore School of Sustainability的大四學(xué)生。你已經(jīng)廣泛地描述了AGI如何成為人類最具變革性的技術(shù)。我好奇，在AGI帶來這種智力開拓和生產(chǎn)力提升的同時(shí)，你是如何思考其社會(huì)責(zé)任或社會(huì)影響的？尤其是考慮到這將會(huì)如何重新定義和重塑人們所面臨的挑戰(zhàn)，以及它可能帶來的后續(xù)連鎖反應(yīng)。謝謝。

德米斯·哈薩比斯

好的，謝謝你的提問。我一直都在思考這個(gè)問題，從一開始就是如此，因?yàn)槲覀儺?dāng)時(shí)就在為成功做規(guī)劃，所以即便在15、20年前，這看起來非常不可能。我認(rèn)為這就是我喜歡做這類演講并與身處這類領(lǐng)域的人士會(huì)面的原因，這在某種程度上是一種號(hào)召，因?yàn)槲覀兇_實(shí)迫切需要思考二階后果。

在我看來，在座的許多人，以及許多從事人文學(xué)科研究的人，現(xiàn)在是屬于你們的時(shí)代了。因?yàn)?，我們必須確保技術(shù)開發(fā)正確。但如果我們做到了這一點(diǎn)，接下來就是經(jīng)濟(jì)學(xué)問題。如果我們能解決這些問題，那么接下來就是關(guān)于人類生存狀態(tài)的哲學(xué)問題。我對(duì)此感到非常興奮，我是一個(gè)堅(jiān)定的信徒，我非常樂觀。顯然，我應(yīng)該說，我是一個(gè)謹(jǐn)慎的樂觀主義者。我非常樂觀地認(rèn)為，我們一定能把這件事做好。我非常相信人類的獨(dú)創(chuàng)性，尤其是在壓力之下。我認(rèn)為當(dāng)處于危急關(guān)頭時(shí)，人類總是能找到解決辦法，現(xiàn)在也不例外。

我們確實(shí)需要開始重視這一點(diǎn)。我認(rèn)為技術(shù)領(lǐng)域已經(jīng)在認(rèn)真對(duì)待了，但社會(huì)的其他部分也需要跟上。經(jīng)濟(jì)學(xué)家方面，每當(dāng)我與他們討論當(dāng)前發(fā)生的事情時(shí)，總會(huì)感到有些驚訝，他們對(duì)此相當(dāng)懷疑，糾結(jié)于這些增長(zhǎng)體現(xiàn)在GDP的哪個(gè)部分。這就好比，看吧，這可是工業(yè)革命威力的10倍，我們難道不能現(xiàn)在就開始為此做規(guī)劃嗎？

就像我們昨晚討論的那樣，我認(rèn)為我們確實(shí)需要像Keynes那樣的領(lǐng)域巨擘，但在一個(gè)后稀缺時(shí)代，為什么還要沿用舊有的理論呢？如果我們能正確運(yùn)用技術(shù)，我們將首次進(jìn)入一個(gè)非零和的世界，這在人類歷史上還是頭一次。這怎么能不需要一種全新的經(jīng)濟(jì)體系呢？它必然需要，而且我不認(rèn)為是我們嘗試過的任何一種，因?yàn)樗鼈兌际窃诹愫筒┺囊约百Y源有限、稀缺的世界背景下構(gòu)建的。

我說的是星際旅行，以及利用太陽(yáng)系中的所有資源，而不僅僅局限于地球上有限的資源。如果我們?cè)谖磥?0年、20年或30年內(nèi)能正確掌握這項(xiàng)技術(shù)，我認(rèn)為這真的會(huì)實(shí)現(xiàn)。在那之后，還有一個(gè)更難的問題，那就是我們希望如何推動(dòng)社會(huì)演進(jìn)，以及什么是美德，什么是意義，什么是目的。我認(rèn)為這需要大量杰出的哲學(xué)家參與。因此，這就是我向這些領(lǐng)域的人士發(fā)出的呼吁。在我看來，如果你正在從事這類項(xiàng)目，現(xiàn)在無疑是一個(gè)極其令人興奮的時(shí)代。前提是你必須理解，并且從本質(zhì)上深刻理解并積極投入到當(dāng)前正在發(fā)生的變革之中。

智能與意識(shí)的邊界

喬納森·萊文

這對(duì)大學(xué)來說是一個(gè)很好的使命。好的，再問一個(gè)學(xué)生問題。

觀眾提問

你好，Demis，我是Janai。我是一名MBA二年級(jí)的學(xué)生。我想問您，在您有生之年，有哪些領(lǐng)域是您不希望AI涉足的，以及從您的視角來看，有哪些秘密是您想要保留的？

喬納森·萊文

謝謝。沒錯(cuò)，這是一個(gè)很好的問題。

德米斯·哈薩比斯

聽著，從科學(xué)領(lǐng)域的角度來看，AI將是一項(xiàng)完全通用的技術(shù)，你可以把它看作一臺(tái)Turing machine。我是這么認(rèn)為的。

喬納森·萊文

這是我在大學(xué)里最喜歡的課程。

德米斯·哈薩比斯

我認(rèn)為人類的心智實(shí)際上也是完全通用的，所以我們某種程度上就是近似的Turing machine。正如Turing所證明的，任何可計(jì)算的事物，Turing machine都能計(jì)算。而我們宇宙中已知的大多數(shù)事物，即非量子事物，都是可計(jì)算的。因此，我們心智所能觸及的通用事物范圍極其廣泛，這正是我們得以構(gòu)建現(xiàn)代文明的原因；如果我們停下來思考，這簡(jiǎn)直是奇跡。我們對(duì)此思考得還不夠多。我們沒能保持足夠久的驚嘆感。

但這同時(shí)也意味著，我們正在構(gòu)建的這些系統(tǒng)，在某種程度上也將變得極具影響力。我想說的是，未來會(huì)出現(xiàn)一些非常重大的問題，我認(rèn)為如果我們?cè)谶@些問題上多花些時(shí)間思考會(huì)更好。例如，目前一個(gè)非常熱門的話題就是意識(shí)。盡管我認(rèn)為我們對(duì)意識(shí)的重要側(cè)面都有直覺，但在哲學(xué)和神經(jīng)科學(xué)領(lǐng)域，這仍然是一個(gè)定義尚不明確的問題。我的感覺是，當(dāng)前的系統(tǒng)并不表現(xiàn)出任何意識(shí)，也不是有意識(shí)的實(shí)體，但也有人持不同意見。

不過，關(guān)于AI不應(yīng)觸及的領(lǐng)域，我的建議是：我們應(yīng)當(dāng)將首批系統(tǒng)構(gòu)建為智能工具。在我看來，這已經(jīng)是一個(gè)足夠大的挑戰(zhàn)了，因?yàn)檫@本身就已達(dá)到通用人工智能（AGI）的水平。在此之后，利用這些工具去研究神經(jīng)科學(xué)、哲學(xué)等領(lǐng)域，從而對(duì)意識(shí)這類事物提出更嚴(yán)謹(jǐn)?shù)亩x是可行的。然后，我們可以根據(jù)這些定義來測(cè)試系統(tǒng)，最后由社會(huì)來決定我們是否要跨越第二道紅線，去嘗試創(chuàng)造出至少在我們看來具有意識(shí)的實(shí)體——或許我們并不希望做出那樣的決定。

我認(rèn)為智能and意識(shí)是可以分離的。因此，我認(rèn)為沒必要為了構(gòu)建智能系統(tǒng)而賦予其意識(shí)。我認(rèn)為這是一種選擇。當(dāng)你使用一些領(lǐng)先的聊天機(jī)器人時(shí)，你可能會(huì)感覺到它們所展現(xiàn)出的不同觀點(diǎn)。我的觀點(diǎn)是，將其拆分為兩個(gè)步驟會(huì)更好。這兩者對(duì)人類而言都意義非凡，不應(yīng)將它們混為一談。

給AI原生代的建議：適應(yīng)變革與博雅教育

喬納森·萊文

Demis，我們現(xiàn)在的禮堂里坐著許多學(xué)生。如果你回到校園，你會(huì)作何思考，又會(huì)學(xué)習(xí)什么？你認(rèn)為他們應(yīng)該如何規(guī)劃自己的學(xué)習(xí)和職業(yè)生涯，對(duì)此你有什么建議？

德米斯·哈薩比斯

嗯，你看，如果我現(xiàn)在回到大學(xué)，我會(huì)感到非常興奮。我的建議是，那些正在攻讀科學(xué)、STEM學(xué)科、數(shù)學(xué)and計(jì)算機(jī)科學(xué)的學(xué)生，請(qǐng)繼續(xù)保持。我認(rèn)為，如果你能理解這些工具的構(gòu)建方式及其能力，你就能更好地利用它們。我認(rèn)為在接下來的這段時(shí)期，至少在未來10年內(nèi)，情況都會(huì)是這樣。不過，我也建議積極擁抱這些變化，而不是試圖規(guī)避它。魔鬼已經(jīng)從瓶子里放出來了，再也回不去了。

比如，去充分利用這些工具的功能。我可以告訴你，領(lǐng)先的實(shí)驗(yàn)室正忙于開發(fā)這些工具，以至于我們甚至還沒能觸及它們能力的皮毛，甚至可以說，即便對(duì)今天的工具而言，我們也尚未完全發(fā)掘它們實(shí)際能做到的事。我有這種觀點(diǎn)，有時(shí)人們稱之為“能力溢出”。如果你能設(shè)法將這些工具與其它事物相結(jié)合，或者將其與你所擅長(zhǎng)的另一個(gè)領(lǐng)域進(jìn)行交叉，并以一種有趣的方式將其整合進(jìn)你的工作流中，它們所蘊(yùn)含的潛力是巨大的。你擁有這些工具，它們是目前任何人所能擁有的最強(qiáng)大的工具。你已將它們掌控于股掌之間。

作為個(gè)體，你能夠做的事情遠(yuǎn)不止于此。我認(rèn)為這應(yīng)該能釋放創(chuàng)造力，比如那些研究人文、產(chǎn)品或商業(yè)的人，也許你以前并不具備編程技能，但現(xiàn)在你可以利用這些工具將腦海中的許多想法轉(zhuǎn)化為現(xiàn)實(shí)，但我也認(rèn)為，對(duì)于程序員，即那些精通編程的人來說，他們能做到100倍以上的事情，比如在項(xiàng)目規(guī)模上，如果你是編程專家，你能做到的遠(yuǎn)超以往。所以我認(rèn)為它既實(shí)現(xiàn)了大眾化，也賦予了那些在這些領(lǐng)域擁有專業(yè)知識(shí)的人更多可能。

所以我認(rèn)為這是一個(gè)了不起的時(shí)代，但我也理解它同樣令人擔(dān)憂，因?yàn)橐磺卸紝l(fā)生改變。這是我唯一能確定告訴你們的事情。未來10年里，一切都將發(fā)生改變，其程度可能比人們預(yù)想的還要大。但同時(shí)，在任何發(fā)生巨大變革的時(shí)代，也伴隨著巨大的機(jī)遇。必然如此，世界實(shí)際上任由你們探索。我甚至有些羨慕你們中的一些人，因?yàn)槟銈兪堑谝淮鶤I native，就像我們這一代是計(jì)算機(jī)和互聯(lián)網(wǎng)的原住民一樣。

喬納森·萊文

原生的，最終它將掌握在你們手中，在座的學(xué)生們將決定那個(gè)未來世界如何構(gòu)建。我認(rèn)為如果我們從正確的角度、以正確的方式去思考，并發(fā)揮豐富的想象力和創(chuàng)造力，這會(huì)是一個(gè)非常激動(dòng)人心的時(shí)代。但我覺得這一點(diǎn)始終成立，或許在當(dāng)下這種巨大變革的時(shí)期，這種特質(zhì)被進(jìn)一步放大了。

我們昨晚討論過，在充滿變數(shù)、未來走向不明朗的時(shí)期，你必須具備適應(yīng)能力并擁有廣博的知識(shí)領(lǐng)域，這將是博雅教育的黃金時(shí)代。所以最主要的就是確保我們堅(jiān)定地發(fā)揮自身的主觀能動(dòng)性，未來仍有待書寫，我建議大家不要聽信任何說未來已定的人。Demis，感謝你參與我們的訪談。

太棒了。