本文來自微信公眾號： Web3天空之城 ，作者：Web3天空之城，原文標題：《全文版| Anthropic CEO阿莫代最新訪談：論技術(shù)爆發(fā)、安全紅線與文明契約》

全局摘要

本次最新訪談深入探討了Anthropic CEO阿莫代在面對AI指數(shù)級增長時的心路歷程，涵蓋了從離開OpenAI的內(nèi)幕、公司的商業(yè)模式選擇，到AI對就業(yè)市場、網(wǎng)絡(luò)安全以及地緣政治的深遠影響。CEO詳細闡述了Anthropic如何通過建立“長期利益信托”等機制來制衡權(quán)力，并在追求技術(shù)領(lǐng)先的同時，通過設(shè)立“紅線”和推遲發(fā)布高風險模型（如Mythos）來踐行其安全價值觀。

注，阿莫代的言論一直對東方大國不甚友好，各位自行鑒別。

核心觀點

• AI行業(yè)正處于一種“平穩(wěn)的指數(shù)級增長”中，這種增長在量變積累到一定程度后會產(chǎn)生質(zhì)的爆發(fā)感。

  
  

• 信任是AI行業(yè)合作的基石，Anthropic主張值得信賴的參與者應(yīng)聯(lián)合起來建立行業(yè)標準。

  
  

• 企業(yè)級商業(yè)模式與AI安全價值觀更具協(xié)同性，能避免消費級市場中常見的成癮性和低質(zhì)量內(nèi)容競爭。

  
  

• 對于AI引發(fā)的失業(yè)風險，社會需要預見并制定宏觀經(jīng)濟政策，同時尋求“用相同資源做更多事”的正和博弈。

  
  

• 軍事應(yīng)用必須堅持“人類在回路中”的原則，嚴守大規(guī)模監(jiān)視和全自主武器的紅線。

  
  

完整訪談

天空之城全文整理|Anthropic CEO阿莫代最新訪談-論技術(shù)爆發(fā)、安全紅線與文明契約

指數(shù)級增長的壓力與體驗

艾米麗·張

你睡眠時間有多少？

達里奧·阿莫代

我一直都不是那種睡眠質(zhì)量很好的人。只能說，我正在學習如何在非同尋常的壓力時刻放松并入睡的藝術(shù)。

艾米麗·張

一切發(fā)展得實在太快了。身處其中是什么感覺？

達里奧·阿莫代

那是一種指數(shù)級的感覺。就像是，假設(shè)你乘坐宇宙飛船以相對論速度遠離地球加速。狹義相對論的運作方式是，當你睡一覺醒來，地球上已經(jīng)過去了兩天。因此你必須在一天之內(nèi)處理兩天的事情。

然后你再去睡覺，因為你持續(xù)加速，地球上已經(jīng)過去了三天。隨后第二天，四天過去了。那種感覺差不多就是這樣。

艾米麗·張

你是否經(jīng)常因為擔心醒來后會面對什么而感到焦慮不安？

達里奧·阿莫代

我們需要處理的、清晰且緊迫的問題已經(jīng)足夠多了，我在處理這些問題的同時，也在思考我們該如何做好準備。但我認為偏執(zhí)或擔心自己醒來后會面對什么并無益處。我研究過歷史上那些處理過此類高壓局面的人。你需要學會理性應(yīng)對，不要將各種危險的程度相提并論。

這種在“我不擔心”和“天哪，我們今天必須恐慌”之間反復橫跳的狀態(tài)，我認為是決策不成熟的標志。而真正成熟的決策是，你不能無視這一點，我們也不能掉以輕心。事實上，這正變得風險越來越大，但我們必須理性應(yīng)對，就像外科醫(yī)生處理手術(shù)那樣?；蛘?，就像軍官處理軍事行動一樣，又或者，任何做出影響眾多人決策的人，都必須理性地做出這些決定。而且他們必須理解其中的風險，但他們也必須保持基本的冷靜。

所以我兒子昨天問他能不能用我的Claude賬號，我說絕對不行，我需要我的tokens。我們在消費級市場也越來越多地看到這些應(yīng)用，我們原本希望更多地成為一家企業(yè)級公司，但即使我們沒投入那么多精力，消費級業(yè)務(wù)也開始快速增長。

艾米麗·張

你現(xiàn)在正處于AI宇宙的中心，這種感覺如何？

達里奧·阿莫代

有趣的是，在我整個職業(yè)生涯中，尤其是加入Anthropic以來的這段時間，我所經(jīng)歷的是一種平穩(wěn)的指數(shù)級增長。

這種平穩(wěn)指數(shù)增長的體驗就是：什么都沒發(fā)生，什么都沒發(fā)生，什么都沒發(fā)生，發(fā)生了一些小事，然后突然之間，它就瘋狂地爆發(fā)了。這就是這個世界的體驗。這也是公司規(guī)模相較于其他公司以及相較于這個世界的體驗。

所以我盯著這個圖表看了很久，然后我說，我們很可能會在大約這個時候，成為營收最高且估值最高的AI公司。確實如此，確實發(fā)生了。發(fā)生了。所以從某種意義上講，我并不感到驚訝，因為圖表上的曲線非常平滑。但當然，從另一個角度來看，當事情真正發(fā)生時，你會看到更多、更豐富的細節(jié)和色彩。而且，這絕對是令人驚訝的。

我們始終銘記著我們通常關(guān)注的那些問題，即我們該如何訓練出優(yōu)秀的模型？我們該如何將它們應(yīng)用到優(yōu)秀的產(chǎn)品中？我們該如何確保一切都是安全的？我們該如何在幫助人們的同時，管控圍繞這項技術(shù)產(chǎn)生的社會風險？這一切都是同樣的問題，只是在更大的顯微鏡下進行審視而已。

成長背景與硅谷精神

艾米麗·張

你在San Francisco長大時是個什么樣的孩子？我知道你父親曾是一名皮革工匠，你母親在圖書館工作，這對你產(chǎn)生了怎樣的影響？

達里奧·阿莫代

那時候整個互聯(lián)網(wǎng)革命正發(fā)生在我身邊，但我對此毫無興趣。我只對研究數(shù)學和像寫寫畫畫這類事情感興趣。我對探索宇宙很感興趣。我對科幻小說很感興趣?？偟膩碚f，那是我當時所處的環(huán)境。我想我只是對這個世界懷有強烈的好奇心。

艾米麗·張

你在一個被稱為科技中心的地方長大。而現(xiàn)在它又是AI的中心。這個地方，這座城市，有什么因素塑造了你的世界觀嗎？

達里奧·阿莫代

有的。我認為那種不隨大流、崇尚個人主義，以及認為“有點瘋狂也沒關(guān)系”的普遍精神，是存在的。我想其中很大一部分可能確實對我產(chǎn)生了潛移默化的影響。

你會聽到一些故事，比如當你去歐洲某些國家，甚至這個國家的其他地區(qū)時，那種以不同方式思考問題的做法往往被抑制或被視為怪異，或者擁有一些瘋狂的想法。實際上我對Silicon Valley有很多批評，但我認為它有一點是好的，那就是它鼓勵一種理念：即便所有專家都反對你，那也無所謂。如果你有一個連貫的愿景和連貫的世界觀，你就應(yīng)該去追求它，這才是最重要的。也許它根本行不通。但如果行得通，它就具有某種長尾效應(yīng)，在某些領(lǐng)域你或許可以深挖，并最終可能在那里發(fā)現(xiàn)一座巨大的金礦。我認為這種精神非常重要。

艾米麗·張

你、Daniela、你的妹妹，以及她的丈夫Holden Karnovsky，在2016年時曾一起住在同一個合租房里。那時候你們在爭論什么？

達里奧·阿莫代

我想那時候正是Open Philanthropy項目剛剛啟動的時候，Holden是該項目的負責人。當時我是一名生物科學家。所以我當時在幫他們處理一些關(guān)于發(fā)展中國家健康或生物學研究方面的事情。所以我，算是為那些課題提供了一些建議。比如，哪些領(lǐng)域是有前景的？哪些領(lǐng)域的前景沒那么好？

離開OpenAI的核心分歧

艾米麗·張

你離開OpenAI的決定已經(jīng)成為了Silicon Valley的傳說。到底發(fā)生了什么？拋開那些敘事，本質(zhì)的問題是什么？你們在哪些方面存在分歧？

達里奧·阿莫代

聽著，我要說出來，我要說得非常簡單明了。當你構(gòu)建強大的技術(shù)時，會面臨許多難題，Anthropic每天也在經(jīng)歷這些。我們不知道自己做出的決定究竟是對還是錯。

所以，在安全性問題上存在許多合理的爭議。我們當然與他們有過一些分歧，但要知道，僅憑這一點并不足以成為離開的理由。這里的人曾與我有過分歧。這里的人彼此之間也有分歧。

但當你感到無法信任某人時，當你感到他們的價值觀并非如其所言時，當你感到他們不夠誠實時，當你感到他們并非出于宣稱的原因而行事時，當你看到令人不安的行為模式或不誠實時，這會讓你很難繼續(xù)在公司工作，也很難繼續(xù)信任這家公司。說到底，當你與某人沒有共同愿景且不再信任對方時，何必再去爭論呢？

解決的辦法就是各奔前程，你去做你的事，他們?nèi)プ鏊麄兊氖?。我完全坦然接受這一點：我們按自己的方式行事，他們則按他們的方式行事。我們將拭目以待誰能在市場上勝出，誰能在輿論法庭上勝出。我認為這些事實勝于雄辯，比任何關(guān)于誰離開、為什么離開的戲劇性揣測更有說服力。我們要知道，我們正在為如何部署這項技術(shù)提供一個范例，我們認為這是一種負責任的方式。如果他們有異議，他們應(yīng)該提出論據(jù)。我認為關(guān)于這件事無需多言。

行業(yè)合作與信任重建

艾米麗·張

在印度的AI峰會上，有一個瞬間，你和Sam Altman似乎拒絕在臺上握手。當時發(fā)生了什么？

達里奧·阿莫代

當時的情況是，那場峰會組織得極其混亂。我們都在最后一刻才上臺，他們臨時改變了我們的站位順序。然后他們給我們拍了張照片，接著命令我們所有人手拉手。如果你參加過這類峰會——我并不是針對印度說什么壞話——但這類所有有國家元首出席的國際峰會，組織起來都非?；靵y。

艾米麗·張

但其他人都手拉手了。拜托。

達里奧·阿莫代

聽著，我不知道該怎么跟你說，好嗎？當時Narendra Modi就在上面，突然叫所有人手拉手。

艾米麗·張

行吧，行吧。

旁白

你看，Sam和Elon正在互相起訴?？磥砟悴幌矚gSam。

艾米麗·張

如果世界上最重要技術(shù)的開發(fā)者們都無法在舞臺上手拉手，我們又怎能相信你們會在生存風險問題上展開合作呢？

達里奧·阿莫代

那么，這就是我想告訴你們的。在構(gòu)建這項技術(shù)的人員中，其素質(zhì)和可信度存在巨大的差異。我認為這意味著，不同的人，認為沒有人信任彼此，我不認為這是正確的。我認識構(gòu)建Gemini模型的Demis Hassabis，這些模型是Claude模型的競爭對手。我已經(jīng)認識他們15年了。我們曾一起合作處理過許多問題。我們向Google購買計算資源。我們經(jīng)常交流安全方面的想法。

所以，我的觀點是，首先，有些參與者比其他人更值得信賴。而且，我認為在Anthropic之外也有我所信任的參與者，我認為他們是值得信賴的。我認為需要發(fā)生的是，值得信賴的參與者需要聯(lián)合起來，去應(yīng)對那些不值得信賴的參與者。使得參與者不得不采取相同的標準。

通過豐富的經(jīng)驗，我了解到有些人并不會自覺地做正確的事。但如果行業(yè)內(nèi)的大多數(shù)人都在做正確的事，那么我認為行業(yè)中的其他人就別無選擇，只能跟隨潮流。這就像是一種積極的版本，你去激勵其他人。這就像Demis和我互相激勵一樣。他在做AlphaFold。我們也在生物學領(lǐng)域嘗試做一些事情，我們在做可解釋性。他們開始了可解釋性研究。這甚至算不上競爭。

這只是因為每家公司都在做一些很酷的事情。而其他公司會覺得，那很酷。我們也想嘗試一下，看看能不能在其中做出一些新的東西。這就是頂級競爭中“胡蘿卜”的一面。然后是“大棒”的一面，或者是隱性的“大棒”，即你意識到，這些人正在做正確的事。如果其他人不做正確的事，看起來就會很糟糕。

我們經(jīng)?？吹竭@樣的行為：他們雖然勉強做了正確的事，卻試圖假裝自己正在做不同的事情，并且暗示我們存在某種糟糕或邪惡的意圖，這是可以預見的。但我認為，這就是我們整合行業(yè)并促進行業(yè)合作的方式。

商業(yè)模式：企業(yè)級與價值觀的契合

艾米麗·張

早些時候，其他人專注于有趣、炫目的消費者應(yīng)用程序。而你押注于編碼和企業(yè)領(lǐng)域，Claude Code大獲成功，Claude Co-work也大獲成功。你當初為什么會下那個賭注？這是一個基于價值觀的決定，還是基于商業(yè)的決定？

達里奧·阿莫代

當我們創(chuàng)立Anthropic時，最根本的事情，也就是始終重要的事情，是我們內(nèi)心的愿望。我們希望以正確的方式去完成這件事。但你必須捫心自問，為了資助這些模型極其昂貴的創(chuàng)建過程，公司必須具備相應(yīng)的商業(yè)模式。那么，商業(yè)模式會阻礙價值觀的實現(xiàn)嗎？

這個問題始終存在。但我從在其他公司任職以及觀察其他公司的過程中學到的一點是：如果你選擇的商業(yè)模式與你的價值觀從根本上產(chǎn)生沖突，那你將會處境艱難。你要么會背棄自己的價值觀，要么會被時代所淘汰。你最終會陷入一種進退兩難的困境；雖然有辦法可以規(guī)避，但那依然是一個非常棘手局面。選擇一種與你的價值觀相兼容的商業(yè)模式要好得多。

所以當我們思考這個問題時，我們認為，你看，我們已經(jīng)見識過社交媒體and消費領(lǐng)域的世界，它似乎確實在鼓勵互動，甚至是成癮。我們從AI視頻模型中看到的那種粗制濫造的內(nèi)容，其背后的邏輯是最大化你投入的注意力時長，因為這背后是由廣告收入驅(qū)動的激勵機制。

然而如果我們審視企業(yè)領(lǐng)域，你看，我們的初衷是希望這些模型能對人們有所助益。如果我想到所有可以用AI完成的積極事物，我經(jīng)常提醒人們注意負面影響，但從根本上說，我們認為積極的一面終將勝過消極的一面。其中許多積極應(yīng)用基本都歸于企業(yè)應(yīng)用這一范疇。

我們希望利用AI去治愈那些過去無法治愈的疾病，這需要與生物技術(shù)公司、制藥公司以及學術(shù)研究機構(gòu)展開合作。所有這些都是企業(yè)，我們希望利用AI讓能源變得更廉價、更高效。這些全屬于企業(yè)應(yīng)用。我們希望利用AI來助力教育事業(yè)。其中大部分屬于企業(yè)級應(yīng)用。我們希望利用AI來解決健康和發(fā)展中國家面臨的問題。雖然它們是非營利組織，但本質(zhì)上都屬于企業(yè)范疇。我們希望促進經(jīng)濟增長。這基本上也屬于企業(yè)層面的范疇。

此外我認為還有另一個因素，那就是企業(yè)非?？粗匦湃魏烷L期關(guān)系，消費級應(yīng)用有時會帶有一種噱手感，而在企業(yè)層面，重要的是建立一種合作關(guān)系，即你與一家公司合作多年，你說到做到，他們也說到做到，并且他們從根本上信任你。因此，這與我們以積極且安全的方式部署這些模型的目標是非常協(xié)同的。因此，我認為擁有這種與我們價值觀高度契合的商業(yè)模式對我們很有利。并非說有時不存在沖突，也并非說我們不需要做出艱難的選擇，但我認為這類選擇的數(shù)量要比其他情況下少得多。

競爭護城河與“SaaS末日”

艾米麗·張

開發(fā)者可以在一個下午內(nèi)就從Claude切換到GPT或Gemini。在這個行業(yè)中，真的有可能保持長期的領(lǐng)先地位嗎？而且，你認為一個認真的競爭對手需要多久才能復制出你們所構(gòu)建的東西？

達里奧·阿莫代

模型質(zhì)量才是最重要的事情。比如我們目前在模型質(zhì)量上遙遙領(lǐng)先。雖然存在一定的慣性，但我從不依賴這一點，我從未依賴過，或者說Anthropic從未依賴過那種“產(chǎn)品粘性高、用戶不會切換”的想法。我認為你還是想要擁有一個更好的模型。你希望擁有更好的產(chǎn)品。而且，我們看到增長率根本沒有出現(xiàn)轉(zhuǎn)折，如果說有什么變化的話，它們反而上升了，至少在我們錄制這次訪談時是這樣。所以，我認為這是最重要的事情。

艾米麗·張

在Claude Co-Work發(fā)布后不久，2850億美元的市場價值一夜之間蒸發(fā)，交易員們將其稱為SaaS末日（SaaSpocalypse）。如果AI繼續(xù)以這種速度改進，傳統(tǒng)軟件會有多少被取代，速度會有多快？

達里奧·阿莫代

所以，這屬于那種很難提前預測的問題，如果你能完美地提前預測，那么人們早就做了，他們會在市場上賺取巨額財富，而且永遠正確。

所以，沒有人確切知道會發(fā)生什么，但我會指出幾點，所有這些傳統(tǒng)軟件公司都有一些護城河。我認為將會發(fā)生的是，其中一些護城河會消失，但另一些會保留下來，快速編寫軟件的能力，我絕對認為這將會消失，如果你的護城河是“我們編寫了這種沒人能寫出來的復雜軟件”，那么，祝你好運。你將無法捍衛(wèi)這一點。

但我認為人們擁有客戶關(guān)系。人們擁有關(guān)于該領(lǐng)域如何運作的專業(yè)知識。人們擁有獨特的領(lǐng)域知識。所以我給所有這些人的建議顯然是，不要自滿。不要忽視它。列出你所有的護城河，并非常清楚其中一些將會消失，而另一些則會變得相對更加重要，因為它們是限制性因素。并且也可能會有新的護城河出現(xiàn)。

我認為那些能夠靈巧應(yīng)對的人，能夠依靠依然存在的護城河以及利用新的護城河的人，將會做得很好。我認為那些心滿意足的人，他們只是在自欺欺人，認為過去有效的方法將來也會一直有效。他們將不會有好日子過。所以，這就是我會給出的建議。

而且，我認為歸根結(jié)底，我猜——當然這取決于你如何定義SaaS，以及你認為哪些不算SaaS——但我猜測軟件行業(yè)會變得更大，而不是更小，盡管其中會出現(xiàn)一些巨大的輸家。

艾米麗·張

請解釋一下。

達里奧·阿莫代

我只是認為蛋糕正在變得越來越大，比如，我認為有了AI，這塊蛋糕正在變得更大?，F(xiàn)有的老牌企業(yè)在相對意義上可能會變小。其中一些企業(yè)的價值可能會下降。如果它們不能以正確的方式進行調(diào)整，其中一些甚至可能會倒閉。

但我認為當增長速度非?？鞎r，你經(jīng)常會看到這種情況，如果AI的可能性增長了10倍，那么現(xiàn)有的既有行業(yè)增長1.5倍是非常容易的，只是增長幅度沒有整個大蛋糕增長得那么多而已。所以我認為這種情況可能會發(fā)生。這并不是說我們不會看到一些巨大的輸家。我認為那些不適應(yīng)、掩耳盜鈴、看不清未來趨勢，以及無法識別自身護城河的人，將會面臨非常艱難的處境。

算力、融資與合作伙伴

艾米麗·張

你最大的支持者是Amazon、Google、Microsoft和NVIDIA這樣的公司。這些公司都有各自的議程。他們既是合作伙伴也是競爭對手。你們擁有與資金掛鉤的巨大商業(yè)里程碑。到底是誰在真正做主？

達里奧·阿莫代

我們確實有過多次直言不諱地表達真實想法的情況。我一直非常明確地主張對向中國出口芯片實施管制，我之所以這么說，是因為我認為如果中國在AI能力上領(lǐng)先，這對美國以及全球民主進程來說將是非常糟糕的。而且，一些芯片制造商顯然并不認同這種觀點。但這并沒有阻止我表達我的看法。

即便是在我們簽署了更多合作協(xié)議之后，我現(xiàn)在依然在重申這一點。他們所了解的是，我們始終與他們保持合作。我們一直是良好的合作伙伴。我們是可以共事的。我確定他們希望我們不要說這些話，但這些確實是我堅信的內(nèi)容。你打算怎么做？他們最終還是會達成一致的。他們從這些交易中獲得的收益與我們相當。你看，我們都是成年人了。我們可以在某件事上展開合作，同時在另一件事上保留分歧。

艾米麗·張

Bloomberg報道稱，你們的估值甚至高于OpenAI。我們談?wù)摰氖且患页闪⑽迥甑某鮿?chuàng)公司，估值接近一萬億美元。你如何理解這一點？關(guān)于那個數(shù)字，以及既然你在計算資源方面更具紀律性且擁有更快的盈利路徑，為什么還需要這么多錢？

達里奧·阿莫代

計算資源的擴容速度非?？欤詷I(yè)務(wù)基本面看起來不錯是事實，但一年后你的計算資源規(guī)模可能會達到現(xiàn)在的三倍或四倍——我不會給出確切數(shù)字，但這類計算資源的增長非常迅速。我們完全有理由相信，收入的增長會達到并超過這些規(guī)模。而籌集資金正是應(yīng)對這種不確定性范圍的緩沖手段。

所以，這完全是一個理性的做法。這對業(yè)務(wù)造成的股權(quán)稀釋非常小，從邏輯上講，這兩者完全不是一回事。事實上，它與對立面是兼容的，這并不意味著業(yè)務(wù)的基本面有什么問題。

艾米麗·張

有報道稱服務(wù)器負載過重、存在可靠性問題，還有人抱怨token用完了。你說過其他公司在基礎(chǔ)設(shè)施建設(shè)上正在孤注一擲。你真的擁有你所需要的東西嗎，還是你在追趕進度？

達里奧·阿莫代

關(guān)于算力，其中一點是存在所謂的營銷算力，所以，我的觀點是，經(jīng)過一段時間，甚至比幾個月更長的時間，我們是可以獲得大量算力的。這里值得一提的是，我不認為以任何合理的標準來看，我們購買的算力太少了。

所以，我們原計劃算力每年增長10倍。每年10倍是我們所預期的。但這并不是我們目前所見到的情況。在2026年第一季度，我們的季度營收增長超過了3倍，這僅僅是一個季度的數(shù)據(jù)，而非年化增長；季度內(nèi)增長3倍，當然，3的4次方意味著全年增長將達到80倍。

我們并未預料到會有80倍的年化增長。若以80倍年化增長為目標進行規(guī)劃是不理性的，因為這意味著如果最終只實現(xiàn)10倍增長，你就相當于少了八倍。所以我們正處于一個局部極端的、算力爆炸的階段。這種情況不會持續(xù)下去。如果這種情況持續(xù)下去，到年底時你會獲得一個地球上沒有任何公司能夠企及的營收數(shù)字。我不認為這種情況會發(fā)生。它只是，它確實不可能持續(xù)。

但你可能會經(jīng)歷這樣短暫的時期，你會驚嘆，天哪，這比我們以往任何時候預想的增長速度都要快得多。但我不知道，你已經(jīng)看到了與Google達成的算力協(xié)議，也看到了與Amazon達成的算力協(xié)議。我們能夠且將會做的還有更多。比如，市場是流動的。如果你能非常有效地利用算力，且存在需求，你就能獲得所需的算力。可能只是需要一兩個月的時間。

引領(lǐng)頂峰競逐與公司文化

艾米麗·張

超越你的死對頭感覺如何？

達里奧·阿莫代

聽著，我們面前還有許多艱巨的挑戰(zhàn)。我們有一種“向頂峰競逐”的理念，即試圖帶動其他公司與我們同行。我認為我們已經(jīng)看到，我們確實帶動了他們。有時他們并不承認自己在這樣做。有時他們在攻擊我們的同時又在模仿我們，但這種帶動作用非常有價值。因此我認為，無論是從商業(yè)角度還是從模型層面來看，成為行業(yè)領(lǐng)先企業(yè)的價值，并不在于為了競爭而打敗對手。其意義在于有能力引領(lǐng)整個生態(tài)系統(tǒng)共同發(fā)展，我們希望未來能在這方面做得更多。

艾米麗·張

但不得不說，取得勝利確實讓人感覺不錯。

達里奧·阿莫代

你看，我們總是力求成功，不是嗎？就像我們一直在努力，我們并不是想在這里失敗，我并不是那種認為我們應(yīng)該停止這項技術(shù)發(fā)展、不該去構(gòu)建它的人。我們存在于自由企業(yè)制度之中，而且，這沒有任何問題。我們只是必須減輕模型帶來的風險，所以，這始終是在兩者之間尋找平衡。

艾米麗·張

那么，在Anthropic的大部分歷史中，你們一直處于劣勢。我想，當你一無所有時，占據(jù)道德制高點會更容易些。在這樣的規(guī)模下，要保持初心有多難？

達里奧·阿莫代

我想說的是，我花了很多時間思考這個問題為何如此。隨著公司的不斷擴張，我在每一個規(guī)模階段都保持著警惕。在公司發(fā)展的每一個階段，都會出現(xiàn)新的挑戰(zhàn)。公司可能會以某種新的方式失去其特質(zhì)。無論是商業(yè)上的進取心，還是其核心價值觀。

我對此兩者都感到擔憂，因為我認為它們是協(xié)同作用的。事實上，我認為我們能夠構(gòu)建出如此出色的模型，正是使我們能夠以有效方式踐行價值觀的關(guān)鍵。隨著公司不斷成長壯大，這里存在著許多陷阱。有很多種可能出錯的方式，這并不是因為我、聯(lián)合創(chuàng)始人或公司領(lǐng)導者的價值觀發(fā)生了改變，而是因為公司的構(gòu)成變化得非?？臁?/p>

所以我可能有一半的時間都在和公司談?wù)揂nthropic的文化以及這種文化是如何運作的，當你增長得如此迅速時，你會雇傭大量來自大型科技公司的人。如果你不告訴他們Anthropic是如何運作的，他們只會簡單地重復他們唯一熟悉的那一套，也就是他們原先所在公司的運作方式。

因此，這是一個持續(xù)的掙扎，也是一個持續(xù)的挑戰(zhàn)。這就像是，我和Daniela或許最重要的首要任務(wù)就是弄清楚如何保持這一點。因為我們意識到，從長遠來看，這才是我們的核心所在。

研發(fā)效率與科學進步

艾米麗·張

你們的產(chǎn)品迭代速度快得驚人。你們發(fā)布產(chǎn)品的數(shù)量之多、速度之快令人難以置信。你們是如何做到的？

達里奧·阿莫代

我想說兩點。第一點是，我們是一家統(tǒng)一的公司。我們有著統(tǒng)一的企業(yè)文化。我認為我們在規(guī)模擴大的同時，依然保持了極高的效率。每個人依然目標一致，這體現(xiàn)了文化和組織上的統(tǒng)一性。我認為這是最重要的因素。

至于第二大因素，我想說是Claude本身，我們現(xiàn)在正在利用Claude來提供幫助。利用它來幫助我們開發(fā)模型，提高模型效率，并快速開發(fā)產(chǎn)品。為此你需要開發(fā)各種各樣的新實踐方法。雖然我們在這方面尚屬新人，但它已經(jīng)帶來了顯著的加速效果，并且這種加速正變得越來越可靠。這就是我會指出的兩個因素。

艾米麗·張

你能告訴我你所見過的AI做出的最瘋狂的事情嗎？

達里奧·阿莫代

我認為我所見過的最瘋狂的事情主要發(fā)生在生物學和醫(yī)學領(lǐng)域。我見過不少案例，實際上也包括Daniela的情況，Claude診斷出了一些被許多頂尖醫(yī)生漏診的醫(yī)療問題。在生物學方面，這些模型在藥物設(shè)計、計算化學等任務(wù)上開始表現(xiàn)得令人驚嘆。作為一個曾經(jīng)的生物學家，我看著這些成果時不禁感嘆，這真的太難了。

要知道，完成these任務(wù)需要經(jīng)過大量的專業(yè)訓練。而Claude在這方面正變得越來越出色。這是我認為我們將從中獲得巨大收益的一個領(lǐng)域。這就是積極的一面，我們將獲得這些極其巨大的福祉。生活將會變得更好。人類體驗的質(zhì)量將會變得更好。

艾米麗·張

一個世紀的科學進步。

達里奧·阿莫代

一個世紀的科學進步，以及人類體驗層面一個世紀的進步。比如，回溯到1900年。想想我們在1900年所面臨的所有問題、導致人們過早死亡的所有原因、他們必須承受的所有苦難，以及我們今天不必再面對的所有物質(zhì)匱乏。

然后再設(shè)想接下來的又一個百年。我真心相信這一個世紀的科學和醫(yī)學進步，如果我們能克服當下的難關(guān)——我相信我們能夠做到。我越來越感到樂觀。我們將擁有一個遠比現(xiàn)在更好的世界。

寫作、思考與AI輔助

艾米麗·張

我知道你有多熱愛寫作。你以撰寫文章而聞名。你會使用Claude來輔助寫作嗎？

達里奧·阿莫代

我會用。我還沒有到直接采用Claude所寫文本的地步，因為我有自己獨特的風格，對此比較挑剔。但我基本上會用Claude來協(xié)助頭腦風暴，幫我梳理主題，或者提供一些我可以參考的內(nèi)容。所以它起的是一種輔助作用。我不知道距離Claude能夠?qū)懗霰任腋玫淖髌愤€有多遠。我們還沒達到那個階段，但是，我認為那一天肯定會到來。

艾米麗·張

我也熱愛寫作，我覺得寫作能幫助你理清思路。這其中涉及大量的批判性思維。如果我們讓Claude代勞，我們是否會失去這種能力？

達里奧·阿莫代

我對此感到有些擔憂，事實上，這也是我堅持自己寫作的一半原因。這對外部受眾而言確實如此。盡管有許多人閱讀我的文章，但寫作同樣是為了理清我自己的思路，讓我知道下一步該做什么，并為我與他人之間建立一個共同的參照點。

我認為我們?nèi)栽谔接懭绾我砸环N既能保留這些益處的方式來使用AI。我想我目前所做的就是這樣，比如我使用Claude進行研究。以及我使用Claude來協(xié)助梳理我自己的想法。我認為如果我們只是全程使用它，比如讓它寫一篇關(guān)于AI風險的文章，首先，它寫不出我的個人見解，其次，我也確實會失去寫作帶來的那些益處。隨著模型性能的提升，我想未來大概會有某種方式能更直接地在寫作中使用它們，同時又能保留這些益處，但這將是一個微妙的過程。情況不會單一呈現(xiàn)，我們必須在未來一段時間內(nèi)逐步摸索。

我認為我們可能會迎來一種非常反常的組合，即GDP高速增長伴隨著高失業(yè)率，或者至少是就業(yè)不足，又或是大量低薪崗位的存在，以及嚴重的不平等。

失業(yè)風險、生產(chǎn)力與宏觀政策

艾米麗·張

你在失業(yè)問題上一直非常直言不諱。AI可能會在未來1到5年內(nèi)淘汰掉一半的入門級白領(lǐng)工作崗位。那是去年的說法。AI的發(fā)展速度快得驚人?，F(xiàn)在還是50%嗎？還是比例更高了？

達里奧·阿莫代

我一直都說過，如果你回看那些原始視頻片段，它們總是會被斷章取義地截取那三秒鐘，但實際上，我真實的表述一直是：我不知道未來會發(fā)生什么，但這預示著局勢可能產(chǎn)生的劇烈震蕩將達到一個數(shù)量級。而且，我也一直在談?wù)撐覀兛梢圆扇∧男?yīng)對措施，我曾談到過代幣稅，以及與企業(yè)合作來調(diào)整人員配置。我對再培訓計劃持有一點懷疑態(tài)度，但我們確實應(yīng)該將其納入宏觀經(jīng)濟政策的考量中。

從一開始，我談?wù)摰目偸墙鉀Q方案，但人類心理中似乎有一種傾向，總是剪輯出那三秒鐘關(guān)于末日將至的內(nèi)容。因此，我想傳達的信息絕對不是末日將至。我想說的是，這是我們應(yīng)該預見并感到擔憂的事情，而且我們確實需要以積極的態(tài)度去應(yīng)對。我并不完全確定，但我依然相當擔憂。我的擔憂程度依然處于同一水平。

我們現(xiàn)在看到AI正在提高人們的生產(chǎn)力，但這屬于通常的初期增長階段。如果你回顧一下工業(yè)革命時期，我在《Adolescence of Technology》中寫過這一點。你自動化了90%的工作，這很好。人們在剩下10%的工作上的生產(chǎn)力提高了10倍，因為他們獲得了10倍的杠桿效應(yīng)。但最終它會接近100%。那么，隨之而連帶的問題是，你必須為他們找到其他可以做的事情。

關(guān)于長期發(fā)展，我尚不確定。對此我確實感到不確定。但我確實認為存在不同類型的適應(yīng)。例如，我談?wù)摰囊稽c是Anthropic內(nèi)部的軟件工程師。我們目前正在經(jīng)歷這種轉(zhuǎn)變，雖然AI編寫了所有或幾乎所有的代碼，但AI確實讓軟件工程師變得更有效率。但即便如此，它依然提升了人們的效率。然而我們已經(jīng)開始看到一種苗頭，即對于某些人而言，它可能并沒有提升其效率，在這種情況下，直接讓AI完成工作可能效果更好。

所以這是問題的一個方面。而另一方面則是，我們需要在哪些領(lǐng)域增加需求？我們稱之為前沿部署工程師，或者類似于應(yīng)用AI解決方案架構(gòu)師，他們的工作兼具技術(shù)開發(fā)與客戶溝通。目前對此類人才的需求非常巨大，因為客戶群體龐大且我們正處于快速擴張期。那么，這是否適合每一位從事純軟件工程工作的人？這并非完美匹配。這并非一一對應(yīng)的關(guān)系。這讓你意識到未來將會有巨大的顛覆，但事物也會隨之調(diào)整。哪一方會勝出？我不知道。

但之所以必須發(fā)出預警，是因為這正是我們做出應(yīng)對的方式。這也是我們制定政策的依據(jù)，無論是在人類自身層面，還是在全球宏觀經(jīng)濟層面。我們希望提出經(jīng)過深思熟慮的觀點。我們不想做出人們認為無法真正實現(xiàn)或兌現(xiàn)的承諾。我們不想發(fā)表未經(jīng)充分論證的言論。我們希望針對這些問題進行審慎思考，探尋切實可行的應(yīng)對之策。

艾米麗·張

你展示了這張圖表，其中顯示了潛在的工作崗位流失情況，例如銷售、金融等領(lǐng)域；哪些工作會消失，誰會被取代，以及會創(chuàng)造出哪些新工作？

達里奧·阿莫代

實際上沒有人能確定，因為經(jīng)濟是不可預測的，這和股票市場是一樣的，它們屬于那種去中心化的進程，你無法提前真正預知人們未來依然能夠勝任的工作部分究竟是什么。但我想說的是，從廣義上講，任何存在入門級白領(lǐng)工作的領(lǐng)域，無論是銀行業(yè)、金融業(yè)還是其他行業(yè)，AI首先都有巨大的潛力去提升人們的工作效率，但之后，AI將會具備全面替代人工完成整項工作的能力。

接著我們需要思考，人們究竟能做些什么？我認為我們需要提前對此進行規(guī)劃。當我們與企業(yè)客戶交流時，已經(jīng)在做這件事了。我們看到了他們面臨的選擇。他們面臨的選擇是，我該節(jié)省成本嗎？這通常意味著減少雇員，基本就是用更少的資源做同樣的事情，還是說我們應(yīng)該在資源總量不變的情況下做更多的事情？只要有機會，我們總是嘗試推動他們用同樣的資源做更多的事，因為這基本上意味著雇傭相同數(shù)量甚至更多的人，只是去從事一些新的工作，從而推動他們實現(xiàn)正和博弈。

我們目前所處的有利條件是，蛋糕將會大幅擴張。正因為蛋糕會大幅擴張，所以很可能會出現(xiàn)人們能夠進入的新領(lǐng)域，問題僅僅在于能否足夠快地找到這些機會。這次顛覆的規(guī)模將會非常巨大，這正是我在提醒人們注意的地方，但我們必須解決這種匹配問題。

艾米麗·張

請為我推演一下，比如五年后你醒來時，這個國家是什么樣子？這些人都在做什么？因為如果失業(yè)率達到那種程度，難道不就是革命開始的前兆嗎？

達里奧·阿莫代

這正是我們想要防止的結(jié)果，我們絕對要避免這種情況發(fā)生。

我認為有幾個切入點。這些都沒有保證，我們無法確定，但畢竟還有物理世界，比如存在于物理世界中的事物，機器人革命也在發(fā)生，但它比AI領(lǐng)域正在發(fā)生的事情要慢得多。人們總是談?wù)摻ㄔO(shè)數(shù)據(jù)中心，但當處理任何類型的信息變得容易得多時，限制因素可能就會變成物理世界中的事物。因此，我們需要更多的人在物理世界中進行制造、構(gòu)建和生產(chǎn)。

任何以人為中心的事物，我認為那都將是一件大事，我聽過很多關(guān)于AI發(fā)現(xiàn)了醫(yī)生未能發(fā)現(xiàn)的問題的故事，我感到高興，但人們確實還是想和其他人類交流，特別是在處理一些重要事項時，也許AI可以提供更好的客戶服務(wù)，但即便如此，人們，或者至少一部分人，還是希望與人類交流。所以這類以人際關(guān)系為導向的工作，我認為它們將變得很重要，而且我認為人類會做出一些努力來引導AI，在某種程度上，它必須符合某人的價值觀和意圖。所以我認為這方面會存在某種角色，盡管我不知道這種角色是薄弱還是深厚。我認為這很難說。

反擊“末日營銷”指控

艾米麗·張

目前已經(jīng)出現(xiàn)了很多反對的聲音。我知道你說過你是在試圖提醒人們，但Jensen Huang說你在混淆任務(wù)與工作之間的概念。其他人也說過，這更像是一種對Anthropic有利的“末日營銷”。所以我希望明確表達并堅決反駁這一點。

達里奧·阿莫代

關(guān)于失業(yè)風險的整體情況，我有一些想法。我是說，我們還沒有完全充實這些想法，因為我想確保它們是準確的。但Anthropic已經(jīng)提出了許多方案。我們曾設(shè)立過經(jīng)濟補助金。我們有經(jīng)濟指數(shù)。我談?wù)摰氖峭ㄟ^稅收和宏觀經(jīng)濟政策來應(yīng)對這些風險的可能途徑。關(guān)于新工作是什么。

在Technology的萌芽期，我闡述過，我有大約五頁的篇幅專門討論任務(wù)與工作的區(qū)別，為什么這一次與以往不同，并列出了六件我們能做的事情，從私人慈善到政府行動。我談?wù)摿藛栴}，也談?wù)摿私鉀Q方案。但是社交媒體，我深惡痛絕，作為一種類別我深惡痛絕，人們只會截取一年前的三秒鐘短片，他們并沒有真正閱讀過文章，或者他們利用了社交媒體的特性——而我在文章中已經(jīng)非常嚴謹?shù)靥接戇^這些風險。

認為這只是廉價營銷的想法本身就是一種廉價營銷。這是懶惰。這是未能與嚴肅的知識工作進行交流。我認為這也是問題的一部分。再說一次，我認為這是Silicon Valley頑疾的一部分。它已經(jīng)被困在了這種三秒鐘的社交媒體世界里。因此人們只對這些內(nèi)容做出反應(yīng)，或者他們認為自己只需要對這些內(nèi)容做出反應(yīng)。再說一次，我認為這非常危險，而我們未能進行一場成熟的對話。相反，人們只是懶惰地看待這三秒鐘的片段。然后他們會說，噢，這就是Dario當時說的。這太愚蠢了。這太不嚴肅了。每當有人這么說時，我對他人的看法就會打折扣。

國家安全與軍事AI的紅線

旁白

全球領(lǐng)先的AI公司之一正深度嵌入美國國家安全的多個方面，包括軍事行動。Anthropic與Pentagon就AI軍事安全防護措施之間的對峙正在加劇。

艾米麗·張

你長期以來一直持反戰(zhàn)立場，可以追溯到你在Caltech的時期。然而，你是首批與Department of Defense簽署合同，在U.S.機密網(wǎng)絡(luò)上進行操作的AI公司之一。用于發(fā)動戰(zhàn)爭。解釋一下。

達里奧·阿莫代

好的。我想說的是，你看，世界是在不斷變化的。正如我對這項技術(shù)的看法，我感到擔憂，因為我們面對的是一個復蘇的威權(quán)集團，他們極具侵略性，而我們需要捍衛(wèi)自己。

這是我一直以來堅信的，并且現(xiàn)在依然堅持的觀點，正因如此，在兩屆政府期間，雖然我可能并不認同每一項政策，但這正是我們普遍支持這一點的原因。

所以這就是我們與他們合作的原因。我們當然不是為了錢才這么做的。這非常麻煩，即便拋開法律戰(zhàn)不談，要在政府網(wǎng)絡(luò)上進行部署，所獲報酬并不多，卻耗費巨大精力。所以我們這樣做是因為我們對此懷有使命感。但同樣地，既然我們是因為關(guān)切而從事這項工作，那么對該技術(shù)的使用就必須有所限制。

[我在談?wù)摷夹g(shù)發(fā)展階段時曾提出過這樣的觀點：我們應(yīng)該在一切方面利用這項技術(shù)，但那些破壞我們自身價值觀的方式除外，而我們所劃定的大規(guī)模監(jiān)視和全自主武器這些紅線，正是我認為會破壞我們價值觀的事物。如果民主國家采取了這些手段，那么即便獲勝也毫無意義。這就是我所看到的平衡點，也是我們所持有的立場。這也解釋了為什么我們既是第一批與Department of War合作的公司，同時在其他人愿意從事某些行為時，我們卻有所為有所不為。我認為你需要選擇一個立場并堅持到底。那種公司立場搖擺不定的做法——從最初宣稱不與政府合作，到突然又全盤承接政府的所有需求——我實在無法理解。你應(yīng)該選擇你的原則并堅守它們。

艾米麗·張

你從2024年開始就一直與Palantir合作。

達里奧·阿莫代

沒錯。

艾米麗·張

他們的技術(shù)被ICE和加沙的警察部門所使用。Claude是否以其他方式被用于監(jiān)控？

達里奧·阿莫代

我們既沒有通過Palantir，也沒有通過其他任何渠道與ICE合作。我們不與CBP合作。我不認為我們在加沙有業(yè)務(wù)。我們非常謹慎地將我們的合作范圍限制在我們所認同的事物上。

艾米麗·張

所以，你劃定了你的紅線，總統(tǒng)禁止你與聯(lián)邦政府合作，五角大樓將你標記為供應(yīng)鏈風險，OpenAI則趁機簽署了你所拒絕的合同。贏得這場斗爭實際上是什么樣子的？

達里奧·阿莫代

我不認為一家私營公司能在這場斗爭中獲勝。這根本不是一場斗爭。Anthropic并非在試圖獲勝，也不是在思考輸贏。這更多是一場關(guān)于政府如何正確使用AI的辯論。AI是一項新興技術(shù)。我們還不了解它在哪些方面可靠，在哪些方面不可靠。我們還不了解它在哪些方面能促進我們的價值觀，或是在哪些方面會削弱我們的價值觀。

因此，我認為重要的事情之一，就是針對我們認為好的用例——坦率地說，大多數(shù)用例都是好的——以及我們所擔憂的用例，確立先例。正如我所言，我們已經(jīng)看到，合同能發(fā)揮的作用終究有限，正如我們所見，其他人可能會簽署一份不尊重你同樣底線的合同。但它所起到的作用是提高了人們對這一議題的認知。目前，國會正進行著嚴肅的兩黨合作，試圖禁止我們所擔憂的一些事項，并嘗試設(shè)置防護措施。重申一次，我不想將此視為一場爭斗，但某種程度上，這在促使我們國家更審慎地思考如何恰當使用這項技術(shù)方面取得了成效。

價值觀與軍事倫理

艾米麗·張

Anthropic的經(jīng)營者是一個意識形態(tài)瘋子，他不應(yīng)擁有唯一的決策權(quán)。我所關(guān)心的是更大范圍的AI問題。你介意被稱為意識形態(tài)瘋子或一群左翼瘋子嗎？

達里奧·阿莫代

我一直都被人罵得比這難聽多了。人們可以隨心所欲地稱呼我或Anthropic。真正重要的是兩件事：作為一家公司我們?nèi)〉昧顺晒?，并且，我們堅守了我們的價值觀。實際上，在某些方面，我的生活非常輕松，因為當你只追求那兩件事時，這真的很簡單，不是嗎？就像那樣，你總是清楚自己的立場。

艾米麗·張

一位美國官員曾表示，在LLM的幫助下，美國軍方已將每日打擊目標的數(shù)量從1,000個提升至5,000個。這意味著Claude可以幫助更快地殺傷更多人。你對此感到安心嗎？

達里奧·阿莫代

我認為這里有兩件事，首先是美國在軍事上提高效率的能力。我支持這種能力。我認為擁有更強的這種能力并不會引發(fā)戰(zhàn)爭，反而能起到威懾戰(zhàn)爭的作用?；旧夏闶窃趩?，你是否相信這個國家，你是否希望這個國家成為一個更強大的行動者，而不是影響力較弱的世界舞臺上的行動者？我希望。我是一個愛國者。

還有一個單獨的問題，那就是，美國政府參與的某些政策是我可能支持或不支持的嗎？政府所參與的，顯而易見，我支持其中一些，而不支持另一些。這不由我決定。如果我們提供了一項技術(shù)，DOD也提出了這一點，而我們實際上同意他們的看法。如果我們提供了一項技術(shù)，我們無權(quán)決定你可以進行哪項軍事行動，或者不可以進行哪項軍事行動。

現(xiàn)在，我個人可能認為某項軍事行動是有道理的，而另一項軍事行動是個糟糕的主意，但我們不會否認這項技術(shù)的作用。你必須將政策制定權(quán)留給軍事決策者。你能做的是劃定一些高層面的界限，對我們來說，就是防止出現(xiàn)那些與我們的價值觀、與我們國家的價值觀不符的使用場景，并推動那些我們認為有助于弘揚我們價值觀的使用場景。這就是我們的思考方式。

艾米麗·張

Bloomberg曾報道稱，美國軍方在伊朗戰(zhàn)爭中使用Claude，通過Palantir制造的平臺Maven Smart System進行人工智能輔助目標定位。據(jù)報道，2月份美國一枚導彈擊中了伊朗的一所女子學校，造成超過150人死亡，其中大多數(shù)是兒童。Claude在那次襲擊中發(fā)揮了作用嗎？

達里奧·阿莫代

我們，看，我們無法獲取，我們并不確切知道這些模型是如何被使用的。顯然，戰(zhàn)爭中發(fā)生的這些錯誤真的、非?？膳?，這確實是一件非?？膳碌氖虑?。

如果這還不能說明為什么要堅持反對那些我們不支持的使用場景，我們甚至愿意冒著公司前途受損的風險，去限制這些模型的使用方式。而且，你所談?wù)摰哪莻€使用場景甚至沒有觸犯我們的紅線。我們擔心未來會出現(xiàn)多出100倍的用例，其中一些確實違反了我們的紅線?，F(xiàn)在，還是那句話，我認為總體而言，這些模型的使用是恰當?shù)?。我認為從凈效應(yīng)來看是好的。

但軍事決策者即使在最好的時期也會犯下極其嚴重的錯誤，而我不知道我們現(xiàn)在是否處于最好的時期。比如，我們可以討論幾件事。我們可以討論如何制定紅線，以防止那些更有可能導致這些問題的模型使用方式，如果我們當初允許，完全放任，如果我們像現(xiàn)在幾乎所有其他公司那樣，屈服于全自動武器，就像這里所看到的那樣，是Claude進行輔助，但由人類做出最終決定。

所以是人類做出了最終決定，而不是Claude。想象一下，如果在一個世界里——不是Claude，因為我們沒有允許它這樣做，而是其他人的AI模型——由AI模型直接做出決策而人類從未過問。這就是我們所堅持捍衛(wèi)的。那正是我們所抵制的。我想說的是，這里還有另外一回事。再說一次，我認為采購并不是實現(xiàn)這一目標的正確方式。但我們確實需要確?！@不僅是作為技術(shù)供應(yīng)商的我所關(guān)心的，更是美國民眾所關(guān)心的——即美國的軍事決策者不會犯下這些錯誤。

確保他們運行可靠，并且在采取行動時做出明智的選擇。同樣，作為一名公民和技術(shù)的供應(yīng)商，這也是我所關(guān)心的。比如，政府在使用技術(shù)時，我們大量使用Microsoft Excel。如果你說，你可以將Excel用于某項軍事行動，但不能用于另一項，這在現(xiàn)實中是無法做到的。希望這能讓你了解我們是如何思考這個問題的。

艾米麗·張

這所學校有一個網(wǎng)站，你本可以在Google搜索中找到它，難道Claude不應(yīng)該發(fā)現(xiàn)這一點嗎？或者說，AI或他們使用的任何技術(shù)難道不應(yīng)該發(fā)現(xiàn)這一點嗎？這是否引出了一個更令人擔憂的問題，即在戰(zhàn)爭中利用技術(shù)作為捷徑？

達里奧·阿莫代

聽著，聽著，我想說的是，我不確定，我真的不確定。這依賴于，可能是我所掌握之外的機密知識。但是，我們已經(jīng)確立的原則，我認為在這里被遵守的原則是，由人類做出最終決定。我不知道Claude或任何其他AI發(fā)揮了什么作用，但如果這都不能說明為什么該原則如此重要，我不知道還有什么能說明了。

艾米麗·張

AI戰(zhàn)爭是更有可能阻止第三次世界大戰(zhàn)，還是更有可能引發(fā)戰(zhàn)爭？

達里奧·阿莫代

總的來說，我認為它更有可能阻止戰(zhàn)爭。但如果我們對其使用方式?jīng)]有任何限制，那么我認為，它更有可能導致戰(zhàn)爭爆發(fā)。你看過Dr.Strangelove，這部電影的前提是，你擁有某種末日裝置，一旦它認為自己正受到核武器攻擊，就會自動發(fā)射核武器進行回擊。

這能出什么岔子，話說回來，我又想到了致命性、完全自主武器這類話題。我認為沖突的發(fā)生方式在于，雙方相互掣肘、伺機而動。他們會產(chǎn)生誤解。如果我們對這項技術(shù)缺乏適當?shù)谋O(jiān)督，我認為此類事故發(fā)生的可能性就會增加。

現(xiàn)在，我認為如果AI能夠被適當?shù)乩?，甚至不必局限于?zhàn)爭，僅考慮情報收集領(lǐng)域。試想一下，當我們掌握對手的一舉一動時，他們想要進行某種入侵或軍事行動就會三思而后行。因此，我認為卓越的情報能力確實可以阻止沖突。卓越的響應(yīng)能力可以遏制沖突。我始終堅信這些事物。

Mythos：前沿模型的安全博弈

艾米麗·張

Anthropics幾乎每周都會登上新聞頭條。當然，現(xiàn)在最受關(guān)注的是Mythos。

旁白

這是目前最新、最強大的Anthropic模型，它能夠自主貫穿網(wǎng)絡(luò)殺傷鏈的所有環(huán)節(jié)。

艾米麗·張

你曾說過Mythos的能力過于強大，不適合向公眾發(fā)布。關(guān)于它，什么最讓你感到驚訝？

達里奧·阿莫代

我認為最讓我驚訝的是，模型在發(fā)現(xiàn)漏洞方面的能力一直在不斷攀升，更重要的是，它們還能將這些漏洞轉(zhuǎn)化為利用程序——而人們通常只討論漏洞本身。人們往往不談?wù)搶⒙┒崔D(zhuǎn)化為利用程序的過程，而它在這方面表現(xiàn)得相當出色。

所以，讓我感到驚訝的是，我們見證了這一巨大的飛躍。這是一個跨度特別大的飛躍。而且在沒有任何引導的情況下，一些我們最初提供該技術(shù)給它們的公司表示，這簡直是一種超級武器。應(yīng)該必須持有槍支許可證才能使用它。請不要發(fā)布這個。這種限制使用的訴求正是來自我們提供該技術(shù)的那些公司，它們發(fā)現(xiàn)了大量關(guān)鍵漏洞以及圍繞這些關(guān)鍵漏洞的可利用性，以至于它們基本上是在請求我們不要發(fā)布它。

需要明確的是，由于社交媒體領(lǐng)域的信息總是會被扭曲，我們的目標并不是永遠將其束之高閣。我們正在嘗試逐步開放這項技術(shù)。面向越來越廣泛的群體。最終，我們認為應(yīng)該向大眾發(fā)布mythos，但必須配備強有力的網(wǎng)絡(luò)安全保障措施。

目前的一個顧慮是，我們隨Opus 4.7發(fā)布了當下的網(wǎng)絡(luò)安全保障措施，雖然這是一個優(yōu)秀的網(wǎng)絡(luò)安全模型，但其能力要弱得多，而且這些措施是可以被越獄的。我們對其他一些認為這是一種充分防御手段的公司感到有些擔憂，因為雖然這有時確實有效，但我們都知道這些分類器是可以被越獄或繞過的。根據(jù)我們自己的測試，坦率地說，根據(jù)我們對其他公司所采取防御措施的評估，這些防御措施目前還不夠強大。這正是我們目前正在等待的，即讓防御能力達到我們真正對其有信心的程度。

艾米麗·張

當時對此有很多抵制聲音。有研究人員稱他們能夠使用更便宜的開源模型來復現(xiàn)這一過程。有些人說OpenAI已經(jīng)具備了這些能力。那么，你如何回應(yīng)那些認為這是一場大型公關(guān)作秀的人呢？

達里奧·阿莫代

關(guān)于可以通過開源模型進行復現(xiàn)的說法，這是完全錯誤的。該系統(tǒng)的核心理念是Mythos能夠查看整個代碼庫并發(fā)現(xiàn)問題。有人在Twitter上說，如果你讓一個開源模型專門指向Mythos發(fā)現(xiàn)的那一行代碼，那么它也能發(fā)現(xiàn)同樣的問題。那不是，那不是提示詞，那不是那個問題，比如說，那不是，那根本不是同一回事。

對此的終極測試是，我們?nèi)ソ佑|公司，我們?nèi)ゲ榭撮_源代碼庫，我們在Firefox中發(fā)現(xiàn)了271個新的漏洞。我們在那些尚未修復漏洞或尚未能披露漏洞的私營公司中，已經(jīng)發(fā)現(xiàn)了數(shù)以千計的漏洞。

就像是，在此之前的模型中沒有人發(fā)現(xiàn)那271個漏洞，所以與那種“我找到了Mythos發(fā)現(xiàn)的確切代碼行，我知道我在大海撈針中找到了針，而其他東西現(xiàn)在可以撿起這根針”的情況相比，實踐中真正有效的工作流是另一回事。但對于那些說這只是營銷手段的人，我想說，我們因為沒有發(fā)布這個模型在商業(yè)上遭受了巨大的損失。這個模型極大地加速了Anthropic內(nèi)部的研究以及后續(xù)模型的生產(chǎn)，如果我們發(fā)布它，它也會給外部世界帶來同樣的加速效果。這在商業(yè)上對我們造成了極大的傷害。

艾米麗·張

如果這能幫助防御者，那么它也會幫助攻擊者。我們還能防御任何東西嗎？

達里奧·阿莫代

我想說的是，我們之所以在將Mythos提供給攻擊者之前先提供給防御者，是為了修補所有的漏洞。我不知道，隨著模型變得越來越好，可能會有越來越多的漏洞被發(fā)現(xiàn)，但漏洞的數(shù)量終究是有限的。它們是有限的，就像你擁有這個表面，上面只有這么多孔洞一樣。

你修補了所有漏洞，表面就會變得極難被攻擊；同時，代碼本身也是由強大的模型編寫的，因此也就很難發(fā)現(xiàn)其中的缺陷或?qū)ζ溥M行入侵。所以我認為從另一方面來看，希望在六個月或一年后，我們能擁有一個比過去更加安全的互聯(lián)網(wǎng)生態(tài)系統(tǒng)。我們正努力實現(xiàn)那個目標，并盡最大努力向新的網(wǎng)絡(luò)防御者開放mythos。

我們一直在與政府進行溝通。我們非常尊重他們的建議。由于擔心反間諜風險，他們正在放緩我們開放的速度。風險。我認為這是明智的。我認為這里所有嚴肅的人都明白，這其中存在真正的權(quán)衡。我們看到Twitter上的人和其他AI公司對此有很多尖刻的批評。你看看他們的言論，再看看他們言行不一的做法。他們不是認真的人。他們并沒有認真對待我們在這里所面臨的嚴峻權(quán)衡。

你看，每天都有客戶打電話給我說，我想要使用mythos。也有國家打電話給我說，我想要使用mythos。而美國政府a(chǎn)nd我的安全團隊則對我說，不，等一下，這其中存在風險。我并不是說哪一方是正確的。我認為真相介于兩者之間。雙方都有合理的觀點。雙方都有合理的觀點。但這其中存在真正的挑戰(zhàn)，我們需要作為一個社會共同去面對，而不是將事物簡單地斥為廉價營銷，也不要像其他一些公司那樣，利用首席營銷官來試圖進行反向定位。這一切都顯示出一種令人難以置信的缺乏莊重感與成熟度。我們需要共同面對這一時刻。

權(quán)力制衡與政府監(jiān)管

艾米麗·張

你是否已經(jīng)不得不做出一些讓你感到不那么自在的權(quán)衡了？

達里奧·阿莫代

Anthropic的整個歷史一直都是權(quán)衡的過程，Anthropic的整個歷史，在某個理想世界里，你會在發(fā)布第一個聊天機器人之前，更傾向于花費數(shù)年時間去研究每一個可能出錯的地方。現(xiàn)在，我們確實推遲了。我們確實推遲了Claude的首次發(fā)布，但我們只推遲了幾個月。所以我說一切都是一種權(quán)衡，處于光譜的極端兩端是完全瘋狂的，因此，一切都是權(quán)衡。

我想說的是，既然我們現(xiàn)在處于我所描述的商業(yè)領(lǐng)先地位，實際上，我和Daniela正在盡我們所能，進一步推動在審慎行事方面取得進展。這就是mythos發(fā)布的目的，如果你不是行業(yè)領(lǐng)先者，就很難做到這一點。所以我認為你會看到更多類似的事情發(fā)生。

艾米麗·張

有一種觀點認為，政府為什么不接管你們呢？他們?yōu)槭裁匆屢患宜綘I公司掌控如此強大的技術(shù)？

達里奧·阿莫代

所以我確實認為這是一個非常嚴肅的問題，我也認同這些擔憂。我不認為政府應(yīng)該直接接管我們，但我可以這樣表述。我想說的是，回顧并描述一下現(xiàn)狀，歷史上我們所見過的每一項前代強大技術(shù)，要么是由政府建造的，要么是起源于政府。比如核武器，很顯然，最初是由政府建造的，此后也基本上是由政府主導建造的。但即使像互聯(lián)網(wǎng)、GPS、手機這些技術(shù)，所有的研發(fā)工作都是在實驗室、聯(lián)邦實驗室以及大學里完成的。

AI是第一項在私營部門構(gòu)建的技術(shù)，政府在其中并未發(fā)揮實質(zhì)性的作用，且進場相對滯后。我認為這實際上是一種危險且不穩(wěn)定的局面。這不是我會選擇的局面。這并沒有什么替代方案，這項技術(shù)本身就是可以被構(gòu)建出來的。我們的競爭對手正在進行建設(shè)，這具有經(jīng)濟價值，反正它終究會被建造出來，問題在于政府并未參與其中，而不是私營部門在做。我認為我們需要考慮權(quán)力的制衡，所以我認為需要對AI公司的權(quán)力進行制衡。我們有這樣一個機制，即Long-term Benefit Trust，它本質(zhì)上是一個可以任命及罷免多數(shù)董事會成員的機構(gòu)。如果將其邏輯貫穿始終，它實際上擁有解雇我的權(quán)力。我們現(xiàn)在正在引入一些元素——雖然遠非全部元素——我們正在引入一些類似公共治理的要素，即你必須對某人負責，而不僅僅是對公司的股東負責。這一點非常重要，無論公司未來發(fā)生什么，這種結(jié)構(gòu)都將持續(xù)存在。在AI領(lǐng)域，我們鼓勵其他公司也采用類似的結(jié)構(gòu)。

在政府方面，我認為我們需要制衡。國會已經(jīng)宣布了一些旨在制定紅線的努力，所以我真的認為立法部門and司法部門需要發(fā)揮作用，因為對于這項技術(shù)，我既擔心公司掌握它，也擔心政府掌握它。隨后，企業(yè)需要對政府進行制衡，而政府也需要對企業(yè)進行監(jiān)管。我們需要對這項技術(shù)進行基礎(chǔ)性的監(jiān)管。我認為我們需要開始實施發(fā)布前測試，即強制性的發(fā)布前測試，以及對模型進行測試和審計。

對我來說非常諷刺的是，硅谷科技界有一群人，他們起初的立場是，即使是圍繞這項技術(shù)進行透明化，甚至是實施出口管制，都會徹底摧毀我們創(chuàng)造這項技術(shù)的潛力，扼殺創(chuàng)新。然而一旦他們看到了我一直以來所預料到的第一個真正危險，情況就變了。他們開始大談特談所謂的國有化，認為政府應(yīng)該直接將其接管。

得了吧，各位。你們的態(tài)度反反復復，從最極端的反監(jiān)管——比如‘你們要是敢多看我們一眼，就是在摧毀這個行業(yè)’——轉(zhuǎn)向了‘政府應(yīng)該把一切都搶過去’這種完全共產(chǎn)主義的做法。我們需要一種更理性、更溫和的方法。這正是我們一直以來所主張的，因為我們深刻理解這項技術(shù)所蘊含的力量。我們并不恐慌。我們也沒有否認這一點。我們看到了平滑的指數(shù)級增長，并正在對此做出相應(yīng)的應(yīng)對。

那么，你回到白宮的訪問怎么樣？我們總是嘗試與任何能夠合作的人共事。在政府層面，我說過我們有一套簡單的方法。我們有一套原則。我們遵循這些原則，并希望對方陣營的人能夠通情達理。老實說，政府確實非常認真地對待mythos。比如，我們與Secretary Bessent以及Chief of Sotomay進行了良好的對話。還有幕僚長Susie Wiles，我認為他們確實理解此處風險的本質(zhì)。我認為Mythos確實在幫助他們更具體地感知these風險所在。所以，正如任何一屆政府一樣，有些部門我們相處得非常好，他們也能理解這一點。當然，也有些部門比較難打交道。我認為這是正常的。這種情況在任何政府中都會發(fā)生，我們只是盡力去妥善應(yīng)對。

智力溢價、地緣政治與未來圖景

艾米麗·張

你職業(yè)生涯早期曾Baidu工作過，那是一家大型中國科技公司，你在其硅谷分部任職，而且你一直對中國持明確看法。中國正在推出強大的開源模型，而美國有公司正在免費基于這些模型進行開發(fā)。這是一種威脅嗎？

達里奧·阿莫代

所以，我們在這種技術(shù)上看到的一點是，模型智能程度的溢價確實很高。我們極少看到人們會更傾向于使用智能程度較低的模型。明確地說，現(xiàn)在已經(jīng)存在一個繁榮的生態(tài)系統(tǒng)。有很多挑戰(zhàn)和問題比我們需要前沿模型才能解決的問題簡單得多。但還是要強調(diào)，這是一種指數(shù)級增長，也就是說，這些非前沿模型可能具有與我們在2023年和2024年所見相當?shù)慕?jīng)濟價值，但別忘了，我們正以每年10倍的速度增長。

因此我們發(fā)現(xiàn)，處于前沿水平的東西總是比遠離前沿的東西要強大得多。我認為這一點對于那些習慣于在舊時代構(gòu)建產(chǎn)品的人來說，還不是特別能夠理解，作為一名之前從未經(jīng)營過公司、從未思考過上一個產(chǎn)品時代，并且特別厭惡社交媒體時代的人。我感覺自己像是那個世界之外的局外人。而且我覺得人們的直覺是錯誤的。他們持有各種關(guān)于產(chǎn)品的經(jīng)驗法則。我認為每年10倍的指數(shù)級增長模型確實打破了這一點。就像智力是一個極其關(guān)鍵的因素，其權(quán)重超過了一切。所以我們一次又一次地看到，價值往往存在于前沿領(lǐng)域。

現(xiàn)在，對于某些滯后模型，我所擔心的是它們帶來的風險，即我們面臨的Mythos級網(wǎng)絡(luò)攻擊能力。12個月后，我們將擁有更強大的網(wǎng)絡(luò)能力，但Mythos級網(wǎng)絡(luò)攻擊能力可能屆時會供任何人下載。希望在那之前我們已經(jīng)修補好了一切。我不認為我們有什么辦法能阻止它，但我認為這是一個嚴重的問題。

艾米麗·張

你在baidu的所見所聞是否塑造了你對中國的看法？

達里奧·阿莫代

并沒有，真的沒有。

我在那里工作了一年。我想我可能更多地是在語音識別以及諸如此類的事情上學到了東西。或許唯一讓我擔憂的是，我們獲取語音識別數(shù)據(jù)的方式中，有一部分是——在中國不在乎隱私，所以我們擁有所有這些語音識別數(shù)據(jù)。

但除了這一點，我在這里的憂慮是地緣政治層面的。我認為在中國發(fā)生的事情中最令我擔憂的，是我們在美國所見到的情況，即我們所看到的對批評聲音的壓制，甚至在美國也是如此，比如在Hong Kong問題上發(fā)生的事情，比如CCP能夠干預美國的現(xiàn)實。商業(yè)網(wǎng)絡(luò)并壓制批評，那是一個威權(quán)國家。而且是一個高科技威權(quán)國家。當我看到這種情況與AI相結(jié)合時，你確實會在這里得到一個反烏托邦，就像1984或更糟。

我的重點在于嘗試阻止這種情況。我認為我們擁有機會阻止它。我認為我們有機會讓AI成為一種支持民主的技術(shù)，那種讓人類更自由、能夠?qū)崿F(xiàn)人人享有平等正義承諾的技術(shù)，否則它也可能走向反面。至于未來走向何方，這取決于AI公司的行動，取決于政府的行動，也取決于我們所有人的行動。因此，我認為我們對此負有責任。

自我迭代與文明存續(xù)

艾米麗·張

你們領(lǐng)域的人常談?wù)撨@樣一個時刻：當AI變得足夠強大，能夠自我改進，隨后改進后的版本又繼續(xù)自我迭代，以此類推。你們的一些研究人員認為這一時刻即將到來。這一時刻離我們還有多遠？

達里奧·阿莫代

我不認為這是一個特定的時間點。我認為這是一個持續(xù)的過程。在某些方面我們已經(jīng)見證了這一點，即AI能夠為下一代AI建議架構(gòu)。我想說在一年前，我們觀察到全要素生產(chǎn)率因AI而提高了10%到15%。比如，現(xiàn)在這個比例可能已經(jīng)上升到20%或30%了。這甚至可能正在翻倍。

就像所有事物一樣，我們正處于指數(shù)曲線上，并不存在某個瞬間AI會突然自我進化、失控或變得不安全。我們所經(jīng)歷的是一種不斷加速的指數(shù)級增長。而在指數(shù)曲線上的每一個節(jié)點，我們都必須評估：現(xiàn)在是放慢腳步的時候嗎？現(xiàn)在是時候?qū)@項技術(shù)施加更多管控了嗎？我認為未來將需要越來越多的管控。但我認為，破解這一切的關(guān)鍵就在于這條平滑的指數(shù)曲線。

再說一次，我認為那些曾經(jīng)反對一切AI監(jiān)管，隨后因為看到某個現(xiàn)象就主張將其國有化的人，給我們上了一課。我認為那些曾經(jīng)輕視AI的力量，后來卻驚呼AI正在自我進化、即將失控并要求徹底叫停的人，也給我們上了一課。在這些極端反應(yīng)之間反復橫跳，對于應(yīng)對這項技術(shù)而言是極其無益的。正確的應(yīng)對方式，明智的應(yīng)對方式，應(yīng)該是保持冷靜，不驚慌失措。我們的應(yīng)對措施將隨著技術(shù)的威力平穩(wěn)提升。如果你看到有人出現(xiàn)這種瘋狂的搖擺反應(yīng)。那就說明他們被打了個措手措手不及，而且他們并不嚴肅。

艾米麗·張

據(jù)我了解，你最喜歡的書之一是《The Making of the Atomic Bomb》。

達里奧·阿莫代

沒錯。

艾米麗·張

你認為自己和Oppenheimer之間存在相似之處嗎？

達里奧·阿莫代

我最認同的人物是Leo Szilard，他才是最早提出可能存在某種鏈式反應(yīng)構(gòu)想的人。

聽著，我的觀點是，我們無法通過那些超凡脫俗的個性，或試圖成為一切核心的人物來解決這個問題，這里需要權(quán)力的制衡，有很多強大的參與者在此有各自的利益，要想讓每個人都有好的結(jié)局，唯一的方法就是建立某種機制，即在各處實現(xiàn)基本的制衡。所以從某種程度上說，我實際上將Oppenheimer視為一個反面教材，即不該發(fā)生什么。

艾米麗·張

你曾說過，文明崩潰的可能性大約在10%到25%之間。這并非微不足道。是否存在一種情景，即導致這一結(jié)果的原因是由Anthropic構(gòu)建的？

達里奧·阿莫代

我當然希望不會。我的觀點是，我們所采取的行動降低了這種概率，而不是增加了它，這種概率源于技術(shù)本身那套非常直觀的邏輯：世界上存在許多國家，經(jīng)濟體內(nèi)存在許多公司，如果真空地帶沒有被填補，就會有新的公司誕生，這就是我們所面臨的困境。我們正在努力采取行動來降低這種概率。我認為我們降低它的程度遠大于我們提高它的程度。

但是，這項技術(shù)的固有屬性就是不可預測。所以，我們在發(fā)布產(chǎn)品前會進行大量的構(gòu)建和測試，并且我認為，目前發(fā)布的模型并不危險，至少在網(wǎng)絡(luò)安全領(lǐng)域之外并不危險。然后我們嘗試迭代并從中學習。所以我們有無數(shù)種防御機制，公司內(nèi)部一半的工作都是在盡可能地降低風險。但是，風險永遠不可能降為零。

我想說的是，假設(shè)市面上有很多航空公司，而你決定創(chuàng)辦一家更安全的航空公司。你的航空公司既可以比所有其他航空公司安全十倍。但是，如果有人來問你，你能保證你的飛機永遠不會墜毀嗎？你怎么可能保證呢？你怎么可能做得到呢？

艾米麗·張

但如果飛機墜毀的概率是25%，你肯定不會乘坐那架飛機。

達里奧·阿莫代

確實如此。25%的比例太高了。我們正在努力讓這一概率降到非常、非常低的水平。這就是我們的目標。

建立信任：用行動證明與眾不同

艾米麗·張

你們正在構(gòu)建某種極其強大的事物，并有望從中獲得巨大的收益。我們?yōu)槭裁匆湃文銈儯?/p>

達里奧·阿莫代

我認為，當任何公司剛起步時，尤其是考慮到我們所見的整個Silicon Valley作為一個實體的行為表現(xiàn)時，人們有這種看法是很自然的?；仡欉^去幾年，我認為從不信任的角度出發(fā)——如果你對我一無所有，或者對Anthropic一無所知的話——這是一種相當理性的態(tài)度。我認為Silicon Valley已經(jīng)失去了世界太多的信任，我們必須重新贏回這種信任。

我們想要傳達的信息是，我們確實與眾不同。而這種信任必須通過我們的實際行動來贏得。你可以贊同或反對，但我們始終堅持了自己的價值觀。關(guān)于神話傳說的說法，不發(fā)布這款極其強大的模型確實在商業(yè)上限制了我們。在此之前還有許多瑣碎的事情，我們在中國問題上言出必行。我們切斷了對模型的訪問權(quán)限。我們本不必這樣做。沒有人要求我們這樣做。要知道，在當時那個數(shù)億美元還占我們總營收相當大比例的時期，這讓我們損失了數(shù)億美元。

比如Claude II的延期發(fā)布，我們在這方面有很長的歷史。我們并不完美。我們會犯錯。但是，我想請大家審視我們整體的歷史，如果將這段歷史匯總起來，關(guān)于我們最符合這段歷史的假設(shè)是什么？人們必須自己做出決定。

但我認為一個始終如一的假設(shè)是，我們確實是在努力去做。去做正確的事情。我們并不完美。組織總是存在機能失調(diào)的問題。我們一直在試圖修復它們，讓它們運轉(zhuǎn)得更好。過程中會有許多失誤，許多出錯的地方。但從根本上講，我們對于如何做正確的事有著真誠而嚴肅的愿景，并且我們正在努力執(zhí)行這一愿景。

艾米麗·張

那么，我們將在指數(shù)增長的另一端與你相見。

達里奧·阿莫代

嗯，希望如此。

艾米麗·張

嗯，希望如此。