本文來自微信公眾號(hào): 華爾街見聞 ,作者:許超
AI token成本正困擾著眾多企業(yè)財(cái)務(wù)決策者,但OpenAI董事長(zhǎng)認(rèn)為,這一問題在一年內(nèi)將不復(fù)存在。
OpenAI董事長(zhǎng)Bret Taylor周一表示,隨著AI市場(chǎng)走向成熟,企業(yè)最終將無需自行管理token,轉(zhuǎn)而直接為業(yè)務(wù)結(jié)果付費(fèi)。這一判斷與當(dāng)前業(yè)界對(duì)AI投資回報(bào)率日益關(guān)注的趨勢(shì)高度吻合。此前,token成本的快速攀升已促使多家企業(yè)收縮AI支出,并重新審視其投資回報(bào)。
Taylor同時(shí)對(duì)中國初創(chuàng)公司Moonshot上周發(fā)布的Kimi K3模型保持審慎態(tài)度。盡管該模型據(jù)稱以更低成本實(shí)現(xiàn)了與OpenAI和Anthropic旗艦?zāi)P拖喈?dāng)?shù)男阅?,在硅谷引發(fā)廣泛關(guān)注,但Taylor表示,"它用起來是否真的更便宜"這一關(guān)鍵問題目前仍無定論。
Token困境:成本壓力倒逼行業(yè)變革
Token是AI模型處理文本的基本計(jì)量單位,也是當(dāng)前企業(yè)核算AI使用成本的主要依據(jù)。今年早些時(shí)候,token成本的螺旋式上升迫使多家企業(yè)削減AI預(yù)算,圍繞投資回報(bào)率的爭(zhēng)議也隨之升溫。
Taylor在接受CNBC采訪時(shí)指出,當(dāng)前圍繞token的種種"問題",根源在于AI市場(chǎng)尚未成熟。他將今日AI市場(chǎng)類比于互聯(lián)網(wǎng)早期——彼時(shí)搭建一個(gè)網(wǎng)站的成本遠(yuǎn)比現(xiàn)在高昂。"我們還處于這項(xiàng)技術(shù)的早期階段,這是對(duì)創(chuàng)業(yè)者的一次召喚,去開發(fā)解決方案,讓企業(yè)不再需要處理這些事情。"
從管理token到按結(jié)果付費(fèi)
Taylor預(yù)判,未來將由其他公司代替企業(yè)承擔(dān)token管理的負(fù)擔(dān),行業(yè)將向"為結(jié)果付費(fèi)"的模式演進(jìn)。這一觀點(diǎn)與其他重視ROI的科技高管的表態(tài)方向一致。
他援引了財(cái)務(wù)管理平臺(tái)Ramp近期推出的token支出追蹤工具,以及法律AI初創(chuàng)公司Harvey等垂直領(lǐng)域企業(yè)——后者已開始為客戶代為管理token消耗,作為這一轉(zhuǎn)型趨勢(shì)的佐證。
Taylor進(jìn)一步預(yù)測(cè),未來12個(gè)月內(nèi),IT部門將在AI工業(yè)化應(yīng)用方面變得更加成熟。"針對(duì)市場(chǎng)部門,你可能用一套方案;針對(duì)軟件工程師,又是另一套。這樣一來,你根本不需要再想'token'這個(gè)詞。"
對(duì)低成本模型:持審慎立場(chǎng)
盡管業(yè)界普遍預(yù)期AI模型效率提升將推動(dòng)token成本長(zhǎng)期下行,Taylor對(duì)此并未全盤認(rèn)同。
針對(duì)Moonshot上周發(fā)布的Kimi K3模型,Taylor表示保留判斷。"'用起來是否更便宜'是任何考慮采用它的人最關(guān)鍵的問題,而我認(rèn)為這一點(diǎn)目前還沒有定論。"他的表態(tài)暗示,在成本優(yōu)勢(shì)得到充分驗(yàn)證之前,企業(yè)對(duì)新興低成本模型仍應(yīng)保持理性評(píng)估。
