本文來(lái)自微信公眾號(hào)： 騰訊研究院 ，作者：騰訊研究院

問(wèn)：自ChatGPT發(fā)布以來(lái)，生成式AI技術(shù)發(fā)展迅速。這些技術(shù)對(duì)社會(huì)、經(jīng)濟(jì)和科學(xué)研究的主要影響是什么？

Joanna Bryson：對(duì)于科學(xué)研究，人工智能在某種程度上加速了科研進(jìn)程，但它本質(zhì)上只是一個(gè)工具。換句話說(shuō)，它和我們做其他工作的工具沒(méi)有太大區(qū)別，不必過(guò)于強(qiáng)調(diào)它的特殊性。

在社會(huì)層面，經(jīng)濟(jì)和政治是兩大重要方面。從經(jīng)濟(jì)學(xué)角度來(lái)看，引入自動(dòng)化可能帶來(lái)兩種效應(yīng)：一種是替代效應(yīng)，即減少對(duì)勞動(dòng)力的需求；另一種是增強(qiáng)效應(yīng)，即通過(guò)提高生產(chǎn)力來(lái)創(chuàng)造更多就業(yè)。我認(rèn)為關(guān)于這個(gè)主題最好的論文來(lái)自詹姆斯·貝森（James Bessen）。Oxford的研究顯示，英國(guó)目前并未顯現(xiàn)出明顯的替代效應(yīng)，反而在高生產(chǎn)力領(lǐng)域看到了更多的就業(yè)機(jī)會(huì)。然而，考慮到創(chuàng)建大型語(yǔ)言模型的高成本，其經(jīng)濟(jì)效益是否能覆蓋這些投入仍然不明確。

在政治方面，經(jīng)濟(jì)衰退及其引發(fā)的不安全感可能導(dǎo)致政治極化，尤其是在社交媒體和人工智能的作用下，針對(duì)性信息傳播成為可能。經(jīng)濟(jì)安全感的喪失，尤其是意外的經(jīng)濟(jì)下滑（如失業(yè)、負(fù)債），常常會(huì)導(dǎo)致個(gè)體的身份認(rèn)同危機(jī)，進(jìn)而引發(fā)群體認(rèn)同需求，甚至有可能轉(zhuǎn)向極端行為。在經(jīng)濟(jì)不穩(wěn)定時(shí)期，這種易受操控的心理容易通過(guò)社交媒體被進(jìn)一步放大。

問(wèn)：如何看待AGI？你認(rèn)為AGI的發(fā)展是否會(huì)因大模型而加速，或者目前對(duì)AI的熱情可能存在泡沫化風(fēng)險(xiǎn)？

Joanna Bryson：我認(rèn)為通用人工智能（AGI）的概念在將政府和公司視為一種形式的人工智能上有意義。政府和公司都是極為復(fù)雜的組織，任何一個(gè)人都無(wú)法完全理解和掌控其中所有的操作和決策，它們通過(guò)技術(shù)和合作等方式放大了人類的智能。從這個(gè)角度來(lái)看，AGI是一個(gè)我們需要解決的問(wèn)題。人工智能的透明度和政府的透明度非常相似，人工智能真正的問(wèn)題是如何管理和監(jiān)管這些系統(tǒng)，確保它們的透明度和可問(wèn)責(zé)。然而，我注意到一些科技公司對(duì)員工的激勵(lì)政策建立在AI成果上，而不是建立在理解AI系統(tǒng)上，它們聲稱不可能知道人工智能是如何運(yùn)作的。如果我們只是關(guān)注AI的成果或結(jié)果，而不去探討它是如何運(yùn)作的，或者如何保持對(duì)這些技術(shù)的控制，那將是非常危險(xiǎn)的。從這個(gè)角度來(lái)看，AGI敘事實(shí)際上是在將責(zé)任推給一個(gè)無(wú)法被問(wèn)責(zé)的存在，而不是讓人類或組織承擔(dān)責(zé)任。

此外，AGI與權(quán)力和市場(chǎng)競(jìng)爭(zhēng)緊密相關(guān)。一些科技公司為了成為行業(yè)的“第一”，正在削弱可能阻止市場(chǎng)集中的因素。用電影《高地人》（Highlander）的比喻來(lái)說(shuō)，這些科技公司不想讓旅程結(jié)束，因?yàn)楹ε伦约旱墓静皇亲罱K成功的那一個(gè)。這種推動(dòng)AGI敘事的行為，可能正是市場(chǎng)過(guò)熱的一個(gè)信號(hào)。所以需要關(guān)注潛在的市場(chǎng)控制問(wèn)題。此外，AI泡沫也是一個(gè)問(wèn)題，只有通過(guò)良好的投資監(jiān)管，才能避免這一泡沫。

對(duì)于AGI的加速發(fā)展，我認(rèn)為我們更多的是在討論可控的AI與不可控的AI之間的差異。這是一個(gè)設(shè)計(jì)選擇。透明度和問(wèn)責(zé)制是AI發(fā)展的關(guān)鍵，而歐盟的《人工智能法案》就很好地回應(yīng)了這一點(diǎn)，它明確要求所有使用和部署AI的機(jī)構(gòu)必須對(duì)技術(shù)負(fù)責(zé)，并且確保這些技術(shù)能夠被有效控制?？傊覀冃枰_保AI產(chǎn)品不僅能夠正常工作，而且要有一個(gè)清晰的責(zé)任鏈條，確保產(chǎn)品背后有明確的控制者。

問(wèn)：人工智能的發(fā)展顯著影響著各個(gè)領(lǐng)域的就業(yè)，你如何看待AI對(duì)人類工作的影響，是會(huì)取代更多基礎(chǔ)性工作，還是會(huì)創(chuàng)造更多新的工作崗位？為了應(yīng)對(duì)這些變化，教育、社會(huì)保障等社會(huì)系統(tǒng)應(yīng)該做出哪些調(diào)整？

Joanna Bryson：當(dāng)人們討論AI可能導(dǎo)致失業(yè)時(shí)，往往存在誤解，認(rèn)為工作是人與人之間的簡(jiǎn)單關(guān)系。但實(shí)際上，工作的本質(zhì)在于權(quán)力的集中。隨著自動(dòng)化的普及，雖然一些工作會(huì)被替代，但工作本身代表了生產(chǎn)力、資源和權(quán)力的控制。企業(yè)通過(guò)自動(dòng)化能夠用更少的人完成更多的工作，但與此同時(shí)，它們也在集中權(quán)力，試圖通過(guò)雇傭更多高生產(chǎn)力的員工來(lái)提升自己的控制力。

此外，經(jīng)濟(jì)轉(zhuǎn)型過(guò)程中，技能的重新估值是一個(gè)大問(wèn)題。一些人可能會(huì)花費(fèi)幾十年時(shí)間學(xué)習(xí)某種技能，但隨著技術(shù)進(jìn)步，這些技能的價(jià)值會(huì)大大降低。同時(shí)，新的技術(shù)也會(huì)創(chuàng)造出新的工作機(jī)會(huì)，都可能要求掌握新的技能，我們需要幫助那些能適應(yīng)新技術(shù)的人得到更好的支持。

因此，教育體系和社會(huì)保障體系需要進(jìn)行改革，以應(yīng)對(duì)AI帶來(lái)的這些變革。尤其是在技術(shù)快速發(fā)展的時(shí)代，我們必須幫助人們找到新的工作方向，并幫助他們獲得新技能。一些北歐國(guó)家已經(jīng)成功實(shí)施了這種政策，政府選擇未來(lái)產(chǎn)業(yè)的方向，并通過(guò)勞動(dòng)力再培訓(xùn)幫助人們適應(yīng)新的工作環(huán)境。針對(duì)失業(yè)問(wèn)題，社會(huì)保障體系應(yīng)該提供更多的支持，確保不讓那些因?yàn)槭I(yè)而感到極度不安的人變得極端化或暴力，失去身份認(rèn)同對(duì)于個(gè)體來(lái)說(shuō)是毀滅性的，因此我們需要幫助每個(gè)人都能在經(jīng)濟(jì)轉(zhuǎn)型過(guò)程中找到適合自己的位置。

問(wèn)：如果未來(lái)大部分工作都由人工智能完成，那么人類應(yīng)該如何重新定義工作的意義，并在這樣的時(shí)代找到生存的價(jià)值？

Joanna Bryson：什么是工作？這是一個(gè)非常有趣的問(wèn)題。事實(shí)上，COVID期間，很多人因?yàn)橐咔闊o(wú)法工作，但他們的生活依然能正常運(yùn)轉(zhuǎn)。所以，如果我們?cè)O(shè)想一個(gè)未來(lái)，在這個(gè)世界里，很多工作消失了，僅有相對(duì)少數(shù)的人提供必要的社會(huì)保障和系統(tǒng)支持，維持社會(huì)的可持續(xù)性，那么工作本身的定義可能會(huì)發(fā)生變化。

屆時(shí)，工作將不僅僅是為了經(jīng)濟(jì)利益，更多的是為了社會(huì)聯(lián)系、個(gè)人認(rèn)同和自我價(jià)值的實(shí)現(xiàn)。例如，餐飲業(yè)、美容理發(fā)、藝術(shù)創(chuàng)作等行業(yè)不僅僅為生存提供支持，更為人們提供情感交流和自我表達(dá)的空間。比如，聽音樂(lè)對(duì)于很多人來(lái)說(shuō)并不僅僅是娛樂(lè)，它還幫助人們找到志同道合的人，與他們分享興趣和想法，形成身份認(rèn)同。盡管科技進(jìn)步可能會(huì)改變一些傳統(tǒng)工作崗位，但人與人之間的聯(lián)系和對(duì)彼此福祉的關(guān)心將是未來(lái)工作的核心。

此外，某些工作涉及到社會(huì)生存的核心功能，比如保衛(wèi)國(guó)家的邊界、應(yīng)對(duì)氣候危機(jī)、處理自然災(zāi)害等，這些是任何社會(huì)都無(wú)法回避的責(zé)任。

問(wèn)：當(dāng)前，AI風(fēng)險(xiǎn)備受關(guān)注，包括AI產(chǎn)生自主意識(shí)的風(fēng)險(xiǎn)、AI失控的風(fēng)險(xiǎn)等，如何看待這些問(wèn)題？你是否認(rèn)為AI會(huì)像人類一樣具有自主意識(shí)？

Joanna Bryson：我認(rèn)為當(dāng)前AI不會(huì)具備“意識(shí)”。很多人錯(cuò)誤地將“意識(shí)”僅僅理解為自主記憶的能力，這一點(diǎn)AI已經(jīng)可以輕易做到，但實(shí)際上，當(dāng)我們討論“意識(shí)”時(shí)，更多的是在談?wù)摰赖轮黧w（Moral Agency）或道德受體（Moral Patient）的問(wèn)題。在我的文章《Do We Collaborate With What We Design》中，我觀察到“協(xié)作”和“同事”等詞匯常被用來(lái)描述人機(jī)互動(dòng)，但是這種類人化（擬人化）隱喻是不恰當(dāng)?shù)模瑱C(jī)器與人類之間存在異質(zhì)性關(guān)系，即AI在實(shí)現(xiàn)目標(biāo)的手段上可能具有一定程度的獨(dú)立性，但目標(biāo)本身始終由人類主體選擇。真正的協(xié)作涉及互補(bǔ)領(lǐng)域的專業(yè)知識(shí)、共同規(guī)劃、決策和行動(dòng)，以及共同創(chuàng)造原始框架。盡管AI可以為人類提供幫助，但其與人類之間的互動(dòng)缺乏真正的共同規(guī)劃和決策。

因此，AGI永遠(yuǎn)不會(huì)是一個(gè)完全自主決策的系統(tǒng)，它始終是由人類設(shè)計(jì)和控制的工具，即使AGI可能超過(guò)人類的能力。我們現(xiàn)在已經(jīng)通過(guò)計(jì)算器等工具做到了超越人類的計(jì)算能力，但這并不意味著計(jì)算器擁有決策權(quán)，而是背后的人或機(jī)構(gòu)在做決策。又比如，當(dāng)國(guó)王拋硬幣決定某個(gè)問(wèn)題時(shí)，雖然硬幣決定了結(jié)果，但決策的責(zé)任依然在國(guó)王。同樣，AI做出的決策也始終由人類設(shè)定和控制。換句話說(shuō)，AGI的本質(zhì)仍然是工具，決策權(quán)始終在人類手中。我們真正要擔(dān)心的是AI系統(tǒng)是否能夠保持透明和可控。如果一個(gè)系統(tǒng)沒(méi)有明確的控制和責(zé)任，那么它就不符合道德和法律要求，我們不能允許這樣的系統(tǒng)進(jìn)入市場(chǎng)。因此必須確保AI系統(tǒng)可以追溯和監(jiān)管。

問(wèn)：如何看待人工智能的責(zé)任問(wèn)題？AI治理的重點(diǎn)是什么？

Joanna Bryson：人工智能的產(chǎn)品責(zé)任鏈條是一個(gè)非常關(guān)鍵的問(wèn)題。正如歐盟AI法案所指出的，必須明確誰(shuí)對(duì)AI產(chǎn)品負(fù)有責(zé)任。我們需要確保，一旦發(fā)生問(wèn)題，能夠清楚地知道責(zé)任所在。責(zé)任模糊化現(xiàn)象與美國(guó)的訴訟文化相關(guān)，一些技術(shù)公司可能通過(guò)避免明確責(zé)任鏈條的方式來(lái)減少被追責(zé)的風(fēng)險(xiǎn)。但對(duì)于開發(fā)者來(lái)說(shuō)，只有充分理解和掌控技術(shù)，才能維護(hù)和改進(jìn)系統(tǒng)。而如果一個(gè)AI系統(tǒng)沒(méi)有清晰的責(zé)任鏈條，它不僅會(huì)難以得到維護(hù)和持續(xù)改進(jìn)，還可能變成類似空殼公司一樣的災(zāi)難，沒(méi)有人能阻止其做錯(cuò)事，這種情況顯然是不可接受的。盡管可以想象某些系統(tǒng)可能失控，但沒(méi)有責(zé)任追溯的AGI系統(tǒng)是無(wú)法被接受的。因此，對(duì)于AI產(chǎn)品，需要確保在歐盟市場(chǎng)銷售的AI產(chǎn)品能夠清晰追溯其運(yùn)作，特別是涉及數(shù)據(jù)使用和商業(yè)盈利時(shí)。

AI和相關(guān)技術(shù)完全可以用來(lái)提高透明度。就像人類通過(guò)語(yǔ)言和大腦來(lái)理解世界一樣，我們可以利用AI來(lái)提高系統(tǒng)的可理解性，使其更加透明和可控。這并不是要求完美的理解。就像你不會(huì)要求銀行告訴你某個(gè)員工腦海里在想什么，你應(yīng)該要求銀行提供誰(shuí)在什么時(shí)間訪問(wèn)了某個(gè)賬戶的信息。同樣，我們需要了解的是AI系統(tǒng)的開發(fā)者是誰(shuí)，誰(shuí)對(duì)某個(gè)AI產(chǎn)品的發(fā)布簽字確認(rèn)，尤其當(dāng)出現(xiàn)問(wèn)題時(shí)，我們需要知道AI產(chǎn)品背后的責(zé)任人，而不是去理解神經(jīng)網(wǎng)絡(luò)中某個(gè)神經(jīng)元或權(quán)重的運(yùn)作，這樣我們才能發(fā)現(xiàn)問(wèn)題并加以修復(fù)。在AI的治理中，監(jiān)管不僅僅是關(guān)于如何讓AI系統(tǒng)自身變得透明，更多的是關(guān)于如何創(chuàng)建一個(gè)監(jiān)管框架，確保產(chǎn)品開發(fā)者能夠?qū)ζ浼夹g(shù)負(fù)責(zé)，并對(duì)其可能帶來(lái)的后果有清晰的理解。

我認(rèn)為如果前沿AI實(shí)驗(yàn)室真的開發(fā)出AGI，政府確實(shí)有可能通過(guò)類似“防火墻”的措施進(jìn)行監(jiān)管，以控制技術(shù)的過(guò)度集中和濫用。更緊迫的問(wèn)題在于美國(guó)是否開始對(duì)其國(guó)內(nèi)的擁有過(guò)多權(quán)力的公司施加有效的監(jiān)管。如果美國(guó)無(wú)法做到這一點(diǎn)，那么其他國(guó)家能做些什么呢？這也是歐盟的數(shù)字市場(chǎng)法案提出的重要問(wèn)題，實(shí)際操作中可能需要更多國(guó)家之間的合作。

問(wèn)：你如何看待“全民基本收入（UBI）”的理念？這是AI時(shí)代的可行方案嗎？

Joanna Bryson：我曾是全民基本收入（UBI）的支持者，但我開始對(duì)這個(gè)概念持保留態(tài)度。在美國(guó)，很多提倡UBI的人持有自由主義立場(chǎng)，他們認(rèn)為福利國(guó)家的支出過(guò)高，干脆將錢直接發(fā)給每個(gè)人。

我認(rèn)為某種形式的收入再分配很重要。實(shí)際上，很多實(shí)驗(yàn)表明，當(dāng)人們獲得足夠的資金時(shí)，他們確實(shí)會(huì)償還債務(wù)，很多人的經(jīng)濟(jì)狀況得到了改善，但也有一些人仍然面臨種種問(wèn)題。社會(huì)中總會(huì)有一些人面臨困境，尤其是在社會(huì)發(fā)生變化時(shí)，這種困境可能會(huì)加劇。但是，單純給予每個(gè)人相同數(shù)量的金錢可能并不能解決根本問(wèn)題。我們確實(shí)看到了在COVID期間，直接發(fā)放現(xiàn)金幫助人們解決了一些問(wèn)題，這在短期內(nèi)是可行的，但長(zhǎng)期來(lái)說(shuō)，解決問(wèn)題的方式可能更需要結(jié)構(gòu)性支持。

因此，我傾向于認(rèn)為UBI只是一個(gè)過(guò)于簡(jiǎn)化的解決方案，我們需要更系統(tǒng)的措施來(lái)解決財(cái)富不平等問(wèn)題。例如，公共教育可以平衡社會(huì)差距，減少家庭背景對(duì)個(gè)人發(fā)展的影響。除了直接的現(xiàn)金補(bǔ)助，我們還需要設(shè)立一些激勵(lì)機(jī)制，確保人們有動(dòng)力工作，并且不讓社會(huì)經(jīng)濟(jì)變得過(guò)于平等，因?yàn)檫^(guò)度平等會(huì)導(dǎo)致經(jīng)濟(jì)的衰退。根據(jù)經(jīng)濟(jì)學(xué)研究，最理想的社會(huì)經(jīng)濟(jì)結(jié)構(gòu)是一個(gè)適度的基尼系數(shù)，通常在0.27左右，過(guò)多的貧富差距會(huì)導(dǎo)致社會(huì)不穩(wěn)定，但也不能實(shí)現(xiàn)極端的均等分配。適度的財(cái)富差距能夠激發(fā)社會(huì)活力，但當(dāng)差距過(guò)大時(shí)，社會(huì)就會(huì)陷入暴力和混亂。

問(wèn)：歐盟在AI治理方面走在前列，特別是歐盟的AI法案，您認(rèn)為它對(duì)AI領(lǐng)域的影響如何？在實(shí)施過(guò)程中可能會(huì)遇到哪些挑戰(zhàn)？

Joanna Bryson：歐盟的AI法案對(duì)AI領(lǐng)域的影響是深遠(yuǎn)且具有開創(chuàng)性的。根據(jù)我的文章《Human Experience and AI Regulation:What European Union Law Brings to Digital Technology Ethics》，影響主要體現(xiàn)在以下幾個(gè)方面：首先，明確AI作為產(chǎn)品的法律地位，這意味著企業(yè)需要進(jìn)行盡職調(diào)查，避免不良實(shí)踐，并采用最佳實(shí)踐。對(duì)于“高風(fēng)險(xiǎn)”AI系統(tǒng)，例如那些可能用于教育、醫(yī)療或金融服務(wù)決策的系統(tǒng)，需要嚴(yán)格的記錄保存。其次，AI法案明確禁止某些與歐盟隱私和基本權(quán)利不兼容的AI服務(wù)，例如禁止建立記錄每個(gè)人位置的數(shù)據(jù)庫(kù)或“社會(huì)信用評(píng)分”系統(tǒng)。最后，明確了所有AI系統(tǒng)必須清晰標(biāo)識(shí)其AI性質(zhì)，防止用戶誤以為與人類交互。

我認(rèn)為AI法案主要的挑戰(zhàn)是執(zhí)行，尤其是在當(dāng)前全球政治環(huán)境下。AI法案本身很強(qiáng)大，尤其是考慮到它對(duì)AI技術(shù)透明度和問(wèn)責(zé)制的強(qiáng)調(diào)。盡管如此，執(zhí)行和監(jiān)管仍然面臨很多挑戰(zhàn)，尤其是在跨國(guó)監(jiān)管和全球統(tǒng)一標(biāo)準(zhǔn)方面。

問(wèn)：您認(rèn)為未來(lái)AI發(fā)展的核心原則和價(jià)值觀應(yīng)該是什么？

Joanna Bryson：AI發(fā)展的核心原則應(yīng)包括產(chǎn)品責(zé)任、透明度以及持續(xù)改進(jìn)的能力。我們需要認(rèn)識(shí)到，AI作為一個(gè)產(chǎn)品，必須遵循責(zé)任鏈條，開發(fā)者必須對(duì)其設(shè)計(jì)和部署負(fù)責(zé)。此外，AI的透明度至關(guān)重要，以便于其能夠被監(jiān)督和改善。

另一個(gè)關(guān)鍵問(wèn)題是如何有效監(jiān)管大型AI平臺(tái)，特別是在市場(chǎng)集中度問(wèn)題上。我們需要確保AI像全球定位系統(tǒng)（GPS）那樣得到合理監(jiān)管，避免技術(shù)過(guò)度集中，以便保持公平競(jìng)爭(zhēng)。

問(wèn)：除了上述提到的問(wèn)題，您認(rèn)為AI領(lǐng)域還有哪些被忽視的重要話題或潛在風(fēng)險(xiǎn)值得更深入的探討？

Joanna Bryson：我認(rèn)為目前被忽視的重要問(wèn)題之一是跨國(guó)科技公司的跨國(guó)監(jiān)管。美國(guó)作為反壟斷法的發(fā)源地，如今卻放松了對(duì)本國(guó)科技巨頭的監(jiān)管。與此同時(shí)，歐盟通過(guò)跨國(guó)合作和共同的監(jiān)管框架，成功推動(dòng)了對(duì)科技巨頭的監(jiān)管。我認(rèn)為，這種合作的動(dòng)力部分源于它們是鄰國(guó)，沒(méi)有人希望法國(guó)和德國(guó)再次發(fā)生戰(zhàn)爭(zhēng)。這種避免沖突、通過(guò)談判解決經(jīng)濟(jì)和權(quán)力再分配問(wèn)題的機(jī)制，正是我們需要在全球范圍內(nèi)推廣的。

此外，跨國(guó)公司在全球范圍內(nèi)的影響力需要更多關(guān)注，尤其是在數(shù)據(jù)使用和廣告行業(yè)中。比如，谷歌不再是一個(gè)簡(jiǎn)單的搜索公司，它更像是一家全球廣告公司，主導(dǎo)了全球廣告市場(chǎng)。這不僅對(duì)新聞業(yè)等傳統(tǒng)公共利益領(lǐng)域造成了沖擊，也對(duì)社會(huì)的透明度和問(wèn)責(zé)制造成了威脅。我們需要重新思考廣告作為一種公用事業(yè)的角色，確保它能夠支持公共利益，而不是僅僅為少數(shù)公司帶來(lái)巨額利潤(rùn)。如何將這些科技巨頭納入合適的監(jiān)管框架，是我們當(dāng)前面臨的重大問(wèn)題。