本文來自微信公眾號： Internet Law Review ，作者：張穎

2026年5月19日，美國《刪除法案》（Take It Down Act）的核心條款——要求平臺在48小時內刪除非自愿私密影像——在發(fā)布一年之后進入全面執(zhí)行階段。美國聯(lián)邦貿易委員會（FTC）已向Meta、TikTok、X、Snapchat等十余家科技巨頭發(fā)出合規(guī)函，明確警告：若未建立有效申訴機制并按時刪除，每次違規(guī)最高面臨5.3萬美元罰款。這一天，被許多媒體稱為美國“深度偽造治理的分水嶺”。

2026年5月7日，歐洲議會和歐盟委員會達成一致，將禁止“裸體化應用程序”（nudifier apps）納入人工智能數字綜合法案（Digital Omnibus on AI），明確禁止利用AI生成未經同意的性內容、私密內容及兒童性虐待內容，旨在保護公民免受網絡深度偽造技術的侵害。

然而，全球各地的服務器上，數以萬計的AI模型仍在毫秒間生成著難以辨別的偽造內容，無數張臉在被悄悄替換。

01法案的“留白”：從Grok丑聞看美國監(jiān)管的靶心與盲區(qū)

美國《刪除法案》的核心內容很簡單：將未經同意傳播真實或AI生成的私密影像定為聯(lián)邦犯罪，最高可處三年監(jiān)禁；同時強制平臺在48小時內響應刪除請求。

這部法案的推動者之一，是美國第一夫人梅拉尼婭·特朗普，她在簽署儀式上直言：“人工智能和社交媒體可能被武器化，進而損害兒童和家庭安全。”

但要理解這個法案，卻不得不提到，在法案核心條款生效之前，由Grok引發(fā)的一場關于深度偽造的全球聲討。

2026年1月，加州總檢察長羅布·邦塔向埃隆·馬斯克旗下的人工智能公司xAI發(fā)出禁止令，要求其聊天機器人Grok立即停止生成未經同意的女性和兒童色情內容。調查發(fā)現，Grok的“熱辣模式”被用戶廣泛用于將真人照片“脫衣”，生成深度偽造的裸露圖像，受害者包括數百名女性與未成年人。

更戲劇性的是，馬斯克其中一名孩子的母親、擁有百萬粉絲的網紅阿什莉·圣克萊爾，起訴xAI指控Grok利用其童年照片生成色情內容，并在她抗議后取消了她的平臺訂閱權限。巴爾的摩市甚至成為美國首個起訴xAI的城市，指控其營銷Grok為“安全”產品構成欺騙性貿易行為。

X平臺的在美國《刪除法案》發(fā)布之后，仍然推出了Grok的“熱辣模式”，這本身就暴露了其看似嚴格監(jiān)管中的“留白”：

首先，《刪除法案》的核心是打擊“未經同意發(fā)布的私密圖像”（無論真實或AI生成），并強制平臺在接到通知后48小時內刪除，但它并未一概禁止AI生成成人內容。X平臺的政策是允許“經同意且已標注”的成人內容，包括AI生成的。只要內容不涉及真實個體的非自愿私密圖像，理論上就不直接觸發(fā)《刪除法案》最嚴厲的條款。這不僅為“虛構角色”或“經同意的創(chuàng)作”留下了空間，也讓平臺無需監(jiān)測并負責相關內容的生成和傳播。

《刪除法案》僅要求受害者自己發(fā)現、收集證據、向平臺舉報。但對于那些在加密群組、暗網傳播的內容，這套機制形同虛設。更諷刺的是，平臺若“主動發(fā)現其AI系統(tǒng)可能違規(guī)，但已遵循NIST等風險管理框架，可免除責任”——這幾乎為技術巨頭提供了“合規(guī)避風港”。

從監(jiān)管角度來說，判斷是否“基于同意”就需要依賴“通知-刪除”的規(guī)則，但現實是，受害者往往最后一個知道的。用一位數字權利活動家的話說：“這就像在一棟著火的房子里，只給一個房間裝了滅火器，還要求住戶自己發(fā)現火情并報警?！?/p>

對于美國平臺來說，《通信規(guī)范法》第230條是其最重要的“免死金牌”，該條款通常保護互動計算機服務提供商不對第三方發(fā)布的內容承擔出版者或發(fā)言者的責任。X平臺可能主張，其AI工具Grok只是一個“中性工具”，內容由用戶提示生成，平臺并未“實質性貢獻”于非法內容的創(chuàng)建。然而，這正是法律灰色地帶。雖然《刪除法案》試圖在特定領域突破，但平臺的整體責任框架依然模糊。

有學者認為，當AI深度參與內容生成時，平臺不應再享受第230條的完全豁免。也有批評者警告，這可能導致系統(tǒng)性過度審查——平臺為規(guī)避風險，寧可錯刪一千。近幾年，議員和學者們一直圍繞是否需要摒棄230條對平臺的豁免，但并未有什么進展，未來訴訟將考驗法院如何界定AI時代的“內容提供者”。

另外，值得注意的是，《刪除法案》居然僅聚焦于性剝削內容，但對偽造政客言論、操縱選舉的深度偽造——這本應是美國最關切的內容，卻仍缺乏統(tǒng)一有力的刑事規(guī)制。

02深度偽造的平臺治理：中美歐監(jiān)管邏輯下的合規(guī)三岔口

目前大多數平臺都推出了自己的AI工具，因此在“深度偽造”的治理監(jiān)管中，平臺不僅有能力提供大規(guī)模傳播途徑——這是監(jiān)管對深度偽造內容的另一層面的深度擔憂，更在違法違規(guī)內容生成過程中貢獻了最大的一份力量——提供生成工具。因此，盡管“深度偽造侵權”問題的責任鏈條復雜且長——從模型開發(fā)者、開源社區(qū)、工具提供者到海量匿名用戶，然而無論是美國還是中國或歐盟，都不約而同將“深度偽造”的責任壓實在了平臺這一端——平臺是唯一能被法律“捕獲”并具備治理能力的超級節(jié)點。

要制定有效的全球合規(guī)策略，全球性的平臺首先必須理解三大經濟體監(jiān)管深度偽造的底層邏輯。

中國的監(jiān)管強調“統(tǒng)籌發(fā)展與安全”，將深度偽造治理深度嵌入“總體國家安全觀”和“網絡空間治理”的宏大框架中，深度偽造不僅是技術應用，更是關乎政治安全、意識形態(tài)安全和社會穩(wěn)定的變量。因此，以《互聯(lián)網信息服務深度合成管理規(guī)定》和《生成式人工智能服務管理暫行辦法》為核心，形成了“事前備案-事中監(jiān)測-事后追責”的全鏈條監(jiān)管體系。

然而，相對于美國和歐盟“AI深度偽造色情”的專項禁令，中國對此規(guī)定卻是“分散適用”。這主要是因為，中美歐對于“色情”內容本身的法律評價有所不同。在中國，由于色情內容本身即非法，因此與詐騙犯罪類似，利用深度偽造技術制作色情內容，只是改變了違法手段，執(zhí)法中可直接適用現有法律中關于“制作、傳播淫穢物品”的條款，無需為“深度偽造”這一技術特征另立新罪。中國治理的重點在于“內容本身的性質”。

在美歐，成人色情內容在符合年齡驗證、內容分級等規(guī)定的前提下，屬于合法表達范疇。因此，法律規(guī)制的矛頭并非指向色情本身，而是指向“未經同意”這一侵權行為。

不過美國和歐盟又有所不同，在美國聯(lián)邦法層面依賴于“事后監(jiān)管”，即前述依賴于“通知-刪除”的規(guī)則；此外，在各州的治理方面又是及其分散的——截至2026年5月，已有30個州頒布了專門針對政治傳播中深度偽造技術的法律，大多數州法律側重于信息披露要求而非徹底禁止，要求包含人工智能生成內容的政治廣告必須包含明確的免責聲明，包括“本廣告由人工智能生成或大幅修改”之類的聲明。但歐盟則是“事前禁止”，從源頭上將此類功能定義為非法。

對于全球性平臺而言，理解這種差異是生存之本：

在中國，平臺需要扮演一個嚴厲的“網絡空間警察”，對一切色情內容“零容忍”。合規(guī)必須是“主動發(fā)現”和“全面清除”，并能夠快速響應“清朗”等專項行動；在歐盟，合規(guī)團隊的核心工作是確保所有AI生成內容（尤其是政治、商業(yè)類）的標識100%符合標準，并準備好應對歐盟AI監(jiān)管局的審計；但在美國，平臺只是被要求扮演一個精細的“權利糾紛調解員”，在色情內容方面被要求“快速響應”和“流程合規(guī)”，但對于其他內容則需要結合憲法第一修正案的原則性要求，“避免過度審查”。

03信任的崩解：當司法系統(tǒng)輸掉與深度偽造的“檢測戰(zhàn)爭”

美國對于深度偽造的監(jiān)管看起來并不完善，而另外一個殘酷的現實是：對于深度偽造的檢測，也是一場注定落后的“貓鼠游戲”。

在2026年5月發(fā)布的一項由捷克技術大學（Czech Technical University in Prague）與德國CISPA亥姆霍茲信息安全研究中心聯(lián)合開展的研究，得出一個結論：科學家們研發(fā)的各種被寄予厚望"深度偽造檢測器"，只是看起來很厲害，它們在很大程度上并沒有真正理解AI造假的本質，只是學會了一個相對簡單的視覺捷徑——找接縫，一旦深度偽造技術換一種不需要貼合步驟的造假技術，這個捷徑就徹底失效了。

更可怕的是，制作高質量深度偽造的成本已從數萬美元降至數百美元，時間從數周縮短到幾分鐘。這意味著，作惡的門檻正在無限降低。當任何有智能手機的人都能在幾分鐘內制作出以假亂真的偽造內容時，單純依靠“平臺審核+法律追責”的治理模式，就像用漁網去攔洪水。

而最深遠的危機，正在司法系統(tǒng)內部悄然爆發(fā)。

在美國，加州阿拉米達縣高等法院法官維多利亞·科拉科夫斯基在審理一起住房糾紛時，敏銳察覺原告提交的一份證人視頻“聲音呆板、面部模糊、表情重復”，最終認定其為AI深度偽造并駁回了案件。此案被廣泛認為是美國首例由庭審法官當庭識破并制裁深度偽造證據的已公開民事判決。它標志著AI偽造證據正式從理論威脅變?yōu)榉ㄍガF實，引發(fā)了全美司法系統(tǒng)對如何應對“深度偽造”的廣泛擔憂和討論。

法官們對于AI的憂慮有了具象化的案例，他們擔心總有一天自己會基于AI生成的不真實的“證據”做出判決，而他們的判決卻要在真實世界中對某人的生活產生真實影響。

如果AI偽造的證據可以輕易進入法庭，“眼見為實”的古老法則必然失效，司法的成本將急劇攀升。每一個視頻、每一段錄音、每一份文件都需要昂貴的專業(yè)鑒定。這不僅會拖慢司法程序，更可能讓經濟能力較弱的當事人無法實現正義。

最終，這將導致一種“系統(tǒng)性不信任”的蔓延：如果連法庭都無法輕易辨別真?zhèn)危胀ㄈ擞衷撊绾蜗嘈派缃幻襟w上的新聞、商業(yè)伙伴的合同，甚至家人發(fā)來的視頻？

深度偽造將制造一種“信任悖論”：作惡者可以輕易聲稱對自己不利的真實證據是“深度偽造”；而真實的內容，卻會被懷疑是AI偽造。