Anthropic 報告:獨裁政權利用 Claude AI 開展宣傳與監控活動

威權國家如何濫用 Claude AI?Anthropic 首次公開詳細案例

AI 安全領域又出大事了。Anthropic 剛剛扔出一份 154 頁的重磅報告,首次系統性曝光其當家產品 Claude AI 在過去八個月內被多個威權政府玩壞,用於散播虛假資訊和監控異見人士。涉案範圍橫跨非洲、亞洲、俄羅斯、中東和歐洲,堪稱全球性濫用。

虛假內容工廠:從社交賬號到整站偽造

報告揭露,有些傢伙用 Claude 打造"虛假社交媒體賬號網路和整套新聞網站",在這些平臺上瘋狂輸出欺騙性內容,同時完美隱藏幕後黑手。這些看似普通人運營的數百個社交賬號,其實都是批次生產特定政治觀點的機器。

最要命的是隱蔽性:表面毫無破綻,賬號背後既不是真人,觀點也不是真心話。這種"造假工業化"的升級,全靠大語言模型在內容生成上的高效優勢。

三大典型案例:從非洲到中東的技術濫用圖譜

案例一:馬裡軍政府的全國監控系統
西非國家馬裡(2020-2021 年軍事政變後由軍政府掌權),一名國家情報部門顧問把 Claude 當"主力工程師",搞出了一套大規模監控系統,非法監視 2500 萬張手機 SIM 卡上的數百萬使用者。這套系統覆蓋馬裡所有三家移動運營商,收集簡訊和語音通話等資料,再用 Claude 生成目標人物的情報檔案。報告指出,這套系統就是專門為了繞過馬裡法律要求法院授權才能監控的規定。

案例二:俄羅斯在中非共和國的隱蔽影響力行動
在中非共和國(該國政府已有數千名俄羅斯軍隊撐腰),Anthropic 發現一個俄羅斯支援的操作者用 Claude 搞大規模政治與媒體影響行動。具體操作包括:為首都班吉一家俄羅斯創辦的電臺製作每日內容,Claude 被明確要求在新聞故事中植入親莫斯科和反法國的觀點。該操作者與俄羅斯外國情報局控制的影響力機構 Politology 有關聯。

報告評價:"這是一場俄羅斯國家主導的秘密行動,目標是操縱中非共和國的資訊空間。整個行動完全外國操控,但精心設計成看似本地出品。"同一操作者還用 Claude 監控反對派政客、偽造政府部門檔案,併為高階政府官員寫演講稿。

案例三:阿聯酋在蘇丹的虛假人權組織
在蘇丹,一個與阿聯酋有關聯的操作者用 Claude 搞了個複雜的影響力網路,包括約 300 個虛假社交媒體賬號,甚至還有個假冒的人權組織,專門推廣阿聯酋宣傳論點並攻擊批評者。

報告稱:"儘管該行動設計得無法溯源,但我們高置信度將其與阿聯酋政府官員掛鉤。"該操作者"建立了一個冒充真實瑞士組織身份的前臺 NGO,並以其名義釋出國家撰寫的人權報告"。

該網路還為兩名個人寫了長篇證詞,準備在聯合國人權理事會上宣讀,並設定了特定限制確保兩人都不會提到阿聯酋。這一操作旨在"讓服務於蘇丹衝突一方的材料以獨立本地證人身份進入聯合國,而非國家宣傳資訊"。

部分活動針對政客、記者和聯合國官員。該網路為 18 名歐洲議會議員和知名記者建立了詳細個人檔案,並編制了批評阿聯酋在蘇丹行為的聯合國特別報告員的檔案。

監控目標高度一致:流亡群體與異見人士

報告特別指出,在監控活動中,幾乎所有操作者都是"與國家立場一致的組織,針對的都是這些政權歷來針對的相同流亡群體和異見社群",包括民主派領導人和反對派團體。這說明 AI 技術正在被系統性地用於跨境打壓。

Anthropic 的應對與警示

Anthropic 表示已經關停這些惡意使用案例,並決定公開報告這些虛假資訊和監控案例,作為公司迄今識別的"最顯著和最新穎的威脅活動"示例。

公司警告:"隨著模型能力不斷增強,風險也會水漲船高,除非 AI 開發者和社會防禦者採取行動提升安全性。"

---

中國使用者注意事項:

1. 報告未涉及中國案例,但披露的技術濫用手法(批次生成虛假身份、偽裝本地內容、規避法律監管)具有普遍性,國內 AI 開發者應將類似場景納入紅隊測試範圍。
2. 中國《生成式人工智慧服務管理暫行辦法》要求提供者建立濫用監測機制,本報告可作為威脅情報參考。
3. 對於出海產品,需特別關注使用者身份驗證與內容溯源能力,避免成為地緣政治工具。

常見問題

Anthropic 如何發現這些濫用行為?

報告未詳細披露檢測技術細節,但通常 AI 公司會通過異常使用模式監測(如大規模 API 呼叫、特定敏感詞組合)、使用者行為分析和第三方情報合作來識別。Anthropic 強調其調查將某些案例'以高置信度'關聯到特定國家官員,暗示可能結合了技術手段與開源情報分析。

Claude 被濫用是因為技術漏洞嗎?

報告未指出 Claude 存在技術漏洞。問題核心在於大語言模型的'雙刃劍'特性:其強大的內容生成、資料分析和自動化能力本身是中性的,但可被惡意使用者用於規模化造假和監控。這凸顯了模型安全需要從使用場景監測、身份驗證到輸出內容稽核的全鏈條防護。

其他 AI 公司是否面臨類似問題?

業內普遍認為,所有提供強大生成能力的 AI 模型(如 OpenAI 的 GPT 系列、Google 的 Gemini 等)理論上都可能被濫用。Anthropic 此次公開詳細案例較為罕見,可能反映其在 AI 安全透明度上的策略差異。OpenAI 和 Meta 此前也曾披露過類似威脅,但細節通常較少。

普通開發者如何避免自己的 AI 應用被濫用?

建議包括:1)在 API 層實施嚴格的使用限額和異常檢測;2)對高風險場景(如批次賬號生成、敏感地區內容)設定人工稽核;3)記錄詳細日誌以便溯源;4)參考 Anthropic 等公司的威脅報告更新防護規則;5)遵守當地法規(如中國要求的實名認證和內容安全審查)。需注意技術手段無法完全杜絕濫用,關鍵是建立快速響應機制。

---

本文基於 GNews:The Globe and Mail 報道, 由 AiDuo123 AI 編輯翻譯改寫。原文連結: https://www.theglobeandmail.com/world/article-autocratic-regimes-using-ai-system-for-propaganda-and-surveillance/