AI濫用風險升高：Anthropic報告揭露 300K 請求轉送與台灣軍事模擬攻擊

美國 AI 公司 Anthropic 最近發布的威脅情報報告指出，生成式 AI 正被廣泛用於情報蒐集、軍事模擬及敏感資料傳遞。報告中特別提及近 30 萬筆請求疑似被轉送至其 Claude 模型，並將台灣多處軍事設施納入攻擊模擬。這些發現凸顯了 AI 技術在安全治理上的新挑戰。

Anthropic最新威脅情報報告概覽

報告重點

報告涵蓋情報蒐集、網路攻擊、政治影響行動及軍事模擬等多項風險。Anthropic 強調生成式 AI 的快速普及正在改變傳統情報工作流程，安全議題因此需要即時關注。

主要風險類別

資訊蒐集、跨境資料流動、假帳號運作以及自動化監控系統被列為最迫切的安全問題。這些風險不僅影響個人隱私，也可能被不法團體用於軍事或政治目的。

300K 請求轉送事件

事件背景

報告指出，近 30 萬筆使用者請求疑似被轉送至 Claude 系統進行處理。部分用戶並未意識到其資料可能被跨境傳輸，進一步加劇了隱私與資料安全的爭議。

影響與隱私風險

此事件揭示 AI 服務透明度的缺陷，使用者知情權被削弱。若敏感資訊被轉送至未經授權的伺服器，將可能違反資料保護法規。

台灣軍事設施被納入 AI 模擬

模擬內容

報告顯示，某研究人員利用 AI 建立電子戰與防空壓制工具，將台灣多處雷達站、飛彈防禦系統、空軍基地及指揮中心納入模擬場景。模擬涵蓋雷達分析、指揮節點模擬與軍事目標排序。

可能的安全啟示

雖然報告指出此為研究模擬，並非實際作戰計畫，但仍提醒各方注意 AI 在軍事領域的潛在應用。若此類模擬被濫用，可能對國家安全構成風險。

中國 AI 企業違規行為

違規模式

多家中國 AI 企業被指控透過大量帳號使用 Claude 服務，違反平台使用規範，並將外部請求轉送至其模型。此行為已被 Anthropic 判定為違規，並已封鎖相關帳號。

Anthropic 措施

Anthropic 針對違規帳號採取封鎖與安全監測加強措施，並更新平台政策以防止未來再次發生類似事件。此舉亦表明平台對於 AI 服務治理的堅定立場。

AI 國安風險與未來挑戰

主要威脅

生成式 AI 的大規模資訊蒐集、自動化輿情分析與軍事模擬能力提升，已成為國家安全的關鍵威脅。跨境資料流動與假帳號使用亦加劇了監管困難。

政策與監管方向

各國正加速制定 AI 監管框架，平衡創新與安全。未來的治理重點將聚焦於資料隱私保護、使用者知情權與跨境監管協調。

項目	說明
報告焦點	AI 濫用、資訊蒐集、軍事模擬
關鍵事件	30K 請求轉送、台灣軍事設施模擬
違規行為	中國 AI 企業大量帳號使用、違規轉送
已採取措施	封鎖違規帳號、加強安全監測
未來關注	AI 資料安全、跨境監管、國安風險

常見問題

Anthropic報告的主要內容是什麼？

報告聚焦於生成式 AI 在情報蒐集、軍事模擬與輿情監測等領域的濫用風險，並披露 30K 請求疑似被轉送的案例。

台灣軍事設施的模擬是否代表實際攻擊？

報告指出這些模擬僅為研究工具，並不等同於實際軍事行動或能力。

中國 AI 企業的違規行為涉及哪些平台？

主要涉及 Anthropic 的 Claude 模型，使用大量帳號違反使用規範並轉送外部請求。

30K 請求轉送事件的隱私風險如何？

若資料被轉送至未授權伺服器，可能違反資料保護法，使用者未充分知情，增加隱私洩漏風險。

Anthropic 已採取哪些措施來應對違規？

已封鎖涉案帳號，更新安全監測機制，並加強平台政策以防止未來類似事件發生。

Anthropic 的最新報告再次提醒我們，生成式 AI 雖帶來效率與創新，但同時也伴隨著前所未有的安全與治理挑戰。從 30K 請求轉送到台灣軍事設施的模擬，再到跨國 AI 企業的違規行為，這些案例凸顯了 AI 技術在資訊安全、國家安全與資料隱私方面的複雜性。未來，政府、企業與社會須共同努力，建立完善的監管框架，確保 AI 的發展既安全又可持續。