1.媒體來源:udn(經濟日報)
2.記者署名:陳律安
3.完整新聞標題:
偷用美AI翻車!解放軍用大陸模型抓異常 敏感資訊竟被Claude看光
4.完整新聞內文:
Anthropic 9月發布最新威脅情報報告,揭露自家的Claude模型遭惡意利用的多起案例,
其中點名了中國大陸人工智慧(AI)新創月之暗面(Moonshot AI),指控這家Kimi模型
開發商,曾在用戶不知情下,把原本送往Kimi的請求轉交Claude處理,再把Claude的答案
呈現給用戶,並蒐集相關互動內容,用於訓練自家模型。
Anthropic表示,在5月–7月的10天期間,月之暗面曾把近30萬筆客戶請求轉送給
Anthropic,其中絕大多數交由Claude Opus處理。月之暗面據稱透過一個由5,380個詐欺
帳號組成的代理服務網路,進行前述操作,這些帳號大多看似位於新加坡與日本。
報告指出,月之暗面不僅把Claude的回答提供給自家用戶,也至少儲存部分互動內容,並
建立思維鏈(Chain of Thought,CoT)擷取流程,取得Claude的推理紀錄,用於訓練自
家模型。
Claude原本不會直接傳回完整推理內容,而是提供一組「思考簽章」,降低模型遭未經授
權蒸餾的風險。但Anthropic指控,月之暗面會先保存這些簽章,再啟動新的工作階段,
誘使Claude把簽章還原成完整推理軌跡,藉此取得CoT內容。
遭轉送給Claude的資料中,也包括敏感資訊。Anthropic表示,一名研判可能與中國人民
解放軍有關的用戶,以為自己使用的是Kimi,實際上卻把成都數百支監視器所蒐集、針對
特定人士的監控資料送進Claude,並要求模型分析該人士是否有異常行為。
這些監視器包括設於解放軍設施、中國電子科技集團旗下研究機構,以及一家大型國企外
部的攝影機。
另一名中國大陸大型國企工程師,則在利用Kimi建立內部系統時,輸入多家企業的內部程
式碼與仍可使用的登入憑證,其中包括知名科技公司。Anthropic表示,這名工程師並不
知道相關內容實際被轉送給Claude處理。
Anthropic指出,目前並不清楚月之暗面是否曾通知客戶,他們輸入Kimi的內容會被轉交
Anthropic,因而暴露給第三方。
根據Anthropic統計,今年5月至7月,可歸因於月之暗面的模型蒸餾攻擊,已觀察到超過
2,300萬筆。Anthropic表示,已著手強化防禦機制,防堵這類利用Claude推理內容訓練其
他模型的手法。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://udn.com/news/story/6811/9749100
6.備註: