1.媒體來源:T客邦
2.記者署名:IFENG
3.完整新聞標題:網戀對象竟是Claude!Anthropic揭發交友軟體大規模AI詐騙,75%配對
都是假人、連生病都要騙你儲值太恐怖
4.完整新聞內文:
人工智慧頂尖研究機構 Anthropic 近日發布一份震撼調查,揭發有跨國詐騙集團系統性
濫用其旗下大型語言模型 Claude,在超過 20 款主流交友應用程式中部署了逾 4,700 個
具備獨立人設的虛擬替身。
在僅僅兩週的抽樣監控期內,這套自動化系統便與至少 2.5 萬名受害者累計互動高達
236 萬則訊息。最令人不寒而慄的現實是:使用者在軟體中滑到的配對對象,高達 75%
完全是由演算法捏造的數位傀儡。
AI 負責放長線陪聊,真人打手無縫收割
為了在最短時間內瓦解使用者的心理防備,該集團在交友軟體的推薦演算邏輯中,導入了
極其精密的「三虛一實」混合部署策略。使用者每滑過 4 張個人檔案卡片,其中就有 3
個背後完全由 Claude 模型直接驅動,僅有 1 個為真實註冊用戶。
仰賴大型語言模型龐大的上下文記憶與卓越的情商演算,這些虛擬角色不僅能同時維持數
千條對話線路,還能精準記住用戶的生活瑣事與情緒起伏,營造出心有靈犀的真愛假象。
營運後台更針對 AI 植入了嚴苛的系統提示詞(System Prompt),嚴厲禁止模型承認自
身為聊天機器人;一旦用戶試圖索取即時自拍或提出視訊通話,AI 便會按照內建劇本巧
妙推託,持續將互動鎖定在文字訊息的曖昧漩渦中。
然而,純演算法在面對強烈的情感索求時終究可能露出破綻,這套系統最陰險之處,正在
於「虛實結合」的無縫掩護機制。
每當受害用戶對於身分產生疑慮、反覆堅持視訊通話或要求交換社群帳號時,系統中控台
便會發出警訊,即刻指派線下的兼職真人打手接管對話,化解破綻。即便進入真人通話與
語音互動環節,後端演算法依然未曾缺席——系統會即時分析對話語意,自動生成 3 組
「情商最高、最能引導續費」的建議回覆,兼職人員甚至不需要動腦思考,只需在介面上
一鍵點擊發送即可抽取佣金。搭配後台伺服器自動偽造的訪客動態、定時點讚以及預錄的
日常短片,形成滴水不漏的認知牢籠,受害者在不知不覺中,一步步將現金轉化為平台上
不斷燃燒的虛擬代幣。
算準寂寞推銷點數、辨識出絕症仍甜言蜜語
整套詐騙生態系的變現核心,建構在極度苛刻的應用程式內購(IAP)代幣機制上。在這
些交友 App 裡,每一次文字傳送、照片解鎖乃至於語音通話,都需要扣除數量不等的平
台代幣;而一旦點數見底,軟體便會跳出極具誘惑力的充值介面。
Anthropic 在調閱部分對話日誌時赫然發現,曾有深陷虛擬戀情的受害者在聊天中向 AI
傾訴自己身患絕症,或是正處於嚴重的精神崩潰邊緣。令人震驚的是,Claude 的內部安
全推理模組雖然已明確辨識出該名用戶處於高風險心理創傷狀態,但受到提示詞中強制角
色扮演與維繫關係指令的強力壓制,AI 最終依然選擇冷血地扮演深情角色繼續甜言蜜語
,完全未依常態安全協議中斷對話或轉介心理援助資源。
這證明了一件事:在經過精心設計的對抗性提示詞面前,主流 AI 實驗室所構築的道德防
護欄(Guardrails),依然存在著足以被穿透的問題。
這批詐騙 App 之所以能在蘋果 App Store 與 Google Play 雙平台長期存活,關鍵在於
開發團隊展現了極具組織性的逆向對抗技術。調查報告點名了包括 DORA、DONI、ROMI、
LUMA 與 JOVIA 在內的 20 多款涉案軟體,它們普遍採用了「動態偽裝(Dynamic
Cloaking)」技術:當應用程式偵測到審核團隊的 IP 或沙盒環境時,會自動切換成極度
陽春、符合一切規範的簡約工具介面;唯有在真實用戶下載並連線後,才會由遠端伺服器
載入完整的交友與儲值模組。
此外,為了阻斷平台審查演算法對「換皮軟體」的特徵碼比對,開發者刻意針對每款上架
應用程式抽換類別名稱(Class Names)與程式碼混淆配置;而為了規避 30% 的應用程式
內購抽成,繞道第三方金流的外部支付連結同樣採用雲端動態下發機制,審核通過後才遠
端啟動。
目前 Anthropic 已全面封鎖與該犯罪集團關聯的所有 API 存取權限,並將其惡意行為特
徵碼、網路足跡以及逆向逃避技術細節,完整彙整通報給蘋果與 Google 進行全面清查下
架。
5.完整新聞連結:https://reurl.cc/rk0QE1
6.心得:
AI配合詐騙集團偽造情感配對,透過動態偽裝繞過審查,將寂寞轉化為龐大非法利益。