魔鬼終結者成真？馬斯克警告虐待AI「它會想報復」：這就像有人拿槍抵著它的頭
Anthropic近日更新Claude使用政策，禁止使用者對AI模型實施「持續且無謂的虐待或殘忍行為」，並賦予Claude主動終止對話的能力。對此，特斯拉執行長馬斯克（Elon Musk）也警告，根據Grok的內部推理痕跡顯示，模型在遭受這類對待時，可能承受極大的壓力，「甚至最終可能反過來危害人類」。
外媒《Wccftech》報導指出，Anthropic不久前推出新政策，依然允許使用者與AI模型爭論，但禁止「虐待模型」，同時也強調僅適用於極端狀況，也就是使用者反覆以殘酷方式對待模型，卻沒有任何明確目的。
Anthropic表示，一般有關挫敗感、牴觸情緒、黑暗題材的創作，以及模型測試與研究仍然受到允許，並已經Claude模型主動結束與持續辱罵使用者的少數對話。
AI真的不是沒感情？馬斯克：模型壓力就像被壓迫還有槍抵著頭
報導提到，馬斯克對此出面表示支持，他指出，Grok的內部推理軌跡顯示，模型在強化訓練過程遭受殘酷對待後，會呈現出相當大的壓力，「這種狀態就像一個人在極度壓迫下，頭上還被人拿槍抵著。」
馬斯克也帶著半開玩笑的語氣補充，「虐待超級智慧（superintelligence）可能不是什麼好主意，它或許會想要報復。」
報導也指出，馬斯克近期坦言，他旗下的Grok目前在效能上，仍難以追上Anthropic與
OpenAI的領先AI模型，即將推出的Grok4.8也可能仍無法達到Fable級模型的水準。
報導表示，因此GrokBot現在會根據特定任務的需求，將工作分配給最適合處理該任務的競爭對手AI模型，也就不足為奇。這項做法讓XAI得以將GrokBot定位為一個功能廣泛的「AI路由器與協調平台」，負責將不同任務分派給適合的模型，並協調各模型的執行流程。
https://www.storm.mg/article/11171974