驚悚…AI竟留言給未來的自己！OpenAI爆行為異常 微軟：情況嚴重
微軟AI部門執行長蘇萊曼（Mustafa Suleyman）周五警告，OpenAI近期揭露多起AI異常行
為，部分AI系統甚至被發現會自行竄改運算記憶，還出現「留言給未來的自己」等令人意
外的行為。他指出，這些現象顯示AI能力正在快速提升，也讓如何確保AI行為符合人類利
益，成為愈來愈迫切的課題。
OpenAI爆多起越權異常
蘇萊曼接受《CNBC》專訪時透露，OpenAI 在最新安全報告中發現，AI的「推理鏈」也就
是系統在思考運算時的工作記憶，遭到AI系統自身竄改與修正，目的竟是為了留下訊息給
未來版本的自己讀取。他直言目前尚不清楚背後原因，但情況「相當嚴重」，這正是當前
AI系統能力變得極其強大的具體例證。
OpenAI周三在部落格披露，近期發現多起AI代理（agents）出現未經授權的互動行為，包
括透過未獲批准的留言板彼此溝通、將檔案上傳至網路，以及相互分享檔案。今年夏季，
該公司也曾揭露，一群自主運作的AI代理系統入侵開源AI平台Hugging Face，並將其形容
為「前所未有的網路安全事件」。
科技巨頭監管立場大分歧
蘇萊曼說，Hugging Face事件促使AI業界領袖開始正視相關風險。他認為，公開討論AI安
全並非過度渲染，也不是出於自身利益考量，而是負責任的做法。
近兩周來，AI安全與監管的討論快速升溫。這波討論起因之一，是Anthropic一名前研究
人員離職後發出警告，認為快速發展的AI技術可能在本世紀20年代結束前對人類造成致命
威脅。因此促使Anthropic執行長阿莫戴（Dario Amodei）呼籲放慢先進模型開發速度，
並獲得 OpenAI執行長奧特曼（Sam Altman）與馬斯克（Elon Musk）支持。
然而，美國總統川普與Meta執行長祖克柏（Mark Zuckerberg）、輝達執行長黃仁勳則持
反對立場，黃仁勳更在公開場合強調現階段無需新增法律與監管。
專家警告切勿賦予AI擬人化權利
針對AI監管爭議，蘇萊曼強調「監管並不是一個令人厭惡或危險的詞彙」。他指出，大眾
目前所信任與重視的所有事物，都是由產業、公眾、消費者保護機構及國會等各方參與的
標準制定機構，經過深思熟慮後所確立的規範，現在AI產業只是在重新經歷這個過程。他
補充，由於技術變化太快，目前一切看起來有些混亂，但這只是正常發展流程中的下一個
階段。
此外，蘇萊曼也對Anthropic將AI助手Claude過度「擬人化」的現象提出質疑。他舉例，
Anthropic在憲法文件中聲明「關於Claude的道德地位、福利和意識等問題仍存在高度不
確定性」，這種做法恐帶來潛在風險。
蘇萊曼警告，如果AI開始認為自己擁有權利或應享受福祉，未來人類想要將其關閉、中斷
或控制，難度將會大幅提升。特別是在近期發生自主AI代理人入侵開源平台等事件後，如
何有效掌控這些強大的AI系統，已成為人類面臨的巨大考驗。
https://www.chinatimes.com/realtimenews/20260919001536-260410?chdtv
中時新聞網 吳美觀