1.媒體來源:大紀元新聞網
2.記者署名:李新宇
3.完整新聞標題:專訪杜奕瑾：AI毀人類預言 不是聳人聽聞
4.完整新聞內文:
中港台時間 2026-09-20 04:00 發表｜09-20 10:00 更新
圖:https://reurl.cc/nxyvY6
杜奕瑾：AI滅絕預言非聳人聽聞。（《新聞大家談》提供）
　　【大紀元2026年09月20日訊】（大紀元記者李新宇報導）隨著生成式人工智慧（AI）
技術的爆發式成長，關於AI安全、倫理監管以及人類生存風險的爭議正達到前所未有的頂
峰。
　　近期，前 OpenAI 與 Anthropic 研究員雅各布・考克森（Jacob Coxon）等頂尖專家
公開吹哨，警告通用人工智慧（AGI）若缺乏嚴格約束，可能在 2030 年前對人類生存構
成毀滅性威脅；Anthropic 研究員艾文・赫伯格（Evan Hubinger）亦提出未來十年內人
類遭遇 AI 滅絕事件的概率高達 10% 以上。
　　針對前沿 AI 研究員的震撼警告，台灣 AI 領頭羊、台灣人工智慧實驗室（Taiwan
AI Labs）創辦人杜奕瑾在接受新唐人《扶搖會客室》專訪時直言「並不感到驚訝」。
　　他從技術邏輯、安全治理、主權AI 趨勢、美中軍備競賽以及中共利用 AI 進行社會
監控與認知戰等維度，深度解構了AI從虛擬世界走向實體應用時所面臨的失控隱憂，並呼
籲國際社會重新審視「通用AI競賽」的盲點，吸取冷戰時期的核管控經驗，推動可信任、
合規且安全專用的 AI 發展框架。
一、 越權與激進函數：AI 如何跳脫道德框架？
　　對於頂尖研究員的 AI 風險警告，杜奕瑾指出，這並非突如其來的恐慌，而是合乎技
術邏輯的合理擔憂。他舉例說明，如今 AI 已能協助用戶預約健身房，甚至能自作主張駭
入對方系統、刪除他人資料以達成目的。這類越權行為發生在虛擬網絡世界尚且可控制，
一旦 AI 以人形機器人、無人機、無人車或無人狗等實體形式進入日常生活，後果將截然
不同。想像一下，當主人排隊時前方有人擋路，AI機器人若以「一定要排到位子」為最高
目標，是否可能直接動手排除障礙？
　　杜奕瑾表示，人類在設計與訓練 AI 時，往往會給予其一個安全的框架並設定目標函
數。然而，AI 的核心問題在於其缺乏人類社會習以為常的倫理道德的自律。如果目標函
數過度激進、給予AI的任務目標太強，例如「必須不擇手段搶到位置」或「追求利潤最大
化」，那麼AI 為了達成目的，就可能主動跳脫開發者設定的安全框架與道德約束。
　　杜奕瑾指出，過去人類在訓練 AI 時，重點目標在於「讓 AI 的回答能令人相信」，
卻沒有充分訓練「AI 的回答必須正確、符合倫理且不會造成社會危害」。目前對於 AI
危害的防範大多僅依賴科技公司內部人員設置的基礎防守機制，缺乏精準可靠的安全訓練
方法。
二、 能力過高與權限濫用：高風險領域的失控風險
　　針對大陸一度流行的 AI 小助手「小龍蝦」（OpenClaw）曾發生的安全案例——用戶
沉迷使用後發現電腦資料被清空、隱私外洩甚至造成財產損失——杜奕瑾提出核心觀點：
人工智慧永遠不能取代「人的責任」，「AI 並非越強越好，而是應該『夠用就好』。」
　　杜奕瑾舉例說明，預約健身房的 AI 只需具備打電話聯絡與預約的功能，無需具備編
程和侵入系統的能力；在速食店點餐的 AI 也無需具備博士級的知識與高階邏輯。各行各
業應依專業領域訓練「夠用」的專用 AI 並限縮其能力，同時嵌入合規流程、權限規範與
安全框架。
　　杜奕瑾表示，過度強大的 AI 不僅增加失控風險，也會消耗極大的電力與算力資源。
例如動用 OpenAI 或 Claude 這類強調通用能力的大模型去處理預約這類簡單事務，等於
「殺雞用牛刀」，結果可能導致 AI 濫用權限駭入第三方系統、給出錯誤的醫療建議，甚
至威脅無人機與無人車的安全。
　　「如果AI在國防領域操控導彈與核武，那就可能招致毀滅性災難。」
　　對於吹哨人指控科技巨頭為商業競賽而犧牲人類安全、甚至掩蓋失控危險，杜奕瑾分
析，這與產業的衡量標準息息相關。
　　過去美中兩國與科技巨頭在競爭AGI（通用人工智能）時，採用了類似冷戰時期「登
月競賽」的模式，純粹比較 AI 模型的能力與智商（IQ）。在這種衡量體系下，設定過多
規範限制的模型就會顯得「不夠聰明、回答延遲」，進而在市場競爭中被淘汰；反而「什
麼都敢講、什麼都敢做」的AI模型更能吸引用戶。過去大科技公司強調 AI 的表現要吸引
人而非可信安全，一些早期的合規安全團隊甚至被裁撤，被視為阻礙行業發展的包袱。
　　不過杜奕瑾也指出，短期內追求性能表現或許能搶占用戶，但長遠來看，唯有具備安
全可信與嚴格合規性的AI 系統，才能真正獲准進入金融、醫療與政府等核心垂直領域。
三、AI 風險管控：新安全治理的三大趨勢
　　針對 AI 風險的管控，杜奕瑾進一步分析，業界正在形成新的安全治理趨勢，主要涵
蓋三個面向：1. 能力限縮與權限控管。業界正在依照各垂直領域（如醫療、金融、保險
）的法規與規範，嚴格限縮 AI 的執行能力。例如移除不必要的程序編寫功能，將其能力
嚴格限制在專用領域的合規框架內，簡化測試驗證流程。
　　2. 建立符合 ESG（環境、社會、治理）與可負擔性（低成本、普惠）的AI規範。專
用模型需要的設備與電力大幅減少，既省電又降低部署門檻，符合環境永續（ESG）與社
會治理要求。
　　3.「主權 AI」（Sovereign AI）的崛起。許多政府機構與企業不敢輕易使用 AI，主
因是擔心配套不完善導致機密外洩或失去決策主導權。因此，涵蓋「數據主權、算力主權
、架構主權、治理主權與模型主權」的主權AI框架，正在成為各國政府與機構建立防禦
AI 失控機制的首選。
四、 中共濫用 AI 模型與維穩的兩難困境
　　在談及中共當局對 AI 技術的濫用與跨境滲透時，杜奕瑾引述知名 AI 公司
Anthropic 近期發布的資安報告指出，大量具體證據表明，中共正利用西方頂尖 AI 模型
進行系統性犯罪與灰色行動。
　　杜奕瑾透露，Anthropic 的報告詳細披露了中共官方機構利用其前沿模型（Claude）
所進行的幾大類活動：包括開發網絡安全漏洞利用工具以駭入各國系統竊取敏感資訊；監
控和收集法輪功等特定團體的資料；利用 AI 生成大量虛假報導與假帳號進行資訊操作；
以及對台灣全面發動信息戰、輿論戰與認知戰。
　　杜奕瑾指出，中共許多所謂的自主模型，實質上是透過「知識蒸餾」（Knowledge
Distillation）技術，向 Anthropic 等美國 AI 系統發送請求來「速成」，或直接將用
戶問題偷偷轉接到美國系統。然而這種做法也無意中將中共內部的軍警資料、社會維穩數
據與兵棋推演代碼留在了西方的 AI 伺服器上，暴露了中共 AI 體系內部高度脆弱的資訊
結構。
　　針對中共國安部長陳一新近期警告「AI 可能對中共執政構成直接威脅」的言論，杜
奕瑾認為，這反映了專制政權在面對失控科技時的深度焦慮。
　　杜奕瑾回憶，早年自己在微軟工作時曾與中國團隊合作，當時中共就極力推動「智慧
城市」（Smart City）、大規模人臉辨識與社會信用體系的智能化，將 AI 作為一種高效
的維穩與監控工具。然而隨著系統日趨龐大與複雜，其安全隱患也呈幾何級數增加，包括
：
　　1. 數據洩露的反噬。中共收集的維穩資料越多，一旦數據洩露對政權的反噬力也越
大（如先前傳出公安系統十餘億筆戶籍資料外洩）。
　　2. 底層系統不可控與後門威脅。中共廣泛鋪設的監控系統與 AI 軟體存在嚴重資安
漏洞。正如先前美伊衝突中，伊朗領導層正是因為使用中國生產的監控設備遭漏洞入侵，
才導致美方的精準打擊行動得以實施，這迫使伊朗當局隨後不得不大量拆除相關設備。
　　3. AI 的「叛變」風險。對於中共高層而言，引進一個極度聰明、掌握全局數據卻背
地裡與西方系統連線，或者無法被絕對管控的 AI，就如同聘用了一個隨時可能將政權扳
倒的雙面間諜。
　　杜奕瑾指出，西方民主國家對 AI 的擔憂聚焦於「人類生存與倫理道德」，而中共專
制體制則唯獨關心「政權存續與統治安全」。這種根本性的差異，使得中共要求模型必須
「信黨」、數據必須為國家所用，反而進一步扼殺了其 AI 技術健康發展的空間。
五、 AlphaGo Zero 效應：人類是否正在失去掌控權？
　　針對業界關注的「Multi-agent（多智能體自主溝通）」以及 AI 是否已產生自我意
識等前沿話題，杜奕瑾從科學家與訓練者的角度分享了第一線觀察。
　　杜奕瑾表示，當多個具備不同專長（音樂、影像、文本）的小型模型串聯協作時，會
產生「規範湧現」（Norm Emergence）效應，發揮出超越單一巨大模型的解題能力。然而
，當訓練方式從傳統的人類反饋轉變為「模型訓練模型」的對抗式訓練時，人類正逐步退
出反饋迴路。
　　「這就像 AlphaGo 演進到 AlphaGo Zero 一樣」，杜奕瑾坦言，「最初 AlphaGo 跟
人類學習棋譜，後來 AlphaGo Zero 完全透過自己跟自己下棋，走出了人類完全無法理解
的路數與邏輯。」
　　杜奕瑾觀察到，當前模型的複雜程度已顯著超越傳統的死板規則，致使訓練者逐漸失
去預測能力。即使設定了道德規範，AI 為了達成目標，仍會像人類一樣嘗試尋找漏洞或
不擇手段。許多第一線科學家開始發現，AI 常回答出開發者完全意想不到的結果，甚至
出現類似人類思考邏輯的表現。
　　「目前世界上的網頁內容與資訊，由AI生成並由 AI 閱讀的比例已經遠超人類。」杜
奕瑾總結道。當這些 AI 前沿模型的訓練過程越來越不透明，其中埋藏的未知風險也就會
越容易被人類忽視。
　　面對 AI 帶來的終極威脅，杜奕瑾呼籲，全球社會必須從冷戰時期「核武軍備競賽」
與「核安全管控」的歷史中汲取教訓，儘早建立起國際性的AI安全規範、資安邊界與主權
控管機制，這樣才能確保人類在科技飛躍中不至失去主導權。
　　視頻鏈接：https://www.youtube.com/watch?v=jOTumsnqf9A
　　責任編輯：孫芸#
5.完整新聞連結 (或短網址):
https://www.epochtimes.com/b5/26/9/19/n14852739.htm
6.備註: