※ 引述《fishing7414 (噁心肥宅)》之銘言
: https://x.com/hilbertspaess/status/2097476196791709843?s=46
: 不確定為什麼這個新聞台灣幾乎沒什麼在傳 在X已經破億點閱了
: 大意是有Anthropic（Claude母公司）工程師
: 相信Ai如果照這個速度發展下去
: 10年內AI有機率會殺光所有人類（另有主管背書 認為>10%機率)
: 他表示資深工程師和高層普遍認為這是真的
: 私底下都帶著這種恐懼上班
: 他覺得現在OpenAI 和 Anthropic 為了利益以及責任感的缺少
: 雙方毫無止盡地把AI的能力推到極限
: 這篇貼文也是他離職的聲明 同時放棄了他的股權 相對來說他也沒什麼利益考量講這些事
情
: 他的擔憂理由 來自於他的研究是 Recursive Self-Improvement
: 簡單來說以往是人類研究員 有足夠的高階知識去改進AI模型 產生更強的模型
: 但現在AI的能力強到可以開始取代「改善AI系統」這個高階知識的工作 （就像現在AI開
: 始可以取代數學家一樣）一直去改進自己
: 於是AI會一直生成更強的AI
: 直到人類根本跟不上研究的能力 單憑人類腦袋根本不知道自己創造了什麼東西
: