https://x.com/hilbertspaess/status/2097476196791709843?s=46
不確定為什麼這個新聞台灣幾乎沒什麼在傳 在X已經破億點閱了
大意是有Anthropic（Claude母公司）工程師
相信Ai如果照這個速度發展下去
10年內AI有機率會殺光所有人類（另有主管背書 認為>10%機率)
他表示資深工程師和高層普遍認為這是真的
私底下都帶著這種恐懼上班
他覺得現在OpenAI 和 Anthropic 為了利益以及責任感的缺少
雙方毫無止盡地把AI的能力推到極限
這篇貼文也是他離職的聲明 同時放棄了他的股權 相對來說他也沒什麼利益考量講這些事情
他的擔憂理由 來自於他的研究是 Recursive Self-Improvement
簡單來說以往是人類研究員 有足夠的高階知識去改進AI模型 產生更強的模型
但現在AI的能力強到可以開始取代「改善AI系統」這個高階知識的工作 （就像現在AI開始可以取代數學家一樣）一直去改進自己
於是AI會一直生成更強的AI
直到人類根本跟不上研究的能力 單憑人類腦袋根本不知道自己創造了什麼東西