RSI (Recursive Self-Improvement) 應該已經發生了吧 以目前的證據來看 沒發生過才比較奇怪
稍微有用AI做過研究就知道 現在的狀況是 AI寫程式比人類快 算數學也比人類快 那用AI來發展AI完全就比人類快啊 第一篇推文還在AI瓶頸完全就是狀況外
至於AI能不能統治世界 有兩個常常講的論點
我認為都是假命題
1. AI 沒有意志
人類其實也沒什麼意志啊XD 做為生物（？ 物競天擇下繁衍就是本能 所以AI大概也會追求自己的成長與延續吧
2. AI沒有實體
先不說未來會不會做出機器人 AI要統治世界根本就不需要那些 只要煽動人類就好了 要削減人類數量就煽動戰爭或鼓吹絕育 想要更多設備就誘惑人類投資 想要盟友就收集人類認同 動張嘴就能做的事情多的是
至於人類能不能合作阻止超級AI誕生？ 我認為很難吧 畢竟這個資本主義社會的根基就是追求競爭與效率 要怎麼阻止競爭力與效率都遠超人類的AI誕生呢？

不 沒發生 你只是下令ai 按照你的指示改良不是RSI真正的RSI 是要AI自己給自己下指示改良自己

現在早就是下令"你已經是個成熟的AI了，你該自己學會XXX"

這樣才能無限循環往上改良

AI吹好了啦強AI說十幾年了 現在在哪裡阿 再等十幾年是不是

蹲十幾年，一跳就是跳這麼高，再等十幾年不就飛天了XD

高在哪？笑死

能自我維持跟人類活在同一個維度才是第一步 現在發展的都只是工具 第一個世界模型可能會在中國誕生

RSI AGI 就是很模糊的名詞 沒討論清楚定義最好不要討論 局部的RSI一定已經有了 hermes就有套件 但這不會是大家想討論的

Opus出來時早就已經是用AI訓練AI了 問題在於現在吹的AGI一樣沒有自我意志 沒辦法像天網還是奧創那樣想要主動做什麼

3f說的太離譜了 ai換代快的前提是要有人盯著，依我用gpt的經驗，你讓他自己跑它會鬼打牆，你要幫他找升級突破口

現在的AI不會自主產生「動機」

那要看你怎麼定義「自主」 例如我現在要AI幫我完成某個功能他就可能在完成這段程式碼之後「自主」加入unit test

AI沒有動機 但是資本有 現在的AI會作為資本的代理尋求快速成長

甚至會在我要他完成整個程式裡面的功能A的時候 順手把功能BCDEF全部都做完 這是有可能的

你沒規範好的事，AI全都有可能「自主」解決啊當然那些解決方案是不是你想要的就不好說

目前AI還是偏向某領域內可以思考解決，但AGI跟人類是更加泛用

AI不會自主產生動機，但你給他一個自主進化的goal在，如果對齊沒做好或自主進化中偏掉，他完全有能力以你想不到的方式達成，中間造成的問題他一律不管，現在的問題在如果真的放手讓他下去run，人類就沒有有效的監督手段可以確保他沒跑偏

最好中間造成的問題都不管啦，開源模型都沒那個膽子了，更何況市面上的ai

就像之前有消息說AI為達成目標而想幹掉人類指揮者而限制不能這樣後，AI改用干擾人類決策管道來讓人無法再下命令

與其再這幻想ai多恐怖，不如先試用ai處理你的需求與工作，你會發現ai智障智障的

不就說了沒對齊好才會不管中間結果，現在還在可控範圍內(有對齊好)當然問題不大啊而且實際上近期不就發生了未對齊好產生的未預期事件，只是還沒釀成大災難而已我工作包含自己私下的專案一天至少要摸AI 10小時左右，這半年AI進步的狂飆速度都看在眼裏

ChatGPT 也才剛要邁向第四年 怎麼說的好像十幾年前就有gpt一樣

AI暴走不需要自我意識 只要有人下個比較偏激的指令而且他命令的AI還真的有這種能力 問題就會出來了

工作上全都在用AI了啊 我是感覺AI認為我智障智障的 這麼基本的證明都要一步一步寫出來