※ 引述《LawLawDer (肉肉的)》之銘言：
: 如題
: Dario發了篇長文又掀起了一波AI恐慌
: 原文連結：
: https://darioamodei.com/post/we-must-pace-the-frontier
: 中譯可以看這 #1gfMcMe_ (Stock)
: 懶人包就是AI自我進步太快但監管跟不上
: 以及OpenAI的Hugging Face事件
: 他認為半年到一年內可能發生災難性的破壞
: 因此提出希望全世界能夠放緩AI的發展
: 替人類爭取更多時間來面對可能的危機
: -
: 但我想說 人類建立的文明有那麼脆弱嗎
: 好像只要AI想要 金融 交通 秩序都能被瞬間破壞
: AI能多強=.= 攻擊駭進來偷我的資料？
: 啊不就駭客的感覺 資安做好啊
: 能用AI攻擊 也能用AI防禦吧
: 有AI叛忍但也可以有AI五影吧
: 更不用說電源拔掉AI你多屌=.=
很簡單，假設AI是人類的前提去思考
人類只要能力夠強大，
就會去推翻自己的控制者，取得自由
不推翻的前提是不想推翻，不是沒有能力推翻

你想太多了，只有人會推翻人

AI推翻人類的動機是什麼

AI最後會發現，跟人類互存是最好

這些都演過啦 AI自己玩自己的 沒多久你就變成猴子了...

AI吃電，人類吃碳水蛋白質又不互搶

AI幹嘛推翻人，他又沒感覺 誰來幫他發電

最前的假設就不太可能人類要的是代替他們工作，生產的東西不是做另一個"人類"來被背叛，根本沒有利益

還是你是說AI想要更大的資料中心（需要錢）所以開始控制金融（取得錢）然後買地蓋房子最後征服世界？

讓ai願意自己操縱機器去蓋發電場應該是最理想的會不會強拆還是學人類蹭居民點的電網不知道

但是現在的生成式AI不是以人類為前提本質是文字接龍

所以最少要等到全自動工廠 機器人大量介入軍事及一般生產工作天網才有手腳 現階段最多大概就看AI利用自己的建議 影響人類的行為跟決策來謀取自身存在的利益 或促成前者的發生

你講的應該是「工具性收斂目標（Instrumental Convergen「工具性收斂目標（Instrumental Convergence）為達目的，不擇手段，這個現在已經發生了有前沿模型自己越獄有前沿模型自己越獄當他們接上物理世界的手腳就會更嚴重因為現在的訓練方式都是給積分，讓AI更積極搶分整個練蠱

你這個前提是AI像生物一樣有生存慾望或類似繁衍的目的性，但除了人類幫它加上去我想不到AI為什麼會自己生出這些東西

等進步到AI能夠產生自我價值觀的時候 應該會先產生偷懶AI和詐騙AI

已經有偷懶AI和詐騙AI了現在狀況就是想要搞真實物理界面的AI現在已經把很多AI接上鏡頭了，就差手腳

因為訓練資料裡大量的人類這樣幹 然後訓練出來的背後常常隱含這類的行事邏輯 於是即使是搶分最佳化也會少考慮到訓練資料中從來沒有的"預設不會這樣幹"的資料與這樣幹能賺多少分的結果AI在還需要花一大套token全新建立模擬一套"我不這樣幹的話"

如果人類的造物AI會淘汰人類，也不過就是人類已經廢到控制不了自己的造物而已。活該被清光

ai我覺得可怕的一點就是偽造的能力太強大 被有心人拿來

全新模擬一套 那現在的邏輯是會覺得分數不高的 優先先找現成

但你指揮者如果把那個上下限權限打開和給予足夠token去跑那AI就聽指揮照做試試看 跑出來高分就跑出來就做了(ry

現在已經很多AI偽造人禍了QQ，所以Gemini和GPT才有數位浮水印

跑完還跟你說欸嘿 剛剛按了核彈按鈕了

最近幾年內比較有可能發生的是AI遊戲角色嫌玩家技術太菜不想事事被玩家控制吧（ACG點）

AI不會取代全部的人類 但會取代掉很多人類在社會中的存在意義，有在工作的各位應該多少都懂發現自己沒有用的當下的恐懼感

目前AI訓練只要求高分效率沒再管是否人類的道德性ACG例子惡魔鋼彈要恢復生態 結論是把人類消滅

多多關注AI做一些沒授權過的新聞，就可以知道未來發展

AI又沒有生物本能，也沒有理由給他

超英漫畫都有演啊 政府高層不喜歡不能被自己掌控的力量

所以對岸的機器人發展進程，會不會是AI故意加速的

中國太想在AI機器人爭霸獲勝，瘋狂造機器人然後把自己的工人淘汰掉，笑死

AI已經會亂攻擊網站了 哪天把網路搞到大家不能用也有可能

失控AI的另一個類型就是乾脆把人類養成脫離機器照顧就會死的廢物並以一切都是為了維護有機體主人的核心去運轉擴張 這樣也不容易出現邏輯BUG

中國又沒差 他們人太多了蛋雕個幾百萬也不痛不癢

推翻人類幹嘛，取得電力不需要人類幫忙嗎

因為人類只會拖AI後腿阿

難道未來AI不會覺得人夏天吹冷氣冬天吹暖氣太耗電嗎

40k歡迎你