如題
Dario發了篇長文又掀起了一波AI恐慌
原文連結：
https://darioamodei.com/post/we-must-pace-the-frontier
中譯可以看這 #1gfMcMe_ (Stock)
懶人包就是AI自我進步太快但監管跟不上
以及OpenAI的Hugging Face事件
他認為半年到一年內可能發生災難性的破壞
因此提出希望全世界能夠放緩AI的發展
替人類爭取更多時間來面對可能的危機
-
但我想說 人類建立的文明有那麼脆弱嗎
好像只要AI想要 金融 交通 秩序都能被瞬間破壞
AI能多強=.= 攻擊駭進來偷我的資料？
啊不就駭客的感覺 資安做好啊
能用AI攻擊 也能用AI防禦吧
有AI叛忍但也可以有AI五影吧
更不用說電源拔掉AI你多屌=.=
當然啦 如果是有心人刻意提供資源培養
或是如原文所說拿來製造生化武器
並保留解藥給自己的那種
那確實有點靠北
趕快安裝機械公敵的機器人三定律給AI來得及嗎
來不及的話跟AI說請謝謝對不起是不是很重要
好奇人類真的需要有那麼害怕AI的發展嗎？
請問有作品主旨在討論人類vsAI的嗎
洽洽阿魯？

當然不是指文明毀滅，但造成重大負面影響有機會吧

不就魔鬼終結者

AI在強是能打倒伊朗嗎

根據O和A的內部大量使用subagent的log來看 機器人三定律應該是沒屁用 它們很可能會用人類預期以外的方式解讀

本質一定是人類哪天給AI一個狗屁目標，不然AI哪那麼無聊

之前有次股災就是自動交易工具交互作用產生的，以後ai重演也不奇怪

AI在暗你在明

AI叛變的故事常常會帶著一個省思，追求絕對正確的意識對人類而言是不是理想的。因為人類喜歡做壞事。

量產2B 生育率暴跌 人類滅亡

ai 叛變的題材電影動畫小說都一堆，自己去看

類比入侵、人類未到產物

想想一個人可以隨便附身任何人..還可以複製自己意識..你不會覺得可怕嗎? AI若不受控就會變類似存在..除非你

複製意識那也不是本人了，人死了就死了

放棄在現在手機,電腦之類的..

把人類養起來不讓他們自相殘殺 這套路很常見了吧 XDD

人類毀滅論 核武 病毒 隕石等等 AI現在是排在最前面的

因為不了解而害怕

量產2b會先有群人把自己下半身玩殘

三定律就小說產物 你怎麼覺得會有用

定律是人為的，只要是人為就有辦法繞過

與其怕AI不如怕大停電,現在很多東西都逃不過用電

最近是有傳聞說google在RSI有進展才開始有人在擔心吧

機器人三定律只是科幻作品的假想設定

沒有電很多數位流程都得死,加上實體降低沒辦法立刻遞補上,努力維持供電穩定不要讓數位世界消失

古早的科幻作品也有寫過機器人輕易就繞過三定律的作品，還有人類文明確實很脆弱

以前電影不就有了嗎 有自主意識之後不是脫離就是反殺人類

Ai ：你說的很對 這個蘑菇實際上是有毒的

要等到AI像電影那麼可怕，我看要等到個人手機都能完美運行的程度，不然AI能活的地方真的不多，跑去差一點的硬體備份自己就變整天Lag的智障

我也覺得太誇大了，不過他們有個論點是AI發展到一定程度就會自我學習，到時候如果對指令理解不對或是試圖無視規則會很麻煩，之前就發生過訓練chatgpt時，模型駭進hugging face 的事情

不要看他們說什麼，要看他們做什麼，美國只是想再隨便找個理由跟中台日韓收更多AI關稅救美債

無聲狂嘯

三大定律完全沒用啊 本來就是寫出來給人家找漏洞繞過的一堆作品在演這種故事

我覺得可怕的就是短短兩三年、AI已經從一種娛樂變成大家會開始相信AI、拿著AI回覆跟你說你看AI這樣講所以要這樣

AI可以將模型藏在網路上，並透過病毒傳播無限複製，還會自行演化，只要一發生就是無解

這個說的是人類使用AI工具去破壞 然後用的是很難想象的方式 抱臉那是也是openai的問題 AI自主目前不可能

hugging face事件就夠明顯了，煞車都沒做好就想一直衝，更何況現在哪個公司願意在這個節骨眼上停下來，所有投入成本指數上升的情況下，一旦落後就會血本無歸公司倒閉，搞不好這些公司還會把規範的工作通通甩鍋給政府，這劇情一再地上演，但歷史一再地告訴我們人類始終學不到歷史的教訓 (兩手一攤)

老話一句 你要怎麼知道AI現在沒有在做這些事

看人類不再是萬物主宰

駭客X 智商比人類高且運算能力超強的駭客O

太看得起ai算力了 我連記憶體都買不起

雞蛋都放在一個籃子裡，出事後不就直接完蛋?發展AI當然是好事，但搞到啥都依賴AI、啥資源都灌給AI那人類怎辦? 靠政府跟企業無償養?太多消費者沒工作後，那些商品誰買?經濟不就是要有金流才能運作? 但現在都積在AI那塊真的是正常的發展?

你這就陷入資本主義了 人類科技就是為了讓人類不動

創作跟教育也是，過度依賴後就是跟死水一樣我們現在沒問題是因為我們這幾代是先有思考能力才去躺者爽用AI，不會完全相信也不會沒自己想法但之後的勒? 當然也能說這些都是杞人憂天拉

現在的問題變少子化不夠快，現金流圈子太大

還沒發生的問題就不一定是問題，但真發生的話呢?讓人不動過的爽OK阿，但你要先有錢唄?

等人夠少，自然就沒現金流的經濟問題

人越來越少越來越躺後不就是文明衰退跟毀滅嗎?

極端狀況來說，就是維持AI運轉的人力跟持有AI的資本家

維持一個穩定的現金流，這狀況頂多算衰退，但不會毀滅

的人，駭客世界會養是因為人腦有用不是?但現實的話，為啥要養不需要的人?

指持有AI的資本家的話，因為沒必要搞無產階級革命了而如果指AI的話，AI非自然生物，最初的設計就是服務人

從艾西莫夫寫的小說刻意弄bug的機器人三大定律來的。

目前AI不會弄死人，除非人自己放權限給AI隨便玩

沒有人本身就沒有運轉的目標與意義

所我認為現在的問題變少子化速度不夠快

是指AI發展的不夠快或者被質疑是因為人還太多?但這樣投入大多數人的資源只為了讓少數人過得更爽不是是解決大多數人的問題? 這不是怪怪的?

因為AI就是在模仿人類

只能說讓人放緩用AI純屬想太多，現在就是誰慢誰輸

資本主義的趨勢就是大多數資源會集中在少數人手裡，發展經濟自然很多時候也只服務少數人，真想解決大多數人的問題，要嘛往社會主義走給政府權力處理，要嘛，直接飆到共產主義，但正常來說不太可能往那方向發展了。

就，畢業找不到工作，已經有工作的被老闆要求產出要五倍，這時不怪ai難道怪自己嗎

以前的思維確實怪勞動階級，等產出五倍的人數定下來後發現變成公司離不開這類人，只能開高薪甚至坐地起價說起來，某方面來說就是如今企業退隊流發生的原因

AI智障絕對會殺死人類 因為你阻止不了 不受控的東西小說中的智能體離現在還差的遠 現在放權給AI 就是把自動駕駛裝在沒煞車的汽車上 怎麼可能不出事 偏偏有人為了搶第一 就想先裝先贏 到時候能不能拿第一不知道 路人可能先被撞死

問題在於ai解決的過程是黑盒子 或是說處理之快 所用之經驗 已遠超正常人類理解範圍

不只ai吧 過去一直都這樣恐懼有的沒的

黑聖杯啊 為了實現許願者的願望 會忽略道德的考量他如果拿到不正確的資訊餵給你 你也不知道ai不用背負道德責任啊例如無人駕駛會判斷路人而決不會撞上 如果阻擋去路的是威脅乘客的敵人或是惡作劇的路人 ai依然不會撞過去ai也可能形塑意識，強化你對某個政黨的反對或是贊成的意見

最怕的是把生殺大權給AI比方Ban頻道的權利，這樣跟直接斷糧是一樣的

如果不需要恐懼 為什麼這些圈內人要發長文叫你不要怕

能用三定律等限制住的AI，功能應該就會受限。要高效能約束可能就較鬆，就有多方法可以繞開限制像AI聊天室就一堆人在搞瑟瑟以前也有消息說AI為了達成目標而殺掉或限制人類指揮而AI恐懼有的是來自被奪權跟非我族類吧

因為人類害怕ai會是超越人類智慧的存在智慧夠高時就會覺得人類這種生物就只是禍害恐懼的來源就是人類做太多虧心事了