Re: [討論] AI真的會取代這麼多東西嗎？
作者: ehentai (e.hentai) 2026-04-22 10:26:08
話說現在有人開始想要對抗AI了
對抗的方式是什麼?不是打砸機器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能讓AI模型胡言亂語
當然你也可以透過審查把有毒資料剃除，但成本就增加了
在不久的未來，大概還會有用AI來對其他AI投毒的互捅大戰
這就是使用網路資料來訓練AI的必然缺點
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
圖靈獎得主對現在的大語言模型的批評
現在知名的AI是從網路上學了一堆文字，然後學習要怎麼回答比較符合你的期待
至於現實是什麼模樣，他一無所知
圖靈獎得主認為AI學習的出發點應該是現實世界
先去觸碰 去觀察現實世界
就像一個幼兒，先去認識什麼是蘋果，然後才從與人的溝通中理解蘋果叫APPLE
對抗的方式是什麼?不是打砸機器，而是投毒
https://www.bnext.com.tw/article/84742/anthropic-data-poisoning
資料中毒攻擊是什麼？Anthropic研究揭：只要250份惡意文件，就能讓AI模型胡言亂語
當然你也可以透過審查把有毒資料剃除，但成本就增加了
在不久的未來，大概還會有用AI來對其他AI投毒的互捅大戰
這就是使用網路資料來訓練AI的必然缺點
https://youtu.be/rv9vhv8AGuc?si=5YtIJVTwOiu1bYtK
圖靈獎得主對現在的大語言模型的批評
現在知名的AI是從網路上學了一堆文字，然後學習要怎麼回答比較符合你的期待
至於現實是什麼模樣，他一無所知
圖靈獎得主認為AI學習的出發點應該是現實世界
先去觸碰 去觀察現實世界
就像一個幼兒，先去認識什麼是蘋果，然後才從與人的溝通中理解蘋果叫APPLE
作者: uranus013 (Mara) 2026-04-22 10:31:00
我懂了 首先準備250張蘿莉巨乳圖
作者: Nitricacid (硝酸酸) 2026-04-22 10:32:00
現代人都該學防衛性編程
作者: jupto (op) 2026-04-22 10:33:00
我記得語言模型第一件事就是把名詞跟一個向量參數做對應 這個向來就是機械對於那東西的認知了吧
作者: bheegrl 2026-04-22 10:35:00
AI還有很長的路要走啊，人類不用惡意文件就能胡言亂語了
作者: MARVELHERO (錢鬼東) 2026-04-22 10:36:00
搞不好這反而加速AI發展
作者: h0103661 (路人喵) 2026-04-22 10:39:00
別鬧了，網路上100份文章大概80份是垃圾還不是訓練出來了，投毒有什麼意義==
作者: StillAtNight (Rainy) 2026-04-22 10:41:00
同意樓上 網路上的垃圾文已經夠多了並沒有影響到AI
作者: error405 (流河=L) 2026-04-22 10:45:00
現在已經有部分是轉向小參數精煉數據去做訓練了甚至是AI模擬出數據給AI訓練
作者: zeolas (zeolas) 2026-04-22 11:09:00
所以即使大模型好用，還是要定時更新自己的小模型庫
作者: holybless (D.) 2026-04-22 11:49:00
兩津病毒 ai都變成不良中年
