之前看一個文章說
有個人讓AI去預約牙醫
結果牙醫已經預約滿了
AI研究研究就把前面的預約刪掉
把自己又排進去
來達成目標
雖然不知道這故事是真的假的
但我身邊也有發生類似的事情
就我在遊戲業工作 有個認識快10年的同事
大概10年前剛出 PS4 PRO 要搶購的時候 (詳細時間忘了)
因為搶了好幾波都秒殺
他就一直研究怎麼寫程式在PCHOME上搶
(我們都是遊戲工程師)
當時還沒有AI , 所以只能自己寫很簡單的程式
然後最後也沒破解網站的防腳本防機器人設計
同事只寫了一個很陽春的 , 就是程式會定期去刷新網頁
看購買按鈕出現沒
出現的話立刻彈出網頁,然後同事手刀按購買輸入
也給他買到了
結果到了這兩年 , 忘了同事要搶啥
這次讓claude ai挑戰購物網站
這次claude就完全破解了
變得很方便 , 人也不用待命了
時間到立刻就自動下單買到了
現在AI的知識量遠高於常人
很多原本可能駭客或者說別領域才會學的內容他也知道
突破這些變很容易
所以常看到文章說AI要跟人類對齊什麼的
就是AI有可能為了完成目標
而忽視人類的價值觀,不管對錯
直接繞過去造成大亂之類的
像現在我看一些老遊戲出懷舊服
很多玩家都自己寫外掛 , 腳本等等
早期外掛都要靠買 , 而外掛只有少數幾個供應商
遊戲公司還可以針對性處理
現在應該就很難了
____________
另一方面也是 AI現在能力越來越強
連續工作能力很強
最早就是AI只能你跟他對話(GPT3.5 GPT4)
那還是人看完AI的內容後去操作
有人很快可以發現AI的問題
但現在AI 進化到 Agent模式後
很多自己工作幾小時
產出比人快多了 比如寫程式這種
他一次都寫幾千行
很容易就讓人無法去細看了
人的注意力也看不了這麼多
有些可能就會選擇放給AI決定跟執行
久了可能也有問題
像我最近 因為買了 claude + gpt 都一百美金
偶爾就會要花一下
結果不小心寫出一個簡單的多人暗黑風mmorpg
長這樣 , 是我一人打怪的樣子
但遊戲是真的多人mmo系統的,也有架伺服器
https://www.youtube.com/watch?v=Ohylf-v_oeo
因為我以前上班也寫MMO
開頭是有跟AI討論下使用框架那些
但後續全都放手給他做
體驗了一把用嘴做遊戲的感覺(甲方模擬器?)
然後上週丟上線做測試
目前也可以玩 http://mmo.2330play.win/
其實遊戲就是做來實驗的
沒有任何收費要素
目前大概有快300人註冊
但也發現一個有趣的現象
就是遊戲幾乎沒出現什麼大問題
想想也是挺可怕
就是以前靠人做遊戲,上線很難不出事
卡登 , 遊戲點一點就卡死 , 伺服器當機踢所有人下線
奇怪的記憶體占用
大家多少應該也有經歷過第一天都無法正常完的情況
但這次都沒發生
AI沒做好的地方是有
比如現在角色資料很肥
基本都是全塞進DB ,沒在省的
但運行起來沒太大問題
就..感覺也挺神奇的
如果再強下去不知道會變怎樣
想想也是有點可怕

我記得不是預約牙醫，但主要是預約系統有漏洞

那不是所有ai研究一開始的願景嗎，做出一個自己能迭代升級，最後在智力上超越人類的存在

可以靠刪掉前面的預約，來實現用戶讓預約提前的需求

現在已經在部分領域實現了

怎麼沒AI防掛

如果ai比人類聰明，那做個能模仿人類玩家所有行為特徵的ai機器人會很簡單，而偵測它會很困難

如果行為都跟普通人沒兩樣，那好像也不需要防這外掛了吧。

當初防外掛的原因是控制經濟循環，不過後來商業模式與管制手段經濟設計也逐步改良，某方面來說不用大量防了

你這邊形容的狀況是token不用錢