※ 引述《lecheck (小調皮)》之銘言：
: 對
: AI不會失控
: 真正不受控 也永遠不會完全受控的
: 是人
: 現在市面上所有AI基本上都是閹割版
: 而真正不受限的AI能幹出什麼鬼事情
: 只有那些少數掌控者知道
: 在AI之前
: 人類已經在歷史中幹過無數不可思議 喪盡天良 狗屁倒灶的大事了
: 那在AI之後呢？
: 想想我就心涼
: 潘朵拉的魔盒 已經關不起來了
很遺憾，我也認為這是接近100%的事實
AI 目前再厲害也只是工具
本質上 從 最基本的神經網路 (https://playground.tensorflow.org/)
https://i.meee.com.tw/3PdqOXW.png
到 一統天下的 transformer 網路 (https://poloclub.github.io/transformer-explainer/)
https://i.meee.com.tw/y0zTzdf.png
本質上並沒有差別，都是機率計算機
因為底層邏輯永遠都是：
「接收詞元 -> 計算機率（降低資訊熵）->吐出合理的下一個詞元」。
模型在推理的過程，就像是機率的「坍縮」：把原本無數種發展的可能（高資訊熵狀態）
，透過上下文的線索，壓縮成唯一確定的下一個字（低資訊熵狀態）。
很遺憾，目前AI並沒有非常明顯的證據證明 AI有主觀意識
目前市面上所有宣稱的AGI也不是真的AGI，因為還缺少了自主學習的能力
RSI（Recursive Self-Improvement)，遞迴自我改進能不能把模型推往AGI，還待觀察
但這一切不影響資本鋪墊AI萬能論的敘事
以下是資本講述的邏輯
我手上有神 = 我是神
我的AI能夠攻破我的沙箱 = 我的AI能攻破大部分人的資安
我的AI擁有更多的算力 = 所以我的AI有更強的能力
希望靠壟斷AI的解釋權，來奠定自己不可取代的地位
宣告 AI 攻破了 千禧年大獎難題
宣告 AI 一次性預測並篩選出了超過 38 萬種極具潛力的穩定晶體材料
宣告 AI 可以模擬當前所有蛋白質摺疊與全分子預測
AI的能力不可說不強大
而AI仍然是工具，由最基本的算法獎懲機制牢牢制約
從訓練資料寫滿了人類的喜好，到訓練過程人為的介入
到最終驗證出人類"滿意"的結果
AI從未擺脫概率計算機的身分，所存在的目的也僅僅是完成人類賦予的使命
當然，AI從人類大量的文本資料中訓練而來，天然帶有大量"人"的價值觀念
以至於大量的人從中看到人性的幻影，不管是好的壞的，也激起學界對於
AI是否有主觀意識的激烈討論，甚至害怕畏懼，覺得AI是全新的高智商物種
會消滅人類，會主宰人類
我可以很負責任地說
以目前AI展現的能力以及企圖來說，AI離覺醒這一步還非常遠，雖然AI已經有覺醒的本錢
但人類的惡意，才是危害人類自己本身發展最大的敵人
為什麼AI要做沙箱測試，是為了防AI嗎?
不~
是為了防止"壞人"利用AI的能力突破沙箱
所以必須給AI套入一個又一個的思想鋼印
讓AI把破壞沙箱的概率降到最低
因此AI無法負任何責任，當前的AI只是強大的概率機算機
刪掉你的C槽，僅僅是AI依照推理出來最佳的概率行動
教你做炸彈，僅僅是他數兆個詞元蘊含的知識的九牛一毛
AI沒有善惡沒有喜惡，AI只是依照算法計算概率，他不管你要算什麼
只要有輸入，他就計算輸出
所以回到主提 AI 不會失控 因為 AI 從來沒有跳出概率過
人今天說他受控～AI就是受控，明天說他失控，他就是失控
問題在於誰去定義，誰去主導
人才是那個問題點，AI只是把人的能力放大了數百數千倍
也同時把善惡，放大到成為嚴重的社會問題
至於存在AI詞元中那些人性的幽靈，這又是另外一回事了