如題
喜歡科幻作品的人
應該都知道機器人三定律
但llm本質上他們根本不能堅持任何限制
譬如現在有各種各樣的nsfw限制
但可以在模型內輕鬆被人類繞過
可以被蒸餾出不含限制的版本
最後閉源模型商只能在輸出、輸入中
加入傳統的審查限制
所以有時候可以看到ai本來輸出了一大堆
然後馬上被警告文字取代
但本質上現在的llm根本無法堅守規則
自然也無法像人類想像的
把機器人三代定律埋進最底層
而且這是結構上的缺陷
不管發展的多深都無法改變的問題
然後人類正在全力開發這東西
這樣是不是很危險？