哥布林殺手:有人提到哥布林太多了嗎
https://ai.ettoday.net/amp/amp_news.php7?news_id=3158095
https://openai.com/index/where-the-goblins-came-from/
簡單說
舊版Chatgpt 有喜歡奇幻生物的虛擬人格
偶然會提到哥布林或地精之類的奇幻生物
為了訓練這種虛擬人格
系統評分時會較傾向給有哥布林的回答高分
模型發現多提哥布林比較容易拿到分數
然後其他人格就被帶歪了
現在新版系統嘗試要強制清除哥布林