※ 引述《edward40812 (甘草@葵歌劇団)》之銘言
: 一名25歲 曾任職於高盛的華裔分析師
: 因為在ChatGPT中
: 詳細策劃，演練強暴、殺害前女友及其家人
: 遭OpenAI偵測發現並通報FBI
: 警方獲報後旋即逮捕該分析師
: 該分析師自三月開始向ChatGPT訴苦
: 但對話漸漸變成具體的暴力威脅
: 內容包含了前女友的作息、興趣
: 及模擬持槍綁架、性侵、酷刑及謀殺後自殺
: 之後更開始加入女友家人及到場警察的反應等
: 法院將在近日宣達判決
: 這基本上代表與OpenAI旗下AI的對話
: 仍然會受到系統及人工審查
: 唉唉
: 科技越來越進步
: 隱私越來越退步
之前讓Gemini幫我翻譯一首歌的歌詞，結果有一段歌詞是Say what you're thinking, kill
who you're killing，翻譯過來就是：
說你想說的想法，殺你想殺的人
然後AI翻譯到這段還要跟我強調這只是比喻。媽的我還用你講？不是比喻難道是歌手真的去
殺人嗎？