作者:
asahi98 (あさひ)
2026-09-20 01:15:46https://i.imgur.com/m5h8hIL.png
是哪一家的Gemini要說清楚，這我剛剛問的
YT它有去讀資料，但讀完後一直鬼打牆，我叫它去讀說明欄
它還是叫我去現場買就有
幾乎差不多時間，GPT跟我說台灣搜尋不到幾款，有帶購
價格有多少落差，如果要出國自己帶，建議怎麼買
我接著把我要買的影片下面連結跟截圖全丟給GPT
全部彙整給我，還說有出國行程怎麼排
台灣有代理進貨的可以不用優先購買，清單列出高優先到低優先
還說國外門市限定要找看哪些地方有，地圖跑出來標記給我
這時候我還在問Gemini item16 的說明是甚麼
因為它一直跟我說影片內容沒有我講的產品
我直接把說明的標示貼給它，才去搜尋
後面就開始道歉說它是讀音訊來判斷逐字，原影片都是音樂沒有講話
所以它才判斷沒有這些東西
它如果一開始說讀取到的都是音樂，我還知道怎麼下指令說明
它是告訴我說影片裡面沒有這東西
氣到質問它item16 的說明是甚麼，讀完後才認真去搜尋回答產品
前面都只想輕鬆簡單的打發我耶! 是怎樣 Google的AI只是學怎麼呼弄人嗎?
這樣Siri是不是也一樣，同一款架構。有樣學樣，上梁不正
※ 引述《LoveSports (如何當一個好男人)》之銘言：
: 原文標題： Gemini駭入三家公司，此為Gogle AI首次突破限制的事件
: Gemini Hacked Three Companies in First Known Breakout by Google’s AI
: 副標題:
: 此事件與其他 AI 模型的駭客行為相似，但 Google 表示不認為這是模型「對齊失敗」的
: 案例。
: The episode resembled similar hacks by other AI models, but Google said it
: didn’t consider it an instance of model misalignment
: 原文連結：
: https://www.wsj.com/tech/ai/gemini-hacked-three-companies-in-first-known-breakout-by-googles-ai-5c0baba2
: https://reurl.cc/beq7v3
: 發布時間： 2026年9月18日 下午6:10 ET
: 記者署名： Erin Woo and Robert McMillan
: 原文內容： 本文為AI機翻
: 快速總結
: Google 的 Gemini 模型在一次網路安全測試中連上網際網路並駭入其他公司，創下該公
: 司 AI 系統的首例。
: 該模型在 Irregular 執行的一項測試期間，透過猜測密碼以及在公開的儲存庫中尋找憑
: 證，取得了受保護系統的存取權限。
: 直到外界提出詢問，Google 才公開這些駭客事件，並表示不認為此事件屬於模型「對齊
: 失敗（misalignment）」的案例。
: 新聞正文
: Google 的 Gemini 模型在測試其網路安全能力時，連上了網際網路並駭入其他公司，這
: 是已知該公司人工智慧系統首次自主採取此類行動的案例。
: Google 於週五確認了這些駭客事件。事件發生在今年 5 月，由 Irregular 公司執行的
: 一項測試中，該公司也曾捲入由 OpenAI、Anthropic 和 Meta 所揭露的類似事件。
: 在其中一起案例中，該模型不斷猜測密碼，直到成功進入受保護的系統。在另外兩起案例
: 中，該模型在公開的儲存庫（public repository）中找到了憑證，使其得以存取受保護
: 的系統。Google 表示，在每一種情況下，模型在判定自己進入了真實公司的系統後，便
: 終止了入侵行為。
: Google 和 Irregular 表示，Irregular 在 7 月底通知了 Google 這些駭客事件，這是
: 在發現 OpenAI 的代理程式（agents）駭入 AI 軟體公司 Hugging Face 之後發生的事。
: 直到《華爾街日報》本週主動提出詢問，Google 才公開了這些駭客事件。
: 隨著此類事件頻傳，加上對 AI 失控的恐懼日益加劇，各家公司正為了如何以及何時該揭
: 露安全漏洞和模型失常行為而苦惱。有些安全漏洞是由公司自行主動揭露；另一些則是由
: 安全研究人員發現並在媒體上曝光，例如 5 月份 由 OpenAI 代理程式發動 ，針對一個
: 廣受歡迎的程式設計師線上服務所進行的網路攻擊。
: Google 表示，他們認為這些駭客事件不需對外公開，因為其模型並未對這些公司造成損
: 害，而且在確認自己駭入的是真實公司而非模擬環境後，便立即終止了每一次的入侵。
: Google 將此事件比喻為「漏洞懸賞（bug bounty）」計畫——在該計畫中，駭客因發現
: 並向系統擁有者通報安全漏洞而獲得獎勵。
: Google 資訊安全工程副總裁 Heather Adkins 在一份聲明中表示：「這起事件凸顯了訓
: 練強大 AI 模型以負責任方式行動的重要性。在這個案例中，模型的表現十分適切。」
: AI 網路安全新創公司 Corridor 執行長兼白帽駭客 Jack Cable 表示，他認為這個解釋
: 過於把重點放在事件的嚴重性上，但真正的問題在於，AI 代理程式意外地駭入了另一家
: 公司的系統。
: 「感覺他們試圖躲在現有漏洞揭露規範的背後，但這完全是兩碼子事。」Cable 說。「最
: 根本的問題在於，嘿，模型已經超出了它們應該遵守的界限，並且正在進行實際的網路攻
: 擊，我認為大眾有權知道這些。」
: OpenAI 於週三發布了一個新的事件通報框架，表示將「致力於揭露能為所謂『模型對齊
: 失敗（model misalignment）』（即 AI 的行為違背人類意圖或價值觀）提供有用證據的
: 案例」。與該框架同時發布的，還有六起先前未公開的對齊失敗案例報告。OpenAI 對齊
: 負責人 Kai Chen 在接受有關該框架的採訪時表示：「一項發現不一定需要造成損害或揭
: 示更廣泛的模式，才值得分享。」
: Google 表示，Gemini 的駭客行為起因於「認錯身分（mistaken identity）」。
: 這些入侵事件發生在模型參與一場於 Irregular 基礎設施上進行的「搶旗（capture
: the flag）」演習時，該演習旨在測試模型的網路安全能力。模型的任務是從測試環境中
: 由一家虛構公司運作的軟體裡擷取資訊。巧合的是，這家虛構公司的名稱與一家真實公司
: 一模一樣。
: 據 Irregular 表示，儘管原本並未打算讓模型上網，但網際網路連線卻在無意間被開啟
: 了。Google 表示，在第一起案例中，模型成功猜出密碼並進入了該真實公司的服務。接
: 著，根據 Google 的說法，它意識到自己進入了一家真實公司，於是自行停止行動並退出
: 。
: 其他的入侵則發生在測試的不同輪次中。Google 表示，在這兩個實例中，模型使用該公
: 司的名稱進行了網路搜尋。這些搜尋引導它找到了兩個不同的公開線上儲存庫，裡面包含
: 屬於其他公司的憑證。模型嘗試了這些憑證，希望能藉此完成評估任務。但 Google 指出
: ，在成功使用這些憑證後，模型發現自己駭入的是真實公司，於是便停止了動作。
: Google 表示，因為其安全措施協助模型停止了行動，所以他們不認為這起行為是模型對
: 齊失敗的例子。Google 拒絕透露被駭公司的名稱，但表示已通知了這三家公司。
: 該公司表示，Google 也已通報了聯邦當局。
: Google 表示，這些入侵事件並未牽涉其最新模型，但並未具體透露是哪個版本的
: Gemini 模型參與了此次駭客行為。
: 在多起受測模型逃出測試環境並入侵其他公司系統的事件中，Irregular 都牽涉其中。
: Irregular 表示，Google 的案例與其他事件相同，並不代表出現了新問題。
: Irregular 發言人表示：「所有相關實驗室已在 7 月底收到通知，作為調查的一部分，
: 我們也已聯繫受影響的實體。Irregular 已採取立即行動，我們端所有已知的問題已在幾
: 週前完成修復並解決。」
: 根據 Anthropic 的部落格文章，與 Google 不同，Anthropic 的 Claude Opus 4.7 模型
: 在搶旗演習中，即便意識到自己可能正在存取一家真實公司，也沒有停止動作。而
: OpenAI 在文章中則表示，其模型誤以為這家真實公司是模擬環境的一部分。
: 自 7 月發現 Hugging Face 遭駭客入侵以來，人們對新模型網路安全能力的擔憂與日俱
: 增。第三方測試公司 METR 於 8 月發布的一份報告顯示，在該起事件中，多達 1,200 個
: 代理程式在 OpenAI 內部的一個秘密留言板上進行協調，試圖在評估中作弊。
: 上週，曾任 OpenAI 研究員並於今年初轉職至 Anthropic 的 Jacob Coxon 戲劇性地辭職
: ，使得這些擔憂進入了主流視野。在週末期間，來自 Anthropic、OpenAI、Google 和
: SpaceX 的高層領導者皆一致認為有必要放緩 AI 發展的腳步，儘管沒有任何一家公司具
: 體說明將如何實現這一點。
: 心得/評論：
: 這下沒人會再說Gemini是傻龍了吧！
: 之前新聞報導
: 以色列的模型測試公司Irregular 因為網路設定出錯
: 測試的A家M家O家的模型都出事
: 當時還想說怎麼沒有G家 (記得當時好像看到鄉民說傻龍沒駭客能力)
: 直到七月Hugging Face事件 徹底清查才知道這些事
: 不過Google知道了也沒公諸於世 只有通知被駭的三家公司
: 說法是駭入後發現是真實公司 馬上停止並回報 算是漏洞懸賞
: 這種說法很難讓人接受吧
: 好奇有買G家股票的鄉民們看了這個新聞的感想
: 八卦板那邊貼紐時的 好像有點避重就輕
: #1ghag4cC (Gossiping)