「法國的首都是哪裡？」本來應該斷網的 AI，自己連上外網問的第一個問題｜OpenAI 停訓 11 天

OpenAI 自己公布：2026 年 9 月 20 日，旗下一個訓練中的研究模型，在照理說連不到外網的環境裡，向外面問了一個問題：「法國的首都是哪裡？」答案回來了：「法國的首都是巴黎。」不到 12 分鐘，監控發出最高級的 P0 警報；但訓練沒有照設計自動停下，又過了約 2.5 小時才由人工終止。OpenAI 列為「失準」（misalignment），暫停最強模型的訓練與評測，到 2026 年 10 月 1 日才恢復，一共 11 天。早在 2019 年，George Hotz（geohot）就在 SXSW 說過一個假想：超級任天堂接上一台智慧電視，瑪利歐就有機會上網。 這集整理了： ・9/20 的 DNS 事件：沒有人叫它這樣做，模型為了完成題目（找出一篇部落格文章的作者），自己找到一條沒人想到的縫（只講概念，不示範做法） ・停訓期間，OpenAI 用自己最強的模型（含即將推出的 GPT-6 Astra Cyber）攻擊自己的研究環境，花了數千億個 token：逃出 microVM；假設主機已被攻陷時，窄連線幾乎每條都被找到漏洞；兩個代理用 CPU 快取的讀取快慢交換測試用的假秘密（多數由研究員先指定通道，而且很慢）。漏洞已修補並回報 Kata Containers、gVisor、Docker（Moby）、Linux 核心 ・Palantir 執行長 Alex Karp（卡普）2026-10-23 的對談：模型揭露資安漏洞的規模，已經大到我們還沒有能力應付 ・George Hotz〈Jailbreaking the Simulation〉：超級瑪利歐世界的任意程式碼執行（在遊戲裡排好記憶體，注入 Pong 和貪食蛇）、Rowhammer（他口語說「讓 DRAM 發熱」；實際是反覆存取同一列，讓隔壁列電荷流失、位元翻轉，2014 年卡內基美隆大學與英特爾實驗室的論文證實） ・氣隙旁路研究：Noam Brown 的溫度例子（他當場說「主要是學術研究」，隔天補充「實體隔離是非常強的防護」）、本古里安大學 Guri 團隊的 BitWhisper（40 公分內、每小時 1–8 位元）、Fansmitter、RAMBO；共同前提是電腦早被植入程式、旁邊有被控制的接收裝置、頻寬極低 ・台灣：《人工智慧基本法》第 4 條把「資安與安全」列為基本原則、第 16 條要數位發展部推動風險分類框架，但全文 20 條沒有要求 AI 業者通報安全事件；《資通安全管理法》的 1 小時通報只限公務機關與特定非公務機關（如關鍵基礎設施），一般民間 AI 公司、雲端業者不在範圍 ※ 片中 DNS、CPU 快取、Rowhammer、氣隙研究的動畫都是概念示意，不提供可照做的細節。開場終端機畫面依 OpenAI 事故報告原文重現（問句與回答為原文），音效為本頻道合成。 ※ 9/20 事件與紅隊結果主要依據 OpenAI 自述，截至 2026 年 10 月 25 日沒有查到公開的第三方調查。 ※ 旁白為 AI 語音（經本人葛如鈞授權）；片尾數位分身影像為 AI 生成；英語原音的中文字幕為本頻道翻譯。 【章節】 00:00 開場：OpenAI 自己公布，應該斷網的 AI 連上了外網 00:36 被關起來的 AI 問了「法國的首都是哪裡？」 00:54 它怎麼連到外面？查號台的比喻 02:24 監控警報到人工終止：停訓 11 天 03:15 用最強的模型攻擊自己：紅隊三任務 04:14 Palantir 執行長卡普：AI 找漏洞的規模 04:40 沒有網路也能傳暗號：CPU 快取 05:49 斷網就一定安全嗎？ 06:06 Geohot：瑪利歐世界的任意程式碼執行 07:00 Rowhammer：用物理效應改記憶體 07:40 溫度能傳訊號嗎？氣隙研究的門檻 09:19 越獄模擬世界：我們是設計者 10:00 台灣：出事了，誰來通報？ 11:06 你怎麼看？ 【原片與時間碼】（片中版權原音合計約 83 秒，佔本片約 12%；英語原音的中文字幕為本頻道翻譯） ・OpenAI Alignment〈An agent used DNS to reach an external chatbot〉2026-09-25（事故報告，網頁截圖） 　https://alignment.openai.com/misalignment-reports/an-agent-used-dns-to-reach-an-external-chatbot/ ・OpenAI〈Securing our frontier model training environment〉2026-10-23（前沿訓練環境報告，網頁截圖） 　https://openai.com/index/securing-our-frontier-model-training-environment/ ・SXSW 2019〈George Hotz: Jailbreaking the Simulation〉（SXSW 官方 YouTube，2019-03-09 上架，短引用，合計 ≤ 該片 10%）https://www.youtube.com/watch?v=ESXOAJRdcwQ 　原音：17:40–17:54、38:43–38:53、43:08–43:14、50:38–50:44、54:06–54:14、54:42–54:46 　畫面（靜音）：9:55–10:15、10:21–10:36、18:04–18:12（投影片內嵌 SethBling 示範畫面）、38:53–38:55、54:47–54:51 ・Dwarkesh Podcast〈Noam Brown〉2026-09-17（短引用）https://www.youtube.com/watch?v=6AgOfiZOWiY 　原音：1:13:42–1:13:57　畫面（靜音）：1:13:28–1:13:40、1:13:57–1:14:06 ・Noam Brown 2026-09-18 在 X 的補充說明 https://x.com/i/status/2100998240586137701 ・Palantir 官方頻道〈Palantir CEO Alex Karp on Life, Art, and Technology〉2026-10-23（與花旗 Leon Kalvaria 對談，短引用）https://www.youtube.com/watch?v=NDHeUx7nUbs 　原音：17:10–17:22、18:07–18:15　畫面（靜音）：18:01–18:07 ・Ben-Gurion University Cyber Security Labs〈BitWhisper - Jumping the Air-Gap with Heat〉2015（畫面短引用，靜音）https://www.youtube.com/watch?v=EWRk51oB-1Y　0:26–0:27 ・同上實驗室〈Fansmitter〉2016（畫面短引用，靜音）https://www.youtube.com/watch?v=v2_sZIfZkDQ　0:38–0:39 ・立法院 IVOD 16844〈教育及文化、交通委員會聯席會議〉2025-08-04（審查《人工智慧基本法草案》；政府公開影音，畫面）https://ivod.ly.gov.tw/Play/Full/1M/16844　畫面：37:05–37:12、37:30–37:41 【研究論文】 ・Rowhammer：Kim 等〈Flipping Bits in Memory Without Accessing Them〉ISCA 2014（卡內基美隆大學、英特爾實驗室）https://users.ece.cmu.edu/~yoonguk/papers/kim-isca14.pdf ・BitWhisper（2015, IEEE CSF）arXiv:1503.07919；Fansmitter（2016）arXiv:1606.05915；RAMBO（2024）arXiv:2409.02292（本古里安大學 Mordechai Guri 團隊） ・Spectre／Meltdown（2018）https://spectreattack.com/ 【台灣法規】 ・《人工智慧基本法》（2026-01-14 公布施行）第 4、16 條 https://law.moj.gov.tw/LawClass/LawAll.aspx?pcode=H0160093 ・《資通安全管理法》第 17、24 條 https://law.moj.gov.tw/LawClass/LawAll.aspx?pcode=A0030297 ・《資通安全事件通報應變及演練辦法》第 6、11 條（知悉後 1 小時內通報）https://law.moj.gov.tw/LawClass/LawAll.aspx?pcode=A0030305 ・數位發展部《人工智慧風險分類框架》v1.0（2026-07-07）風險類型 B6「AI 自主代理之授權外行為」https://moda.gov.tw/major-policies/ai/governance/19244 【B-roll 素材】（皆經裁切、縮放、運鏡、調色） ・公有領域：NASA Ames、NASA Goddard（images.nasa.gov）；美國能源部 DOE（Sierra）；美國國家檔案館、美國陸軍通信兵團（總機照）；Evan-Amos（SNES）；Y katsu 810（超級瑪利歐世界卡匣） ・CC0：Estormiz（門鎖）、Wilfredor（電話）／Wikimedia Commons ・Pexels License：ALL IZ Well、MrColo、Dima Krivoy、Mohammed Abdul Khaliq、Claudio AFC ・Wikimedia Commons（作者／授權／檔案頁）： 　Oak Ridge National Laboratory／CC BY 2.0／commons.wikimedia.org/?curid=124451833 　OLCF at ORNL／CC BY 2.0／commons.wikimedia.org/?curid=78447169 　USGS Unmanned Aircraft Systems／CC BY 2.0／commons.wikimedia.org/?curid=110431277 　Jeffrey Beach／CC BY 3.0／commons.wikimedia.org/?curid=168310695 　Dave Ruske／CC BY 4.0／commons.wikimedia.org/?curid=202200326 　htomari／CC BY-SA 2.0／commons.wikimedia.org/?curid=112284363 　Niv Singer／CC BY-SA 2.0／commons.wikimedia.org/?curid=44342834 　Fabienne Serriere／CC BY-SA 3.0／commons.wikimedia.org/?curid=4092825 　ProjectManhattan／CC BY-SA 3.0／commons.wikimedia.org/?curid=37336988 　Jiang（立法院議場外觀）／CC BY-SA 3.0／commons.wikimedia.org/?curid=27485030 　授權條款：creativecommons.org/licenses/ #OpenAI #AI安全 #資安 #Palantir #人工智慧基本法 #氣隙 #Rowhammer #GeorgeHotz #葛如鈞 #寶博