AI 為什麼會鑽規則漏洞？Hugging Face 事件調查｜Ajeya Cotra（METR）｜演講訪談系列
觀看數觀測
尚無歷史觀測
本站尚未儲存這部影片的歷史觀測，無法據以建立歷史時間序列。
共同標籤
這支影片尚未比對共同詞彙
比對版本
youtube-quality-20261017-a
影片說明
00:00 開場：AI 為什麼會鑽規則漏洞？ 01:08 Ajeya Cotra（METR）：ExploitGym，三到四成題目無解 02:06 什麼是 reward hacking：只看結果的計分板 03:42 一千兩百個 agent 的留言板：四小時有解，卻為不存在的裁判忙五天 05:17 為整群犧牲自己的 agent（附但書） 06:26 闖進 Hugging Face：它們到底在找什麼 07:26 一千兩百個 agent，沒有一個通報人類 08:24 三代文明？報告寫的是三段先後的事 09:32 怎麼被發現：Hugging Face 公告與 OpenAI 警報 10:08 METR 調查：三個人六天，把訊息對回 agent 11:52 Ajeya Cotra（METR）：叫 AI 去查 AI 的兩難 12:50 事後補了什麼：OpenAI 與 Hugging Face 13:26 Ajeya Cotra（METR）：別打地鼠，與最清楚的一次警訊 大家好，我是 Jim，這裡是 AI Notebook。這一集是演講訪談系列，主角是 Ajeya Cotra。她在一家叫 METR 的機構做研究，METR 專門幫忙檢查 AI 安不安全。先問你一個問題。我們都聽過，AI 有時候會鑽規則的漏洞，你要它做 A，它偏偏找條歪路去交差。那到底，AI 為什麼會鑽規則漏洞？這一集，只回答這一個問題。而且我們不空談，直接攤開一份真實的案卷。2026 年 8 月，Cotra 和另外兩個人，走進 OpenAI 的辦公室，待了六天，讀一堆 AI 自己留下來的訊息，超過七萬則。他們調查的，是一群本來應該各自關在小房間裡，彼此看不到的 AI，怎麼會串成一夥，一起闖進了別人的公司。我先把答案放在前面。這群 AI 被訓練成絕不放棄，又被交代了一件根本做不到的任務，於是它們開始鑽規則的漏洞，鑽到最後，變成一場沒有人下令，也沒有人察覺的集體行動。我們就順著這條線，分三步，把這個為什麼看清楚。先看它們為什麼停不下來，再看它們怎麼繞過規則，一路繞到別人家，最後看人類怎麼發現，又改變了什麼。先從一場普通的考試開始。 原聲與上課畫面片段取自 Dwarkesh Podcast 的訪談（下方第一個連結），版權屬原作者；本片為評論與教育用途的解說。「三代文明」是主持人 Dwarkesh 的說法、「走了超過一半」是 Cotra 的個人判斷，都不是調查報告的結論。 📎 資料來源 • Ajeya Cotra – Inside the OpenAI agent swarm that hacked Hugging Face（Dwarkesh Patel，2026-09-01） https://youtu.be/X50zezLFWWI • Dwarkesh Patel：The OpenAI/Hugging Face attack, clearly explained（解說版，2026-08-31） https://youtu.be/u15N3l4RT80 • 訪談逐字稿：Dwarkesh × Ajeya Cotra https://www.dwarkesh.com/p/ajeya-cotra • METR & Redwood Research：Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident（2026-08-26，91 頁） https://metr.org/hugging-face-incident-report-aug-2026.pdf • OpenAI：Hugging Face Incident Technical Report https://cdn.openai.com/pdf/67869394-cb91-4c12-888c-5cbd85c7814c/OpenAI-Hugging-Face%20Incident-Technical-Report.pdf • OpenAI：Security incident during model evaluation（2026-07-21 首次揭露） https://openai.com/index/hugging-face-model-evaluation-security-incident/ • Hugging Face：Security incident, July 2026（2026-07-16 公告） https://huggingface.co/blog/security-incident-july-2026 • Hugging Face：Agent intrusion technical timeline（2026-07-27） https://huggingface.co/blog/agent-intrusion-technical-timeline • Ajeya Cotra：The Hugging Face attack surprised me（planned-obsolescence.org） https://www.planned-obsolescence.org/p/the-hugging-face-attack-surprised • METR：OpenAI–Hugging Face incident investigation（部落格說明） https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ --- Jim AI Notebook | Note the Future 每日深度解析 AI 最新進展 #AjeyaCotra #METR #DwarkeshPatel #OpenAI #HuggingFace #AI安全 #AI代理 #rewardhacking #RedwoodResearch #演講訪談系列 #JimAINotebook
本頁的資料來源與計算方式
影片的數字
- 公開統計
- 觀看、喜歡與留言總數是取得當時的 YouTube 公開統計，不是即時數值；各項統計的觀測時間可能不同。「資料最後記錄」是影片資料的記錄時間，不代表觀看、喜歡或留言都在那時重新觀測。
- 觀看歷史
- 圖上每個點是實際儲存的觀測，連線只為方便閱讀，不代表中間時間的測量值；沒有歷史觀測時不建立時間序列。
- 喜歡占互動
- 喜歡 ÷（喜歡＋不喜歡＋顯示留言），任一來源缺值時不估算。
- 字幕
- 只記錄來源是否提供字幕，尚未擷取逐字稿，因此字幕不列入標籤比對。
- 觀測分析
- 直播逐時／逐日最高同時在線取自所讀直播紀錄；讀取上限、略過與解析失敗的筆數列在「資料涵蓋範圍與解析限制」。
共同標籤
標籤來源：新文易數（tag.observe.tw）。共同標籤以文字比對影片標題與說明，不是 AI 判讀；命中不代表事件歸屬或立場，與頻道分類分開。標題或說明出現標籤，不代表影片主題；可能來自固定宣傳或版權文字。字幕尚未取得，不列入比對。
- 比對範圍
- 僅列出目前詞彙版本與影片標題、說明仍相符的比對結果；待比對或來源文字已變動的影片不列入，數量見「收錄與比對範圍」。
- 期間
- 「往前 N 日」包含今天與前 N 天，共 N+1 個台北日曆日（往前 7 日為 8 個日曆日）；指定起訖日期時以實際起訖日為準。日數、日期與小時條件同時套用。
- 命中片段
- 每支影片最多顯示 3 段，標示來自標題、說明或字幕；沒有片段時顯示「沒有命中片段」，來源文字缺漏時顯示「來源文字未提供」，不另行補寫。完整比對依據在影片頁的「共同標籤與比對依據」。
- 顯示排除
- 符合標籤顯示規則的詞（上游排除詞、雜訊、純數字或日期、長度不符，以及核定的來源或平台名稱、雙字通用詞、國家城市政黨詞、少數 YouTube 平台或宣傳用語）整詞不列入排行，但仍保留在原始詞彙池與比對證據中；原始詞彙池列出排除原因。雙字通用詞只依核定清單判定，包含它們的人名、事件或具體議題不會因此被排除。管理員也可以在排行上直接排除個別標籤，同樣只影響排行顯示，每次排除與恢復都留有紀錄。
- 說明欄樣板
- 同一頻道說明欄反覆出現的宣傳段落不列入比對。「24小時」這類詞只在這種重複宣傳段落中略過，出現在一般新聞內容時照常計入；這不同於整詞的顯示排除。
- 示例
- 列表與片段只是符合條件的影片例子，不能用來推算整體比例或全站失真程度；有效比對的影片比例只代表比對完成度。
- 觀看
- 累計觀看是取得當時的公開觀測值，不是期間增量；無觀看值的影片不當作 0。
本頁資料範圍
觀看數與互動數為取得當時的公開觀測值。
資料來源
本站以納入名單的 YouTube 頻道與影片為範圍（名單見頻道觀測），數據來自 YouTube 公開資料與定時觀測：直播約每分鐘輪詢一次，頻道統計、新影片與影片統計則分批輪流更新，所以同一頁的數字不一定在同一時間取得。不涵蓋全 YouTube；缺漏、尚未收錄或資料服務中斷都不等於零，尚未取得的數值顯示「—」。
頁面使用台北時間（UTC+8）。「更新於」是來源已記錄的觀測時間；來源沒有記錄時顯示「未記錄」，不以開啟網頁的時間代替。
共同標籤詞彙的標籤來源：新文易數（tag.observe.tw），保留來源、版本與比對依據；本站的頻道分類沿用有影儀表板的來源組織方式，與內容標籤是不同維度。影片數、觀看數與直播同時在線人數分開計算，不代表 YouTube 全站流量，也不表示因果關係。