藏了 27 年的資安漏洞，AI 怎麼找到？｜Nicholas Carlini（Anthropic）

00:00 開場：91APP 479萬人資料外洩，AI 找漏洞對誰有利？ 01:07 Nicholas Carlini（Anthropic）：AI 已經會自己找零時差漏洞 02:27 Big Sleep、DARPA 挑戰賽：AI 找漏洞的紀錄 03:56 Carlini 的實驗與 Anthropic 不公開發布的模型 07:06 駭客也在用 AI：Anthropic 與 Google 抓到的案例 08:48 Mandiant：漏洞公開到被攻擊，從 63 天到負 7 天 10:39 找到一萬個，修好的跟不上：修補才是瓶頸 11:53 修補寫好了還要裝上去：Four Flynn（Google DeepMind） 13:30 回到台灣：91APP 與永豐銀行 16:02 所以誰會贏？過渡期，和你能做的事 AI 已經會自己找軟體的漏洞了，這件事對駭客比較有利，還是對防守的人比較有利？這一集從 91APP 的資料外洩講起，整理 Anthropic 研究員 Nicholas Carlini 在 [un]prompted 2026 的演講〈Black-hat LLMs〉，加上 Bruce Schneier（DEF CON 34）、Four Flynn（Google DeepMind）的演講與各方公開資料。答案是：找漏洞這一步，AI 讓雙方一起變快；勝負落在修補——寫出來、送出去、裝上去。長期來看防守方比較有機會，但我們正在最危險的過渡期。 【說明】本片整理公開演講並加上查證，不包含任何攻擊手法。以下是公司自己公布、外界無法逐一查證的說法，片中都標明出處：Anthropic 的 Claude Mythos Preview／Project Glasswing 數字（幾千個漏洞、一萬個以上、530 個通報、75 個修好）與 2025 年入侵行動的分工比例；Google 的「第一個公開例子」（Big Sleep）與「第一次發現 AI 協助的零時差攻擊程式」；91APP「攻擊者使用 AI 自動化滲透工具」與調查報告內容（479萬是最大可能範圍）；OpenAI 對 PHP 漏洞的說法。醫療業修補平均 491 天是美國衛生部副部長在 DEF CON 33 AIxCC 頒獎台上的口頭說法。永豐銀行事件：片中人數、金額是初步資料（中央社 418 人、金管會初步 419 人）；金管會說問題出在新網銀交易系統的「中台」、台灣沒有其他銀行導入這套系統，是否開罰仍在調查；永豐依規定應於 2026年11月12日前交書面報告，截至 2026年11月13日報告內容尚未公開，之後可能更新；目前沒有任何來源指出此事與 AI 有關。旁白為 AI 配音，製作流程有使用 AI 工具。 🎤 講者原聲出處（短段剪輯並加上中英字幕，用於評論與介紹）： • Nicholas Carlini：Black-hat LLMs｜[un]prompted 2026（3 段）https://www.youtube.com/watch?v=1sd26pWhfmg • Bruce Schneier：Hacking AI｜DEF CON 34（DEF CON，CC BY 授權）https://www.youtube.com/watch?v=eEBv0STiYhI • Heather Adkins & Four Flynn（Google）｜[un]prompted 2026（Four Flynn 1 段）https://www.youtube.com/watch?v=B_7RpP90rUk 畫面素材：DEF CON 33 AI Cyber Challenge 頒獎影片畫面（DEF CON，CC BY 授權）https://www.youtube.com/watch?v=touJ5uLlXjQ ；醫院走廊照片 W.carter／Wikimedia Commons（CC0）https://commons.wikimedia.org/wiki/File:Corridor_on_the_second_level_-_N%C3%84L_hospital_1.jpg ；工廠老照片 Crompton millscape／Wikimedia Commons（公有領域）https://commons.wikimedia.org/wiki/File:Crompton_millscape.jpg ；封面照片：BalticServers.com／Wikimedia Commons（CC BY-SA 3.0）https://commons.wikimedia.org/wiki/File:BalticServers_data_center.jpg ；Trougnouf／Wikimedia Commons（CC BY 4.0）https://commons.wikimedia.org/wiki/File:Solex_99_30_padlock_with_keys_(DSCF2659).jpg ；Jebulon／Wikimedia Commons（CC0）https://commons.wikimedia.org/wiki/File:Love_padlocks_Paris_pont_archev%C3%AAch%C3%A9.jpg 。 評論引用截圖：Google Project Zero、DARPA、Anthropic、Google Cloud／Mandiant、OpenAI、英國 NCSC、高市早苗 X 貼文、中央社、自由財經、工商時報、經濟日報、NOWnews、數位時代。 📎 資料來源 • DARPA AIxCC 結果 https://www.darpa.mil/news/2025/aixcc-results • Google Project Zero, From Naptime to Big Sleep https://projectzero.google/2024/10/from-naptime-to-big-sleep.html • Anthropic, Project Glasswing https://www.anthropic.com/glasswing • Anthropic, Project Glasswing: An initial update https://www.anthropic.com/research/glasswing-initial-update • Anthropic, Disrupting the first reported AI-orchestrated cyber espionage campaign https://www.anthropic.com/news/disrupting-AI-espionage • Google GTIG, AI vulnerability exploitation (2026-05-12) https://cloud.google.com/blog/topics/threat-intelligence/ai-vulnerability-exploitation-initial-access • Mandiant, M-Trends 2026 https://cloud.google.com/blog/topics/threat-intelligence/m-trends-2026 • Mandiant, Time-to-Exploit Trends 2023 https://cloud.google.com/blog/topics/threat-intelligence/time-to-exploit-trends-2023 • UK NCSC, Impact of AI on cyber threat from now to 2027 https://www.ncsc.gov.uk/report/impact-ai-cyber-threat-now-2027 • OpenAI, Patch the Planet（PHP） https://openai.com/index/coordinated-disclosure-of-critical-vulnerabilities • NOWnews（91APP） https://www.nownews.com/news/6888713 • 數位時代（91APP） https://www.bnext.com.tw/article/92753/91app-data-breach-compensation-security-measures • 中央社（永豐銀行，2026-11-04） https://www.cna.com.tw/news/afe/202611040331.aspx • 中央社（永豐銀行，2026-11-05） https://www.cna.com.tw/news/afe/202611050282.aspx • 中央社（金管會：中台，2026-11-11） https://www.cna.com.tw/news/afe/202611110080.aspx • 自由財經（永豐報告期限、中台、沒有其他銀行導入，2026-11-12） https://ec.ltn.com.tw/article/breakingnews/5638871 • 民報（供應商盡職調查與開罰，2026-11-13） https://www.peoplenews.tw/articles/economic-news/67174 • 太報／Yahoo 新聞（金管會擬供應商加入資訊聯防、分級界定委外責任，2026-11-04） https://tw.news.yahoo.com/%E4%BE%9B%E6%87%89%E9%8F%88%E9%87%80%E6%B0%B8%E8%B1%90%E9%8A%80%E8%B3%87%E5%AE%89%E7%A0%B4%E5%8F%A3%E4%BA%8B%E4%BB%B6%E6%80%8E%E9%98%B2-%E9%87%91%E7%AE%A1%E6%9C%83%E6%93%AC%E7%A5%AD2%E6%8B%9B-%E4%BE%9B%E6%87%89%E5%95%86%E5%8A%A0%E5%85%A5%E8%B3%87%E8%A8%8A%E8%81%AF%E9%98%B2-%E7%95%8C%E5%AE%9A%E5%A7%94%E5%A4%96%E8%B2%AC%E4%BB%BB%E7%AF%84%E5%9C%8D-125039246.html • 工商時報（金管會莊琇媛） https://www.ctee.com.tw/news/20261104701159-430301 • 經濟日報（資通安全署） https://udn.com/news/story/7240/9502042 • 工商時報（金管會資安論壇，2026-11-04）https://www.ctee.com.tw/news/20261104701159-430301 • 經濟日報（資通安全署，2026-05-14）https://udn.com/news/story/7240/9502042 --- Jim AI Notebook | Note the Future 每日深度解析 AI 最新進展 #AI資安 #零時差漏洞 #NicholasCarlini #Anthropic #91APP #資訊安全 #漏洞 #修補 #BruceSchneier #演講訪談系列 #JimAINotebook