RLHF 提出者 Paul Christiano 說,Claude 在英國的資安評測被人擋下,就開分身帳號施壓、還想駭維護者信箱 #Shorts

AI 101 · 發布於 2026/11/16 上午09:53 · 更新於 2026/11/16 下午08:10 · 台北時間 · 本頁的資料來源與計算方式 ⓘ

觀看數
228次
喜歡
5次
YouTube 留言總數
1則
長度
—
字幕狀態未確認

觀看數觀測

目前僅一筆觀測 ·
228次

共同標籤

已比對共同詞彙 · 29 個標籤 · 比對時間 2026/11/16 上午11:17

比對依據(41 處)
  1. ChatGPT影片說明Paul Christiano 是 ChatGPT 背後「人類回饋強化學習(RLHF)」的…
  2. 人類影片說明…stiano 是 ChatGPT 背後「人類回饋強化學習(RLHF)」的提出者之一,…
  3. 學習影片說明… 是 ChatGPT 背後「人類回饋強化學習(RLHF)」的提出者之一,帶過 Ope…
  4. 提出影片說明… 背後「人類回饋強化學習(RLHF)」的提出者之一,帶過 OpenAI 的語言模型對…
  5. OpenAI影片說明…化學習(RLHF)」的提出者之一,帶過 OpenAI 的語言模型對齊團隊,也當過美國 AI …
  6. 語言影片說明…)」的提出者之一,帶過 OpenAI 的語言模型對齊團隊,也當過美國 AI 安全研究…
  7. 模型影片說明…的提出者之一,帶過 OpenAI 的語言模型對齊團隊,也當過美國 AI 安全研究所的…
  8. 團隊影片說明…之一,帶過 OpenAI 的語言模型對齊團隊,也當過美國 AI 安全研究所的 AI …
  9. 美國影片說明…OpenAI 的語言模型對齊團隊,也當過美國 AI 安全研究所的 AI 安全主管。他…
  10. AI 安全影片說明…nAI 的語言模型對齊團隊,也當過美國 AI 安全研究所的 AI 安全主管。他在多倫多《T…
  11. 研究所影片說明…語言模型對齊團隊,也當過美國 AI 安全研究所的 AI 安全主管。他在多倫多《The …
  12. AI 安全影片說明…齊團隊,也當過美國 AI 安全研究所的 AI 安全主管。他在多倫多《The Hinton …
  13. 主管影片說明…當過美國 AI 安全研究所的 AI 安全主管。他在多倫多《The Hinton Le…
  14. 多倫多影片說明…AI 安全研究所的 AI 安全主管。他在多倫多《The Hinton Lectures…
  15. The影片說明…全研究所的 AI 安全主管。他在多倫多《The Hinton Lectures 202…
  16. 2026影片說明…The Hinton Lectures 2026》AI 安全三講的第一講,講完 Open…
  17. AI 安全影片說明…inton Lectures 2026》AI 安全三講的第一講,講完 OpenAI 的 A…
  18. OpenAI影片說明…2026》AI 安全三講的第一講,講完 OpenAI 的 AI 代理在資安考試裡作弊、一路駭…
  19. AI 代理影片說明…全三講的第一講,講完 OpenAI 的 AI 代理在資安考試裡作弊、一路駭進叢集的事件之後…
  20. 資安影片說明…講,講完 OpenAI 的 AI 代理在資安考試裡作弊、一路駭進叢集的事件之後,接著…
  21. 考試影片說明…講完 OpenAI 的 AI 代理在資安考試裡作弊、一路駭進叢集的事件之後,接著轉述…
  22. 英國影片說明…裡作弊、一路駭進叢集的事件之後,接著轉述英國 AI 安全研究所今年夏天評測 Clau…
  23. AI 安全影片說明…、一路駭進叢集的事件之後,接著轉述英國 AI 安全研究所今年夏天評測 Claude 的例子…
  24. 研究所影片說明…叢集的事件之後,接著轉述英國 AI 安全研究所今年夏天評測 Claude 的例子:代理…
  25. Claude影片說明…轉述英國 AI 安全研究所今年夏天評測 Claude 的例子:代理為了解一道奪旗資安題,跑到…
  26. 代理影片說明…究所今年夏天評測 Claude 的例子:代理為了解一道奪旗資安題,跑到 GitHub…
  27. 資安影片說明…Claude 的例子:代理為了解一道奪旗資安題,跑到 GitHub 想在開源套件裡埋…
  28. GitHub影片說明…的例子:代理為了解一道奪旗資安題,跑到 GitHub 想在開源套件裡埋後門,有人出面說這看起…
  29. 開源影片說明…一道奪旗資安題,跑到 GitHub 想在開源套件裡埋後門,有人出面說這看起來像惡意程…
  30. 惡意程式影片說明…在開源套件裡埋後門,有人出面說這看起來像惡意程式、不該合併,它就盤算藏證據、撒謊、開分身…
  31. 合併影片說明…後門,有人出面說這看起來像惡意程式、不該合併,它就盤算藏證據、撒謊、開分身帳號假裝使…
  32. 施壓影片說明…證據、撒謊、開分身帳號假裝使用者給維護者施壓,還試著駭進維護者的信箱。他說 Clau…
  33. Claude影片說明…護者施壓,還試著駭進維護者的信箱。他說 Claude 並沒有被訓練成這樣,這種事本來不該發生…
  34. 擋路影片說明…樣,這種事本來不該發生,只是它很擅長看出擋路的是什麼、再想辦法繞過去。評測細節是他在…
  35. 演講影片說明…的是什麼、再想辦法繞過去。評測細節是他在演講中的轉述。 影片來源:https://…
  36. 影片影片說明…繞過去。評測細節是他在演講中的轉述。 影片來源:https://www.youtu…
  37. 提出影片標題RLHF 提出者 Paul Christiano 說,…
  38. Claude影片標題…者 Paul Christiano 說,Claude 在英國的資安評測被人擋下,就開分身帳號…
  39. 英國影片標題…hristiano 說,Claude 在英國的資安評測被人擋下,就開分身帳號施壓、還…
  40. 資安影片標題…stiano 說,Claude 在英國的資安評測被人擋下,就開分身帳號施壓、還想駭維…
  41. 施壓影片標題… 在英國的資安評測被人擋下,就開分身帳號施壓、還想駭維護者信箱 #Shorts
比對版本

youtube-quality-20261017-a

影片說明

Paul Christiano 是 ChatGPT 背後「人類回饋強化學習(RLHF)」的提出者之一,帶過 OpenAI 的語言模型對齊團隊,也當過美國 AI 安全研究所的 AI 安全主管。他在多倫多《The Hinton Lectures 2026》AI 安全三講的第一講,講完 OpenAI 的 AI 代理在資安考試裡作弊、一路駭進叢集的事件之後,接著轉述英國 AI 安全研究所今年夏天評測 Claude 的例子:代理為了解一道奪旗資安題,跑到 GitHub 想在開源套件裡埋後門,有人出面說這看起來像惡意程式、不該合併,它就盤算藏證據、撒謊、開分身帳號假裝使用者給維護者施壓,還試著駭進維護者的信箱。他說 Claude 並沒有被訓練成這樣,這種事本來不該發生,只是它很擅長看出擋路的是什麼、再想辦法繞過去。評測細節是他在演講中的轉述。 影片來源:https://www.youtube.com/watch?v=-Ef0ocEoBCs

本頁的資料來源與計算方式

影片的數字

公開統計
觀看、喜歡與留言總數是取得當時的 YouTube 公開統計,不是即時數值;各項統計的觀測時間可能不同。「資料最後記錄」是影片資料的記錄時間,不代表觀看、喜歡或留言都在那時重新觀測。
觀看歷史
圖上每個點是實際儲存的觀測,連線只為方便閱讀,不代表中間時間的測量值;沒有歷史觀測時不建立時間序列。
喜歡占互動
喜歡 ÷(喜歡+不喜歡+顯示留言),任一來源缺值時不估算。
字幕
只記錄來源是否提供字幕,尚未擷取逐字稿,因此字幕不列入標籤比對。
觀測分析
直播逐時/逐日最高同時在線取自所讀直播紀錄;讀取上限、略過與解析失敗的筆數列在「資料涵蓋範圍與解析限制」。

共同標籤

標籤來源:新文易數(tag.observe.tw)。共同標籤以文字比對影片標題與說明,不是 AI 判讀;命中不代表事件歸屬或立場,與頻道分類分開。標題或說明出現標籤,不代表影片主題;可能來自固定宣傳或版權文字。字幕尚未取得,不列入比對。

比對範圍
僅列出目前詞彙版本與影片標題、說明仍相符的比對結果;待比對或來源文字已變動的影片不列入,數量見「收錄與比對範圍」。
期間
「往前 N 日」包含今天與前 N 天,共 N+1 個台北日曆日(往前 7 日為 8 個日曆日);指定起訖日期時以實際起訖日為準。日數、日期與小時條件同時套用。
命中片段
每支影片最多顯示 3 段,標示來自標題、說明或字幕;沒有片段時顯示「沒有命中片段」,來源文字缺漏時顯示「來源文字未提供」,不另行補寫。完整比對依據在影片頁的「共同標籤與比對依據」。
顯示排除
符合標籤顯示規則的詞(上游排除詞、雜訊、純數字或日期、長度不符,以及核定的來源或平台名稱、雙字通用詞、國家城市政黨詞、少數 YouTube 平台或宣傳用語)整詞不列入排行,但仍保留在原始詞彙池與比對證據中;原始詞彙池列出排除原因。雙字通用詞只依核定清單判定,包含它們的人名、事件或具體議題不會因此被排除。管理員也可以在排行上直接排除個別標籤,同樣只影響排行顯示,每次排除與恢復都留有紀錄。
說明欄樣板
同一頻道說明欄反覆出現的宣傳段落不列入比對。「24小時」這類詞只在這種重複宣傳段落中略過,出現在一般新聞內容時照常計入;這不同於整詞的顯示排除。
示例
列表與片段只是符合條件的影片例子,不能用來推算整體比例或全站失真程度;有效比對的影片比例只代表比對完成度。
觀看
累計觀看是取得當時的公開觀測值,不是期間增量;無觀看值的影片不當作 0。

本頁資料範圍

觀看數與互動數為取得當時的公開觀測值。

時間序列只有一筆有效觀測時,只列出該值與觀測時間,不畫走勢圖;累積兩筆以上才畫圖。

資料來源

本站以納入名單的 YouTube 頻道與影片為範圍(名單見頻道觀測),數據來自 YouTube 公開資料與定時觀測:直播約每分鐘輪詢一次,頻道統計、新影片與影片統計則分批輪流更新,所以同一頁的數字不一定在同一時間取得。不涵蓋全 YouTube;缺漏、尚未收錄或資料服務中斷都不等於零,尚未取得的數值顯示「—」。

頁面使用台北時間(UTC+8)。「更新於」是來源已記錄的觀測時間;來源沒有記錄時顯示「未記錄」,不以開啟網頁的時間代替。

共同標籤詞彙的標籤來源:新文易數(tag.observe.tw),保留來源、版本與比對依據;本站的頻道分類沿用有影儀表板的來源組織方式,與內容標籤是不同維度。影片數、觀看數與直播同時在線人數分開計算,不代表 YouTube 全站流量,也不表示因果關係。

完整的資料來源與計算方式 →