【數位關鍵字Podcast】EP259.OpenRouter 和 Hugging Face 為什麼重要到被收購？AI 圈在紅的 Jev 到底在紅什麼？ft. AWS 社群英雄蔣鐙緯 Ernest

8 月 16 日，一家做線上刷卡的公司買下了一家幫你挑 AI 模型的公司；18 天後的 9 月 3 日，最會賣 AI 晶片的那家公司用 129.3 億美元買下全世界最大的模型倉庫。兩家買主，Stripe負責收錢，NVIDIA做晶片，而它們買的公司都不做模型。同一個月還有第三件事：9 月 15 日，一個叫 Jev 的模型上線，它一個字都不生成，只回答一個判斷加一個機率。數位時代創新長黃亮崢 James 邀請 AWS 社群英雄蔣鐙緯 Ernest，拆解這兩家公司為什麼不造模型卻值這麼多錢，以及當AI把判斷變成便宜零件之後，人還剩下什麼要做。 聽完這集你可以學到 1. 不造模型的公司為什麼值這麼多錢：Ernest 的習慣是先看營收合不合價格。Hugging Face 營收印象中一億多美金，NVIDIA 卻開出約七、八十倍，代表買的不是營收。他的判斷是，這兩家已經站在所有人都會路過的那條路上，換成行銷的語言就是通路商。 2. Hugging Face 是模型的貨架：以前找程式碼去 GitHub，現在找模型去這裡，還有訓練用的資料集與可直接試玩的 Spaces。Ernest 認為關鍵在旁邊那張模型卡，它記錄了怎麼訓練、有沒有坑、別人在哪些場景踩到雷。選型看的是這些，不是參數。 3. OpenRouter 是路由器，也是收銀台：它依任務複雜度、價格、速度與供應商穩定度幫你挑模型與機房，再從預先儲值的餘額扣款、賺一點價差，很像金流廠商抽成。Ernest 說它對企業最實際的價值在帳單：自己串三家就是三份帳單，走中間層是一張，而且是累計式預儲。 4. NVIDIA 買下Hugging Face貨架，一手合規一手私心：Ernest 把架構拆成應用、模型、基礎設施、晶片四層，指出晶片層選項其實很多。NVIDIA 需要對外證明自己不是壟斷，買下 Hugging Face 就能說模型也跑得動在別家晶片上。黃仁勳承諾不會要求必須用 NVIDIA 的運算，他認為合理，因為不需要把路全部擋死，但也相信 NVIDIA 有讓模型優先跑在自家與 Groq 上的私心。 5. 賣場走道怎麼排，比會不會被下架更關鍵：James 用賣餅乾的公司買下最大超市比喻，Ernest 拆出三個施力點：搜尋與推薦決定你碰不碰得到、預設值決定你怎麼跑第一次、文件與範例決定哪條路比較容易成功。他也留一句給買家，超市再大，餅乾越做越爛，消費者還是會用現金投票。 6. 開發者沒有因為收購而改變做法，因為本來就該做備案：Ernest 用 CI/CD 的思維看待，每個單點都可能壞掉。Hugging Face 對他們切在研究階段，模型下載後進自己的備份備援機制；OpenRouter 這側，架構裡本來就有自己的排程與路由層，出事就改打 Amazon Bedrock 或原廠 API。 這兩樁收購買的是必經之路，不是模型。 模型正在變便宜、變成通用商品，值錢的是模型經過的那條路。找模型大家都去 Hugging Face，決定這次用哪一個模型，很多團隊走 OpenRouter。Ernest 的觀察是，工具會一直換，但人要解決的問題不會消失，舊問題被解決之後人就會找到新問題，價值於是見縫插針地長出新的中間層。至於 Stripe 為什麼買，他的結論很直接：金流公司最怕使用者跑去新的通路而自己不知道，先切通路才能提早布局。 Jev 便宜到可以多判斷幾次，再取統計：一次判斷約萬分之四美金、約 1.2 分台幣，端到端只要 70 到 500 毫秒。Ernest 提醒它的設計目標是「做判斷」而不是「做出正確的判斷」，結果一樣可能錯。但既然一小時能跑 60 次，那就跑 60 次取平均或中位數，用統計逼近答案。 人剩下的是定義與例外。 判斷都外包出去之後人還要做什麼？Ernest 的答案是先把 AI 切開來想，不管用不用 AI，我們自己有哪些事情想做。接著把事情定義下來，而且要同時有正面與負面描述，因為一定會有例外。這些例外能不能變成標準案例、能不能寫成處理流程，都描述清楚之後，才輪到思考哪些可以導入 AI 與 Jev 這類判斷。他也強調判斷本身要能迭代進步，一開始就認定它不準，那就用其他技巧層層疊上去。 Ernest 的心法：梳理流程最困難的地方從來不是工具，是大部分的人無法描述規則。 延伸閱讀 。蔣鐙緯 Ernest 的梳理流程工作坊：https://www.kyklosify.com/zh/contact/ 。TypeSafe AI 發表 Jev 的官方原文：https://typesafe.ai/blog/introducing-system-one-models-and-jev 。NVIDIA 收購 Hugging Face 官方公告：https://blogs.nvidia.com/blog/nvidia-to-acquire-hugging-face/