作者:默思編輯部 發布:2026-09-29
估值高達155億美元的法律AI新創Harvey,在2026年上半年經歷了一場典型的「用量計費陷阱」:隨著客戶大量採用Harvey的AI代理功能,token消耗量在半年內暴增20倍,但由於OpenAI與Anthropic對企業客戶採取「基本訂閱費之外再依用量計費」的模式,Harvey的毛利率從原本健康的正50%,一路崩跌到負50%——換算下來,公司每收到1美元營收,就要支付1.5美元給模型供應商,用得越多虧得越多。
Harvey在8月推出了自建的解方:以Moonshot AI開源釋出的Kimi K3模型為基礎,透過Fireworks平台進行後訓練,打造出專屬於法律場景的自有模型Harvey Tenet。根據Harvey公布的數據,這套後訓練模型在特定任務(例如逐格分析合約條款)的表現優於原本呼叫的前沿模型,但每次查詢成本卻只要原本的十分之一,等同把單次查詢成本砍低了90%,毛利率也因此轉回正值。
開源模型後訓練成為新創的止血手段
Harvey的案例並非單一個案,而是反映出整個AI應用層新創正在集體面對的成本結構問題:當底層模型供應商從「固定訂閱費」轉向「用量計費」,原本靠著頻繁呼叫模型堆疊功能的應用層公司,很容易在客戶用量成長的同時反而侵蝕自己的獲利。這也是為什麼愈來愈多資金充裕的AI新創開始把「自建或後訓練專屬模型」視為一項基礎建設投資,而不只是技術實驗——目的不是要打敗OpenAI或Anthropic的旗艦模型,而是要在自己最核心、最高頻的應用場景上,用更低成本達到「夠好」的效果。
對於正在評估AI導入策略的企業而言,Harvey的經驗提供了一個具體的參考框架:先用前沿模型的API快速驗證產品可行性,等到用量與場景穩定下來、成本結構開始出現壓力時,再考慮以開源權重進行後訓練,把最常呼叫、最標準化的任務移轉到自有模型上,藉此在不犧牲太多效果的前提下大幅壓低長期營運成本。
用量計費不是萬惡根源,只是逼出更成熟的成本意識
值得澄清的是,用量計費本身並非不合理的商業模式——對模型供應商而言,這反映了實際運算資源的消耗成本;問題出在許多應用層公司在早期設計產品定價時,並未把「用量會隨客戶採用度增加而非線性成長」這件事納入考量,導致訂閱定價與實際成本結構脫節。Harvey的止血過程某種程度上也是一次成本意識的補課:任何仰賴前沿模型API堆疊功能的應用層公司,都應該及早建立用量監控與成本歸因機制,才不會等到毛利率轉負才驚覺問題嚴重性。
對後訓練、微調技術有興趣的讀者,歡迎參考Python課程,建立扎實的模型應用開發能力。