中科曙光十萬卡集群「詞元工廠」上線:支撐中國5%到10%的AI詞元請求

作者:默思編輯部 發布:2026-07-30

什麼是「詞元工廠」

「詞元」(token)是大型語言模型處理文字的基本單位,每一次AI對話、每一段生成文字背後,都是模型在持續進行詞元的預測與生成。中科曙光在河南鄭州建設的十萬卡超大規模集群,被官方定位為國內首套「詞元工廠」,意指這座算力集群的主要任務就是大規模、高吞吐量地為各類AI應用提供詞元運算服務,如同工廠生產線一樣持續產出。

十萬張GPU卡的算力規模

十萬卡集群意味著這座資料中心整合了十萬張等級的GPU加速卡,這樣的規模在全球超大規模算力集群中都屬於第一梯隊等級。根據官方說法,這座集群可支撐當前中國5%到10%的詞元訪問需求——換算下來,意味著中國境內每10次AI模型的推理請求,可能就有將近1次是由這座集群提供運算支援。

為什麼要蓋「工廠」而不是單純的資料中心

把算力集群定位成「工廠」而非傳統資料中心,反映的是營運思維的轉變:工廠強調的是標準化生產流程、產能利用率與規模化交付,而不只是提供機房空間與運算資源。這代表中科曙光這類算力供應商,正在把AI推理服務當成一種可以規模化生產、持續優化良率與成本的工業製程來經營,而不只是被動出租算力。

算力集中化的產業意義

十萬卡等級的集中式集群,能夠透過更高效的機櫃互聯與排程調度,降低單位詞元的運算成本,這對於大量依賴AI推理服務的下游應用(例如企業客服、內容生成、程式碼輔助)而言,意味著更穩定、更低成本的算力供給。這類超大規模集群的出現,也代表AI基礎設施的競爭,已經從單一模型能力的比拼,延伸到算力供應鏈與工程化能力的全面較量。

對開發者與企業的參考意義

隨著中國各地陸續出現這類超大規模算力集群,企業在評估AI基礎設施採購策略時,除了關注模型本身的能力排名,也應該將算力供應的穩定性、成本結構與地緣供應鏈風險納入長期規劃。

想打好AI與資料工程的基礎,歡迎參考Python課程。