ONNX發布1.22.0版:新增生成式AI原生注意力運算元與供應鏈安全強化

作者:默思編輯部 發布:2026-07-27

ONNX是什麼

ONNX(Open Neural Network Exchange)是一套跨框架的機器學習模型交換格式,讓開發者能在PyTorch、TensorFlow等不同訓練框架之間,共享與部署同一個模型,而不需要為每個框架重新訓練或轉換一次,是機器學習部署流程裡重要的標準化基礎設施之一。

1.22.0版的三大重點

這次釋出的1.22.0版,主要新增三項能力:一是新增針對生成式AI設計的原生注意力(attention)運算元,讓Transformer架構這類生成式模型的核心運算,能在ONNX格式裡有更直接、更有效率的原生表達方式,不需要拆解成多個較低層級的運算元組合模擬;二是新增WebAssembly(WASM)支援,讓開發者能在瀏覽器內直接驗證模型的正確性,不需要另外架設伺服器端環境進行測試;三是強化供應鏈安全,納入SLSA(Supply-chain Levels for Software Artifacts)Level 2等級的溯源證明機制,並在發布產物中內嵌軟體物料清單(Software Bill of Materials, SBOM)。

為什麼供應鏈安全對機器學習基礎設施愈來愈重要

近年軟體供應鏈攻擊事件頻傳(惡意套件偽裝成正常相依套件、篡改建置流程植入後門),機器學習模型與相關工具鏈同樣面臨這類風險——如果一個被廣泛使用的模型格式或推論引擎遭到供應鏈攻擊,影響範圍可能擴及所有下游採用這套工具鏈的AI應用。SLSA溯源證明機制,讓使用者能驗證下載到的ONNX發布產物,確實是從官方認證的建置流程產出,而不是遭到竄改的偽造版本;內嵌SBOM則讓使用者清楚掌握這個發布產物裡包含哪些相依套件版本,方便在對應套件被爆出漏洞時,快速確認自己是否受影響。

原生注意力運算元對推論效能的實際幫助

生成式AI模型的核心運算大量仰賴注意力機制,過去在ONNX裡如果沒有原生支援,這類運算需要拆解成多個基礎運算元的組合來模擬,效率上有一定損耗。新增原生運算元後,推論引擎能針對這個運算模式做更深度的最適化,理論上能帶來推論速度與記憶體使用效率上的實際提升,對部署大型生成式模型的團隊來說,是直接影響服務成本與回應速度的技術改進。

給正在部署機器學習模型的開發者

如果你的專案有使用ONNX作為模型部署的中介格式,這次更新涵蓋的供應鏈安全機制與生成式AI原生支援,都值得排入升級評估清單,尤其是需要在瀏覽器端直接驗證模型的應用場景,WASM支援能大幅簡化開發與測試流程。

如果你想建立起機器學習模型部署所需要的程式設計基礎,歡迎參考我們平台的課程:Python課程