作者：默思編輯部 發布：2026-09-18
Anthropic執行長Dario Amodei於2026年9月12日發表的論述文章中，提出一項頗具份量的AI安全治理倡議：讓METR等第三方評估機構常駐前沿AI公司內部，享有近似正式員工的存取權限，包括辦公室座位、識別證與公司配發的筆電，藉此驗證公司是否確實遵守安全承諾。
Amodei在文章中明確描述，Anthropic計畫邀請一支駐點的外部審查團隊，配備公司內部辦公空間的座位、識別證與公司配發的電腦，並取得與內部風險評估團隊大致相當的工作空間、工具與權限存取範圍。這個提案的力度值得留意——過去多數AI安全稽核，多半是透過定期報告、有限度的技術審查、或事後調查的方式進行；Amodei提出的是讓外部評估者以「近乎內部員工」的身分，持續性地觀察公司日常營運，而非僅限於特定時間點的抽查稽核。
Amodei宣布METR已與Anthropic達成協議，將對公司的代理事件（agent incidents）與模型對齊特性展開獨立調查，未來將發布一份或多份報告，公開分享調查發現與合作條款。值得留意的是，另一個獨立安全研究機構Redwood Research的部分人員，將以轉包身分參與這項由METR主導的調查專案——這種跨機構的人力調度安排，某種程度上反映出目前獨立於商業實驗室之外的AI安全評估人才，仍然相對稀缺，需要透過跨機構合作的方式集中資源投入重點調查專案。
儘管這項倡議獲得部分業界正面回應，媒體與評論者也提出質疑：當METR等評估機構的日常運作、辦公空間乃至於部分人力調度都與受評估的公司高度綁定時，這種評估機構是否還能維持外界期待的「真正獨立」？部分報導更指出，Amodei屬意的AI監督機構與Anthropic本身以及效益主義（Effective Altruism）社群之間，存在相當程度的人脈與資金淵源，這也讓「獨立性」的實質意涵成為外界持續辯論的焦點。
值得注意的是，OpenAI執行長Altman已表態，OpenAI也將跟進承諾採用類似的嵌入式評估者機制，這意味著這項原本由Anthropic單方面提出的倡議，正逐漸擴散成多家前沿AI實驗室之間具有一定共識基礎的產業慣例雛形。
對於關注AI治理與監管機制設計的從業者而言，這場關於「嵌入式評估者是否真正獨立」的辯論，觸及了第三方監督機制設計中一個根本性的兩難：評估者與被評估對象的關係愈緊密，愈能取得深入內部運作的真實資訊；但關係愈緊密，也愈可能面臨獨立性與客觀性受到質疑的風險。如何在這兩者之間取得平衡，會是未來AI治理機制設計持續需要面對的核心課題。
想建立能理解AI治理與安全評估脈絡的程式基礎，歡迎參考Python課程。