Anthropicのダリオ・アモデイCEOが個人サイトに寄稿した「We Must Pace the Frontier」の核は、減速の主張そのものより、安全の約束を外部が検証する仕組みの具体案にある。各フロンティア企業が、社員同様の継続的なアクセスを持つ第三者評価者のチームを社内に受け入れるという提案だ。AIを調達・導入する実務者にとっては、ベンダーの安全上の約束が自己申告にとどまるのか、外部の目で確かめられるのかを、選定時に問える論点が増える。安全性ガバナンスの議論が、理念の表明から「約束を誰がどう検証するか」の設計へ寄ってきていることを示す動きであり、本当の問いは、検証する側の独立性と権限を誰が担保するのかに移る。

何が起きたか

アモデイ氏は2026年9月付（本人サイトの日付表記は September 2026）で「We Must Pace the Frontier」を公開した。ニュースレターが10月上旬に紹介して話題になった。寄稿は次の点を述べている。

  • 制御喪失（"the risk of losing control of AI systems"）、サイバー攻撃やバイオテロへの悪用、深刻な経済的混乱をリスクとして挙げる
  • 商業的インセンティブに駆られた底辺への競争（"A race to the bottom"）がこれらのリスクを高めうると指摘する
  • "We must slow the pace at which we improve the capabilities of AI models" として、能力向上のペースを抑える必要を主張する。自社は「速さより慎重さ、利益より思慮」を優先しようとしてきたとも記す

提案の中身：「独立評価者」ではなく社内常駐の第三者評価者

提案は、各フロンティアAI企業が、社員同様の継続的なアクセス（"ongoing, employee-like access"）を持つ第三者評価者のチーム（"embedded third-party evaluators"）を受け入れる、というもの。評価者の役割は、安全上の慣行と約束の遵守の検証、インシデントの報告、アライメント評価の支援とされる。

一部の報道や要約は「独立評価者」と表現しているが、原文は企業内に常駐する第三者評価者であり、社員同様のアクセスを持つ点が特徴だ。外部から事後に監査する形ではなく、内部に入り込んで検証する設計である。

留意点

  • インシデント報告は評価者の職務の一つとして書かれている。独立した報告制度として設計されているかは、現時点で確認できていない（未検証）
  • 本稿は一次ソースの短い断片の引用に基づく。全文を通読した文脈確認はできていないため、提案の詳細（権限の範囲、守秘、実施時期など）は原文で確認する必要がある
  • 寄稿は提案であり、各社が合意・実施したという事実は確認されていない
  • Anthropic自身の開発継続と「ペースを抑える」主張との整合性については、論評が出る可能性があるが、現時点で確認できた事実はない

なぜ重要か

ペースの抑制は、競争下では一社だけでは実行しにくい。だからこそ、約束を相互に確かめられる検証の仕組みが論点になる。今回の提案は、その仕組みを「社内常駐の第三者」という具体的な形で示した。実現するかどうか、評価者の独立性をどう保つかは今後の焦点であり、記事としては提案内容の事実確認までを扱う。