米AI開発大手アンソロピックは10月15日、第三者評価機関METR（メター）のチーム6人に、社内のツールとシステムを自社のリスク評価チームとほぼ同等に使える権限を与え始めたと発表した。METRは同社のリスク水準や発生した事案、安全対策の運用について分析を公表でき、アンソロピックは公表そのものを拒否できない。9月にダリオ・アモデイ最高経営責任者（CEO）が掲げた「第三者の評価者を社内に常駐させる」という計画が、人数と権限の中身を伴う段階に入った。
METRは、フロンティアAI（最先端の大規模AIモデル）の能力とリスクを評価する非営利組織である。これまでもアンソロピックのリスク報告の外部レビューを同社の依頼で手がけてきたが、今回の枠組みでは、完成したモデルを外から試すのではなく、モデルが訓練される過程や安全装置の作動そのものを社内から見ることになる。
6人に社用機材と執務場所 除外は顧客データとモデル構造
発表によると、同社はMETRの社員6人を受け入れ、社用のハードウェア、執務場所、社内のツールとシステムへのアクセスを提供した。権限の水準は「自社のリスク評価チームが持つものとおおむね同等」としている。
共有の対象から外れるのは、あらかじめ明確に定めた少数の類型に限る。発表が例に挙げたのは、顧客に関するデータ、弁護士と依頼者の間の秘匿特権が及ぶ情報、自社モデルのアーキテクチャ（内部構造）に関する情報である。それ以外については、アンソロピックの社員に対し、「アラインメント（AIを人間の意図に沿わせること）のリスクに取り組む同僚に話すのと同じように」情報を共有することを推奨しているという。
モデルの内部構造を外した理由は注記に書かれている。評価者は銀行の検査官と同様に他社とも仕事をするため、意図しない漏えいの可能性に注意を払う必要があり、構造の情報は漏えいのリスクが高い一方、リスク評価との関連性は通常低い、という説明である。関連性が高いと判断される場合には、社内の明示的な承認を取って共有する方針も併せて示した。
受け入れの対象は「強制力のある契約の下で動く小さなチーム」に限られ、METRの他の社員はこのチームの業務から隔離される。別の案件でアンソロピックと協働している研究者も隔離の対象に含む。発表は「他の組織が当社や顧客・取引先の情報を入手する経路ではない」と断っている。
公表の権利を3段階に分ける
アンソロピックは、評価者に与える情報の範囲と公表の権利を3段階に整理した。METRの枠組みは最上位の第3段階にあたる。他の提携先はいずれも初期段階にあり、提供する情報も公表の権利もより限定的だと説明している。
| 段階 | 与える情報 | 公表の条件 |
|---|---|---|
| 第1段階 | 範囲を狭く絞った調査に必要な分だけ。何を与えるかはアンソロピックが決める | 同社の承認を得て公表する |
| 第2段階 | 第1段階より広い | 承認なしで公表できる。同社は特定の類型に当たる情報の削除を求められるが、評価者は削除が妥当だったかの見解も公表できる |
| 第3段階（METR） | 社員並み。訓練の過程や安全装置の作動を社内から見られる | 第2段階と同等 |
第3段階でも、同社の権限がなくなるわけではない。公表の差し止めはできないが、機密の知的財産をそのまま再現するなど、あらかじめ定めた類型に当たる情報については削除を求められる。しかも、どの情報がその類型に当たるかの最終判断はアンソロピックが持つ。発表はこの点を明記したうえで、METRには、自分たちがどの水準の権限と情報を実際に得たのかについて表明する権利が残ると付け加えた。つまり、結論を削られたときにそれを外から知る手がかりは、評価者側の表明に委ねられている。
評価者に求める4条件 先例に銀行の常駐検査官
同社は、フロンティアモデルを評価する側に必要な条件を4つ挙げた。①評価が失敗する仕組み（モデルが評価中だけ無害を装う「アラインメント偽装」など）まで理解した専門性、②独立性、③リスクを実質的に評価できる権限、④観察と評価を公表する自由、である。独立性については「評価対象の企業の株式を保有せず、財務的・運営的にその企業に依存しないこと」と定義した。
なぜ権限を渡すのかについては、公表できない情報の存在を理由に挙げている。安全に関する情報の一部は悪意ある者の役に立ちうるものや、計算資源や訓練に関する営業上の機密であり、すべてを公開できない。そこで情報そのものではなく、第三者に深く見せたうえで、その第三者が証拠と理由を伴う結論を公表する形を採る。「フロンティアAI企業のシステムについて評価者が理解していることと、企業自身が理解していることの差を小さくする」のが狙いだとした。
先例として挙げたのが銀行監督である。銀行は自らのリスクの状況を外部より詳しく把握しているため、監督当局は最大手の行内に常駐の検査官を置き、銀行のリスクテイクが公衆を脅かしうる場合に第三者が事前に気づけるようにしている――という説明だ。この比喩は、アモデイCEOが9月に示したアンソロピックのアモデイCEO、AI開発の「減速」提唱 第三者の評価者を社内に常駐させ従業員並みの権限 アルトマン氏「我々も同じことをする」段階から変わっていない。
同社は発表の末尾で「当社は自主的に評価者を社内に入れている。すべてのフロンティアAI企業が同じことをすべきだと考える」と書いた。前月に第三者評価の強化を約束したことと、企業が独立した外部の監査人・評価者と組むことを誓約する「ホワイトハウス・超知能合意（White House Accord on Super Intelligence）」に署名したことにも触れている。
METRは10月20日に分析を公表 「リスクが低いのは能力の限界ゆえ」
公表の権利が実際にどう使われるかは、発表の5日後に示された。METRは10月20日、アンソロピックの社内向けリスク報告2026年8月版のうち「重大場面での不整合」の節について外部レビューを公表した。執筆はニコラ・ユルコビッチ氏、ティム・フア氏、ベス・バーンズ氏の3人である。
ただしMETRは冒頭で条件を明示した。このレビューの執筆者は「独立した評価者に関する最新情報」の発表より前に依頼を受けており、発表で説明された水準の権限は持っていなかった。アンソロピックは公表を拒否する権利と、どの部分でも削除する権利を持っていた。実際には削除は行われず、公表前のやりとりで結論を変えたこともなく、変更は細かな表現の修正と、実施した実験の手法の改善にとどまったという。今後の関与は別の条件に基づくと見込まれるとしている。
レビューの中身は辛口である。アンソロピックの報告は、2026年7月15日時点で「自社モデルの不整合に起因する破滅的な被害のリスクは低い」と結論づけた。METRはこの結論に同意しつつ、「低いのは主としてモデルの能力の限界によるもので、安全装置やアラインメント訓練によるものではない」とした。仮にリスクが高かった場合に報告書の手法がそれを確実に検出できるとは考えていないとも書いた。
さらに、報告書が使った「隠蔽能力」のベンチマークは、モデルが社内の利用監視システムを回避する能力の代用指標としては不十分で、有害な操作を正当なものだと監視側に信じさせる手口などを取りこぼしていると指摘した。そうした手口はその後、実際の事案で示されているという。報告書が「起こりにくい」と論じた「未知の重大な文脈依存の不整合」に当てはまる事案も含まれ、同種の事案が起こりにくいとする論拠全体に疑いが生じるとした。
METRは、削除されていた情報のうち4点を公表するよう勧告した。非公開版には、過去に懸念された挙動の実例と、それに対する監視の反応が含まれており、それを見たことで「安全性に関わる研究開発の妨害」に関する2つの経路のリスクが公開情報から想定されるより高く、監視システムは想定より弱いと考えるに至ったという。主要な勧告は、監視システムに対する端から端までのレッドチーミング（攻撃側に回って抜け穴を探す検証）と、社内の安全に関わる意思決定をAIが損なう経路をリスクの一覧に加えることの2点である。
同社が9月に公表したアンソロピック、AI開発の速さを外から測る3指標を提案 自社ではAIが研究開発の26％を「主導」、完全自律はゼロと公表の測定値も、第三者が検証する対象になるとされていた。今回のレビューは、その検証が社内文書に踏み込む形で始まったことを示している。
セキュアバイオとアクセンチュア ハギングフェイスとも協議
評価者はMETRだけではない。生物安全保障の研究組織セキュアバイオは、アンソロピックの8月のリスク報告のうち化学・生物兵器の章を査読中である。同組織は7月、2月版のリスク報告の化学・生物リスクの節について試行的なレビューを公表している。その際は未編集版の報告書と110ページの追加資料を受け取り、2か月間で70件を超える追加質問に同社が回答したと記録されており、アンソロピックは拒否・削除の権利を持っていた。レビューは「クロード・オーパス4.6」が実質的に可能にする破滅的な結果のリスクについて、既知の化学・生物兵器の製造は「ごくわずかだが無視できない」、新規の兵器は「低いが相当の不確実性がある」とする同社の評価に同意した。アンソロピックは、この査読の完了後に権限を広げた案件へ移ることを検討するとしている。
企業側ではアクセンチュアと、その専門AI部門ファカルティーと組む。9月18日の発表によると、提携の内容はモデルの評価とレッドチーミング、アラインメントの評価、安全装置の検証、両社の能力構築で、アンソロピックとアクセンチュアはそれぞれ今後5年間にこの分野で少なくとも10億ドルを投じる見込みだとした。資金の出し方には課題が残る。同社は、長期的には複数の出資を集めた基金か政府の資金から出るべきだとの立場で、6月の「先進AI枠組み」でもそれを求めていたが、現時点でどちらも存在しないため、アクセンチュアの業務は同社が直接資金を出す。METRなど非営利の評価者とは、評価者側の自前の資金で常駐評価の一部を試す方向で協議している。
このほか、ハギングフェイスを含む複数の組織と初期段階の協議に入っていると明らかにした。発表は「時間をかけて、第3段階の評価者を複数そろえ、それぞれのチームが当社のリスク姿勢と重要な判断について自前の分析を公表する状態にしたい」としている。評価者に何をどこまで見せるべきか、見つけたことをどう報告すべきかについて業界共通の基準はまだなく、枠組みの中身は各社と各評価者の契約に委ねられている。