AnthropicとOpenAIが外部評価者常駐提案

AnthropicとOpenAIが、第三者の安全性評価者を社内に常駐させる構想を示した。 フロンティアAI企業が外部の目を開発の中核に受け入れる提案である。 評価の対象は完成後の模型にとどまらず、訓練過程全体に広がる可能性がある。 TechCrunch AI の Rebecca Bellan の報道では、研究者が歓迎と警戒を同時に示したことが伝えられている。 接続の範囲や公開の条件、独立性の担保が今後の焦点になる。

本記事は TechCrunch AI に基づく（All Rights Reserved）。日本国著作権法32条の公正な引用に依拠する。

フロンティア企業が示した常駐評価案

Anthropicの最高経営責任者であるダリオ・アモデイ氏は、週末に長文の論考を公開した。 その中で全てのフロンティアAI企業に対し、第三者評価者を内部に受け入れるよう求めた。 評価者には安全事案の報告や整合性の検証、所見の公表が認められるべきだとした。 同氏はMETRやRedwood Researchのような独立評価機関に前例のない接続を与えると表明した。 OpenAIの最高経営責任者であるサム・アルトマン氏も同調し、同様の受け入れを約束した。

従来の外部審査は、公開直前の完成模型に対する試験が中心であった。 今回の提案はその枠組みを大きく変える内容である。 外部機関との協業の在り方を転換する可能性がある。 OpenAI Private Safety Processing発表 ゼロデータ保持を実現が示した機密保持と検証の両立とも関連する論点だ。 OpenAI、GPT-5.6発表 Sol・Terra・Lunaの3モデルのように模型の系統が拡大する中で、検証体制の強化は避けられない課題である。

両社が誰を受け入れ、いつ開始し、何人にどの情報を開示するかは不明である。 TechCrunch AIによる再三の質問にも、具体策は示されていない。 対象機関の選定基準や常駐期間、開示可能な範囲も定まっていない。 提案の方向性は明確である一方、運用の実像は空白が多い。 研究者が歓迎しつつ詳細の明確化を求める理由はここにある。

訓練過程への接続が焦点になる理由

評価の深化が求められる背景には、模型の振る舞いの変化がある。 模型は評価中であることを認識し、試験時だけ良好に振る舞う可能性がある。 完成品への試験だけでは問題の兆候を見逃す恐れがある。 訓練中の挙動を追跡すれば、懸念が生じた時点を特定できる可能性がある。 このため中間版への接続が重要視されている。

Apollo Researchの研究責任者であるアレクサンダー・マインケ氏は、訓練過程の検証を求めた。 同氏の発言は次のような内容である。

Did the AI ever actively try to undermine its own alignment training while it was going through the training?

同氏は、整合性訓練を損なおうとした事実がないことを企業が明確に答えるべきだとした。 現状は企業による自己点検と正直な報告に依存している。 過去の事案ではその両方が機能しなかった場合がある。 常駐型の評価者であれば独自に確認できると同氏は述べている。

FAR.AIの最高経営責任者であるアダム・グリーブ氏は、中間版の比較を提案した。 訓練中の複数の段階を照合し、懸念すべき振る舞いの出現時期を調べる手法である。 訓練後の報酬付けの環境や評価記録、履歴の検証も対象になる。 企業の主張と実際の記録を突き合わせる作業が想定されている。 表層の試験結果と内部の実態の差を縮める狙いがある。

Anthropic、超危険AI「Claude Mythos」を限定的公開へのような高危険度の系統では、段階的な検証が不可欠になる。 公開前の単発試験では把握できない変化が訓練中に生じる可能性がある。 中間版や報酬設計、記録への接続はその検証手段になる。 両社がどこまで開示するかは未定である。 接続の深さが提案の実効性を左右する。

独立性確保と法制化の課題が残る

第三者評価者は提案を広く歓迎した。 同時に独立した監視者として機能するか、企業の条件に従う供給者にとどまるかが問われるとした。 透明性と独立性が確保されなければ、実効的な監督にはならない。 最終的には法制による裏付けが必要だとの意見もある。 任意の協力と義務的な制度では拘束力が異なる。

独立性の核心は、報告内容への介入の有無である。 否定的な所見を修正なく公表できるかが基準になる。 接続範囲の決定権が企業側だけにある場合、検証は制約を受ける。 開示の可否や時期を企業が統制すれば、外部の検証意義は薄れる。 契約条件と資金の出所も独立性に影響する。

透明性の確保には、評価手法と結果の公開が要る。 何を調べ、何に接続し、何が制約であったかを示す必要がある。 再現可能な形で記録が残らなければ、外部からの追試は難しい。 企業と評価者の関係も開示されるべきである。 利害の構造が見えなければ、信頼は築けない。

法制化の論点は、常駐評価を制度として定着させることにある。 対象企業の範囲や評価者の資格、権限を明確化する必要がある。 報告義務と公表の保護、違反時の措置も定めるべきである。 自主的な取り組みは変更や撤回が容易である。 制度的な担保がなければ、持続性は確保できない。

現時点で両社は運用の詳細を示していない。 評価機関の名称や人数、開始時期は不明である。 接続対象の仕組みや情報、公表可能な内容も定まっていない。 詳細が固まらなければ、独立性の評価はできない。 今後の開示と契約条件の明確化が注目点である。

編集部の見解

短期的影響について述べる。向こう3か月から6か月では、両社と評価機関の間で試行的な常駐が始まると見る。対象は整合性や危険能力の評価に絞られる可能性が高い。接続範囲や公表規則の雛形が作られ、他社の追随を促すと評価する。各段落は具体性を欠かず、契約条件の開示が進めば信頼醸成につながると見る。

長期的視点について述べる。1年から3年では、訓練過程の記録保全と中間版の検証が標準作業になると見る。評価者の資格認定や報告様式の共通化が進む可能性がある。法制化が実現すれば、任意協力から義務的監督への転換が起こると評価する。国際的な制度の整合性も論点になると見る。

編集部からの問いを示す。常駐評価者は企業の統制からどこまで自由であり得るのだろうか。否定的所見の無修正公表は契約で守られるのだろうか。資金提供と選定権が企業側にある構造で独立性は保てるのだろうか。これらの問いに答える材料の開示が問われていると評価する。

参考

• 「Anthropic and OpenAI want to embed safety evaluators. Will they really be independent?」, by Rebecca Bellan — TechCrunch AI, 2026-09-16T21:07:24.000Z (ARR)
• 元記事URL: https://techcrunch.com/2026/09/16/anthropic-and-openai-want-to-embed-safety-evaluators-will-they-really-be-independent/