タグ: AI安全性

Hugging Face幹部埋め込み評価は万能薬でない

Hugging Face政策責任者がベンチマークの再現性不足と埋め込み型評価者の限界を指摘した。

2026年10月20日

AnthropicのDario Amodei氏がトランプ大統領と初の個別晩餐会に臨む。安全性論争と国防総省との係争を背景に協議の行方が注目される。

2026年9月28日

WiredがAI破局の3筋書きを検証。水道侵入や生物兵器、自律機械の危険と開発減速論の対立を整理する。

2026年9月18日

AnthropicとOpenAIが第三者評価者の常駐受け入れを表明。訓練過程への接続と独立性確保が焦点だ。

2026年9月17日

OpenAIのアルトマンCEOは2026年の上場を否定。安全性を理由に上場を急がない姿勢と制御不能なAIへの見解を示した。

2026年9月13日

OpenAIが最先端AI開発の一斉減速の合法性を議会に照会。独禁法の壁と安全協調法案の行方を解説する。

2026年9月11日

Anthropicの安全性研究者が10年以内の人類絶滅確率が10％超と警告。現行型は危険が低いとしつつ自己改良に懸念を示した背景を解説する。

2026年9月10日

OpenAI、Anthropic、Google、Metaなど1100人以上のAI研究者が連名で公開声明を発表。自動化AI研究開発の速度を制御する国際メカニズムの設立を米国政府に要求した。

2026年7月29日

AnthropicがClaude Fable 5の世界規模での提供を再開した。米国商務省が輸出規制を撤廃したことを受け、18日間の空白を経ての復帰となる。規制の原因となった脆弱性特定手法に対する単一のセーフティフィルターが実装された。

2026年7月1日

AIエージェントの信頼性評価を手がけるPatronus AIが5000万ドルを調達。「デジタルワールドモデル」でエージェントのショートカットや不具合を検出する技術が注目を集める。

2026年6月26日