AI
画像でAI安全機構を突破、JaiLIP攻撃の脅威
フロリダ国際大学の研究チームが開発したJaiLIPは、人間には無害に見える画像操作によりマルチモーダルAIの安全機構を迂回する。BLIP-2で有害出力がほぼ2倍に増加した検証結果が示された。
フロリダ国際大学の研究チームが開発したJaiLIPは、人間には無害に見える画像操作によりマルチモーダルAIの安全機構を迂回する。BLIP-2で有害出力がほぼ2倍に増加した検証結果が示された。
AmazonのAndy JassyCEOがAnthropicのAIモデルに関するセキュリティ懸念を政府に伝達。これを受け政府は輸出規制を課し、Anthropicは2モデルの全世界アクセスを遮断した。Amazon-Anthropicの複雑な関係が浮き彫りに。
当サイトでは、アクセス分析や広告配信のためにCookieを使用しています。「同意する」をクリックすることで、Cookieの使用に同意いただいたものとみなします。詳細はプライバシーポリシーをご覧ください。