Anthropic社がClaude for Chromeブラウザ拡張機能のパイロット版を発表

Anthropic社は2025年8月27日、AI「Claude」がChromeブラウザ内で直接動作する拡張機能のパイロット版を発表した。

この機能により、Claudeがユーザーに代わってブラウザ上でボタンのクリックやフォームの入力を行うことが可能になるが、プロンプトインジェクション攻撃などのセキュリティリスクに対する安全対策が重要な課題となっている。

Anthropic社は、AIアシスタント「Claude」をブラウザ環境で直接動作させる新機能「Claude for Chrome」のパイロット版を開始した。

同社では、多くの作業がブラウザ上で行われる現状を踏まえ、Claudeがユーザーの画面を認識し、ボタンのクリックやフォーム入力を実行できる機能を提供することで、大幅な利便性向上を目指している。

この機能により、カレンダー管理、会議のスケジューリング、メールの下書き作成、経費報告書の処理、新しいウェブサイト機能のテストなどが自動化される。初期段階では1000名のMaxプランユーザーを対象とした制限的なプレビューとして展開され、より強力な安全対策の開発と信頼性の構築を通じて段階的にアクセスを拡大する計画だ。

しかし、ブラウザを使用するAIには重大なセキュリティリスクが存在する。特にプロンプトインジェクション攻撃は深刻な脅威となっており、悪意のある攻撃者がウェブサイト、メール、文書に隠された指示を埋め込み、ユーザーの知らない間にAIに有害な行動を取らせる可能性がある。

Anthropic社の「レッドチーム」実験では、29種類の攻撃シナリオを含む123のテストケースを評価した結果、安全対策を講じていない状態では23.6%の攻撃成功率が確認された。

具体的な攻撃例として、セキュリティ上の理由でメール削除が必要だと偽る悪意のあるメールにより、Claudeが確認なしにユーザーのメールを削除してしまうケースが報告されている。

これらの脅威に対処するため、同社は複数の防御機能を実装した。まず、サイトレベルでの権限管理により、ユーザーがClaude for Chromeのアクセス権を特定のウェブサイトに対して個別に付与または取り消すことができる。

さらに、公開、購入、個人データ共有などの高リスクな行動を取る前に、Claudeがユーザーに確認を求める仕組みを導入している。システムプロンプトの改善により、Claudeが機密データの取り扱いや機密性の高い行動要求への対応方法について適切な指示を受けられるようになった。

また、金融サービス、アダルトコンテンツ、海賊版コンテンツなど特定の高リスクカテゴリのウェブサイトへのアクセスをブロックし、疑わしい指示パターンや異常なデータアクセス要求を検出する高度な分類器の構築とテストを開始している。

これらの安全対策により、プロンプトインジェクション攻撃の成功率は23.6%から11.2%に大幅に削減された。特にブラウザ固有の攻撃タイプ4種類からなる「チャレンジ」セットに対しては、攻撃成功率を35.7%から0%まで低下させることに成功している。

同社は、Claude for Chromeの一般提供開始前に、より多様な攻撃パターンを想定し、成功率をゼロに近づけるための研究開発を継続する方針を示している。

このパイロットプログラムを通じて得られる実世界での使用データと攻撃パターンの分析結果は、プロンプトインジェクション分類器と基盤モデルの改良に活用され、AIのブラウザ統合における新たな安全基準の確立を目指している。

AI Marketの見解

Claude for Chromeの発表は、生成AIが単なる対話型ツールから実際の作業を代行する自律エージェントへと進化する重要な転換点を示している。この技術的進歩により、従来人間が手動で行っていたブラウザ操作の自動化が可能となり、業務効率の大幅な向上が期待される。

特に、カレンダー管理や経費報告など定型的な業務での活用は、企業の生産性向上に直接貢献すると想定される。一方で、プロンプトインジェクション攻撃に対する防御機能の実装は、AIエージェント技術の実用化における安全性確保の重要性を浮き彫りにしている。

23.6%から11.2%への攻撃成功率削減は技術的な進歩を示しているが、完全な安全性確保には更なる改良が必要な状況だ。このような段階的なアプローチと安全対策の透明性は、AIエージェント市場全体における信頼性構築に寄与し、他の競合企業にも同様の安全基準の採用を促すと想定される。

参照元：Anthropic

Claude for Chromeはどのような作業を自動化できるのか？