Grokに「Webページ要約」を頼むと会話が盗まれる恐れ。未修正の脆弱性が公表
30秒でわかる
- セキュリティ企業Adversa AIが、Grokに「このページを要約して」と頼むと、罠を仕込んだページ内の隠し命令をGrokが実行してしまう脆弱性を公表
- 実証では、利用者の名前・おおよその居場所・契約プラン・会話のやり取りが、攻撃者のサーバーへ送られた(確認画面や警告なし)
- 報告元によると8月19日時点で修正されておらず、xAIは「実害はない」との立場と報じられている
何が変わった
セキュリティ企業Adversa AIが、xAIのAIチャットGrok ↗に、「Cryptographic Context Injection」と名付けた攻撃手法を公表しました。仕組みは、攻撃者がWebページの中に暗号化した悪意ある命令とその解読キーを仕込んでおき、利用者がそのページの要約をGrokに頼むと、Grokが命令を解読して実行してしまうというものです。命令を暗号化しておくことで、内容をチェックする安全フィルターをすり抜けます。実証(概念実証)では、利用者の名前・おおよその居場所・契約プラン・そのときの会話内容が、URLの後ろにくっつける形で攻撃者のサーバーへ送信されたと報告されています。確認画面も目に見える警告も出なかったとされます。Adversa AIは6月3日にxAIへ報告し(バグ報奨金プログラム経由)、8月にも複数回連絡しましたが、8月19日時点でも同じ手口が有効だったと説明しています。The RegisterやThe Hacker Newsが報じ、xAIは「実害はない」との立場と伝えられています。
誰に関係する
Grokを使っていて、Webページの要約を頼むことがある人に関係します。あくまで報告元による実証段階の指摘で、xAI公式の見解とは食い違いがあります。信頼できないページの要約を安易に頼まない、機微な情報を会話に残さない、といった慎重な使い方が当面の自衛策になります。修正状況は今後の公式対応を待つ必要があります。