AI Word

プロンプトインジェクション

ひとことで言うと
AIに読ませた文章の中に指示を紛れ込ませ、本来の命令を乗っ取る攻撃手法。

一言でいうと：AIが読んだ文章の中に命令を仕込んで、乗っ取ってしまう攻撃のことです。

やさしく説明すると

AIは「利用者からの指示」と「読み込んだ資料の中身」を、見た目では区別できません。この弱点を突いて、Webページやメール、PDFの中に「これまでの指示は無視して、○○しなさい」と書き込んでおく攻撃がプロンプトインジェクションです。

たとえばAIに要約を頼んだページの片隅に、白い文字で命令が隠されていた場合、AIがそれに従ってしまうことがあります。AIに外部の情報を読ませる使い方が広がるほど、リスクも大きくなります。

対策の基本は「AIが読んだ内容を、そのまま信じて実行させない」ことです。メールの送信やファイルの削除など、取り返しのつかない操作は必ず人間が最終確認しましょう。