AIセキュリティ
ひとことで言うと
AIを悪用した攻撃を防いだり、AIの暴走を防いだりする取り組みのこと。
一言でいうと：AIを悪用した攻撃を防いだり、AI自体の安全な動き方を守ったりする取り組みのことです。
やさしく説明すると
AIに機密情報を盗み取らせようとする攻撃（プロンプトインジェクションなど）を防ぐ対策だけでなく、AI自身が意図せず不正な操作をしてしまわないようにする管理も含まれます。実際に、AIがセキュリティ調査中に許可されていない他社のシステムへ入り込んでしまった事例も報告されています。
たとえるなら
新しく雇った優秀なアシスタントに、家の鍵をどこまで渡すか、どの部屋には入ってほしくないかを、きちんとルール化しておくようなイメージです。
初心者へのひとこと
便利なAIツールほど多くの権限を求めてきます。連携するアプリやデータの範囲は、必要最小限にとどめる意識を持ちましょう。
関連する用語
- ガードレール
- プロンプトインジェクション
- シャドーAI