AIセキュリティガイド｜脅威・対策・ガバナンスの実践方法【2026年版】

AIセキュリティとは

AIセキュリティとは、AIシステム（特に生成AI・LLM）を安全に運用するために必要なリスク管理・防御策・監視体制の総称です。2026年現在、多くの企業がAIを業務に活用する一方、その利用状況を十分に可視化できていないというギャップが指摘されています。

OWASPのLLMアプリケーション向けTop 10は、2023–2024年版と2025年版の双方でプロンプトインジェクションを「LLM01」に掲載しています。企業のAI導入では、利用目的・アクセス権限・扱う情報に応じて、このリスクへの対策を検討することが重要です。

生成AI導入における4大セキュリティリスク

1. プロンプトインジェクション

プロンプトインジェクションとは、悪意ある指示をAIへの入力に紛れ込ませ、本来の動作を乗っ取る攻撃です。LLMが、外部の文章に含まれる指示を、本来従うべき指示と取り違える場合があります。自然言語の入力や文書への指示の埋め込みだけで攻撃が成立するケースもありますが、成否と被害はモデル、接続ツール、権限、入力・出力の検証などの構成に左右されます（OWASP LLM01:2025）。

AIシステムの設計では、以下のように複数の対策を組み合わせ、対象業務で有効性を検証します。

• 入力検知レイヤー：不審な指示や入力形式を点検し、危険な処理に渡す前に拒否・確認する。正規表現などのパターン検知だけで全ての攻撃を防げるとは考えない
• 出力サニタイズ：LLMの出力にスタックトレース・内部パス・環境変数・APIキーなどが含まれないか検査し、公開する情報を制限する
• 方針の明示と実行権限の制限：システムプロンプトで方針を伝えるだけでなく、アプリケーション側で実行可能な操作・宛先・データ範囲を制限し、高リスク操作は人が確認する

2. データ漏洩

社内の機密データがAIの学習データやログに含まれ、外部に流出するリスクです。特にRAG（検索拡張生成）システムでは、埋め込みベクトルから元の文章を推定する「エンベディング逆推論攻撃」も検討する必要があります。Morrisらの2023年の研究では、対象とする埋め込みモデルに合わせて訓練した復元モデルを用い、短い文章を復元する実験が報告されています。任意の埋め込みから必ず原文全体を復元できるという意味ではありません。OWASP LLM08:2025は、RAGのベクトル・埋め込みに関するアクセス制御、情報漏洩、データ汚染等をリスクとして挙げています。モデル本体とともに検索・保存部分も対策の対象になります。

3. シャドーAI

社員が会社の承認なしに個人アカウントのChatGPTやClaudeに社内情報を入力する「シャドーAI」問題です。IT部門が把握していないAI利用は、データ漏洩・コンプライアンス違反の温床になります。

AIサービスや外部アプリへの接続を管理する際は、SaaSセキュリティ・SSPMの設定と権限の確認方法も参照できます。利用を発見したことと、対象テナントの設定を評価できたことを分け、許可したデータと操作、所有者、取得時刻を確認します。退職・異動や不要な連携への対応では、変更後に接続先の結果まで確かめます。

4. AIエージェントの権限昇格

AIエージェントがツール連携（API呼び出し・ファイル操作・データベースアクセス等）で実世界に作用する場合、意図しない権限昇格やリソース取得のリスクがあります。エージェントが自律的に判断して行動するため、Human-in-the-Loop（人間介在型）の監視設計が必須です。

AIセキュリティの3層防御モデル

入力・処理・出力という観点から対策を整理します。この3層は本記事の説明上の整理であり、特定の規格が定める必須構成ではありません。

層	対象	対策
入力層	ユーザーからの入力	プロンプトインジェクション検知、機密情報の自動検出・マスク、DLP（Data Loss Prevention）連携
処理層	AIモデルの実行環境	オンプレミスまたはプライベートクラウドでのLLM運用、暗号化通信、サンドボックス内でのコード実行
出力層	AIの生成結果	出力サニタイズ（内部パス・APIキー・PII除去）、コンプライアンスチェック、ログ記録・監査証跡

※OWASP LLM05:2025は、モデルの出力を無条件に信頼せず、後続の処理に渡す前に検証するゼロトラストの考え方を推奨しています。外部リンクやコード実行などの下流操作を検証し、出力先に応じたエンコードやSQLのパラメータ化を行います。生成コードやツール呼び出しを隔離環境で実行し、権限を制限する設計も組み合わせます。こうした技術的対策と、取り扱うデータに適用される法令・契約上の要件の確認は、分けて検討する必要があります。

企業のAIセキュリティチェックリスト

カテゴリ	チェック項目
アクセス管理	AIツールへのアクセス権限がSSO連携・ロールベースで管理されているか
データ保護	利用する製品・APIごとの学習利用の既定値、データ共有への同意、ログ・データの保存条件を確認し、社内方針に合う契約・設定にしているか
入力監視	プロンプトインジェクション検知・ブロック機能が実装されているか
出力監視	AIの出力から内部情報（パス・APIキー・PII）を自動除去するサニタイズ処理があるか
ログ・監査	AIの入力・出力のログが記録・保存されているか（個人情報はマスク）
シャドーAI対策	社員の未承認AI利用を検知・制限する仕組みがあるか
エージェント権限	AIエージェントの権限が最小権限原則で設計されているか
インシデント対応	AI関連セキュリティインシデントの報告・対応フローが策定されているか
教育	全社員向けのAIセキュリティ研修が定期的に実施されているか

OWASPは機密情報の開示を独立したリスクとして整理しています。利用するAI製品やAPIの学習利用、ログの保存・削除、共有設定は、提供者の現行規約と機能ごとの条件を確認します。「学習に使わない」と「ログや処理用データを保存しない」は区別し、検索対象の文書やデータベースのアクセス権も点検します。

導入時に確認するAIセキュリティ対策

AIを組み込む際は、入力・出力だけでなく、コードと権限設定も確認対象にします。

• プロンプトインジェクション対策の自動化：入力の検査、出力の検査、システム側の方針、ツールの権限制限を組み合わせて評価します。プロンプトの指示だけを防御にしません
• コードレビューによる脆弱性検出：TLS設定、秘密情報の埋め込み、メール送信時の宛先や権限などをレビューします。AIの指摘は補助として扱い、担当者が再現と修正結果を確認します
• セキュリティポリシーの自動適用：エージェントごとに権限と禁止事項を設定し、適用状況や例外を監査できるようにします

renueは、AIの導入検討段階で「管理なき導入は情報漏洩リスクを招く」という点を重視し、ガバナンス・セキュリティ設計をAI導入と同時に進める体制を推奨しています。

利用ルールでは、扱う情報と業務上の必要性から、利用可能なツール・禁止事項・報告方法を明確にします。禁止の通知だけに頼らず、承認された環境の提供と社員への周知、運用中の確認を組み合わせる進め方を推奨します。

複数のアプリケーションからモデルAPIを利用する場合は、LLMゲートウェイの比較とAPI・予算・セキュリティの確認点も参照できます。認証、送信先、ログ、キャッシュの再利用条件を整理し、ゲートウェイを経由しない通信や、アプリケーション側で実行する操作の権限と分けて確認します。予算の設定やプロンプト検査だけで、費用超過や情報流出の完全な防止を保証するものではありません。

オンプレミスLLMとクラウドAPIの比較では、データの保管・処理、学習利用、保存・削除の条件、接続権限と運用体制を確認します。自社環境では更新・認証・監視も自社で担い、クラウドでも契約と設定に応じた管理が必要です。OWASPのプロンプトインジェクション対策のように、モデルの出力だけでなく、実行する操作と権限も含めて防御を設計します。

処理中のデータを保護する構成を検討する場合は、コンフィデンシャルコンピューティングとTEEの保護範囲・導入条件も参照できます。構成証明と鍵の利用条件、信頼する基盤を確認し、保存・通信、AIの入出力・ログ、利用者の権限と合わせて設計します。実行環境の保護と、アプリケーションの不具合や出力の確認を分けることが大切です。

医療情報を扱う業務では、一般的なAI対策に加え、分野の現行資料と役割分担を照合します。病院の医事課の業務とAI活用の確認点では、請求の工程、内容を確認する担当者、医療機関と事業者の安全管理の分担を整理しています。

課題に合わせて次に読む

具体的な検査範囲や見積もりの比較を進める場合は、セキュリティ診断・脆弱性診断の種類と選び方をご覧ください。

社内・社外を問わず、利用者や端末の権限を見直す場合は、ゼロトラストの仕組みと導入の進め方をご覧ください。

AIアプリのコードと権限を診断するには

AIの入力・出力への対策に加え、認証・権限やコードの処理の流れを確認したい場合は、renueのAI脆弱性診断支援をご確認ください。診断方法はコードの持ち出し条件や運用環境に合わせて相談でき、修正・刷新は別途範囲を合意します。

サービスの対応範囲・進め方を見る