株式会社renue
renueについて
renueは、AIで業務を実装する会社です
AIコンサルティングから図面AI・広告運用エージェント・コールセンターAIまで、実際に動いているサービスをご覧いただけます。renueが何をしている会社か、まずはサービス一覧からご確認ください。
AIセキュリティとは
AIセキュリティとは、AIシステム（特に生成AI・LLM）を安全に運用するために必要なリスク管理・防御策・監視体制の総称です。2026年現在、多くの企業がAIを業務に活用する一方、その利用状況を十分に可視化できていないというギャップが指摘されています。
OWASPのLLMアプリケーション向けTop 10は、2023–2024年版と2025年版の双方でプロンプトインジェクションを「LLM01」に掲載しています。企業のAI導入では、利用目的・アクセス権限・扱う情報に応じて、このリスクへの対策を検討することが重要です。
生成AI導入における4大セキュリティリスク
1. プロンプトインジェクション
プロンプトインジェクションとは、悪意ある指示をAIへの入力に紛れ込ませ、本来の動作を乗っ取る攻撃です。LLMが、外部の文章に含まれる指示を、本来従うべき指示と取り違える場合があります。自然言語の入力や文書への指示の埋め込みだけで攻撃が成立するケースもありますが、成否と被害はモデル、接続ツール、権限、入力・出力の検証などの構成に左右されます（OWASP LLM01:2025）。
renueが自社のプロダクト開発で採用している対策の例として、以下のような多層防御の組み合わせがあります。
- 入力検知レイヤー：日本語を含む複数言語のインジェクションパターンを正規表現で検出し、ブロック閾値を設定して自動遮断
- 出力サニタイズ：LLMの出力からスタックトレース・内部パス・環境変数・APIキーなど内部情報を自動的に除去する処理を実装
- システムプロンプトへのセキュリティポリシー埋め込み：内部情報の開示を明示的に禁止するポリシーをシステムプロンプトに追加
2. データ漏洩
社内の機密データがAIの学習データやログに含まれ、外部に流出するリスクです。特にRAG（検索拡張生成）システムでは、埋め込みベクトルから元の文章を推定する「エンベディング逆推論攻撃」も検討する必要があります。Morrisらの2023年の研究では、対象とする埋め込みモデルに合わせて訓練した復元モデルを用い、短い文章を復元する実験が報告されています。任意の埋め込みから必ず原文全体を復元できるという意味ではありません。OWASP LLM08:2025は、RAGのベクトル・埋め込みに関するアクセス制御、情報漏洩、データ汚染等をリスクとして挙げています。モデル本体とともに検索・保存部分も対策の対象になります。
3. シャドーAI
社員が会社の承認なしに個人アカウントのChatGPTやClaudeに社内情報を入力する「シャドーAI」問題です。IT部門が把握していないAI利用は、データ漏洩・コンプライアンス違反の温床になります。
4. AIエージェントの権限昇格
AIエージェントがツール連携（API呼び出し・ファイル操作・データベースアクセス等）で実世界に作用する場合、意図しない権限昇格やリソース取得のリスクがあります。エージェントが自律的に判断して行動するため、Human-in-the-Loop（人間介在型）の監視設計が必須です。
AIセキュリティの3層防御モデル
AIシステムを安全に運用するための3層防御アーキテクチャを紹介します。
| 層 | 対象 | 対策 |
|---|---|---|
| 入力層 | ユーザーからの入力 | プロンプトインジェクション検知、機密情報の自動検出・マスク、DLP（Data Loss Prevention）連携 |
| 処理層 | AIモデルの実行環境 | オンプレミスまたはプライベートクラウドでのLLM運用、暗号化通信、サンドボックス内でのコード実行 |
| 出力層 | AIの生成結果 | 出力サニタイズ（内部パス・APIキー・PII除去）、コンプライアンスチェック、ログ記録・監査証跡 |
※OWASP LLM05:2025は、モデルの出力を無条件に信頼せず、後続の処理に渡す前に検証するゼロトラストの考え方を推奨しています。外部リンクやコード実行などの下流操作を検証し、出力先に応じたエンコードやSQLのパラメータ化を行います。生成コードやツール呼び出しを隔離環境で実行し、権限を制限する設計も組み合わせます。こうした技術的対策と、取り扱うデータに適用される法令・契約上の要件の確認は、分けて検討する必要があります。
企業のAIセキュリティチェックリスト
| カテゴリ | チェック項目 |
|---|---|
| アクセス管理 | AIツールへのアクセス権限がSSO連携・ロールベースで管理されているか |
| データ保護 | 利用する製品・APIごとの学習利用の既定値、データ共有への同意、ログ・データの保存条件を確認し、社内方針に合う契約・設定にしているか |
| 入力監視 | プロンプトインジェクション検知・ブロック機能が実装されているか |
| 出力監視 | AIの出力から内部情報（パス・APIキー・PII）を自動除去するサニタイズ処理があるか |
| ログ・監査 | AIの入力・出力のログが記録・保存されているか（個人情報はマスク） |
| シャドーAI対策 | 社員の未承認AI利用を検知・制限する仕組みがあるか |
| エージェント権限 | AIエージェントの権限が最小権限原則で設計されているか |
| インシデント対応 | AI関連セキュリティインシデントの報告・対応フローが策定されているか |
| 教育 | 全社員向けのAIセキュリティ研修が定期的に実施されているか |
データ保護の確認例として、OpenAI APIとAnthropicの商用製品・APIは、既定では入力・出力をモデル学習に利用しないと説明しています。ただし、明示的な共有への同意やフィードバック等の条件も確認が必要です。また「学習に使わない」と「ログや処理用データを保存しない」は異なるため、保存・削除条件は機能ごとに確認してください。
renueが実践するAIセキュリティ対策
renueはAIコンサルティングファームとして、自社プロダクトのセキュリティ対策を日常的に実施しています。
- プロンプトインジェクション対策の自動化：AIエージェント開発において、日本語を含む多言語のインジェクションパターン検出、出力のサニタイズ処理、システムプロンプトへのセキュリティポリシー埋め込みを標準実装しています
- コードレビューによる脆弱性検出：AIコーディングエージェント（Codex等）を活用したコードレビューで、TLS設定の不備・APIキーのハードコーディング・メール送信のセキュリティ問題を日常的に検出・修正しています
- セキュリティポリシーの自動適用：AIエージェント監視プラットフォーム上で、デフォルトセキュリティポリシーを全エージェントに自動適用する仕組みを構築しています
renueは、AIの導入検討段階で「管理なき導入は情報漏洩リスクを招く」という点を重視し、ガバナンス・セキュリティ設計をAI導入と同時に進める体制を推奨しています。
よくある質問（FAQ）
Q. プロンプトインジェクションは完全に防げますか？
A. プロンプトインジェクションを完全に防げるとは限りません。モデルが外部の文章に埋め込まれた指示を誤って採用するリスクがあるため、検証に加え、最小権限・出力サニタイズ・高リスク操作での人間確認を組み合わせ、侵入が起きた場合の被害も小さくする設計が重要です（OWASPの対策例）。
Q. 社員にAIの使用を禁止すべきですか？
A. 禁止する対象は、扱う情報と業務上の必要性に応じて決めます。禁止だけで未承認利用を把握・防止できるとは限らないため、利用ルール（利用可能なツール・禁止事項・報告義務）の明文化と、承認されたAI環境の提供、社員への周知を組み合わせることを推奨します。
Q. オンプレミスLLMとクラウドAPI、どちらが安全ですか？
A. 機密性の要件と運用体制によります。オンプレミスLLMはデータの保管・処理を自社で管理しやすい一方、アクセス管理や更新、監視も自社で担います。クラウドAPIは提供者の管理基盤を利用できますが、データの学習利用・保存・削除条件、接続権限、契約を確認する必要があります。運用費用やモデル更新への対応も含めて比較し、機密度に応じて使い分けることが選択肢です。
