AI運用で発生するインシデントは、従来のシステム障害と異なり、情報の意図しない出力・学習データの漏洩・判断根拠の不明な誤出力が同時に起きる可能性があります。本記事では、AI インシデント 対応の初動72時間で必要な行動、社内報告ルートの設計、影響範囲を特定する手順、再発防止策の判断軸を示します。AIを業務に組み込む組織が、検知から対処までを遅滞なく進めるための実務マニュアルです。
AIインシデント対応で最初に確認すべき3項目
AI インシデント 対応の初動では、次の3項目を最優先で確認します。この確認が遅れると、影響範囲の特定が困難になり、対外報告の判断が遅れます。
- 出力の到達範囲: 誤った情報・漏洩した個人情報がどの範囲に届いたか（社内限定か、顧客・取引先まで到達したか）
- 学習データの内容: インシデントの原因となったデータに、個人情報・機密情報が含まれていたか
- 再現可能性: 同じ条件で同じ出力が再び起きるか（プロンプトの再実行、モデルのバージョン確認）
これら3項目は、インシデント検知から1時間以内に初期判断を記録します。判断が難しい場合でも「不明」と記録し、後の調査で補完する前提で進めます。
検知から72時間の行動タイムライン
AIインシデントの初動は、検知から72時間を3つの局面に分けて進めます。なお、個人情報保護委員会への速報は事態認識から概ね3～5日以内が求められています。
検知〜6時間: 事実確認と一次報告
インシデントを検知した担当者は、直属の上長とAI運用責任者に一次報告を行います。報告には次の4点を含めます。
- 発生日時とインシデントの種類（情報漏洩・誤出力・バイアス出力など）
- 影響を受けた可能性のある対象（件数は概算でよい）
- 現時点で確認できた出力内容のサンプル
- 利用していたAIサービス名・モデル名・プロンプト内容
この段階では詳細な原因究明は求めず、事実の記録と報告ルートの起動を優先します。
6時間〜24時間: 影響範囲の特定と報告要否判断
AI運用責任者は、次の手順で影響範囲を特定します。
- AIサービスのログから、問題の出力が発生した期間とユーザーを抽出
- 出力内容に含まれるデータ項目を分類（個人情報・機密情報・公開情報）
- データ項目ごとに法的報告義務の有無を判断（個人情報保護法の報告基準に照らす）
- 影響を受けた本人への通知要否を判断
個人情報保護委員会は、個人情報の漏洩が発生した場合の報告基準を示しています。自組織の取り扱うデータが報告対象に該当するかは、個人情報保護委員会の情報を参照して判断します。
24時間〜72時間: 原因究明と再発防止策の策定
原因究明では、インシデントを次の4類型のいずれかに分類します。分類によって再発防止策の方向が変わります。
- 学習データ起因: 訓練データに不適切な情報が含まれていた（データクレンジングの見直し）
- プロンプト起因: 指示文の曖昧さが誤出力を誘発した（プロンプトテンプレートの改定）
- 権限設計起因: 本来アクセスできないデータを学習・参照できる状態だった（アクセス制御の見直し）
- モデル仕様起因: モデルの確率的挙動が想定外の出力を生んだ（モデル選定基準の見直し、出力検証機構の追加）
再発防止策は、この分類に基づいて技術的対策と運用ルール変更の両面から立案します。
社内報告ルートの設計と責任者の役割
AIインシデントの報告ルートは、次の4階層で設計します。各階層の責任者と判断事項を明確にすることで、報告の遅延を防ぎます。
第1層: 現場担当者（検知者）
インシデントを最初に認識した担当者は、直属の上長に口頭とメールで報告します。報告のトリガーは、次のいずれかに該当する事象です。
- 個人情報・機密情報を含むと思われる出力を確認した
- 業務判断の根拠となる出力が明らかに誤っている
- 特定の属性（性別・年齢・国籍など）に偏った出力が複数回発生した
- 利用者から「おかしい」との指摘を受けた
第2層: AI運用責任者
AI運用責任者は、一次報告を受けて6時間以内に影響範囲の初期判断を行い、CISO（情報セキュリティ責任者）と法務部門に報告します。この段階で対外報告の要否を仮判断します。
第3層: CISO・法務部門
CISOは技術的影響範囲、法務部門は法的報告義務の有無を24時間以内に判断します。両者の判断を統合し、経営層への報告内容を確定します。
第4層: 経営層（CxO）
経営層は、対外報告・謝罪・サービス停止の可否を最終判断します。判断材料は次の3点です。
- 法的報告義務の有無と期限
- 影響を受ける顧客・取引先の数と事業への影響
- 再発防止策の実施に必要なコストと期間
影響範囲を特定する4ステップ
AIインシデントでは、影響範囲が時間経過とともに拡大する場合があります。次の4ステップで範囲を特定し、拡大を防ぎます。
ステップ1: ログから出力履歴を抽出
AIサービスの操作ログから、問題の出力が発生した期間のすべてのセッションを抽出します。多くのクラウドAIサービスは、ユーザーごと・時刻ごとの出力履歴をダウンロードできる機能を提供しています。
ステップ2: 出力内容のデータ分類
抽出した出力を、含まれるデータ項目で分類します。分類軸は次の通りです。
- 個人情報（氏名・連絡先・識別番号）
- 機密情報（契約内容・財務データ・技術仕様）
- 公開情報（一般に入手可能な情報）
この分類によって、法的報告義務の有無が変わります。
ステップ3: 到達範囲の確認
出力がどこまで届いたかを確認します。確認ポイントは次の通りです。
- 出力を閲覧したユーザーの所属（社内のみか、社外を含むか）
- 出力が外部サービス（メール・チャット・ファイル共有）に転送されたか
- スクリーンショット・コピー&ペーストで二次利用されたか
ステップ4: 再現条件の特定
同じインシデントが再発する条件を特定します。再現テストでは、次の条件を変えて出力を確認します。
- 同じプロンプトで異なるユーザーが実行
- プロンプトの表現を変えて同じ意図を実行
- 異なる時間帯・異なるモデルバージョンで実行
再現条件が明確になれば、その条件を一時的に禁止する措置を取れます。
再発防止策の判断軸と実施優先度
再発防止策は、効果の即効性とコストのバランスで優先度を決めます。次の4象限で分類し、即効性が高くコストが低い施策から実施します。
即効性高・コスト低: 運用ルールの変更
プロンプトテンプレートの改定、利用者への注意喚起、特定の用途の一時禁止などは、判断から24時間以内に実施できます。
即効性高・コスト高: 技術的制御の追加
出力内容のフィルタリング機構、アクセス権限の細分化、ログ監視の自動化は、1週間〜1ヶ月で実施可能ですが、外部ベンダーの支援や追加ライセンスが必要になる場合があります。
即効性低・コスト低: 教育・啓発
利用者向けの研修、ガイドラインの改定は、効果が現れるまで数ヶ月かかりますが、追加コストは小さく抑えられます。
即効性低・コスト高: モデル・システムの刷新
AIモデルの入れ替え、データ基盤の再構築は、効果が確実ですが、半年以上の期間と大きな投資が必要です。他の対策で再発を防げる場合は、優先度を下げます。
外部報告が必要になるケースの判断基準
次のいずれかに該当する場合、個人情報保護委員会や所管官庁への報告を検討します。判断は法務部門と協議して行います。
- 個人情報が1,000件以上漏洩した可能性がある
- 要配慮個人情報（健康情報・犯罪歴など）が外部に出力された
- 情報の到達先に取引先・顧客が含まれる
- 報道機関からの問い合わせがあった
報告の要否判断には、個人情報保護委員会が示す基準を参照します。
AIインシデント対応体制を構築する際の準備
インシデント対応体制を構築する際は、次の3点を事前に準備します。
対応フローのドキュメント化
検知から報告、原因究明、再発防止までの流れを1枚のフロー図にまとめ、全関係者が参照できる場所に置きます。フロー図には、各ステップの責任者名と連絡先を明記します。
ログ取得設定の確認
AIサービスのログ取得設定を確認し、次の項目が記録されているかをチェックします。
- ユーザーごとのプロンプト内容
- 出力の全文とタイムスタンプ
- 利用したモデルのバージョン
- アクセス元のIPアドレス・端末情報
ログの保存期間は、最低でも90日に設定します。
模擬訓練の実施
年に1回、架空のインシデントシナリオで報告訓練を実施します。訓練では、報告の遅延箇所・判断に迷う箇所を記録し、フローの改善に反映します。
AIガバナンス体制との接続
インシデント対応体制は、組織のAIガバナンス体制と接続することで実効性が高まります。接続ポイントは次の3つです。
AI利用申請プロセスとの連携
AI利用を申請する際に、インシデント発生時の報告先と責任者を申請書に明記します。これにより、インシデント検知時に誰が対応するかが明確になります。
リスク評価結果の活用
AI導入前のリスク評価で「高リスク」と判定された用途は、インシデント発生時の報告ルートを短縮し、CISOへの直接報告を義務付けます。
定期レビューでの振り返り
四半期ごとのAIガバナンスレビューで、インシデント対応の実績を報告します。報告内容は、発生件数・対応時間・再発防止策の実施状況です。
AI事業者ガイドライン（第1.2版）では、AIのリスクマネジメント体制の整備が推奨されています。インシデント対応体制は、その体制の中核を成す要素として位置づけられます。詳細はAI事業者ガイドライン（第1.2版）を参照してください。