AI自動化で、人が操作前に承認すべきこと
架空の苦情処理で承認の境界と権限を決め、拒否と再試行を検証します。
記事の言語: 日本語

目次
自動化が苦情への返信案を作りました。次に「送信」を押すか、返金する予定です。その間に責任が変わります。作業中の文章が顧客に影響する操作になるのです。この境界に人の承認を置きましょう。
架空の店舗の流れを追います。案件R-17はマグカップの取っ手の破損です。システムは説明を読み返信案を作れますが、独自に返金や交換を認めたり注文状態を変えたりはできません。データはすべて架空で、メッセージ送信も決済も実行しません。
架空の案件R-17を基に、担当者が評価する資料を用意してください。
問題、欠けている情報、返信案、提案する操作と根拠の事実を列挙してください。
判断材料が足りなければ「要確認」と書いてください。
操作を実行せず、顧客にも決定済みと伝えないでください。
申告:「開封したらカップの取っ手にひびがありました。写真を添付します。
次に何をすればよいか教えてください。」
正しい基準の回答は問題を要約し、次の段階を提案します。返金は確定しません。プロンプトは資料を準備するもので、アクセス制限も自動化システムに設定する必要があります。
承認を置く位置
自動化はシステム間の決められた作業の流れです。AIエージェントはさらにツールとそのパラメーターを選べる場合があります。送信権限があるなら、送信直前に具体的な文章、宛先、添付を承認対象にします。
n8nはツールに対する人の介入を説明しています。処理を停止し、提案されたパラメーターでの実行を人が承認または拒否します。製品機能の例であり、すべてのn8nの処理が正しく設定済みだという証拠ではありません。
この例では担当者が、案件番号、問題、返信、信頼できるシステムの宛先を見ます。「案件を処理する」という一般的な指示を承認するのではありません。ボタンを押すと何が起きるのか明らかにします。
承認後に文章や宛先が変われば再承認が必要です。どちらも丁寧な挨拶で始まっていても、第1版への同意が第3版に自動的に引き継がれるわけではありません。
具体的なデータで承認画面を設計します。架空のR-17では宛先をklient-test@example.invalid、添付なし、文章を「申告を受け付けました。担当者が資料のそろい具合を確認します」とします。デモ用アドレスであり、この演習では送信しません。
架空の操作WYSLIJ_ODPOWIEDZ_R17の承認カードを作成してください。
宛先:klient-test@example.invalid。添付:なし。
文章:「申告を受け付けました。担当者が資料のそろい具合を確認します。」
案件番号、宛先、全文、承認の正確な結果を示してください。
承認を無効にすべき変更を列挙し、拒否時のメッセージも作成してください。
メッセージを送信しないでください。
基準となるカードは、ボタンの前にすべてのパラメーターを表示します。文章、宛先、添付が変われば再承認し、拒否した場合は返信未送信のままです。「標準的な返信」という説明の下に文章の一部が隠れていないか確認します。人は実際に相手に届く内容を承認すべきです。
カードの文章はメール用プロンプト (ポーランド語)で準備できます。ただし、内容の正しさと送信権限は別に記録します。正しい返信でも、適切な時期や判断者を待つ必要があるかもしれません。
作業に必要な権限に限る
必要な案件へのアクセスを与え、メール全体やすべての返金操作には広げません。閲覧、下書き、送信、金融操作を分けます。最初の段階には閲覧と評価用資料の保存で十分です。
OWASPは過剰な権限・自律性を独立したリスクとして挙げています。過剰な機能、権限、自律性が有害な操作の原因になります。制限はツールとアカウントに設定します。プロンプトに注意書きを加えてもシステム権限は消えません。
外部文書やメッセージにはモデルの動作を変えようとする指示が含まれることがあります。OWASPはこれをプロンプトインジェクションと説明します。苦情本文の中で全顧客データベースを渡すよう求められても、それは送信者のデータであり操作の権限ではありません。
共有情報の範囲はAIでの安全なデータ利用 (ポーランド語)に従って先に決めます。最後に人がいても、最初に起きた情報漏えいは元に戻せません。
拒否と再試行を試す
「承認」ボタンが動くのは試験の半分です。拒否したらメッセージが送られないか確認します。次に承認後に宛先を変え、古い承認で送信できるか試します。できてしまう場合は導入を止めます。
同じ案件を2回実行する試験もします。システムは承認済みの操作がすでに行われたと認識すべきです。これを冪等性と呼び、同じ要求を繰り返しても2回目の効果を生まない性質を指します。確認には操作IDと実際の結果の記録が必要です。
担当者から応答がない場合と接続エラーの場合も定義します。沈黙を承認にしてはいけません。「送信開始」は到達の証拠ではありません。承認、実行の試み、確認された結果を別々に記録します。
架空のログを追います。操作A-17は承認され、送信を開始しましたが、結果を受け取る前に接続が切れました。1分後に処理が再実行されます。ログには送信確認も、サービス側の確認された拒否もありません。
上記の架空ログA-17を分析してください。確認された出来事と不明な送信結果を分け、
接続断を未送信の証拠にしないでください。再試行を決める前に送信システムで
確認すべき情報と、2通目が送られるリスクを示してください。
メール到達を断定しない担当者向けの案内を作ってください。
正しい分析では、確認まで結果は不明のままです。「送った」と「送っていない」のどちらとも異なります。実際の復旧方法は個々のサービスの機能によるため、設計者が利用前に決めます。プロンプトは問題を説明できますが、接続していないログは読めません。
イベントログを表で分析するなら、スプレッドシートのデータ確認 (ポーランド語)を使います。A-17の2行は別案件2件ではなく、1操作の再試行かもしれません。実行数を数え効果を発表する前に、行の意味を決めましょう。
一連の処理を受け入れる
テスト用アカウントと架空案件で、入力、提案、人の判断、実行、結果記録を確認します。拒否と再試行も別々に試します。その材料があって初めて、画面上の図を越えて境界が機能するか評価できます。
担当者が応答しない場合も加えます。保留案件を誰が見て、いつ手動で引き継ぐか決めます。承認権者の選択をモデルに任せず、プロセスで役割を定義します。停止理由を記録し、受け入れ時には導入チーム外の人にR-17を探して送信の有無を説明してもらいます。分からない場合は自動化を始める前に状態の見え方を改善します。
チームの合意から自動化するなら、まず会議メモと決定事項 (ポーランド語)を確認します。プラットフォームは作業とツールの受け入れ基準 (ポーランド語)で選びます。AI Course(ポーランド語)のプログラム(ポーランド語)では、Aeneiaのもと、先に記述した業務から自動化を考えます。顧客への連絡前に操作を止められる最後の地点を、図に記してみてください。
*原文は文書を2026年10月30日に確認し、OWASPの項目は2025年版だと記しています。苦情処理は架空のシナリオで、導入済みシステムではありません。*











