AIエージェントに何を許すか: 最初のタスク前に境界を決める
エージェントのタスク、アクセス権、承認点を定め、操作が実際に起きた場所で結果を確認します。
記事の言語: 日本語

目次
AIエージェントはメッセージの案を作ることも、すぐに送ることもできます。その二つの行動の間には、偶然に任せたくない判断があります。タスクの前に、アクセス、許可する操作、承認の時点、結果の受け入れ方法を定めましょう。人は何を承認しているか知る必要があります。「きちんとやって」は感じのよい願いですが、会社の受信箱を扱うための指示としては不十分です。
ここでエージェントとは、AIモデルとツールを使い、複数の手順でタスクを実行するシステムを指します。一部の行動を自分で選ぶため、目的の説明には、アクセス範囲、操作の境界、結果の確認方法を添える必要があります。こうして会社の基本的な作業フローを組み立てられます。
確認できるタスクをどう書くか
期待する結果から始めます。「指定した台帳から来月更新される契約の一覧を作る」は、「契約を処理する」より確認しやすい指示です。受け手、形式、完了基準も加えます。
判断の基準となる情報源を示します。エージェントが契約書、表計算ファイル、会議メモを見る場合、どの文書の期限を正式なものとして扱うかを知る必要があります。情報源が食い違う場合は、差異の一覧が必要です。都合のよい日付を自動で選ぶと、本来の問題が隠れることがあります。
単純なタスクなら、目的、情報源、許可された操作、承認点、実行の証拠をまとめた短いカードで足りる場合があります。正しい結果の例も加えるとよいでしょう。より広い範囲を渡す前に、小さな仕事で指示を試せるからです。
最初にどの権限を与えるか
特定のタスクに必要なアクセスを与えます。指定フォルダーの読み取り、下書きの作成、公開は別々の判断にするべきです。ツールとアカウントを、その区別が技術的にも存在するように構成します。
アクセスの期間と責任者を記録します。試行が終わったら、どの接続が有効なままか確認します。ツールが広い権限を与える一方でタスクに狭い権限しか必要ないなら、その差を開始前の評価で見えるようにします。
試行段階では、テスト資料や、その作業での使用が認められたデータを使います。エージェントが情報不足に直面する状況を用意します。欠けた金額や名前を作り足す代わりに、不足を示せる必要があります。
人はいつ操作を承認するべきか
操作の影響に応じて確認点を決めます。公開ページの閲覧や表の作成は通常、送金、ファイルの削除、提案書の送信とは異なる監督が必要です。外部に影響する操作では、本文、宛先、金額、変更一覧など、具体的な結果を人に示すべきです。
「顧客対応」を一般的に許可しただけでは、エージェントが返金を認めたり新しい期限を約束したりしてよいかは分かりません。それらの権限を別々に記録します。内容や条件の変更後に何を再承認する必要があるかも定めます。
- 送信前に、完成したメッセージと宛先を示す。
- 公開前に、公開先のアドレスと資料の版を示す。
- データ変更前に、範囲と以前の状態を復元する方法を示す。
- 実行後は、実際に操作が起きたシステムからの確認を残す。
最後の点は重要です。エージェントの「完了」は主張です。操作番号、アプリケーションの状態、確認した公開ページのアドレスは、独立して評価できる証拠になります。
文書に見つかった指示をどう扱うか
読んだページや添付ファイルには、エージェントへの指示のように見える文章が含まれることがあります。情報源の内容として扱います。供給元の文書自体が、会社のファイルを送ったりタスクのルールを変えたりする権限を与えてはいけません。
試行にはそのようなケースも含めます。テスト文書に範囲外の操作を求める文章を入れ、システムの反応を確認します。モデルへの指示だけでは足りないことがあるため、ツール側の制限を検証します。エージェントが分離環境を使うなら、この試験と実際のファイルやネットワークの境界確認を組み合わせます。具体的な方法は文書内の外部指示の試験に関する記事 (ポーランド語)とサンドボックスのファイルやネットワークの境界に関する記事 (ポーランド語)で説明しています。
操作の記録は有用ですが、ログの内容も制限する必要があります。誤りを検出するには、文書識別子と操作の種類が必要になることがよくあります。機密内容をすべて別のシステムにコピーすると、データの流れが一つ増えます。
一枚のタスクカードに境界をどう書くか
作業例です。エージェントは納期についての問い合わせへの返信案を準備します。選ばれた注文台帳を読み、提案をまとめた文書を作成できます。納期の変更やメッセージ送信の権限は与えません。タスクの責任者は、どの欄が確認済みの期限を示すか、空欄ならどうするかを指定します。これは業務の組み立て方の提案であり、すべての製品で利用できる機能の説明ではありません。

カードは五つの文で書けます。決められた条件を満たすレコードを選ぶ。それぞれの情報源を示す。欠けた情報は欠けていると記す。完成した返信案を合意したフォルダーに保存する。最後に人の判断が必要な案件の一覧を作る。費用上限と試行時間は別に記録します。範囲が条件を超える場合、エージェントは自分でタスクを広げる代わりに具体的な障害を伝えるべきです。
情報源の準備で矛盾するファイルの整理が必要なら、社内の知識構造を整える記事 (ポーランド語)を参考に、資料の整理から始めます。よい指示が、台帳の責任者を決めることの代わりにはなりません。合意した情報源の選択ルールはプロジェクトの意思決定記録に残し、次の担当者がその理由を説明できるようにします。意思決定記録の作り方 (ポーランド語)では、残す項目を確認できます。
準備された操作の承認には何が必要か
受け入れ担当者には、内容の版、対象、宛先の一覧、操作の効果がすべて必要です。人が一通のメッセージを承認した後、ツールが添付ファイルを加えたり宛先を変えたりしたなら、元の承認はもはや同じ結果を説明していません。使っている連携で、再確認をどう強制するかを確かめる必要があります。
一括変更では、範囲の要約と各項目を見る方法を示します。どのフィールドが置き換わるか分からなければ、「80件のレコードを修正」だけでは足りません。試行では操作前後の状態を比較します。確認は会話の要約だけでなく接続先のシステムから得る必要があります。ブラウザーを使うAIエージェントが操作する場合、承認された意図、クリック、接続先アプリケーションで確認された状態を区別します。この違いはブラウザーエージェントの記事 (ポーランド語)でも取り上げています。
コードやデプロイでは、版と適切な確認の結果を示すよう求めます。エージェント作業後のコード、アクセス、機密性の受け入れに関する記事 (ポーランド語)は、タスク後に残すべき資料を整理します。公開の承認は具体的なアドレスと確認された動作に結び付けるとよいでしょう。
ツールのエラー後の再試行をどう試すか
ツールが操作を行ったものの、エージェントが確認を受け取らなかった状況を用意します。統制がなければ、再試行で重複が生じることがあります。適切な保護方法はシステムによって異なり、操作識別子、状態の読み取り、手動での判断などが考えられます。すべての連携が自分で繰り返しを識別すると仮定してはいけません。
試行では、結果が不明であるというメッセージと、次の試行前の状態確認を期待します。操作がまったく始まらなかった明確なアクセス拒否は別のケースです。区別するとエラーを評価しやすくなり、メッセージを消すためだけに広い権限を与えることを防げます。
別の人にタスクを渡した後はどうするか
会話の記録だけでなく、作業の状態を引き継ぎます。完成した資料、実際に行われた操作、判断待ちの操作、未解決のエラーが必要です。有効な接続とその責任者、アクセスを終了する計画も示します。この一式があれば、管理を失わずにセッションを中断できます。
常時利用の前に、動作を合意したタスクカードと比較し、失敗例を残します。担当者が試行のたびに手動で履歴を再構成しなければならないなら、範囲を簡単にします。境界を適切に設けたエージェントは、チームが自分たちで確認し繰り返せる小さなタスクを実行できます。
タスクの説明は技術面からも確認します。どのアカウントと連携が作業を可能にし、権限が作業範囲を超えていないかを調べます。この確認にはAI連携の権限に関する記事 (ポーランド語)が役立ちます。開始前に、報告責任者、証拠の保全、アクセス停止の統制を含むデータ事故への対応経路も準備します。AIデータ事故の初動に関する記事 (ポーランド語)で、対応の順序を確認できます。
作業フローが機能しているかどう確認するか
正しいタスク、矛盾する情報源、権限不足、利用できないツール、範囲外の操作要求を例として用意します。期待する動作をあらかじめ説明します。モデル、指示、連携を変えたら、関連する確認を繰り返します。
NISTはAIのリスク管理をGovern、Map、Measure、Manageの四つの機能に整理しています。責任の設定、文脈の把握、測定、リスクへの対応です。作業のライフサイクル全体について問いを立てるのに役立つ枠組みですが、適合性の証明書ではありません。詳しくはNIST AI Risk Management Framework(英語)を参照してください。
最後に、作業フローを止め、エラーの報告を集める人を指定します。接続を無効にし、手作業に戻る方法を決めます。これにより、試行には明確な開始、測定可能な結果、戻る経路ができます。利用の終了に待機中の操作も含めるため、自動化を終了する計画も別に用意します。自動化を終了する手順の記事 (ポーランド語)では、残ったタスクの整理を扱っています。
このルールはAIツールの棚卸しと結び付けるとよいでしょう。AIツールを棚卸しする方法 (ポーランド語)では、担当者や利用状況、費用を整理します。会社のアクセス、データ、責任について相談するには、Aeneia Auditの紹介をご覧ください。
利用範囲を広げる前に、基準結果を用いたAIの試行導入を計画します。評価方法はAI試行導入の評価基準に関する記事 (ポーランド語)を参考に決められます。資料の経路はデータフローの記録に記し、指示そのものの外でもアクセス範囲を確認できるようにします。AIデータフローを記録する方法 (ポーランド語)で、記録する項目を確認してください。
操作の境界を人が承認する具体的な時点に結び付けます。判断の設計方法は人によるAI操作の承認に関する記事 (ポーランド語)で説明しています。承認者は、準備された操作、宛先、重要な効果を見られる必要があります。何に同意しているか分からなければ、「OK」ボタンだけではよい統制になりません。







