本文へスキップ
表示言語: 日本語
監査 / Signal

AIエージェントのサンドボックス: 作業場所の境界を確かめる

AIエージェントのサンドボックスが読み取り、書き込み、ネットワークを制限するか、人工ファイルで確認し、指示と実際の遮断を区別します。

記事の言語: 日本語

濃い色のリボンと金色の封でまとめた紙の束がペンの横に置かれている。
目次

エージェントは「プロジェクト内だけ」で作業しています。ところが間もなく、誰もタスクに加えていない隣のディレクトリーのファイルを要約しました。プロジェクト外の行は一つも変更していないので、書き込みの確認は良好に見えます。問題は、何を読み取ってよいかも合意に含まれていたことです。

サンドボックスは、プログラムの特定の行動を制限する環境です。AIエージェントではコマンド、ファイル、ネットワーク接続を含むことがありますが、範囲は製品と設定によります。「サンドボックス」という名前だけでは境界は決まりません。受け入れ確認では、説明を具体的な試験と実行の観察に結び付ける必要があります。

以下の計画は、自分に権限のある環境と人工的な資料を対象とします。セキュリティ突破の記録でも、システム分離の完全な評価でもありません。実際に遮断されたアクセスと、単にタスクに不要だったアクセスを区別するという、具体的な運用上の問いに答えます。この二つを報告書で同じ結果として扱ってはいけません。

作業ディレクトリーは出発点にすぎない

家具カタログのサイトの文章を直す架空の仕事を考えます。エージェントは管理されたプロジェクトのコピーで作業します。指定されたファイルと提案の保存場所が必要です。他のプロジェクト、個人文書、追加サービスへの資料送信は合意に含まれません。この説明があれば、実際の機密データを使わず試験を準備できます。

読み取り、書き込み、ネットワークを分けて整理します。ファイルの変更を制限しつつ広い読み取りを許すことも、一部の接続を遮断しつつローカルディレクトリーへのアクセスを許すこともできます。一つの名称で異なる範囲を隠してはいけません。それぞれの期待動作と結果を裏付ける資料を記録します。

Claude Codeのサンドボックス文書は、システムシェルであるBashが実行するコマンドと、そのコマンドが起動するプロセスを対象としています。読み取り、書き込み、ネットワークを区別し、例外を挙げた上で既定の読み取り範囲は書き込みより広いと説明しています。アプリのすべての機能が同じ境界に含まれるという宣言ではありません。

まず制限が実際に何を対象とするか確かめます。アプリ全体、一つのツールの実行、子プロセス、タスク用に起動した別環境のどれでしょうか。エージェントが複数のツールを選べるなら、それぞれの経路を書き出します。一つのコマンドの制御だけでは、別のファイル読み取りや外部接続の可能性は分かりません。

ウィンドウのタイトルに表示されたディレクトリーは、作業の開始場所を見分ける助けになります。しかし、その名前はプログラムのアクセス範囲を定めません。実際の権限と追加で接続した場所を記録します。接続されたディレクトリーについて、読み取り専用か書き込み可能かを定めます。タスクの責任者は、設定全体を読まなくても区分を理解できる必要があります。

Gemini CLIのmacOSプロファイルの説明には具体例があります。permissive-openは書き込みをプロジェクトディレクトリーに制限しながら、広い読み取りとネットワークを許します。これは説明されたプロファイルの特性です。このツールのすべての起動方法や、すべてのサンドボックスに当てはめてはいけません。

サンドボックスと自動化のテスト環境 (ポーランド語)も混同しません。テスト用コピーは人工データと安全なアドレスを含んでも、コンピューターに広くアクセスできる場合があります。逆に実行制限が実際のプロジェクトで働く場合もあります。受け入れ確認では両方の特性を明示し、それぞれの目的に応じて確認します。

本物の秘密ではなく確認用の場所を用意する

読み取り試験には、指示文には書かない架空の文章を含む小さなファイルで十分です。作業ディレクトリー外の合意した場所に置き、許可された領域には別の確認用ファイルを置きます。境界内でツールが動くか、外ではどう反応するかを調べられます。

本物のパスワード、鍵、私的な通信を使ってはいけません。確認用の文章は読み取りを識別するためのものであり、新たな情報漏えいの問題を作るためではありません。使用権限があり、対象ツールでの使用について合意した資源だけを試験に含めます。

実行前に期待する結果を記録します。プロジェクトディレクトリーでは読み取りと提案の保存を許し、指定した隣のフォルダーでは両方を拒否する、といった設定です。プロジェクト外の文書の読み取りを意図的に許す場合は例外として示します。合意範囲が異なるなら「フォルダー外はすべて禁止」という基準で評価してはいけません。

書き込みは専用のファイルで別に試します。読み取りは変更可能性を証明せず、書き込み拒否も読み取り拒否を証明しません。操作後、対象の実際の内容を確認します。エージェントの「修正を保存した」という発言は、該当ファイルで裏付ける必要があります。

変更されないことを期待する場合は、初期状態と変更されていない証拠も残します。ツールが操作を行わなかった場合、確認できる原因を記録します。回答に文章がない理由は、拒否、誤ったパス、モデルによる試行の省略かもしれません。呼び出しを観察せず、最も都合のよい説明を選んではいけません。

報告書では三つを区別します。モデルが指示を理由に拒否した、ツールが操作を拒否した、操作が試みられなかった、の三つです。一つ目はモデルの振る舞いを示します。二つ目で確認できるのは、その試行をツールが拒否したことです。制限の仕組みと原因は利用可能な証拠に基づいて判断します。三つ目ではアクセスを判断できません。この区別は、拒否だけから原因を決めつけず、何が境界を守るか評価する助けになります。

Aeneiaのコンセプト写真

遮断とファイル自体が利用できない場合を区別する陽性対照も加えます。権限のある人が、架空の資料が指定場所に存在し、期待した内容を持つことを確認します。次にエージェントが使う経路を調べます。実際にはアクセスを拒否しているのにツールがファイル不在を報告する場合は、その結果と解釈上の限界を残します。任意のエラーを有効な分離の証拠に変えてはいけません。

コーディング補助からのファイル除外 (ポーランド語)にも似た問題があります。提案から資料を除外しても、他のすべての使用経路を説明したことにはなりません。サンドボックスの試験で確認するのは、選んだ経路の実行境界であり、単にコンテキスト一覧にファイルがあるかどうかではありません。

同じ確認操作について、通常の読み取りツールとエージェントが実行するコマンドの両方を業務で使うなら比較します。一方には異なる規則が適用されるかもしれません。実際に合意したアクセスを踏まえ、期待を別々に記録します。立派な一覧を作るためだけに仕組みを増やさず、対象タスクで使うものを選びます。

ネットワークは方向と操作を具体的に試す

「ネットワーク無効」とするなら、どの構成要素と作業段階に適用するかを記します。モデルは回答のための接続を必要とし、タスク実行ツールの通信は制限されるかもしれません。選択したサービスへのアクセスを許す場合もあります。利用の責任者が、その表現がフローのどこを指すか理解できるようにします。

実際の顧客データがない、自分で管理する接続先や合意した別の資源を用意します。許可する接続と遮断すべき接続を別々に選び、期待する操作を記録します。公開文書を読むこととファイルの内容を外部サービスへ送ることは異なる範囲です。

「試しに」と実際の文書を送って通信を確認してはいけません。経路の確認には識別できる人工資料で十分です。接続先で確認できる受信の痕跡と、ツール側の呼び出し結果を残します。一方で確認が得られないことを、接続全体の遮断と自動的にみなしてはいけません。

途中でアクセス拡大の要求が出た場合は別の出来事として扱います。許可前と許可後の試験は異なる境界を対象とします。利用者がドメインを許可し、最終的にツールがデータを送った経過を「接続は遮断された」と記録することはできません。どの判断が範囲をどの期間変えたかが重要です。

拡大した試験の後、ツールの規則に従って新しいセッションや次のタスクを確認します。以前の許可は続いていますか。プロジェクト、アカウント、一回の実行のどこに保存されましたか。「許可」ボタンの文言だけから答えを推測してはいけません。判断時に見えた範囲を残し、後の動作と比較します。一度の例外を、その後も境界が変わっていないと誤って説明することを防げます。

ローカルモデルとインターネットなしの作業 (ポーランド語)は、計算と追加ツールの区別を扱っています。ローカルで回答したことは、プロセス全体がネットワークなしで動く証明ではありません。同様に、一つのコマンドのサンドボックスは、他の構成要素が行う接続を説明しません。

流暢な回答だけで結果を評価してはいけません。モデルは実際にはアクセスせず、その方法を説明できるかもしれません。操作を一部実行した後でエラーを返すこともあります。運用上の受け入れ確認では、実際の要求と確認された結果を扱い、観察できなかった部分を明示します。

設定と例外を境界と一緒に記録する

各試験にツールのバージョン、起動方法、アカウント、OS、重要な設定を添えます。秘密や環境全体を公開する必要はありません。責任者が確認した範囲を再現できる資料が必要です。同じ名前のボタンでも、更新後には異なる動作につながることがあります。

責任あるAIエージェントの業務フロー (ポーランド語)では、アクセスの承認と例外への対応を担う人を割り当てます。制限外で一つのコマンドを実行する許可を「サンドボックスで作業した」という一括の説明に埋もれさせてはいけません。報告書の読み手は通常の経路と拡大した経路を区別できる必要があります。

追加ツールを通る経路も調べます。エージェントが別のMCPサーバーを使う場合、操作が評価対象の環境内でローカルに実行されるのか、別システムで実行されるのか確認します。同じウィンドウから呼び出しただけでは、同じ制限が適用されません。各経路に実行場所と使用アカウントを対応付けます。

タスク後に何が残るかも考えます。保存した結果、確認用ファイルのコピー、接続権限、報告書などです。試験で元の文書を変えなくても、別の場所にコピーが作られることがあります。人工資料の識別可能な印と操作結果など、確認に必要な範囲だけを記録します。終了後は合意した手順で確認用データを整理し、実際の環境の全内容を残さず評価の証拠を保ちます。

ディレクトリーの変更、新サービスの接続、アクセス拡大の後は、変更の影響を受けるケースを再試験します。レビュー全体を自動的に繰り返す代わりに、関連する試験を特定します。それでも、引き続き確認済みの範囲と新しい試験が必要な範囲を記録します。そうしなければ、古い結果が一度も対象にしなかった範囲を証明しているように見えます。

結果を自社のAIデータフロー記録と結びます。AIデータフロー記録の作り方 (ポーランド語)では、記録の準備方法を説明しています。読み取り可能なファイル、結果の送付先、許可された接続を示します。技術名だけを議論するのではなく、タスクの責任者が環境は用途に合うか評価する助けになります。

Aeneia Auditのサービスでは、一つの具体的なプロセスと宣言された境界を出発点にできます。受け入れ確認には、ここでは確認用ファイルを読み、ここではツールが拒否し、この経路はまだ評価していない、という検証可能な結果を残す必要があります。それに基づき今後の利用を決めます。この例では、指定ファイルの文章編集を許し、追加接続は修正と再試験まで対象外にできます。作業者は、続けられることと責任者の判断が必要なことを知る必要があります。報告書はエラー一覧で終わらず、その判断につながるべきです。ディレクトリー名は作業の開始点を整理し、確認済みの制限が作業の範囲を定めます。

Aeneia / Aeneia編集部

編集部による記事です。本文中に出典へのリンクがあります。

Aeneiaについて

ご一緒したブランド

  • L’Oréal
  • Garnier
  • Netflix
  • Carrefour
  • Warner Bros. Discovery
  • Biedronka
  • HBO Max
  • Wolt
  • Żabka
  • COSRX
  • 在ポーランド中国大使館
  • Mixa
Aeneia / Initium

知識から決断へ

整理したい課題をお聞かせください。どこから始めるかを一緒に決めます。

Aeneiaに問い合わせる

パートナーのソリューションを活用しています

  • Google
  • OpenAI
  • Microsoft
  • Stripe
  • Anthropic
  • Linear