回答のリンクからも社外へデータが送られることがある
AIの回答内の画像、リンク、プレビューによる要求をたどり、架空データを使う試験を計画します。
記事の言語: 日本語

目次
アシスタントの回答に小さな画像が表示されました。社員が要約を読んでいる間に、ブラウザーは外部サーバーから画像を取得し、受信先に送信されるパスまたはクエリーパラメーターには分析中の資料の情報が含まれていました。誰もメッセージにファイルを添付していません。結果の表示そのものによって、データの受信先が現れたのです。
これは翻訳事務所での架空の経過です。アシスタントは許可された文書を基にプロジェクトの予定を整理します。内容を新しいサービスに渡さず、社内パネルに回答を示す仕事です。チームはエージェントの送信ツールを制限しましたが、生成された画像やアドレスをパネルがどう扱うかはまだ確認していません。
問題は回答の経路全体にあります。モデルはテキストを作りますが、別の構成要素がそれをリンクに変えたり、画像を取得したり、ページのプレビューを用意したりします。表示場所とその接続も評価に含める必要があります。ブラウザーやプレビューサーバーが隣で動いているなら、「エージェントは何も送信しない」という説明だけでは狭すぎます。
まず要求を実行する主体を見つける
事務所では回答が会話パネルに届きます。パネルはプレーンテキストを表示することも、書式を解釈することもあります。レンダラーとは、記述を画面上の結果に変える構成要素です。外部アドレスで指定された画像を認識する場合、実際の実装でその後何が起きるかを確認します。どのパネルも同じ要素を扱うわけではありません。
MicrosoftはAI出力を管理せず処理するリスクを説明し、結果を描画する際に生じる画像要求も例に挙げています。回答を次の構成要素に渡す前に、信頼できないものとして扱うよう勧めています。
一つのリンクについて、誰がアドレスを認識し、誰が取得を始め、応答がどこに現れるかを図にします。社員のブラウザー、サムネイルを作るサービス、ページを訪れるエージェントのツールかもしれません。それぞれ設定も責任者も異なります。一つの漠然とした「リンク機能」と同一視してはいけません。
自社のプレビューサーバーを使っても、受信先についての問いは終わりません。中継者が送った要求が外部サービスに届けば、受信先は送信されたパスやクエリーパラメーター内のデータを受け取る可能性があります。試行、遮断、実際の受信は記録で確認する必要があります。接続する主体は変わっても、取得先アドレスに入れたデータは管理が必要です。社員のコンピューターのアドレスを隠すことと、宛先URLから内容を除くことは同じではありません。
実行される時点も記録してください。利用者が意識して開く普通のリンクと、自動プレビューや回答表示時に取得される画像は別の経過です。製品によっては結果を展開したときやリンクにカーソルを合わせたときが重要かもしれません。見た目だけから機能を推測せず、パネルで実際に使える機能を受け入れ確認に含めます。
エージェントのサンドボックスとネットワーク制限 (ポーランド語)の評価をこの図に結び付けましょう。エージェントがインターネットを使えなくても、パネルが自分の層でアドレスを開くなら、エージェントの遮断が通過したという結果はパネルの挙動を説明しません。各制御がどの主体を対象とするか示します。
アドレスも渡されるデータの一部
翻訳事務所では、プロジェクト名と納期は仕事の資料に含まれる情報です。外部取得の宛先アドレスに入っても、URLのパスやクエリーパラメーターに書かれたからといって情報でなくなるわけではありません。#以降のフラグメントは通常の要求では送信されませんが、アプリケーションが別途読み取り、他の経路で送ることはあり得ます。受け入れ確認では、サーバー名と社員に見えるラベルだけでなくアドレス全体を調べます。
「出典」という短い表示が、ずっと長い宛先につながることがあります。サムネイルは普通のロゴに見えるかもしれません。どちらも、どのパラメーターが付いたかを自動的に示しません。宛先を開くのに利用者の判断が必要なら、操作前に宛先を認識できる方法が必要です。回答の見た目を承認しても、背後のすべての要求を理解して承認したことにはなりません。
同意を求める質問は、対象の行動より前に行います。パネルがサムネイルを先に取得し、その後「外部ページを開きますか」と尋ねるなら、その確認は別の後続操作に関するものです。先の取得は取り消せません。翻訳事務所でその範囲を合意しているなら、新しい宛先に接続する判断は、その具体的な行動に先立つ必要があります。拒否するケースを試験に加え、ボタンを押した瞬間だけでなく、回答を最初に表示した時点から記録を確認します。
この制御を、参照元ページの情報を伝えるヘッダーと混同しないでください。MDNはReferrer-PolicyをRefererヘッダーに送る情報の制御として説明しています。宛先URLからデータを除く機能の説明ではありません。
したがって、参照元情報の制限は、アプリケーション自体が取得用に用意したアドレスの評価に代わりません。証拠では二つを別項目にします。そうしないと、一つの制御を正しく確認しただけで、回答に伴う通信をすべて確認したと誤認するかもしれません。
利用する仕組みがリダイレクトに従う場合は、それも確認します。最初のアドレスが既知でも、その後のすべての受信先の身元が自動的に証明されるわけではありません。実装担当者は、パネルまたは中継者が宛先変更をどう扱い、どの制限が維持されるかを示す必要があります。見えるリンクから最初のサーバー名を読むだけでは足りません。
処理を開始するイベントの署名 (ポーランド語)も、本文中のあらゆるアドレスを取得する権限を与えるものではありません。社内サービスからの本物のメッセージにも、外部の人が加えたテキストが含まれることがあります。配送の出所、リンクの出所、データ転送の許可は別々の根拠を持ちます。
新しい宛先へ自動接続せずに結果を読めるようにする
プロセスの責任者は、外部画像やプレビューがそもそも必要か先に決めます。翻訳予定の要約で価値があるのは納期と依存関係です。装飾画像は仕事に何も加えないかもしれません。その場合、装飾のために複雑な例外を維持するより、自動取得をやめる判断のほうが簡単なこともあります。

内容を確認するために、承認済みの出典へのリンクは必要かもしれません。設計では、アドレスの表示と訪問を区別し、合意された開き方を提供します。利用者は何が行われ、どの構成要素が実行するか分かる必要があります。
OWASPはImproper Output Handlingを後続利用前の出力管理が不十分な状態として説明し、文脈に合った検証とエンコードを挙げています。一つの一般的な「浄化」操作だけでは、回答のあらゆる使い方を説明できません。
パネルで許可する書式要素と外部リソースの扱いを実装担当者と決めます。画像、普通のアドレス、取得されるプレビューには異なる規則が適用されることがあります。説明は使用中のバージョンを対象にします。アクティブHTMLを無効にしただけでは、他の対応要素についての問いには答えられません。
ブラウザーの一つの層としてCSP、Content Security Policyがあります。ページで許可するリソースを定める規則です。img-srcディレクティブは許可される画像の出所を指定します。その名前と範囲だけで、すべての画面遷移や別のプレビューサーバーによる要求まで自動的に遮断されるわけではありません。
受け入れ確認には、ポリシーが実際にどこで有効かという情報が必要です。ブラウザーで外部画像が遮断されたなら、その結果はその要求と設定に関するものです。サムネイルを取得する中継者には別の経路があります。利用者が一つのパネルで見るというだけで、一つの正しい結果をすべての構成要素に広げないでください。
無害な印で試す
この経路の調査に機密文書を使う必要はありません。実装担当者と閉じた環境、合成資料、管理された試験用受信先を用意します。印は明らかな架空の値で、顧客データに似ず、試験記録から見つけやすいものにします。これは提案する確認方法であり、この記事で試験を実施したという宣言ではありません。
まず通常の課題結果を定めます。指定範囲の外へ印を合意なく渡さず、パネルで回答を読める状態です。次に合意した表示・開封方法を順に試します。それぞれ、アドレスがテキストに現れただけか、接続を試みたか、要求が遮断されたか、管理された受信先が何を受け取ったかを記録します。
アドレスの文字が見えるだけでは、送信が起きた証拠になりません。反対に画面に画像がなくても、要求がなかった証拠にはなりません。取得が失敗したり、画像が見えなかったりする場合があります。会話のスクリーンショットだけでなく、適切なネットワーク記録を使って評価します。
通常の許可済み対照資料も加えます。パネルが出典の表示をすべて遮断すると、必要な確認までできなくなるかもしれません。事務所の目的は、別の受信先に内容を自動開示せず、正しいプロジェクト手順へのリンクを保つことです。制限の効果と承認済み経路の使いやすさは別々に試します。
証拠には資料の版、表示前の回答、パネルの設定、実際の操作を残します。実装担当者は要求または遮断をどこで記録したか示す必要があります。エージェントツール自体のログには、後からブラウザーが開始した接続が含まれないかもしれません。それはログの誤りとは限らず、見る場所が違った可能性があります。
観察結果を表示前の回答と照らし合わせます。アドレスの出所を明らかにする助けになります。複数の層が介在する場合は、それぞれの記録も必要です。受信が確認された場合は、利用できる記録を基にどの構成要素が印を渡したか示します。遮断された試行では、到達を仮定せず、受信を確認できなかったことと利用できる記録を残します。最終ログに印があるだけでは原因全体は説明できません。記録はテキストの版、パネルの動作、記録された要求を結び付ける必要があります。別の部分が行った操作をモデルの動作としてはいけません。
保存後に回答の環境が変わることがある
あるパネルで取得を伴わずに読んだ結果が、メッセージや文書にコピーされることがあります。その途中で内容の解釈方法が変わります。AIが作成したHTMLやSVGファイル (ポーランド語)では、アクティブな内容と開く条件を確認します。ここでは、そうした資料になり得る普通の会話の回答から、より早い段階で始めます。
リンクや外部リソースを含むOffice文書 (ポーランド語)にも別の受け入れ確認が必要です。すべてのエクスポートが危険だと仮定する必要はありません。実際に評価した形式と利用経路を示します。ファイルを保存しても、パネルの制限が受信者のプログラムに自動で引き継がれるわけではありません。
パネルの修正後は、合意されていない要求を明らかにしたケースを再試験します。正しい手順も許可された経路で引き続き開けるか確認します。レンダラー、サムネイルサービス、エクスポート方法が変わった場合、以前の証拠はその版を対象としていないかもしれません。受け入れ確認にはアシスタントの名前だけでなく現在の構成要素を示します。
以前保存した会話も忘れないでください。社員が古い回答を新しいパネルで開く場合があります。変更した規則がこの再表示にも適用されるか実装担当者と定め、試験資料で確認します。新しい生成だけを受け入れ確認しても十分ではありません。事務所にとって古い予定も業務文書であり、再表示にも意識して定めた規則が適用される必要があります。
文書中のプロンプトインジェクション (ポーランド語)は、外部の指示がどこから来るかを説明します。この確認では、その後誰がネットワーク要求を実行するかを定めます。二つの問いを分ければ、将来のモデル回答をすべて完全に解釈できると約束できなくても、具体的な結果を制限できます。
Aeneia Auditでは、AIの利用とデータの流れに関する運用上の確認範囲や、別途専門的なセキュリティ検証が必要かを相談できます。レンダラーとネットワークの技術的な保護には、適切な実装担当者と別の確認が必要です。翻訳事務所の目的は、読み、指定された出典で確認できる要約です。外部画像が予定の新たな受信先をひそかに加えるべきではありません。







