本文へスキップ
表示言語: 日本語
監査 / Signal

AIの一つのコマンドが、シェルで別の意味になるとき

ファイル名によってコマンドの意味が変わることがある。空白、角括弧、引用符を確認し、AIエージェントがプログラムへ実際に渡した引数を確かめる。

記事の言語: 日本語

大理石の上に置かれた、濃い色のリボンと封印で束ねた紙と、そのそばのペン。
目次

plan zajęć.txtは一つのファイル名だ。それでも、エージェントが起動したプログラムにはplanとzajęć.txtという二つの引数が渡る場合がある。構文として正しく、報告に終了コード0と表示されていても、プログラムが受け取ったデータは合意したものと違うかもしれない。

シェルはBashのようにコマンドのテキストを解釈するプログラムだ。利用者の依頼から実際の動作までの間に、変数を展開したり、パターンに一致するファイルを探したり、式を計算したりする。そのためエージェントの仕事を確認するときは、プログラムに実際に渡った引数を調べる必要がある。会話に表示されたコマンドの見た目だけでは分からない。

元のポーランド語記事を作成した際には、別のディレクトリに架空のファイルを置き、小さな対照試験を行った。起動したプログラムは受け取った引数を表示するだけで、資料の移動や削除、ネットワークへの接続は行わなかった。環境はmacOSのBash 3.2.57とNode.js 24.22.1だった。これはその試験についての証拠であり、すべてのシェル、エージェント用ツール、OSを評価した結果ではない。

プログラムに実際に届いたもの

最初の二つの試験では、plan zajęć.txtを変数の値にした。変数の展開部分を引用符で囲まない場合、プログラムは二つの引数を受け取った。展開部分を二重引用符で囲むと、空白を保った一つの引数になった。文書の内容ではなく、プログラムへ渡すデータの区切りが変わった。

次の比較ではwersja[1].txtという名前を使った。同じディレクトリには意図的にwersja1.txtというファイルも置いた。展開する変数を適切に引用しないと、プログラムは後者の名前を受け取った。角括弧がファイル名を照合するパターンの一部として扱われたためだ。変数を二重引用符で囲むと、wersja[1].txtがそのまま渡った。

引数の個数しか確認しなければ、この違いを見落とす。どちらも一つだったが、値は異なった。したがって検収では、単にコマンドが「ファイルを受け取った」と確認するだけでなく、正確な名前も比較する必要がある。似た文書が複数あると、完全な実行失敗よりも誤選択の方がもっともらしく見えることがある。

対照用プログラムは、実際に受け取った引数の一覧を示す必要がある。エージェントが実行予定のテキストを表示するだけでは不十分だ。確認したい解釈の段階そのものが抜けてしまう。元の試験では、一覧を項目ごとに分かれたデータとして記録した。画面の空白が二つの引数の区切りなのか、一つの名前の一部なのかを推測せずに済む。すべてをつないだ一文で表示すると、両方の結果が似て見えるかもしれない。

ファイルの組み合わせも試験条件だ。角括弧による照合が現れたのは、角括弧のない一致する名前が存在したからだった。そのファイルがないディレクトリでは、シェルの設定によっても結果が変わり得る。再試験では、現在の文書が入った任意のフォルダを使うのではなく、この制御した二つのファイルを保つ必要がある。

BashマニュアルのShell Expansions節は、展開、単語分割、ファイル名展開の順序を説明している。一部の段階では、結果の単語数が増えることがある。最終的な引数一覧が、最初に書いたテキストと同じ形になるとは限らない。

企業の仕事で、空白や角括弧のあるファイル名は珍しい例外ではない。顧客から届いたもの、エクスポートするソフトが作ったもの、次の版を保存した人が付けた名前かもしれない。全員に、いつでも空白のない短い名前だけを使わせると、起動方法の責任を文書管理の流れに移すことになる。名前に制約があるなら明示すべきだが、実行の確認を代わりに省く理由にはならない。

ディレクトリのパスも同様だ。ファイル名を正しく準備しても、親フォルダの名前に空白があると渡し方を誤る可能性がある。対照資料では、この二つの階層を分けて考えるとよい。エージェントは最後のファイル名だけでなく、合意した文書へのパス全体を保つ必要がある。

二重引用符は「すべての解釈を止める」という意味ではない

別の試験ではpomiar-$((2+3)).txtという架空の名前を使った。含まれているのは二つの数を足す無害な式だけだ。この名前を、コマンドのテキスト内の二重引用符の間へ直接貼り付けると、Bashは計算を行った。プログラムに届いたのはpomiar-5.txtだった。引用符は引数を一つに保ったが、意図した文字列まではそのまま保たなかった。

まったく同じ名前を変数の値として渡し、その変数の展開部分を二重引用符で囲むと、プログラムは足し算の表記を含む名前をそのまま受け取った。ここは重要な違いだ。シェルは、あらゆる変数の値を自動的に新しいコマンドのテキストとして再解釈するわけではない。その前にコマンド全体をつないだ経路で、異なる結果が生じた。

Bashマニュアルの二重引用符の説明には、ドル記号やコマンド置換に使う文字など、特別な意味を保つ文字が示されている。任意につないだテキストを二重引用符で囲むだけでは、そのまま渡されるデータにはならない。

元の文章のレビュー中には、対照条件をもう一つ追加した。足し算を含む名前をJSON.stringifyでシリアライズし、その結果をコマンドへ追加した。結果は再びpomiar-5.txtになった。JSONという形式では正しい引用符が付いたが、Bashによる解釈後も名前が文字どおりのデータとして残ったわけではなかった。この関数はシェルの引数を準備する万能な関数ではない。データの形式を整えることと、実行されるテキストを準備することは別の問題だ。

だからといって「二重引用符をすべて単一引用符へ変える」という単純な解決にはならない。データ自体にアポストロフィが入ることも、コマンドが複数のプログラムの層を通ることもある。具体的にどこで解釈されるのかに合う方法が必要だ。工程を検収する人は、組み立てたコマンドのテキストがどこで終わり、独立した引数がどこから始まるかを指摘できる必要がある。

Aeneiaのコンセプト写真

インターフェースの表示が、実際の呼び出しと合っているかも確認する。ツールは簡潔な表示を見せながら、実際には引数一覧でプログラムを起動するかもしれない。逆に、整った一覧を見せていても、後で再び文字列につないでシェルへ渡すことがある。判断の対象はターミナル画面の見た目ではなく、実行の経路だ。

Aeneia Auditの運用レビューでは、エージェントの意図、ツールへ渡したデータ、確認できた結果を分けて考えられる。コマンドについては、動作の選択、引数の準備、その後の解釈のどこで問題が生じたかを整理する助けになる。実装の専門的なセキュリティ評価には、別途定める範囲と適切な専門性が必要だ。

独立した引数一覧で一つの層を除いても、確認は残る

直接起動する条件では、間にシェルを挟まず、独立した引数一覧でプログラムを起動した。pomiar-$((2+3)).txtという名前は変わらずに届いた。この結果は、その具体的な経路での違いを示す。そのように起動すれば、どのプログラムもどんな値でも安全に受け取るという意味ではない。

Node.jsの文書はexecとexecFileを区別している。前者はシェル内でコマンドを実行し、後者は既定では先にシェルを作らずプログラムを起動する。Windowsでのbatファイルやcmdファイルの扱いなど、プラットフォームによる違いにも留意事項がある。

対象プログラムは、受け取った名前をオプションとして解釈する場合がある。ハイフンで始まるファイルについては、ツールの挙動を別に確認する必要がある。引用符によって一つの引数を保っても、それが通常のパスとして扱われるとは限らない。元の試験では、そのような名前も対照資料として用意したが、コピーや削除のツールで操作してはいない。

OWASPは、コマンドとデータの分離、および引数の検証を推奨している。引数の操作による危険も説明している。別のコマンドの実行を防げても、値が意図どおり解釈されるとは限らない。対象プログラムも引数に意味を与える。

ツールがオプションの終了を示す記号を扱えるなら、正しい呼び出しにその記号を含められる。対応しているかは、そのプログラムの文書で確認する必要がある。ハイフン二つを、どんな操作にも使える万能な保護と考えてはいけない。独立した引数一覧も、正しいファイル、保存先ディレクトリ、許可された操作を選んだ証拠にはならない。

AIが準備したZIPアーカイブの検収 (ポーランド語)では、入れ物の内容と内部に記録されたパスの解釈も加わる。アーカイブ名を正しく渡しても、展開が合意した範囲を守るとは証明できない。「パスを正しく引用した」という一言ですべてを約束せず、二つの確認として保つ方がよい。

承認するのは実際に行われる操作だ

承認ボタンには「この文書のコピーを準備する」と表示されているかもしれない。その後の段階で一つのパスが二つに分かれたり、別のファイルに一致したりすると、実行はその判断の内容を超える。人によるAIの動作の承認 (ポーランド語)は具体的な操作と結び付いている必要がある。ここでは、コマンドの解釈を経てもその結び付きが残るかを確かめる。

判断するすべての人に、シェル構文全体の手作業による分析を求める必要はない。よく設計された工程では、認識できる文書、動作、宛先を示し、実行の仕組みがそれらをデータとして保てる。任意のコマンド文を許すツールは、「指定したファイルをコピーする」という限定された機能と、判断の範囲も必要な専門性も異なる。

エージェントのサンドボックス (ポーランド語)は動作できる場所を制限する。解釈を自動的に直すものではない。許可されたディレクトリ内でも、間違ったファイルが選ばれることはある。逆に引数が正しくても、環境のアクセス権が十分狭いとは限らない。検収では、両方の境界を保つ必要がある。

コマンド名だけでなく、実際にどのプログラムを起動したかも記録する。対照試験では、似た名前で偶然見つかったツールではなく、引数を表示する特定のプログラムを指定した。後で実行側が対象プログラムや版を変えたら、過去の結果だけで新しい経路を確認してはならない。引数の確認は、エージェントが実際に使う呼び出しを対象とする必要がある。

OS、シェル、ツールの版、ディレクトリ、対照用の名前を試験条件として残す。受け取った引数一覧と、実際に操作した場所での結果も記録する。元の試験はすべて終了コード0だったが、一部では引数の区切りや内容が変化した。終了コードはプログラムが自身の規則に従って動いたことを示すもので、操作全体が利用者の指示どおりだったことを示すものではない。

起動方法を直してスクリプトの新版ができたら、レビューを現在の差分と結び付ける (ポーランド語)。変更の影響を受けるケースを再確認する。空白のない短い名前で成功しても、角括弧を含む名前で見つかった問題は閉じられない。よりよいコマンドを書き残しただけでも、確認結果にはならない。

AIが作成するテスト報告 (ポーランド語)には、試験で証明できないことも残す必要がある。引数を表示するプログラムは、その区切りと値を確認する。コピーの作成や、別システムによるファイルの受領までは確認しない。検収にその動作も含むなら、実行側は指定した資料で結果を別に確認し、内容を比較する必要がある。

操作前には、保存先に同じファイルがある場合の挙動も決める。パスが正しくても、上書きするのか、処理を飛ばすのか、別名で保存するのかは決まらない。「コピーを準備する」という依頼には、引用符とは別にこの判断が必要だ。証拠には、実際にできたファイルと、以前のものがあった場合はそれへの影響も示す必要がある。これは引数の表示による対照試験が扱っていない追加の範囲だ。

最後に報告は、特定の呼び出しを許可する、既知のデータに限定する、仕組みを修正に戻す、という次の判断につながるべきだ。この試料では境界が明らかだ。plan zajęć.txtは一つの正確な名前として届かなければならない。途中で空白が消えるなら、文書の名前をもっと整えるように教える問題ではない。

Aeneia / Aeneia編集部

編集部による記事です。本文中に出典へのリンクがあります。

Aeneiaについて

ご一緒したブランド

  • L’Oréal
  • Garnier
  • Netflix
  • Carrefour
  • Warner Bros. Discovery
  • Biedronka
  • HBO Max
  • Wolt
  • Żabka
  • COSRX
  • 在ポーランド中国大使館
  • Mixa
Aeneia / Initium

知識から決断へ

整理したい課題をお聞かせください。どこから始めるかを一緒に決めます。

Aeneiaに問い合わせる

パートナーのソリューションを活用しています

  • Google
  • OpenAI
  • Microsoft
  • Stripe
  • Anthropic
  • Linear