본문으로 건너뛰기
인터페이스 언어: 한국어
감사 / Signal

AI 명령 하나가 셸에서 다르게 해석되는 이유

파일 이름이 명령의 뜻을 바꿀 수 있다. 공백과 대괄호, 따옴표를 확인하고 AI 에이전트가 프로그램에 실제로 전달한 인수를 구분한다.

본문 언어: 한국어

짙은 리본과 금빛 봉인으로 묶인 종이 더미가 펜 옆에 놓여 있다.
목차

plan zajęć.txt는 파일 이름 하나다. 그런데 에이전트가 실행한 프로그램에는 plan과 zajęć.txt라는 두 인수가 전달될 수 있다. 명령 문법이 올바르고 보고서에 종료 코드 0이 표시되어도, 프로그램이 받은 데이터는 합의한 것과 다를 수 있다.

셸은 Bash처럼 명령문을 해석하는 프로그램이다. 사용자의 요청이 실제 동작으로 이어지는 사이에 변수를 확장하거나, 패턴에 맞는 파일을 찾거나, 식을 계산할 수 있다. 따라서 에이전트의 작업을 검수할 때는 프로그램에 실제로 어떤 인수가 전달됐는지 확인해야 한다. 대화에 표시된 명령의 모습만으로는 알 수 없다.

원문인 폴란드어 글을 작성할 때는 별도 디렉터리에 가상 파일을 두고 작은 대조 실험을 했다. 실행한 프로그램은 받은 인수만 출력했다. 자료를 옮기거나 삭제하지 않았고 네트워크도 사용하지 않았다. 환경은 macOS의 Bash 3.2.57과 Node.js 24.22.1이었다. 이 결과는 해당 실험의 근거이며, 모든 셸과 에이전트 도구 또는 운영체제를 평가한 결과는 아니다.

프로그램에 실제로 전달된 값

첫 번째 두 실험에서는 plan zajęć.txt를 변수의 값으로 사용했다. 변수 확장 부분을 따옴표로 감싸지 않았을 때 프로그램은 인수 두 개를 받았다. 큰따옴표로 감싼 경우에는 공백을 유지한 인수 하나를 받았다. 문서 내용이 바뀐 것이 아니라 프로그램에 전달되는 데이터의 경계가 달라졌다.

두 번째 비교에서는 wersja[1].txt라는 이름을 사용했다. 같은 디렉터리에는 의도적으로 wersja1.txt 파일도 두었다. 확장된 변수를 적절히 인용하지 않으면 프로그램은 두 번째 이름을 받았다. 대괄호가 파일 이름을 찾는 패턴의 일부로 해석됐기 때문이다. 변수를 큰따옴표로 감싸자 wersja[1].txt라는 이름이 그대로 전달됐다.

인수 개수만 확인하면 이 결과를 놓칠 수 있다. 두 경우 모두 인수가 하나였지만 값은 달랐다. 따라서 검수에서는 명령이 단순히 '파일을 받았다'고 확인하는 데 그치지 말고 정확한 이름도 비교해야 한다. 비슷한 문서가 여럿 있으면 잘못된 선택이 실행 자체의 실패보다 그럴듯해 보일 수 있다.

대조용 프로그램은 실제로 받은 인수 목록을 보여 줘야 한다. 에이전트가 실행하려는 명령문을 출력하는 것만으로는 부족하다. 확인하려는 해석 단계가 빠지기 때문이다. 원래 실험에서는 인수를 별도 항목이 있는 데이터로 기록했다. 화면의 공백이 두 인수의 구분자인지, 한 이름에 속한 문자인지 추측할 필요가 없었다. 모든 내용을 이어 붙인 문장으로 보여 주면 두 결과가 비슷하게 보일 수 있다.

파일 구성도 실험 조건이다. 대괄호가 패턴으로 작동한 것은 대괄호 없는 이름의 일치하는 파일이 존재했기 때문이다. 그런 파일이 없는 디렉터리에서는 셸 설정에 따라서도 결과가 달라질 수 있다. 재시험할 때는 현재 문서가 들어 있는 임의의 폴더를 쓰는 대신, 의도한 두 파일의 구성을 유지해야 한다.

Bash 매뉴얼의 Shell Expansions 절은 확장, 단어 분리, 파일 이름 확장이 진행되는 순서를 설명한다. 일부 단계에서는 결과 단어의 수가 늘어날 수 있다. 최종 인수 목록이 처음 작성한 명령문과 같다고 볼 수는 없다.

회사 업무에서 공백이나 대괄호가 들어간 파일 이름은 드문 예외가 아니다. 고객이 보낸 파일, 내보내기 프로그램이 만든 파일, 다음 버전을 저장한 사람이 붙인 이름일 수 있다. 모두에게 언제나 공백 없는 짧은 이름만 사용하라고 요구하면, 프로그램 실행 방식에 대한 책임을 문서 관리 절차로 넘기게 된다. 이름에 제한이 필요하다면 명시해야 하지만 실행 확인을 대신할 수는 없다.

디렉터리 경로도 마찬가지다. 파일 이름을 올바르게 준비했어도 상위 폴더 이름에 공백이 있으면 잘못 전달될 수 있다. 대조 자료에서는 이 두 수준을 구분하는 것이 좋다. 에이전트는 마지막 파일 이름뿐 아니라 합의한 문서의 전체 경로를 보존해야 한다.

큰따옴표가 모든 해석을 멈추지는 않는다

다음 실험에서는 pomiar-$((2+3)).txt라는 가상 이름을 사용했다. 여기에는 두 수를 더하는 무해한 식만 들어 있다. 이 이름을 명령문 안의 큰따옴표 사이에 직접 붙여 넣자 Bash가 계산을 수행했다. 프로그램이 받은 값은 pomiar-5.txt였다. 따옴표는 인수를 하나로 유지했지만 의도한 문자열까지 그대로 보존하지는 않았다.

정확히 같은 이름을 변수의 값으로 전달한 뒤 그 변수 확장을 큰따옴표로 감싸면, 프로그램은 덧셈 표현이 포함된 이름을 그대로 받았다. 중요한 차이다. 셸이 모든 변수 값을 자동으로 새로운 명령문처럼 다시 해석하는 것은 아니다. 앞선 단계에서 명령 전체를 이어 붙였을 때 다른 효과가 생겼다.

Bash 매뉴얼의 큰따옴표 설명에는 달러 기호와 명령 치환에 쓰이는 문자 등 특별한 의미를 유지하는 문자가 나와 있다. 임의로 이어 붙인 문자열을 큰따옴표로 감싸기만 해서는 그대로 전달되는 데이터로 만들 수 없다.

원문을 검토하면서 대조 조건을 하나 더 추가했다. 덧셈이 들어 있는 이름을 JSON.stringify로 직렬화하고, 그 결과를 명령문에 이어 붙였다. 이번에도 결과는 pomiar-5.txt였다. JSON으로서는 올바른 따옴표가 만들어졌지만, Bash가 해석한 뒤에도 이름이 원래 데이터로 남지는 않았다. 이 함수는 모든 셸 인수를 준비하는 범용 함수가 아니다. 데이터 형식에 맞추는 일과 실행할 문자열을 준비하는 일은 서로 다른 문제다.

그렇다고 '큰따옴표를 전부 작은따옴표로 바꾸자'는 간단한 결론이 나오지는 않는다. 데이터 자체에 작은따옴표가 들어갈 수 있고, 명령이 여러 프로그램 계층을 거칠 수도 있다. 구체적인 해석 지점에 맞는 방법이 필요하다. 과정을 검수하는 사람은 만들어진 명령문이 어디서 끝나고 별도의 인수가 어디서 시작하는지 짚을 수 있어야 한다.

Aeneia 콘셉트 사진

인터페이스의 표시가 실제 호출과 일치하는지도 확인한다. 도구가 간략한 명령문을 보여 주면서 실제로는 인수 목록으로 프로그램을 실행할 수 있다. 반대로 정돈된 목록처럼 보여 놓고, 나중에 다시 문자열로 합쳐 셸에 전달할 수도 있다. 판단은 터미널 화면의 모양이 아니라 실행 경로를 대상으로 해야 한다.

Aeneia Audit의 운영 검토에서는 에이전트의 의도, 도구에 전달된 데이터, 확인된 결과를 구분할 수 있다. 명령을 다룰 때 이 구분은 동작 선택, 인수 준비, 이후 해석 중 어디에서 문제가 생겼는지 파악하는 데 도움이 된다. 구현의 보안을 전문적으로 평가하려면 별도의 범위와 적절한 전문성이 필요하다.

별도의 인수 목록으로 한 계층을 줄여도 확인할 일은 남는다

직접 실행하는 조건에서는 중간 셸 없이 별도의 인수 목록으로 프로그램을 실행했다. pomiar-$((2+3)).txt라는 이름은 바뀌지 않고 전달됐다. 이 결과는 그 특정 실행 경로의 차이를 보여 준다. 이런 방식으로 실행한 모든 프로그램이 모든 값을 안전하게 받아들인다는 뜻은 아니다.

Node.js 문서는 exec와 execFile을 구분한다. 전자는 셸에서 명령을 실행하고, 후자는 기본적으로 셸을 먼저 만들지 않고 프로그램을 실행한다. 문서에는 Windows의 bat 및 cmd 파일 처리처럼 플랫폼별로 다른 점도 명시돼 있다.

대상 프로그램은 전달된 이름을 여전히 옵션으로 해석할 수 있다. 따라서 하이픈으로 시작하는 파일은 도구의 동작을 따로 확인해야 한다. 따옴표로 감싸 인수 하나를 유지해도 그 인수가 일반 경로로 취급되는 것은 아닐 수 있다. 원래 실험에는 이런 이름도 대조 자료로 준비했지만, 복사나 삭제 도구로 해당 파일을 조작하지는 않았다.

OWASP는 명령과 데이터를 분리하고 인수를 검증하도록 권고한다. 인수 조작의 위험도 설명한다. 추가 명령 실행을 막았다고 해서 값이 의도대로 해석된다는 뜻은 아니다. 대상 프로그램도 인수에 의미를 부여한다.

도구가 옵션 종료 표시를 지원한다면 올바른 호출의 일부로 사용할 수 있다. 해당 프로그램의 문서에서 지원 여부를 확인해야 한다. 하이픈 두 개를 모든 동작에 통하는 보편적인 보호책으로 보아서는 안 된다. 별도의 인수 목록을 썼다는 사실만으로 올바른 파일, 대상 디렉터리, 허용된 동작을 선택했는지도 알 수 없다.

AI가 준비한 ZIP 아카이브를 검수할 때 (폴란드어)는 컨테이너 내용과 그 안에 기록된 경로의 해석까지 확인해야 한다. 아카이브 이름을 프로그램에 올바르게 전달했다고 해서 압축 해제가 합의한 경계를 지킨다는 뜻은 아니다. '경로를 올바르게 인용했다'는 말 하나로 모두 보장하는 대신 두 확인을 구분하는 것이 좋다.

승인은 실제로 실행될 동작에 관한 것이다

승인 버튼에는 '이 문서의 복사본 준비'라고 표시될 수 있다. 이후 단계에서 경로 하나가 둘로 나뉘거나 다른 파일이 선택된다면 실행은 그 결정의 범위를 벗어난다. AI 동작에 대한 사람의 승인 (폴란드어)은 구체적인 작업과 연결돼 있어야 한다. 여기서는 그 연결이 명령 해석 뒤에도 유지되는지 확인한다.

모든 의사결정자에게 셸 문법 전체를 직접 분석하라고 요구할 필요는 없다. 잘 설계된 과정에서는 알아볼 수 있는 문서, 동작, 목적지를 보여 주고 실행 체계가 이를 데이터로 유지할 수 있다. 임의의 명령문을 허용하는 도구의 결정 범위와 필요한 전문성은 '선택한 파일 복사'처럼 정해진 기능과 다르다.

에이전트의 샌드박스 (폴란드어)는 동작할 수 있는 위치를 제한한다. 해석을 자동으로 바로잡지는 않는다. 허용된 디렉터리 안에서도 잘못된 파일을 선택할 수 있다. 반대로 인수가 올바르다고 해서 환경의 접근 권한이 충분히 좁다는 뜻도 아니다. 검수에서는 이 두 경계를 모두 유지해야 한다.

명령 이름과 함께 실제로 실행한 프로그램도 기록한다. 대조 실험에서는 비슷한 이름으로 우연히 발견된 도구가 아니라 인수를 출력하는 특정 프로그램을 지정했다. 나중에 실행 담당자가 대상 프로그램이나 버전을 바꾸면 과거 결과만으로 새 경로를 확인해서는 안 된다. 인수 검사는 에이전트가 실제로 사용할 호출을 대상으로 해야 한다.

운영체제, 셸, 도구 버전, 디렉터리, 대조 이름을 실험 조건으로 보존한다. 받은 인수 목록과 실제로 수행한 위치에서의 동작 결과를 기록한다. 원래 실험의 모든 실행은 코드 0으로 종료됐지만 일부는 인수의 경계나 내용을 바꿨다. 종료 코드는 프로그램이 자체 규칙에 따라 동작했다는 뜻이지 전체 작업이 사용자 요청과 일치했다는 뜻은 아니다.

실행 방식을 수정해 새 스크립트 버전이 생겼다면 현재 변경 내용과 검토를 연결한다 (폴란드어). 변경이 영향을 주는 사례를 다시 확인한다. 공백 없는 짧은 이름이 성공했다고 해서 대괄호가 있는 이름에서 드러난 문제가 해결되지는 않는다. 더 나은 명령을 써 놓은 것만으로 검사 결과가 생기는 것도 아니다.

AI가 작성한 테스트 보고서 (폴란드어)에는 실험으로 확인하지 못한 범위도 남겨야 한다. 인수 출력 프로그램은 인수의 경계와 값을 확인한다. 복사본 생성이나 다른 시스템의 파일 수신을 확인하지는 않는다. 검수에 그런 동작까지 포함된다면 실행 담당자는 지정된 자료로 결과를 따로 확인하고 내용을 비교해야 한다.

실행 전에는 목적지에 파일이 이미 있을 때의 동작도 정한다. 경로가 정확해도 덮어쓸지, 건너뛸지, 다른 이름으로 저장할지는 정해지지 않는다. '복사본 준비'라는 요청에는 따옴표와 무관하게 이 결정이 필요하다. 증거에는 실제 결과 파일과 기존 항목이 있었다면 그 항목에 미친 영향도 보여야 한다. 이는 대조 실험의 인수 출력이 다루지 않은 추가 범위다.

마지막으로 보고서는 특정 호출을 허용할지, 알려진 데이터로 제한할지, 실행 체계를 수정하도록 돌려보낼지 결정할 수 있게 해야 한다. 이 표본에서는 경계가 분명하다. plan zajęć.txt는 정확한 이름 하나로 전달돼야 한다. 전달 중 공백이 사라진다면 문서 이름을 더 깔끔하게 붙이라고 가르칠 문제가 아니다.

Aeneia / Aeneia 편집부

편집부의 글입니다. 본문에 출처 링크가 있습니다.

Aeneia 소개

함께한 브랜드

  • L’Oréal
  • Garnier
  • Netflix
  • Carrefour
  • Warner Bros. Discovery
  • Biedronka
  • HBO Max
  • Wolt
  • Żabka
  • COSRX
  • 주폴란드 중국대사관
  • Mixa
Aeneia / Initium

지식에서 결정으로

정리하고 싶은 과제를 알려 주세요. 어디서 시작할지 함께 정합니다.

Aeneia에 문의하기

파트너의 솔루션을 활용합니다

  • Google
  • OpenAI
  • Microsoft
  • Stripe
  • Anthropic
  • Linear