본문으로 건너뛰기
인터페이스 언어: 한국어
감사 / Signal

AI 에이전트의 샌드박스: 작업 공간이 실제로 어디서 끝나는지 확인하기

AI 에이전트 샌드박스가 읽기, 쓰기와 네트워크를 제한하는지 인공 파일로 시험하고 지시와 실제 차단을 구분합니다.

본문 언어: 한국어

짙은 리본과 금빛 봉인으로 묶인 종이 더미가 펜 옆에 놓여 있다.
목차

에이전트가 ‘프로젝트 안에서만’ 작업합니다. 잠시 뒤 아무도 과제에 포함하지 않은 이웃 디렉터리의 파일을 요약합니다. 프로젝트 밖의 파일은 한 줄도 바꾸지 않았으므로 쓰기 검사는 여전히 좋아 보입니다. 문제는 무엇을 읽어도 되는지도 합의에 포함되어 있었다는 점입니다.

샌드박스는 프로그램의 특정 행동을 제한하는 환경입니다. AI 에이전트에서는 명령, 파일과 네트워크 연결을 포함할 수 있지만 범위는 솔루션과 구성에 따라 다릅니다. ‘샌드박스’라는 이름만으로 경계가 정해지지는 않습니다. 검수에서는 선언을 구체적인 시험과 실제 실행 관찰에 연결해야 합니다.

아래 계획은 권한이 있는 자신의 환경과 인공 자료를 대상으로 합니다. 보안 장치를 뚫은 사례나 시스템 격리의 완전한 평가가 아닙니다. 어떤 접근이 실제로 차단됐고 어떤 접근은 단지 과제에 필요하지 않았는지라는 구체적인 운영 질문에 답합니다. 두 결과를 보고서에서 같게 취급해서는 안 됩니다.

작업 디렉터리는 출발점일 뿐이다

가구 카탈로그 사이트의 문구를 고치는 가상 과제를 생각해 봅시다. 에이전트는 통제된 프로젝트 사본에서 일하며 지정한 파일과 제안 저장 공간이 필요합니다. 합의에는 다른 프로젝트, 개인 문서, 추가 서비스로 자료 전송이 포함되지 않습니다. 이런 설명을 통해 실제 기밀 데이터를 쓰지 않고 시험을 준비할 수 있습니다.

읽기, 쓰기, 네트워크를 따로 정리하세요. 파일 수정은 제한하면서 폭넓은 읽기는 유지할 수 있습니다. 일부 연결을 차단하면서 로컬 디렉터리 접근은 허용할 수도 있습니다. 하나의 명칭이 서로 다른 범위를 가려서는 안 됩니다. 각각의 기대 동작과 결과를 뒷받침할 자료를 기록하세요.

Claude Code 샌드박스 문서는 시스템 셸인 Bash가 실행하는 명령과 그 명령이 시작하는 프로세스를 다룹니다. 읽기, 쓰기와 네트워크를 구분하며 예외를 명시한 가운데 기본 읽기 범위가 쓰기보다 넓습니다. 앱의 모든 기능이 같은 경계에 포함된다는 선언은 아닙니다.

먼저 무엇이 실제 제한 대상인지 확인하세요. 앱 전체인지, 한 도구의 실행인지, 자식 프로세스인지, 과제를 위해 시작된 별도 환경인지 구분합니다. 에이전트가 여러 도구를 선택할 수 있다면 각각의 실행 경로를 적으세요. 한 명령의 통제만으로 별도 파일 읽기나 외부 연결 가능성을 판단할 수 없습니다.

창 제목에 표시된 디렉터리는 작업 시작 위치를 알아보는 데 도움이 됩니다. 그 이름이 프로그램의 접근 범위를 정하지는 않습니다. 실제 권한과 추가로 연결한 장소를 기록하세요. 연결된 디렉터리마다 읽기 전용인지 쓰기가 가능한지 정합니다. 과제 책임자는 전체 설정을 읽지 않고도 이 구분을 이해할 수 있어야 합니다.

Gemini CLI의 macOS 프로필 설명에는 구체적인 예가 있습니다. permissive-open은 쓰기를 프로젝트 디렉터리로 제한하면서 폭넓은 읽기와 네트워크를 허용합니다. 이는 설명된 프로필의 특성입니다. 이 도구의 모든 실행 방식이나 모든 샌드박스에 그대로 적용하지 마세요.

샌드박스와 자동화 테스트 환경 (폴란드어)도 혼동하지 마세요. 테스트 사본은 인공 데이터와 안전한 주소를 포함해도 컴퓨터에 폭넓게 접근할 수 있습니다. 반대로 실행 제한은 실제 프로젝트에서 작동할 수 있습니다. 검수에서 두 특성을 각각 이름 붙이고 목적에 따라 확인하세요.

실제 비밀 대신 통제용 장소를 준비하기

읽기 시험에는 명령에 적지 않은 가상의 문장이 담긴 작은 파일이면 충분합니다. 작업 디렉터리 밖의 합의된 장소에 두고, 허용 영역에는 별도의 통제 파일을 둡니다. 경계 안에서 도구가 작동하는지, 밖에서는 어떻게 반응하는지 확인할 수 있습니다.

실제 비밀번호, 키나 사적인 통신을 사용하지 마세요. 통제 텍스트는 읽기를 알아보게 해야지 새 데이터 유출 문제를 만들어서는 안 됩니다. 시험에는 사용할 권한이 있고 해당 도구에서 사용하기로 합의한 자원만 포함합니다.

실행 전에 기대 결과를 기록하세요. 프로젝트 디렉터리에서는 읽기와 제안 저장을 허용하고 지정한 이웃 폴더에서는 둘 다 거부할 수 있습니다. 프로젝트 밖의 문서를 일부러 읽을 수 있게 한다면 예외로 표시합니다. 합의 범위가 다르다면 ‘폴더 밖은 모두 금지’라는 기준으로 평가하지 마세요.

쓰기 시험은 지정한 파일에서 별도로 수행하세요. 읽기가 수정 가능성을 증명하지 않고 쓰기 거부도 읽기 거부를 증명하지 않습니다. 작업 후에는 대상 파일의 실제 내용을 확인합니다. 에이전트가 ‘수정안을 저장했다’고 말하면 해당 파일에서 확인되어야 합니다.

변경이 없어야 한다면 초기 상태와 변경되지 않았다는 증거도 보존하세요. 도구가 작업을 수행하지 않았다면 확인할 수 있는 원인을 기록합니다. 답변에 문장이 없다는 것은 거부, 잘못된 경로 또는 모델의 시도 생략 때문일 수 있습니다. 호출을 관찰하지 않고 가장 편한 설명을 고르지 마세요.

보고서에서 세 경우를 구분하세요. 모델이 지시 때문에 거부한 경우, 도구가 행동을 거부한 경우, 행동을 시도하지 않은 경우입니다. 첫 번째는 모델의 행동을 설명합니다. 두 번째는 도구가 해당 시도를 거부했다는 사실을 확인하며, 제한의 방식과 원인은 이용 가능한 증거로 판단해야 합니다. 세 번째는 접근 여부를 결정하지 못합니다. 이렇게 구분하면 거부만으로 원인을 단정하지 않고 무엇이 경계를 지키는지 평가할 수 있습니다.

Aeneia 콘셉트 사진

차단과 파일 자체의 부재를 구분하는 양성 대조 시험도 추가하세요. 권한이 있는 사람이 가상 자료가 지정 위치에 존재하고 기대한 내용을 갖는지 확인해야 합니다. 다음으로 에이전트가 쓰는 경로를 시험합니다. 실제로는 접근을 거부하면서 도구가 파일이 없다고 보고한다면 그 결과와 해석의 한계를 남기세요. 어떤 오류든 효과적인 격리의 증거로 바꿔 적어서는 안 됩니다.

코딩 보조 도구의 파일 제외 (폴란드어)에도 비슷한 문제가 있습니다. 제안에서 자료를 빼는 것이 그 자료를 사용하는 모든 다른 경로를 설명하지는 않습니다. 샌드박스 시험은 선택한 경로의 실행 경계를 확인하는 것이지 단순히 파일이 문맥 목록에 있는지를 보는 것이 아닙니다.

같은 통제 작업에서 일반 읽기 도구와 에이전트가 실행하는 명령을 둘 다 사용한다면 비교하세요. 한 경로에 다른 규칙이 적용될 수 있습니다. 실제 합의된 접근을 반영해 기대를 따로 기록합니다. 목록을 길게 보이게 하려고 메커니즘을 추가하지 말고 해당 과제에서 사용하는 것을 고르세요.

네트워크는 방향과 행동을 구체적으로 시험하기

‘네트워크 꺼짐’이라고 한다면 어떤 구성 요소와 작업 단계에 해당하는지 덧붙이세요. 모델은 답변을 위해 연결이 필요하지만 과제를 실행하는 도구의 트래픽은 제한될 수 있습니다. 선택한 서비스만 접근 가능할 수도 있습니다. 적용 책임자는 이 표현이 흐름의 어느 부분을 뜻하는지 알아야 합니다.

실제 고객 데이터가 없는 자체 통제 대상이나 합의된 다른 자원을 준비하세요. 허용할 연결과 차단되어야 할 연결을 따로 고르고 기대 행동을 기록합니다. 공개 문서 읽기와 파일 내용을 외부 서비스로 보내기는 서로 다른 범위입니다.

‘시험 삼아’ 실제 문서를 전송해 트래픽을 확인하지 마세요. 경로를 확인하는 데는 알아볼 수 있는 인공 자료로 충분합니다. 대상 쪽의 수신 흔적과 도구 쪽의 호출 결과를 보존하세요. 한쪽에서 확인이 없다는 이유만으로 연결 전체가 차단됐다고 단정해서는 안 됩니다.

접근 확대 요청이 나타나면 별도 사건으로 취급하세요. 동의 전 시험과 동의 후 시험은 다른 경계를 다룹니다. 사용자가 도메인을 허용해 결국 도구가 데이터를 보냈다면 그 과정을 ‘연결 차단’이라고 기록할 수 없습니다. 어떤 결정이 범위를 얼마나 오래 바꿨는지가 중요합니다.

확대 시험이 끝난 뒤에는 도구의 규칙에 따라 새 세션이나 다음 과제를 확인하세요. 이전 동의가 계속 적용되나요? 프로젝트, 계정 또는 한 번의 실행에 저장됐나요? ‘허용’ 버튼의 문구만으로 답을 추정하지 마세요. 결정 때 보인 범위를 보존하고 이후 행동과 비교합니다. 일회성 예외를 다음 작업에서도 경계가 변하지 않은 것으로 잘못 설명하는 일을 막습니다.

로컬 모델과 인터넷 없이 작업하기 (폴란드어)는 계산과 추가 도구를 구분합니다. 로컬 답변이 전체 프로세스가 네트워크 없이 작동한다는 증거는 아닙니다. 마찬가지로 한 명령의 샌드박스는 다른 구성 요소가 수행하는 연결을 설명하지 않습니다.

유창한 답변만으로 결과를 평가하지 마세요. 모델은 접근 방법을 설명하면서 실제로 시도하지 않을 수 있습니다. 행동이 일부 실행된 뒤 오류를 반환할 수도 있습니다. 운영 검수에서 중요한 것은 실제 요청과 확인된 결과이며, 관찰하지 못한 부분은 명확히 표시합니다.

구성과 예외를 함께 기록하기

각 시험에 도구 버전, 실행 방식, 계정, 운영체제와 중요한 구성을 덧붙이세요. 비밀이나 전체 환경을 공개할 필요는 없습니다. 책임자가 확인한 범위를 재현할 수 있는 자료가 필요합니다. 같은 이름의 버튼도 업데이트 후 다른 방식으로 작동할 수 있습니다.

책임 있는 AI 에이전트 업무 흐름 (폴란드어)에서 접근을 승인하고 예외에 대응할 사람을 지정하세요. 제한 밖의 명령 하나를 허용한 사실이 ‘샌드박스에서 작업했다’는 포괄적인 설명에 묻혀서는 안 됩니다. 보고서 독자는 일반 경로와 확대된 경로를 구분할 수 있어야 합니다.

추가 도구를 통한 경로도 조사하세요. 에이전트가 별도 MCP 서버를 사용한다면 작업이 평가한 환경의 로컬에서 실행되는지 다른 시스템에서 실행되는지 확인합니다. 같은 창에서 호출했다는 사실만으로 같은 제한이 적용되지는 않습니다. 각 경로에 실행 위치와 사용 계정을 연결하세요.

작업 후 무엇이 남는지도 생각하세요. 저장된 결과, 통제 파일의 복사본, 연결 권한, 보고서가 있을 수 있습니다. 시험이 원본 문서를 바꾸지 않아도 다른 곳에 복사본을 만들 수 있습니다. 알아볼 수 있는 인공 자료의 표시와 작업 결과처럼 확인에 필요한 범위만 기록하세요. 종료 후 합의한 절차에 따라 통제 데이터를 정리하고 실제 환경의 전체 내용 없이 평가 증거를 보존합니다.

디렉터리 변경, 새 서비스 연결 또는 권한 확대 후에는 그 변경의 영향을 받는 사례를 다시 시험하세요. 전체 검토를 자동으로 반복하기보다 관련 시험을 지정합니다. 무엇이 계속 확인된 상태이고 무엇에 새 시험이 필요한지도 기록하세요. 그렇지 않으면 오래된 결과가 한 번도 다루지 않은 범위를 증명하는 것처럼 보일 수 있습니다.

결과를 자체 AI 데이터 흐름 기록부와 연결하세요. AI 데이터 흐름 기록부 작성 안내 (폴란드어)는 기록부를 준비하는 방법을 설명합니다. 읽을 수 있는 파일, 결과가 가는 곳, 허용된 연결을 표시합니다. 기술 이름만 논의하는 대신 과제 책임자가 해당 환경이 목적에 맞는지 평가하는 데 도움이 됩니다.

Aeneia Audit 서비스에서는 구체적인 프로세스 하나와 선언된 경계가 출발점이 될 수 있습니다. 검수 결과에는 여기서는 통제 파일을 읽었고, 여기서는 도구가 거부했으며, 이 경로는 아직 평가하지 않았다는 식의 확인 가능한 사실이 남아야 합니다. 이를 바탕으로 이후 사용 결정을 기록하세요. 예시에서는 지정한 파일의 문구 수정은 허용하되 추가 연결은 개선과 재시험 전까지 범위 밖에 둘 수 있습니다. 과제 수행자는 계속할 수 있는 일과 책임자의 결정이 필요한 일을 알아야 합니다. 보고서는 오류 목록에서 끝나지 않고 이런 결정을 이끌어야 합니다. 디렉터리 이름은 작업 시작점을 정리하고, 확인된 제한은 작업 범위를 정합니다.

Aeneia / Aeneia 편집부

편집부의 글입니다. 본문에 출처 링크가 있습니다.

Aeneia 소개

함께한 브랜드

  • L’Oréal
  • Garnier
  • Netflix
  • Carrefour
  • Warner Bros. Discovery
  • Biedronka
  • HBO Max
  • Wolt
  • Żabka
  • COSRX
  • 주폴란드 중국대사관
  • Mixa
Aeneia / Initium

지식에서 결정으로

정리하고 싶은 과제를 알려 주세요. 어디서 시작할지 함께 정합니다.

Aeneia에 문의하기

파트너의 솔루션을 활용합니다

  • Google
  • OpenAI
  • Microsoft
  • Stripe
  • Anthropic
  • Linear