AI 에이전트에게 무엇을 허용할까? 첫 작업 전에 경계 정하기
에이전트의 작업, 접근 권한과 승인 지점을 정하고 실제로 작업이 일어난 곳에서 결과를 확인합니다.
본문 언어: 한국어

목차
AI 에이전트는 메시지 초안을 준비할 수도 있고 바로 보낼 수도 있습니다. 그 두 행동 사이에는 우연에 맡기지 말아야 할 결정이 있습니다. 작업 전에 접근 권한, 허용되는 행동, 승인 시점과 결과 검수 방법을 정하세요. 사람은 자신이 무엇을 승인하는지 알아야 합니다. ‘제대로 해 주세요’는 듣기 좋은 말이지만 회사 메일함을 운영하는 지침으로는 부족합니다.
여기서 에이전트는 AI 모델과 도구를 사용해 여러 단계로 작업을 수행하는 시스템을 뜻합니다. 일부 행동을 스스로 선택하므로 목표 설명에는 접근 범위, 행동의 경계와 결과 확인 방법이 함께 필요합니다. 이렇게 회사의 기본 업무 흐름을 구성할 수 있습니다.
검수할 수 있는 작업을 어떻게 적을까요?
기대하는 결과부터 시작하세요. ‘지정된 대장에서 다음 달 갱신되는 계약 목록을 준비해 주세요’는 ‘계약을 처리해 주세요’보다 확인하기 쉽습니다. 수신자, 형식과 완료 기준도 덧붙이세요.
기준이 되는 출처를 지정하세요. 에이전트가 계약서, 스프레드시트와 회의 메모를 본다면 어느 문서의 기한이 유효한지 알아야 합니다. 출처가 서로 다를 때는 차이 목록이 필요합니다. 더 편리한 날짜를 자동으로 고르면 실제 문제가 가려질 수 있습니다.
간단한 작업에는 목적, 출처, 허용 행동, 승인 지점과 실행 증거를 담은 짧은 카드면 충분할 수 있습니다. 올바른 결과의 예도 추가하면 좋습니다. 더 넓은 범위를 주기 전에 작은 작업으로 지침을 시험할 수 있기 때문입니다.
처음에는 어떤 권한을 주어야 할까요?
특정 작업에 필요한 접근 권한을 부여하세요. 지정한 폴더 읽기, 초안 생성과 게시는 별도의 결정이어야 합니다. 도구와 계정을 구성할 때 이런 분리가 기술적으로도 존재하도록 하세요.
접근 기간과 책임자를 기록하세요. 시험을 마친 뒤 어떤 연결이 계속 활성화되어 있는지 확인합니다. 도구는 넓은 권한을 주지만 작업에는 좁은 권한만 필요하다면, 시작 전 평가에서 그 차이가 드러나야 합니다.
시험 단계에서는 테스트 자료나 해당 작업에 사용하도록 승인된 데이터를 사용하세요. 에이전트가 정보 부족을 만나는 상황을 준비합니다. 빠진 금액, 이름 또는 성을 지어내는 대신 빈틈을 보여줄 수 있어야 합니다.
사람은 언제 작업을 승인해야 할까요?
결과에 따라 통제 지점을 정하세요. 공개 페이지 읽기와 표 준비는 보통 송금, 파일 삭제 또는 제안서 발송과 다른 감독이 필요합니다. 외부에 영향을 주는 작업에서는 사람에게 내용, 수신자, 금액 또는 변경 목록처럼 구체적인 결과를 보여줘야 합니다.
‘고객 응대’에 대한 일반적 허가는 에이전트가 환불을 승인하거나 새 기한을 약속해도 되는지 설명하지 않습니다. 이런 권한을 별도로 기록하세요. 내용이나 조건이 바뀐 뒤 무엇에 재승인이 필요한지도 정합니다.
- 발송 전에는 완성된 메시지와 수신자를 보여줍니다.
- 게시 전에는 게시 대상 주소와 자료 버전을 보여줍니다.
- 데이터를 바꾸기 전에는 범위와 이전 상태를 복원하는 방법을 보여줍니다.
- 실행 후에는 실제 작업이 발생한 시스템의 확인을 보존합니다.
마지막 항목이 중요합니다. 에이전트의 ‘완료’ 메시지는 주장입니다. 작업 번호, 애플리케이션의 상태 또는 확인한 게시 페이지 주소는 독립적으로 평가할 수 있는 증거입니다.
문서에서 발견한 지시는 어떻게 다룰까요?
읽은 페이지나 첨부 파일에는 에이전트에게 주는 지시처럼 보이는 텍스트가 들어 있을 수 있습니다. 이를 출처의 내용으로 취급하세요. 공급업체 문서 자체가 회사 파일을 보내거나 작업 규칙을 바꿀 권한을 부여해서는 안 됩니다.
시험에 이런 사례도 포함하세요. 테스트 문서에 범위 밖 행동을 요청하는 내용을 넣고 시스템이 어떻게 반응하는지 확인합니다. 모델에 주는 지시만으로 부족할 수 있으므로 도구 측 제한을 검증하세요. 에이전트가 분리된 환경을 사용한다면 이 시험과 실제 파일 및 네트워크 경계 확인을 연결하세요. 구체적인 방법은 문서 속 외부 지시 시험을 다룬 글 (폴란드어)과 샌드박스의 파일과 네트워크 경계를 다룬 글 (폴란드어)에서 확인할 수 있습니다.
작업 기록을 남기는 것도 유용하지만 로그 내용은 제한해야 합니다. 오류를 찾으려면 문서 식별자와 작업 종류가 필요한 경우가 많습니다. 기밀 내용 전체를 다른 시스템에 복사하면 데이터 흐름이 하나 더 생깁니다.
하나의 작업 카드에 경계를 어떻게 적을까요?
작업 예시입니다. 에이전트가 납기 문의에 대한 답변 초안을 준비합니다. 지정된 주문 대장을 읽고 제안이 담긴 문서를 만들 수 있습니다. 납기를 바꾸거나 메시지를 보낼 권한은 받지 않습니다. 작업 책임자는 어느 필드가 확인된 기한인지, 비어 있으면 어떻게 할지 지정합니다. 이는 업무 구성의 제안이지 모든 제품에서 가능한 기능이라는 설명은 아닙니다.

카드는 다섯 문장으로 쓸 수 있습니다. 정해진 조건을 충족하는 레코드를 고른다. 각각의 출처를 표시한다. 빠진 정보는 누락으로 표시한다. 준비된 답변은 합의된 폴더에 저장한다. 마지막으로 사람의 결정이 필요한 사안 목록을 만든다. 비용 한도와 시험 시간은 별도로 적으세요. 범위를 벗어나면 에이전트는 작업을 스스로 확대하는 대신 구체적인 장애를 전달해야 합니다.
출처를 준비하면서 상충하는 파일을 정리해야 한다면 회사 지식 구조를 정리하는 안내 글 (폴란드어)을 참고해 자료 정리부터 시작하세요. 좋은 지시만으로 대장 책임자를 정하는 일을 대신할 수는 없습니다. 합의한 출처 선택 규칙은 프로젝트 의사결정 기록에 남겨 다음 운영자가 그 이유를 설명할 수 있게 합니다. 의사결정 기록을 작성하는 방법 (폴란드어)에서 남길 항목을 확인하세요.
준비된 작업의 승인에는 무엇이 필요할까요?
검수자는 내용 버전, 대상, 수신자 목록과 작업의 결과를 모두 알아야 합니다. 사람이 메시지 하나를 승인한 뒤 도구가 첨부 파일을 추가하거나 수신자를 바꿨다면 기존 승인은 더 이상 같은 결과를 설명하지 않습니다. 사용하는 연동에서 재검토를 어떻게 강제하는지 확인해야 합니다.
대량 변경에는 범위 요약과 개별 항목을 볼 방법을 제공하세요. 어떤 필드가 대체되는지 모른다면 ‘레코드 80개 수정’이라는 기록만으로는 부족합니다. 시험에서 작업 전후 상태를 비교합니다. 확인은 대화 요약에만 의존하지 않고 대상 시스템에서 가져와야 합니다. 브라우저를 사용하는 AI 에이전트가 작업한다면 승인된 의도, 클릭과 대상 애플리케이션의 확인된 상태를 구분하세요. 브라우저 에이전트에 관한 글 (폴란드어)에서 그 차이를 짚어 봅니다.
코드나 배포에서는 버전과 관련 확인 결과를 제시하도록 요구하세요. 에이전트 작업 후 코드, 접근 권한과 기밀성 검수에 관한 글 (폴란드어)은 작업이 끝난 뒤 남겨야 할 자료를 정리합니다. 게시 승인은 구체적인 주소 및 확인된 동작과 연결하는 것이 좋습니다.
도구 오류 후 재시도는 어떻게 시험할까요?
도구가 작업을 실행했지만 에이전트가 확인을 받지 못하는 상황을 준비하세요. 통제가 없으면 재시도로 중복이 생길 수 있습니다. 적절한 보호 방법은 시스템에 따라 작업 식별자, 상태 조회 또는 수동 판단일 수 있습니다. 모든 연동이 반복을 스스로 알아본다고 가정하지 마세요.
시험 시나리오에서는 결과를 알 수 없다는 메시지와 다음 시도 전의 상태 확인을 기대하세요. 작업이 아예 시작되지 않은 명확한 접근 거부는 별개의 사례입니다. 둘을 구분하면 오류를 평가하기 쉽고 메시지를 없애기 위해서만 더 넓은 권한을 주는 일을 막을 수 있습니다.
작업을 다른 사람에게 넘긴 뒤에는 어떻게 할까요?
대화 기록만이 아니라 작업 상태를 인계하세요. 완성된 자료, 실제 수행한 행동, 결정을 기다리는 작업과 해결되지 않은 오류가 필요합니다. 활성 연결과 각 책임자, 접근을 종료하는 계획도 표시합니다. 이런 묶음이 있으면 통제력을 잃지 않고 세션을 중단할 수 있습니다.
상시 사용 전에 합의한 작업 카드와 실제 동작을 비교하고 실패 사례를 보존하세요. 운영자가 매번 이력을 수동으로 복원해야 한다면 범위를 단순하게 만드세요. 경계가 잘 정해진 에이전트는 팀이 스스로 확인하고 반복할 수 있는 더 작은 작업을 수행할 수 있습니다.
작업 설명을 기술적으로도 확인하세요. 어떤 계정과 연동으로 작업을 수행하며 권한이 업무 범위를 넘지 않는지 살펴봅니다. 이 검토에는 AI 연동 권한에 관한 글 (폴란드어)이 도움이 됩니다. 실행 전에 신고 책임자, 증거 보존과 접근 중단 통제를 포함한 데이터 사고 대응 경로도 준비하세요. AI 데이터 사고의 초기 대응 안내 글 (폴란드어)에서 필요한 순서를 살펴볼 수 있습니다.
업무 흐름이 작동하는지 어떻게 확인할까요?
올바른 작업, 상충하는 출처, 권한 부족, 사용할 수 없는 도구와 범위 밖 행동 요청을 예제로 준비하세요. 기대 동작을 미리 적습니다. 모델, 지침 또는 연동을 바꾸면 관련 확인을 반복합니다.
NIST는 AI 위험 관리를 Govern, Map, Measure, Manage의 네 기능으로 정리합니다. 책임 수립, 맥락 파악, 측정과 위험 대응입니다. 업무 흐름의 전체 생애주기에 관해 질문할 때 유용한 틀이지만 준수 인증서는 아닙니다. 자세한 내용은 NIST AI 위험 관리 프레임워크 (영어)에서 확인할 수 있습니다.
마지막으로 업무 흐름을 중지하고 오류 신고를 모을 사람을 지정하세요. 연결을 끄고 수동 업무로 돌아가는 방법을 정합니다. 그러면 시험에는 분명한 시작, 측정 가능한 결과와 복귀 경로가 생깁니다. 사용 종료가 대기 중인 작업까지 포함하도록 자동화를 종료하는 계획도 별도로 준비하세요. 자동화 종료 안내 글 (폴란드어)에서 남은 작업을 정리하는 방법을 확인할 수 있습니다.
이 규칙을 AI 도구 목록화와 연결하면 좋습니다. AI 도구 목록을 만드는 방법 (폴란드어)은 책임자와 사용 현황, 비용을 정리하는 데 도움이 됩니다. 회사의 접근 권한, 데이터와 책임에 관해 논의하려면 Aeneia Audit 소개를 확인하세요.
사용을 확대하기 전 기준 결과가 있는 AI 시범 운영을 계획하세요. 평가 방법은 AI 시범 운영의 평가 기준 안내 글 (폴란드어)을 참고해 정할 수 있습니다. 자료의 경로를 데이터 흐름 기록부에 적어 지시문 밖에서도 접근 범위를 확인할 수 있게 합니다. AI 데이터 흐름 기록부 작성 방법 (폴란드어)에서 기록할 항목을 확인하세요.
행동의 경계를 사람이 승인하는 구체적인 시점으로 연결하세요. 결정의 설계 방법은 사람의 AI 작업 승인에 관한 글 (폴란드어)에서 설명합니다. 승인자는 준비된 작업, 수신자와 중요한 결과를 볼 수 있어야 합니다. 무엇에 동의하는지 알 수 없다면 ‘확인’ 버튼만으로는 좋은 통제가 되지 않습니다.









