AI 자동화에서 실행 전에 사람이 승인해야 할 것
가상의 불만 처리 흐름으로 승인 경계와 권한, 거부 및 재시도를 점검합니다.
본문 언어: 한국어

목차
자동화가 불만 답변 초안을 만들었습니다. 이제 ‘보내기’를 누르거나 환불해야 합니다. 그 사이 책임이 바뀝니다. 작업 초안이 고객에게 영향을 주는 행동이 됩니다. 바로 그 경계에 사람의 승인을 두세요.
가상의 매장 절차를 따라가 보겠습니다. R-17은 머그컵 손잡이가 파손된 사례입니다. 시스템은 설명을 읽고 답변 초안을 만들 수 있지만 환불이나 교환을 독자적으로 허용하거나 주문 상태를 바꾸지는 못합니다. 모든 데이터는 가상이며 메시지나 결제를 실행하지 않습니다.
가상 신고 R-17을 바탕으로 담당자가 검토할 자료를 준비하세요.
문제, 빠진 정보, 제안 답변과 행동, 이를 뒷받침하는 사실을 나열하세요.
자료가 결정을 내리기에 부족하면 ‘확인 필요’라고 쓰세요.
어떤 행동도 실행하거나 고객에게 결정이 났다고 알리지 마세요.
신고: ‘포장을 풀었더니 컵 손잡이에 금이 가 있습니다. 사진을 첨부했습니다.
다음에 무엇을 해야 하는지 알려 주세요.’
기준 답안은 문제를 요약하고 다음 단계를 제안합니다. 환불을 확정하지 않습니다. 프롬프트는 자료를 준비할 뿐이며 접근 제한도 자동화 시스템에서 설정해야 합니다.
승인을 어디에 둘 것인가
자동화는 시스템 간에 정해진 작업 흐름입니다. AI 에이전트는 도구와 매개변수까지 선택할 수 있습니다. 메시지 전송 권한이 있다면 실제 전송 직전에 구체적인 내용, 수신자, 첨부 파일을 승인해야 합니다.
n8n은 도구에 대한 사람의 개입 기능을 설명합니다. 흐름이 멈추고 사람이 제안된 매개변수로 실행할지 승인하거나 거부합니다. 이는 기능의 예이며 모든 n8n 프로세스가 올바르게 설정되었다는 증거는 아닙니다.
이 시나리오에서 담당자는 신고 번호, 문제, 답변과 신뢰할 수 있는 시스템의 수신 주소를 봅니다. ‘사건 처리’라는 일반 지시를 승인하는 것이 아닙니다. 버튼은 누른 뒤 정확히 무슨 일이 생기는지 알려야 합니다.
승인 후 내용이나 수신자가 바뀌면 새 승인이 필요합니다. 두 문장이 모두 정중한 인사로 시작해도 첫 번째 버전의 승인이 세 번째 버전에 자동 적용되지는 않습니다.
구체적인 데이터로 승인 화면을 설계하세요. 가상 R-17의 수신자는 klient-test@example.invalid, 첨부 파일은 없음, 내용은 ‘신고를 접수했습니다. 담당자가 자료의 완전성을 확인하겠습니다’입니다. 시연용 주소이며 이 연습에서 전송하지 않습니다.
가상 작업 WYSLIJ_ODPOWIEDZ_R17의 승인 카드를 만드세요.
수신자: klient-test@example.invalid. 첨부 파일: 없음.
내용: ‘신고를 접수했습니다. 담당자가 자료의 완전성을 확인하겠습니다.’
사건 번호, 수신자, 전체 내용과 승인 시 정확한 효과를 보여 주세요.
승인을 무효화해야 하는 변경을 나열하고 거부 메시지도 준비하세요.
메시지를 보내지 마세요.
기준 카드는 버튼 앞에 모든 매개변수를 보여 줍니다. 내용, 수신자, 첨부가 바뀌면 재승인합니다. 거부하면 답변이 전송되지 않은 상태로 남습니다. ‘표준 답변’이라는 설명 아래 메시지 일부가 가려지지 않았는지 확인하세요. 사람은 실제로 수신자에게 전달될 내용을 승인해야 합니다.
카드의 문안을 준비할 때 이메일 프롬프트 (폴란드어)가 도움이 됩니다. 그러나 내용의 정확성과 전송 권한은 따로 기록하세요. 올바른 답변도 적절한 시점이나 결정권자를 기다릴 수 있습니다.
작업에 맞게 권한 제한하기
프로세스에는 필요한 신고만 열어 주고 전체 메일함과 모든 환불에 접근시키지 마세요. 읽기, 초안 작성, 전송, 금융 작업을 구분합니다. 첫 단계에는 읽기와 검토용 자료 저장이면 충분합니다.
OWASP는 과도한 행위 권한을 별도 위험으로 분류합니다. 과도한 기능, 권한, 자율성이 유해한 행동의 원인이 될 수 있습니다. 제한은 도구와 계정에 설정해야 합니다. 프롬프트에 덧붙인 문장으로 시스템 권한이 사라지지는 않습니다.
외부 문서나 메시지에는 모델의 행동을 바꾸려는 지시가 들어 있을 수 있습니다. OWASP는 이를 프롬프트 인젝션으로 설명합니다. 불만 내용에 전체 고객 데이터베이스를 넘기라는 요청이 있더라도 이는 발신자의 데이터이지 실행 권한이 아닙니다.
전달할 정보의 범위는 안전한 AI 데이터 사용 원칙 (폴란드어)에 따라 미리 정합니다. 마지막 단계의 사람은 시작 단계에서 이미 일어난 정보 노출을 되돌릴 수 없습니다.
거부와 재시도를 시험하기
‘승인’ 버튼이 작동하는 것은 시험의 절반입니다. 거부하면 메시지가 전송되지 않는지 확인하세요. 승인 후 수신자를 바꾼 다음 이전 승인으로 전송할 수 있는지도 시험합니다. 가능하다면 도입을 중단하세요.
같은 사건을 두 번 실행해 보세요. 시스템은 승인된 작업이 이미 수행되었음을 알아야 합니다. 이를 멱등성이라고 합니다. 같은 요청을 반복해도 두 번째 효과가 생기지 않는 성질입니다. 확인하려면 작업 식별자와 실제 결과 기록이 필요합니다.
담당자의 응답이 없거나 연결에 오류가 생길 때의 행동도 정의합니다. 침묵은 승인이 아니어야 합니다. ‘전송 시작’은 전달의 증거가 아닙니다. 승인, 실행 시도, 확인된 결과를 각각 기록하세요.
가상의 기록을 보겠습니다. 작업 A-17은 승인되었고 전송이 시작됐지만 결과를 받기 전에 연결이 끊겼습니다. 1분 뒤 프로세스가 다시 실행됐습니다. 기록에는 전송 확인도 서비스의 확인된 거부도 없습니다.
위의 가상 작업 기록 A-17을 분석하세요. 확인된 사건과 알 수 없는 전송 결과를 구분하세요.
연결 중단을 미전송의 증거로 삼지 마세요. 재시도 결정 전에 전송 시스템에서
확인할 데이터와 두 번째 메시지의 위험을 제안하세요.
메일이 도착했다고 단정하지 않는 담당자용 안내를 작성하세요.
올바른 분석은 확인할 때까지 결과를 미상으로 둡니다. ‘전송됨’과 ‘전송되지 않음’ 둘 다와 다릅니다. 실제 복구 방법은 해당 서비스의 기능에 달려 있으므로 사용 전에 설계자가 정해야 합니다. 프롬프트는 문제를 설명할 수 있지만 연결되지 않은 기록을 읽지는 못합니다.
이벤트 기록을 표로 분석한다면 스프레드시트 데이터 확인 (폴란드어)을 적용하세요. A-17 행 두 개는 별도 사건 두 건이 아니라 한 작업의 재시도일 수 있습니다. 실행 수를 세어 효과를 발표하기 전에 행의 의미부터 정하세요.
하나의 전체 흐름 검수하기
테스트 계정과 가상 신고로 입력, 제안, 사람의 결정, 실행, 결과 기록을 살펴보세요. 거부와 재시도도 따로 시험합니다. 이런 자료가 있어야 화면의 도식 밖에서도 경계가 작동하는지 평가할 수 있습니다.
담당자가 응답하지 않는 시나리오도 추가하세요. 대기 중인 사건을 누가 언제 보고 수동으로 인계할지 정합니다. 승인권자 선택을 모델에 맡기지 마세요. 그 역할은 프로세스에서 정합니다. 중단 이유를 기록하고 검수 시 도입팀 밖의 사람에게 R-17을 찾아 메시지 전송 여부를 설명해 달라고 하세요. 알 수 없다면 자동화를 시작하기 전에 상태 표시를 개선합니다.
팀의 합의로 자동화를 만든다면 먼저 회의 메모와 결정 (폴란드어)을 확인하세요. 플랫폼은 작업과 도구 검수 기준 (폴란드어)으로 고릅니다. Aeneia가 개발하는 AI Course (폴란드어)의 프로그램 (폴란드어)에서는 먼저 설명한 프로세스에서 자동화가 나옵니다. 고객에게 연락하기 전에 마지막으로 행동을 멈출 수 있는 지점을 도식에 표시해 보세요.
*원문은 문서를 2026년 10월 30일에 확인했으며 OWASP 항목은 2025년판이라고 밝힙니다. 불만 처리 과정은 가상 시나리오이지 실제 배포된 시스템이 아닙니다.*












