본문으로 건너뛰기
인터페이스 언어: 한국어
감사 / Signal

AI가 문서에서 데이터를 지울 때: 검은 사각형이 검토의 끝은 아닙니다

탐지, 파일 처리와 최종 사본에서 누락, 과도한 제거와 남은 정보를 확인합니다.

본문 언어: 한국어

어두운 반사가 보이는 유리 구 곁에 앉은 여성.
목차

문서 미리보기에서는 모든 것이 좋아 보입니다. 이름도 주소도 검은 사각형으로 가려져 있습니다. 그런데 텍스트를 다른 창에 복사하자 이름이 돌아옵니다. 거실에서는 나가 달라고 했지만 부엌 열쇠는 남겨 둔 손님처럼 말입니다. 눈에 보이게 가리는 것과 정보를 제거하는 것은 다릅니다. 데이터 탐지는 이 작업의 한 단계입니다.

식별 정보의 자동 제거 평가는 입력, 탐지된 부분, 범위 결정, 파일 처리와 결과 확인이라는 전체 경로를 포함해야 합니다. 보고서가 발견한 이름 목록에서 끝난다면 다음 단계로 전달된 자료에 무엇이 들어 있었는지는 아직 답하지 못합니다.

이 글은 인공 문서로 수행하는 운영 시험을 제안합니다. 누락, 과도한 제거, 파일에 남은 정보를 발견하는 데 도움이 됩니다. 특정 자료가 법적으로 익명인지 또는 특정 수신자에게 공유할 수 있는지는 결정하지 않습니다. 그 결정은 모델 평가만이 아니라 적절한 맥락과 책임을 고려해야 합니다.

무엇을 없애고 무엇을 유용하게 남길지 정하세요

작업실 장비에 관한 가상의 신고를 생각해 보겠습니다. 이름, 주소, 연락처와 K22 제품의 문제 설명이 들어 있습니다. 사본의 목적은 신고자의 정보를 밝히지 않고 고장 처리 방법을 논의하는 것입니다. 제품 코드와 문제 설명은 여전히 필요합니다.

따라서 팀은 범위를 정해야 합니다. 참여자마다 뜻을 다르게 이해할 수 있으므로 ‘민감한 데이터를 지워라’만으로는 부족합니다. 시험에서 제거할 정보의 구체적인 범주와 예시를 기록하세요. 남겨야 할 기술 데이터와 사람의 결정이 필요한 부분도 따로 지정합니다.

알려진 식별 정보가 들어 있는 대조 버전을 준비하세요. AI의 도움으로 세트를 만든다면 합성 데이터와 관계의 일관성 (폴란드어)을 확인해 여러 파일의 언급이 실제로 같은 시험용 사람과 사건에 관한 것인지 살펴봅니다. 가상의 이름이 제목, 본문과 첨부 파일에 서로 다른 형태로 나올 수 있습니다. 팀은 모든 위치를 알아야 합니다. 기준점이 없다면 좋은 결과와 단지 눈길을 끌지 않는 결과를 구별하기 어렵습니다.

가장 쉬운 ‘이름: ...’ 형식으로만 세트를 제한하지 마세요. 신고에 ‘이가 프루브나에게 수령에 관한 메시지를 전달해 주세요’라는 문장이 있을 수 있습니다. 참조 수신자나 사진 설명에 다른 언급이 있을 수도 있습니다. 실제 문서 유형에 맞춰 예시를 고르되 가상의 데이터만 사용하세요.

같은 정보가 여러 위치에서 반복되는지도 확인하세요. 이름이 첫 문단에서는 사라졌지만 서명과 인용된 이전 메시지에는 남아 있을 수 있습니다. 대조 카드에 예상되는 모든 출현 위치를 적고 각 위치의 결과를 평가합니다. 목록에 개체 하나를 표시했다고 문서 내 모든 출현을 처리했다는 뜻은 아닙니다. 설정을 바꾼 뒤마다 별도로 시험할 만한 사례입니다.

비슷해 보이지만 남겨야 할 내용도 추가하세요. 제품 코드, 부품 이름 또는 기술 단계 번호가 다른 종류의 식별 정보처럼 보일 수 있습니다. 너무 넓게 제거하면 문서의 의미가 망가질 수 있습니다. 수신자는 이름이 없는 텍스트를 받지만 고장을 이해하는 데 필요한 정보도 없을 수 있습니다.

Microsoft의 PII 탐지 투명성 문서는 누락과 찾는 범주에 속하지 않는 내용의 잘못된 표시 가능성을 설명합니다. 데이터 제거 시나리오에서는 사람의 검토를 고려하도록 권장합니다. 이는 메커니즘의 한계에 대한 설명이지 특정 처리 문서의 확인이 아닙니다.

따라서 결과를 두 방향에서 평가하세요. 사라져야 하지만 남은 것은 무엇인가요? 남아야 하지만 제거된 것은 무엇인가요? 이 오류는 결과가 다르므로 하나의 ‘정확도’ 점수에 숨겨서는 안 됩니다. 예시의 신고에서 남은 연락처와 제거된 K22 코드는 서로 다른 수정이 필요합니다.

AI 사용 전 데이터 최소화 (폴란드어)에서는 먼저 입력 범위 자체를 줄이는 것이 좋습니다. 나중에 세부 사항을 제거할 사람이 있다는 이유로 자동 탐지를 폴더 전체 전송의 근거로 삼아서는 안 됩니다. 시험에는 팀을 안심시키기 위한 더 큰 폴더가 아니라 작업에 맞는 자료가 필요합니다.

부분을 탐지하는 것은 파일 작업의 시작일 뿐입니다

탐지는 텍스트 범위, 범주와 신뢰도 점수를 반환할 수 있습니다. 다음 단계는 그 범위를 올바른 문서 버전에 정확히 연결해야 합니다. 탐지 후 텍스트가 바뀌면 이전 위치가 더 이상 같은 곳을 가리키지 않을 수 있습니다. 작업 순서를 정하고 입력과의 연결을 보존하세요.

도구가 검토할 위치를 표시하는지, 시각적으로 가리는지, 출력 사본에서 내용을 제거하는지 확인하세요. 버튼 이름이 비슷해도 효과를 확인해야 합니다. 검수는 표시된 사각형의 미리보기만이 아니라 모든 단계가 끝난 뒤 저장된 결과를 대상으로 해야 합니다.

Adobe의 PDF 데이터 설명은 보이는 텍스트 외에 메타데이터, 첨부 파일, 댓글과 숨겨진 텍스트도 열거합니다. 이는 보이는 내용과 파일의 다른 위치를 따로 확인해야 하는 이유입니다. 가능성의 목록은 실제 문서에 데이터가 존재하거나 제거됐다는 증거가 아닙니다.

통제된 예시에서 가상의 정보를 보이는 문단에 넣고, 별도로 해당 형식에서 확인할 수 있는 위치, 예를 들어 문서 메타데이터에도 넣으세요. 결과를 저장하고 다시 엽니다. 과정이 계획대로 두 위치를 모두 처리했는지 살펴보세요. 텍스트를 수정했다고 파일의 모든 속성이 자동으로 바뀌었다고 가정하지 마세요.

알고 있는 가상의 이름을 검색하고 제거 영역의 텍스트를 복사해 보세요. 일부 오류를 드러내는 유용한 시험이지만 검색 결과가 없다고 문서의 모든 계층을 완전히 평가한 것은 아닙니다. 확인 범위는 형식, 도구와 이후 사용 방식에 맞춰야 합니다. 더 복잡한 자료에는 별도의 기술적 파일 검증이 필요할 수 있습니다.

Aeneia 콘셉트 사진

결과가 추가 파일과 함께 전달된다면 인계 묶음도 열어 보세요. 마지막 단계의 실수로 올바르게 처리한 사본과 원본이 함께 첨부될 수 있습니다. 시험은 묶음의 실제 내용과 수신자에게 줄 파일을 확인하는 것으로 끝나야 합니다. 이는 이름 탐지 모델을 바꿔도 고쳐지지 않는 별도의 과정 오류입니다. 마지막 단계의 책임자에게는 명확한 검수 조건이 필요합니다.

내보낸 결과도 확인하세요. 한 화면에서는 과정이 올바르게 작동하지만 다음 단계에는 운영자가 본 것과 다른 파일이 전달될 수 있습니다. 공유용 결과물이 무엇이고 어디에 있는지 기록하세요. ‘익명 처리 후’라는 이름이 실제로 확인한 버전과의 연결을 대신해서는 안 됩니다.

문서에 AI 분석 전 OCR (폴란드어)이 필요하다면 탐지 입력을 평가하세요. 잘못 인식된 한 글자가 이름이나 코드를 바꿀 수 있습니다. 텍스트를 다루는 모델은 페이지 이미지에서 여전히 읽을 수 있는 내용을 보지 못할 수 있습니다. 통제 경로는 이 관계도 포함해야 합니다.

마찬가지로 이미지 대체 설명 생성 (폴란드어)은 사진의 텍스트를 새 필드에 넣을 수 있습니다. 흐름에 이미지와 설명이 포함된다면 두 위치를 모두 확인하세요. 문단에서 데이터를 제거한 것만으로 자료의 추가 설명에 무엇이 저장됐는지는 알 수 없습니다.

여전히 사람을 가리킬 수 있는 맥락을 확인하세요

모든 정보에 편리한 라벨이 있는 것은 아닙니다. 가상의 신고에 ‘작은 작업실에서 물품을 받는 유일한 사람’이라는 설명이나 수신자가 알아볼 수 있는 사건의 세부 사항이 남아 있을 수 있습니다. 이름을 지웠다는 사실만으로 텍스트가 사람을 식별할 수 있는지 결정되지는 않습니다. 시험에서는 이런 부분을 별도 맥락 평가 대상으로 표시하세요.

모든 공유 목적에 대해 모델이 하나의 보편적인 결정을 내리기를 기대하지 마세요. 같은 세부 사항이 내부 사건 설명에는 필요하지만 공개 교육 예시에는 필요하지 않을 수 있습니다. 먼저 수신자와 작업을 정하고 그다음 사본에 무엇을 남길지 결정하세요.

인공 자료로 수리 방법 논의와 서비스 사례 공개라는 두 가지 사용을 준비하세요. 팀이 필요한 정보 범위를 비교해야 합니다. 법적 분류를 하려는 것이 아닙니다. ‘이름을 제거하라’는 지침이 문서 준비의 실제 목적에 비해 너무 좁을 수 있음을 드러내려는 것입니다.

맥락이 불명확한 결과에는 결정 책임자가 필요합니다. 도구가 목록의 범주를 찾지 못했다는 이유만으로 자동 게시 승인을 추가하지 마세요. 표시가 없다는 것은 인식하지 못했거나 해당 정보 유형을 지원하지 않는다는 뜻일 수 있습니다. 보고서는 그 불확실성을 보존해야 합니다.

제거 후 의미가 이어지는지도 보세요. 모든 참조가 사라지면 ‘그녀에게 그 부품에 관한 답변을 전달했다’라는 문장이 이해되지 않을 수 있습니다. 사람을 중립적인 역할로 바꾸는 등 승인된 사본 편집이 필요할 때가 있습니다. 이런 편집은 문자 탐지 및 제거 자체와 구분하세요.

큰 변경에는 문서 버전 비교 (폴란드어)가 도움이 됩니다. 정보 제거 중 기술 조건이나 처리 방식을 바꾸는 부정 표현도 사라졌는지 볼 수 있습니다. 읽기 쉬운 결과는 검은 상자의 수 때문에 더 안전해 보이는 데 그치지 않고 목적에 필요한 내용을 유지해야 합니다.

Aeneia Audit 서비스로 이런 흐름의 운영 검토를 시작할 수 있습니다. 범위를 정하기 위해 인공 문서 예시, 제거할 정보 목록과 결과가 전달되는 곳의 설명을 준비하세요.

검수에는 한계와 재시험 방법이 남아야 합니다

각 사례에 입력, 예상 변경 범위, 도구 결과와 최종 사본의 평가를 보존하세요. 원본 자료와 이후 사용할 버전을 분리합니다. 운영자는 이름 끝에 붙은 ‘final’의 순서를 추측하지 않고 올바른 파일을 가리킬 수 있어야 합니다.

알려진 시험 세트에서는 누락되거나 과도하게 변경된 부분의 수를 셀 수 있지만 유형도 보존하세요. 같은 이름의 여러 반복은 서로 독립적인 여러 상황 유형과 같지 않습니다. 숫자는 설명을 돕는 것이지 시험이 쉬운 템플릿 하나만 포함했음을 숨겨서는 안 됩니다. 다음에 범위를 넓힐 때 새 형식이나 배치를 별도 범위로 추가하고 자체 사례로 확인하세요.

오류의 범주와 위치를 기록하세요. 누락된 이름, 처리하지 않은 첨부 파일, 잘못 지정한 범위와 손상된 제품 코드는 서로 다른 행동이 필요합니다. 이 구분은 인식, 처리 순서, 형식 처리 또는 편집 기준 중 무엇을 바꿀지 정하는 데 도움이 됩니다.

수정 후 발견된 사례와 인접한 변형을 다시 시험하세요. 이름 인식이 좋아졌다는 이유로 제품 이름을 확인 없이 제거해서는 안 됩니다. 결과 판정의 임계값을 바꿨다면 두 방향의 오류를 모두 살펴보세요. 더 많은 표시가 있는 문서 하나를 보여 주는 것만으로는 부족합니다.

AI 데이터 보존과 삭제 (폴란드어)는 검토 과정에서 생성된 자료에도 적용됩니다. 원본 사본, 중간 결과와 보고서에는 서로 다른 정보가 있을 수 있습니다. 모든 파일이 똑같이 전달 준비됐다고 취급하지 말고 용도와 접근을 정하세요.

보고서에는 확인한 형식, 언어, 범주와 제외 사항을 명확히 적습니다. 통제된 세트는 문제를 찾는 데 도움이 되지만 회사의 모든 서신에 대한 무조건적인 약속을 뒷받침하지는 못합니다. 사용 확대 결정은 설명된 범위와 책임에 기초해야 합니다.

좋은 과정은 무엇을 찾고 무엇을 바꾸었으며 결과에서 무엇을 확인했는지 보여 줄 수 있습니다. 다른 평가가 필요한 사례를 보류할 수도 있습니다. 검은 사각형은 최종 화면의 일부일 수 있습니다. 작업의 증거는 테두리가 깔끔하다는 사실이 아니라 전체 과정이 합의한 목적에 부합하는 것입니다.

Aeneia / Aeneia 편집부

편집부의 글입니다. 본문에 출처 링크가 있습니다.

Aeneia 소개

함께한 브랜드

  • L’Oréal
  • Garnier
  • Netflix
  • Carrefour
  • Warner Bros. Discovery
  • Biedronka
  • HBO Max
  • Wolt
  • Żabka
  • COSRX
  • 주폴란드 중국대사관
  • Mixa
Aeneia / Initium

지식에서 결정으로

정리하고 싶은 과제를 알려 주세요. 어디서 시작할지 함께 정합니다.

Aeneia에 문의하기

파트너의 솔루션을 활용합니다

  • Google
  • OpenAI
  • Microsoft
  • Stripe
  • Anthropic
  • Linear