9월 28일 404 Media는 내부 작업 문서를 근거로 Microsoft Copilot의 일부 이미지 편집 결과를 평가하는 외부 작업자가 사용자의 프롬프트, 원본 사진, 생성된 결과물을 함께 볼 수 있었다고 보도했습니다. 반면 Microsoft가 8월 18일 이후 새 Copilot 앱을 대상으로 공개한 현재 문서에는 프롬프트·응답·파일 내용이 foundation model 학습에 사용되지 않는다고 적혀 있습니다. 두 문장은 서로 같은 이야기가 아닙니다. 사람의 평가와 모델 학습은 별개의 데이터 처리이기 때문입니다.
사진 한 장을 올렸을 뿐인데, 질문은 네 가지로 늘어납니다
가족사진에서 뒤에 지나간 사람을 지우거나, 고객 사진의 배경을 바꾸려고 AI 편집기에 원본을 올렸다고 해보겠습니다. 사용자가 보는 과정은 간단합니다. 사진 선택, 요청 입력, 결과 저장. 하지만 서버 쪽에서는 원본 수신, 처리, 기록 저장, 품질·안전 절차가 별도로 돌아갈 수 있습니다. 특정 업무에는 사람의 평가가 포함될 수도 있습니다.
이번 보도가 주목받은 이유도 여기에 있습니다. 404 Media는 일부 Copilot 이미지 편집 평가 업무에서 검토자가 사용자의 원래 요청과 업로드 사진, 두 개의 생성 결과를 비교하도록 되어 있었다고 전했습니다. 다만 이 보도로 “Copilot에 올리는 모든 사진을 사람이 본다”고 결론내릴 수는 없습니다. 특정 평가 업무가 존재했다는 것과 모든 업로드가 상시 검토된다는 것은 다른 주장입니다.
사진이 기기 밖으로 나가는지, 사람이 선택된 사례를 검토할 수 있는지, 기록은 어떻게 관리되는지, 내가 쓰는 계정과 기능에 어떤 정책이 적용되는지를 각각 확인해야 합니다.
AI 학습, 사람 검토, 보관은 서로 다른 항목입니다
모델 학습은 데이터를 모델 개선이나 구축에 사용하는 문제입니다. 사람 검토는 품질 평가나 안전성 확인처럼 사람이 선택된 대화·결과를 확인하는 문제입니다. 보관은 그 데이터나 활동 기록을 얼마 동안 유지하고 사용자가 어떻게 삭제할 수 있는지에 관한 문제입니다.
Microsoft의 현재 개인용 Copilot 안내는 2026년 8월 18일 이후의 업데이트된 앱을 별도로 구분합니다. 현재 활동 기록 문서는 이 앱의 프롬프트, 응답, 파일 내용이 foundation model 학습에 사용되지 않는다고 설명합니다. 또 개인용 Copilot 앱, Microsoft 365 안의 Copilot, 회사·학교 계정은 적용 문서가 다릅니다. 예전 도움말 한 줄을 모든 Copilot 제품에 그대로 적용하면 안 되는 이유입니다.
이번에 확인한 공개 자료만으로 현재의 모든 Copilot 사진이 사람의 검토 대상이라고 말할 근거도 없습니다. 정확한 표현은 여기까지입니다. 404 Media는 업로드 이미지를 포함한 사람 평가 절차를 보도했고, Microsoft의 최신 공개 문서는 새 앱의 학습과 개인정보 설정을 별도로 설명하고 있습니다. 사용자는 제품 이름과 계정 유형까지 확인해야 합니다.
| 확인할 질문 | 무엇을 봐야 하나 | 왜 중요한가 |
|---|---|---|
| 사진이 기기 밖으로 나가나? | 클라우드 업로드인지 온디바이스 처리인지 | 업로드하는 순간 파일을 다루는 시스템이 늘어납니다. |
| 모델 학습에 쓰이나? | 현재 제품·계정에 적용되는 공식 문서 | 학습은 별도의 데이터 이용 목적입니다. |
| 사람이 볼 수 있나? | 품질 평가·안전 검토·피드백 관련 안내 | 사람의 접근은 학습 여부와 다른 개인정보 문제입니다. |
| 기록은 어떻게 관리되나? | 대화 기록·보관·삭제 설정 | 편집 화면이 닫혔다고 데이터 처리까지 끝난 것은 아닐 수 있습니다. |
사진 속 민감정보는 얼굴만이 아닙니다
사진 속 개인정보는 얼굴만이 아닙니다. 택배 송장, 교복과 명찰, 집 안 구조, 모니터 화면, 계약서, 자동차 번호판, 출시 전 제품이 한 프레임에 들어갈 수 있습니다. 사진관이라면 고객 원본 자체가 업무상 중요한 자료입니다. 소규모 회사라면 제품 시안이나 내부 문서가 배경에 찍혀 있을 수도 있습니다.
메타데이터를 지우는 것은 GPS나 촬영 정보 노출을 줄이는 데 도움이 될 수 있지만, 이미지를 외부 서비스에 업로드했다는 사실까지 바꾸지는 않습니다. 특히 타인의 사진을 다룰 때는 “내가 이 사진을 AI 서비스에 넘겨도 되는가”도 함께 판단해야 합니다.
업로드 전 5분이면 확인할 수 있는 것
- 정확한 서비스명을 확인합니다. 개인용·기업용·업무용 제품은 정책이 다를 수 있습니다.
- 최신 공식 문서를 봅니다. 오래된 FAQ가 구버전 앱에만 적용되는 경우도 있습니다.
- ‘학습 제외’와 ‘사람 검토 제외’를 같은 뜻으로 보지 않습니다.
- 사진 자체의 민감도를 봅니다. 아이, 고객, 주소, 문서, 공개 전 작업물이 들어 있다면 업로드 필요성을 더 엄격하게 따져야 합니다.
- 이 작업이 정말 클라우드를 필요로 하는지 구분합니다. 생성형 배경 교체와 공유 전 워터마크 삽입은 같은 작업이 아닙니다.
SIGNA에서는 Android 기기에서 보이는 워터마크와 보이지 않는 SIGNA 신호를 적용할 수 있습니다. 이 단계 때문에 선택한 사진을 SIGNA AI Lab 서버로 업로드할 필요는 없습니다.
AI 편집이 끝났다면, 다음은 ‘공유용 사진’을 준비할 차례입니다
SIGNA는 생성형 사진 편집기를 대신하는 앱이 아닙니다. 배경을 새로 만들거나 사진 속 사물을 생성형 AI로 바꾸려면 사용자가 선택한 클라우드 편집기가 필요할 수 있습니다. SIGNA가 맡는 지점은 그보다 앞선 ‘공유 전 준비’입니다.
Android에서 지원되는 사진은 기기 안에서 보이는 워터마크와 보이지 않는 SIGNA 신호를 적용할 수 있습니다. 이후 지원되는 파일을 SIGNA에서 확인해 해당 신호가 관찰되는지도 살펴볼 수 있습니다. 이 워터마크·신호 처리 때문에 사진을 SIGNA AI Lab 서버로 한 번 더 업로드할 필요가 없습니다.
이 점이 이번 이슈와 자연스럽게 연결됩니다. 로컬 처리가 다른 앱의 개인정보 정책까지 바꾸지는 못합니다. 사용자가 이후 다른 AI 편집기에 사진을 올리면 그 서비스의 정책이 적용됩니다. 하지만 공유 전 워터마크와 신호를 넣는 단계만큼은 불필요한 업로드를 하나 줄일 수 있습니다.
사진 속 개인정보를 먼저 확인하고 → 이 편집이 클라우드를 꼭 필요로 하는지 판단하고 → 공유용 사진에는 SIGNA에서 보이는 워터마크와 보이지 않는 신호를 기기에서 준비한 뒤 → 필요한 곳에만 파일을 전달하는 방식입니다.
사진을 다루는 흐름에서는 ‘어디서 처리되는가’도 중요합니다
그렇게 단순화하면 오히려 중요한 차이를 놓칩니다. 이번 변화의 핵심은 AI 사진 편집이 너무 자연스러워지면서, 사용자가 ‘사진을 올린다’는 행위를 예전보다 가볍게 여기기 쉬워졌다는 데 있습니다. 결과물은 공개해도 괜찮지만 원본에는 보여주고 싶지 않은 정보가 있을 수 있습니다.
가족사진, 고객 사진, 작업물을 다루는 사람에게 가장 실용적인 기준은 복잡하지 않습니다. 서버가 꼭 필요한 일에는 클라우드를 쓰고, 그렇지 않은 일은 기기 안에서 처리하는 것. 그리고 사진을 넘기기 전에 지금 사용하는 서비스의 최신 정책을 확인하는 것입니다.
주요 출처
404 Media — Humans Are Reading Copilot Prompts — And They’re Horrified (Sep. 28, 2026)
Microsoft — Copilot for individuals: data, privacy and responsible AI
Microsoft — Copilot for individuals: activity history
Microsoft — Copilot for individuals: privacy controls and choices
공유 전 사진을 기기에서 준비하세요
사진을 공유하기 전에 SIGNA에서 보이는 워터마크와 보이지 않는 SIGNA 신호를 기기에서 적용해 보세요. 지원되는 파일은 이후 SIGNA에서 신호가 관찰되는지 다시 확인할 수 있습니다.
