- 이미지 워터마크·신호: 이미지 자체에 사람이 보거나 기계가 찾을 수 있는 표시를 남깁니다.
- LLM 텍스트 워터마킹: 언어 모델이 다음 토큰을 선택하는 과정에 통계적 패턴을 만듭니다.
- Content Credentials: 생성·편집 이력에 관한 정보를 서명된 provenance 구조로 연결합니다.
- AI 라벨: 플랫폼이나 서비스가 사람에게 “AI가 관여한 콘텐츠”임을 알려주는 표시입니다.
같은 사진을 보고도 서로 다른 질문을 할 수 있습니다
예를 들어 SNS에서 낯선 이미지를 봤다고 가정해 보겠습니다. “이 이미지는 생성형 AI가 만들었을까요?”, “누가 어떤 도구로 편집했을까요?”, “특정 시스템이 넣은 신호가 남아 있을까요?”, “플랫폼이 AI 생성 콘텐츠라고 표시했을까요?”는 모두 다른 질문입니다. 하나의 워터마크나 라벨이 이 네 질문에 동시에 답해 주는 것은 아닙니다.
이 차이를 놓치면 “AI 표시가 없으니 사람이 만든 이미지다”, “Content Credentials가 있으니 내용도 사실이다”, “보이지 않는 신호가 검출됐으니 모든 편집 이력을 알 수 있다”처럼 기술이 제공하는 정보보다 더 큰 결론을 내리기 쉽습니다. 최근 AI 콘텐츠 표시 논쟁을 볼 때 가장 먼저 필요한 것은 기술 이름을 외우는 것이 아니라 어떤 종류의 정보를 다루는지를 구분하는 일입니다.
| 표시 방식 | 주로 기록되는 곳 | 주로 답하는 질문 |
|---|---|---|
| 보이는/보이지 않는 이미지 워터마크 | 이미지 픽셀·신호 | 특정 표시나 신호가 이미지에 존재하는가 |
| LLM 텍스트 워터마킹 | 토큰 선택의 통계적 패턴 | 특정 생성 방식의 패턴이 텍스트에 관찰되는가 |
| Content Credentials | 서명된 manifest와 콘텐츠의 바인딩 | 어떤 provenance 정보가 기록·검증되는가 |
| AI 라벨 | 서비스 UI·게시물 표시 | 사용자에게 AI 관여 사실을 어떻게 알릴 것인가 |
왜 이제 ‘표시’가 AI 인프라의 일부가 되었을까요?
생성형 AI는 이미지·영상·음성·텍스트를 만드는 비용을 크게 낮췄고, 편집 AI는 기존 콘텐츠를 수정하는 문턱도 낮췄습니다. 결과물의 외형만으로 제작 과정을 추정하기 어려워지면서, 생성 또는 편집 과정에서 정보를 함께 남기거나 유통 단계에서 이를 표시하려는 움직임이 커졌습니다.
EU AI Act 제50조의 투명성 의무도 이 흐름의 한 사례입니다. 유럽연합 집행위원회가 2026년 8월 공개한 가이드에 따르면 제50조는 2026년 8월 2일부터 적용되며, 대상 AI 시스템 제공자에게 AI로 생성·조작된 콘텐츠를 탐지할 수 있도록 기계 판독 가능한 표시를 추가하는 의무를 두고 있습니다. 딥페이크와 일부 공익 관련 텍스트에는 배포자 측의 공개 의무도 별도로 다뤄집니다.
여기서 중요한 점은 규제가 하나의 “정답 워터마크”를 지정한다는 뜻이 아니라는 것입니다. 이미지, 영상, 음성, 텍스트는 데이터 구조가 다르고 서비스가 전달하려는 정보도 다르기 때문에 구현 방식도 목적과 매체에 따라 달라집니다.
이미지 워터마크는 ‘이미지 자체’에 표시를 남깁니다
가장 익숙한 형태는 사진 위에 이름이나 로고를 얹는 보이는 워터마크입니다. 사람은 즉시 표시를 알아볼 수 있지만 사진의 일부를 가릴 수 있고, 크롭이나 편집으로 모습이 달라질 수 있습니다.
보이지 않는 이미지 워터마크는 사람이 보는 그래픽 대신 이미지 신호에 패턴을 넣고, 호환되는 검출기가 나중에 그 패턴을 찾도록 설계합니다. Google DeepMind의 SynthID도 이미지·영상·음성·텍스트에 서로 다른 방식의 워터마킹을 적용한다고 설명합니다. 이미지의 경우 생성 시점에 보이지 않는 디지털 워터마크를 넣고, 일부 일반적인 변형을 고려해 설계합니다.
다만 “보이지 않는다”와 “항상 남아 있다”는 같은 말이 아닙니다. 리사이즈, 크롭, 재압축, 스크린샷, 플랫폼 변환, 생성형 편집처럼 이미지 자체가 달라지는 과정은 신호의 관찰 가능성에 영향을 줄 수 있습니다. 그래서 실제 워터마크 시스템은 어떤 변형을 어떤 조건에서 시험했는지를 함께 봐야 합니다.
SynthID-Text는 사진 워터마크와 작동 위치부터 다릅니다
텍스트에는 픽셀이 없기 때문에 이미지와 같은 방식으로 신호를 삽입할 수 없습니다. Nature에 공개된 SynthID-Text 연구는 언어 모델이 다음 토큰을 선택하는 sampling 단계에 워터마킹을 결합합니다. 연구에서 설명하는 Tournament sampling은 후보 토큰을 키 기반 점수와 함께 선택해, 긴 텍스트 전체에서 검출 가능한 통계적 패턴을 만들도록 설계됩니다.
이 연구는 평균적인 토큰 분포를 보존하도록 설계된 non-distortionary 구성과, 더 높은 검출성을 위해 품질과 절충할 수 있는 distortionary 구성을 구분합니다. 대규모 Gemini 응답 실험에서는 텍스트 품질 저하가 측정되지 않았다고 보고했습니다.
2026년 9월 Lasso Security는 SynthID-Text의 non-distortionary 구성을 여러 오픈 모델에 적용해, 워터마킹 유무에 따라 일부 tool call과 거부 행동이 달라질 수 있다는 실험 결과를 공개했습니다. 연구팀은 이를 sampling drift라고 불렀습니다. 이 문제 제기는 LLM의 토큰 선택 과정에 개입하는 텍스트 워터마킹에 관한 것입니다. 이미지 픽셀에 신호를 넣는 워터마크에 같은 현상을 그대로 적용할 근거는 없습니다.
Content Credentials는 ‘신호 찾기’보다 ‘이력 연결’에 가깝습니다
C2PA의 Content Credentials는 디지털 자산의 provenance, 즉 생성·편집 과정에 관한 정보를 다루는 공개 표준입니다. C2PA Manifest에는 자산에 관한 하나 이상의 assertion이 들어가고, claim과 디지털 서명을 통해 해당 정보와 콘텐츠 사이의 관계를 검증할 수 있도록 설계됩니다.
이 구조는 특정 워터마크 패턴의 존재를 찾는 것과 목적이 다릅니다. Content Credentials에는 생성 도구, 편집 작업, AI 사용 여부 같은 이력 정보가 포함될 수 있으며, C2PA는 이를 콘텐츠와 암호학적으로 연결하는 방법을 정의합니다. 또한 C2PA는 embedded manifest뿐 아니라 invisible watermark나 fingerprint를 이용한 soft binding도 설명하고 있습니다.
그렇다고 Content Credentials가 콘텐츠의 내용 자체가 사실인지 판정하는 것은 아닙니다. C2PA도 provenance 정보의 구조와 서명·바인딩을 검증하는 것과 “이 이미지가 현실을 정확히 묘사하는가”라는 사실 판단을 구분합니다.
사람에게 보이는 AI 라벨은 또 다른 역할을 합니다
기계가 읽는 신호가 있어도 일반 사용자가 직접 그 신호를 검사하지 않는다면 투명성 효과는 제한될 수 있습니다. 그래서 플랫폼이나 생성 서비스는 게시물 옆에 AI 관련 라벨을 표시하거나, 별도의 정보 화면에서 생성·편집 정보를 보여주기도 합니다.
이 라벨은 사람이 빠르게 맥락을 이해하도록 돕는 UI입니다. 반면 이미지 워터마크는 이미지 신호에, Content Credentials는 provenance 구조에, 텍스트 워터마킹은 생성 과정의 통계 패턴에 존재합니다. 서로 결합될 수는 있지만 하나를 다른 하나와 동일시해서는 안 됩니다.
표시가 없을 때는 무엇을 의미할까요?
가장 주의해야 할 해석은 “표시가 보이지 않으니 AI가 사용되지 않았다”는 결론입니다. 표시가 처음부터 생성되지 않았을 수도 있고, 다른 시스템에서 생성됐을 수도 있으며, 스크린샷·재인코딩·크롭·메타데이터 제거·플랫폼 처리 같은 유통 과정에서 일부 정보가 사라졌을 수도 있습니다.
반대로 특정 시스템의 신호나 Content Credentials가 확인되더라도 그 결과를 모든 AI 도구에 대한 보편적인 판정으로 확대해서는 안 됩니다. 확인된 것은 어디까지나 그 시스템이 정의한 신호 또는 기록입니다.
그렇다면 SIGNA는 어디에 위치할까요?
SIGNA는 “이 콘텐츠가 AI가 만든 것인지 판정하는 서비스”가 아니라, 내가 사진을 공유하기 전에 무엇을 준비할지 정하는 흐름에 초점을 둡니다. 지원되는 이미지에 보이는 워터마크를 넣을 수 있고, 사진을 가리지 않는 보이지 않는 SIGNA 신호를 함께 추가할 수 있습니다. 이후 지원되는 이미지가 다시 돌아왔을 때 SIGNA 신호가 관찰되는지 확인하는 흐름으로 이어집니다.
주요 이미지 처리와 확인은 기기 내 로컬 처리를 중심으로 설계되어 있어, 선택한 이미지를 SIGNA AI Lab의 이미지 처리 서버로 올려야 하는 구조가 아닙니다. 따라서 “AI 생성 콘텐츠를 표시하는 기술”과 경쟁하기보다는, 사용자가 공유 전에 자신의 이미지를 어떻게 준비할 것인가라는 다른 문제를 다룹니다.
SynthID-Text, Content Credentials, 플랫폼 AI 라벨, 이미지 워터마크는 서로 대체 관계가 아닙니다. 각각이 어떤 질문에 답하는지 구분할수록 기술의 장점도 한계도 더 정확하게 읽을 수 있습니다.
주요 참고자료
Nature — Scalable watermarking for identifying large language model outputs
Lasso Security — The Provenance Tax, 2026-09-17
사진을 공유하기 전에 한 번 더 준비해 보세요
내 사진을 공유하기 전에 보이는 출처 표시가 필요하다면 워터마크를, 사진을 가리지 않는 별도 신호이 필요하다면 보이지 않는 SIGNA 신호를 목적에 맞게 사용할 수 있습니다. 이후 지원되는 이미지에서는 SIGNA 신호가 관찰되는지도 확인할 수 있습니다.