클로드 텍스트 워터마크 완벽 정리, EU AI Act 제50조가 바꾸는 3가지

Table of Contents

안녕하세요! 성징어의 IT 잉크사이트(IT Ink-Sight) 성징어입니다.

지난 8월 14일, 앤트로픽이 기술 설명 문서를 하나 올렸습니다. 앞으로 클로드가 생성하는 텍스트에 워터마크를 넣겠다는 내용이었습니다. 그런데 발표 자체보다 그다음이 더 시끄러웠습니다. 열흘도 안 돼 파리의 한 개발자가 이 워터마크를 지우는 오픈소스 도구를 깃허브에 올렸고, 엑스에 올린 게시물 노출 수가 200만 회를 넘겼습니다. 도구 첫 버전을 만드는 데 걸린 시간은 약 5시간이었다고 합니다.

저는 이 소식을 보면서 두 가지가 동시에 떠올랐습니다. 하나는 “드디어 텍스트에도 출처 표시가 붙는구나”라는 생각이고, 다른 하나는 “그런데 이거 진짜 실효성이 있나”라는 의문입니다. 오늘은 클로드 텍스트 워터마크가 정확히 어떤 기술이고, 왜 하필 지금 나왔으며, 국내 AI 기본법과는 어떻게 맞물리는지 하나씩 짚어보겠습니다.

앤트로픽이 꺼내든 카드, 클로드 텍스트 워터마크의 정체

먼저 오해부터 풀고 가야 할 것 같습니다. 클로드 텍스트 워터마크는 문장 끝에 “이 글은 AI가 작성했습니다” 같은 문구를 붙이는 방식이 아닙니다. 눈에 보이는 표시를 삽입하는 것도 아니고, 유니코드 제로폭 문자 같은 숨은 글자를 심는 방식도 아닙니다.

앤트로픽이 밝힌 핵심은 이렇습니다. 언어모델이 다음 단어를 고를 때 발생하는 미세한 확률적 선택에 특정 패턴을 만들어두고, 나중에 텍스트 전체를 통계적으로 분석해 클로드가 관여했을 가능성을 판단한다는 것입니다. 사람이 읽을 때는 아무런 차이가 없지만, 검증 키를 가진 시스템이 보면 단어 선택 순서에 흔적이 남아 있습니다.

추가 토큰을 생성하지 않기 때문에 이용 비용이 늘지 않고, 모델 속도에 미치는 영향도 미미하다는 점을 앤트로픽은 특히 강조했습니다. 워터마크 자체에 사용자 식별 정보가 담기지 않는다는 설명도 함께 내놨습니다. 워터마크나 검증 키를 통해 특정 사용자나 조직, 특정 대화를 역추적할 수는 없다는 이야기입니다. 그러니까 클로드 텍스트 워터마크는 “누가 썼는지”를 추적하는 시스템이 아니라, “이 글에 클로드가 관여했을 가능성이 얼마나 되는지”를 사후에 계산하는 기술에 가깝습니다.

확률적 단어 선택에 흔적을 남긴다는 것의 의미

조금 더 들어가 보겠습니다. 대형언어모델은 한 번에 한 단어씩 텍스트를 만듭니다. “오늘 날씨는 춥고”라는 문장 다음에 올 단어 후보가 여러 개 있고, 의미상 거의 차이가 없는 후보들이 나란히 있을 때 모델은 그중 하나를 확률적으로 고릅니다.

워터마크가 적용되지 않은 상태라면 모델은 일반적인 난수 생성 방식으로 후보 하나를 뽑습니다. 반면 클로드 텍스트 워터마크가 적용되면 특정 키와 직전에 생성된 몇 개 단어를 조합해 무작위성의 원천 자체를 결정합니다. 개별 단어 선택만 놓고 보면 여전히 자연스럽지만, 긴 텍스트 전체를 훑으면 그 키를 썼을 때 나타날 법한 선택 패턴이 남습니다.

개별 단어 선택만 보면 자연스럽지만, 긴 텍스트 전체를 훑어야 비로소 패턴이 드러난다는 점이 이 기술의 핵심입니다. 앤트로픽은 이걸 보드게임의 주사위에 비유했습니다. 매번 주사위를 굴리는 대신 원주율의 특정 자릿수 열을 이용해 말을 옮긴다고 해보겠습니다. 게임하는 사람 입장에서는 여전히 무작위로 보이지만, 게임이 끝난 뒤 이동 기록 전체와 원주율 숫자열을 대조하면 그 숫자열을 썼는지 계산해낼 수 있습니다. 저는 이 비유가 꽤 직관적이라고 봤습니다. 중요한 건 워터마크가 모델에게 원래 고르지 않았을 이상한 단어를 억지로 고르게 만들지 않는다는 점입니다.

SynthID-Text 계보와 품질 논쟁

이 기술이 앤트로픽이 처음 만든 건 아닙니다. 앤트로픽 스스로 클로드 텍스트 워터마크가 구글 딥마인드의 SynthID-Text 접근법의 한 형태라고 밝혔습니다. SynthID-Text는 2024년 10월 오픈소스로 공개됐고, 관련 논문은 네이처에 실렸습니다. 이미지나 영상 위에 보이지 않는 마크를 남기던 기존 방식과 달리, AI가 단어를 선택하는 내부 확률 분포에 미세한 신호를 주입하는 방식입니다.

계보를 더 거슬러 올라가면 2022년 스콧 애런슨이 제안한 방식까지 닿습니다. 공통점은 언어모델의 단어 선택 과정에서 무작위성이 만들어지는 방식을 조정한다는 데 있습니다.

품질 문제는 어떨까요. 앤트로픽은 내부 테스트에서 워터마크 적용 텍스트와 비적용 텍스트 사이에 콘텐츠, 창의성, 가독성 차이를 확인하지 못했다고 밝혔습니다. 구글 딥마인드 쪽 근거도 함께 제시했는데, 제미나이 트래픽 일부에 워터마크 적용 모델을 투입해 사용자 평가를 비교했더니 통계적으로 유의미한 차이가 나오지 않았다는 내용입니다. 사람이 두 답변을 나란히 놓고 비교한 통제 연구에서도 마찬가지였다고 합니다.

다만 저는 이 대목을 조금 신중하게 봅니다. “평균적으로 차이가 없다”는 것과 “특정 작업에서 절대 손해가 없다”는 것은 다른 이야기이기 때문입니다. 특히 어휘 선택의 정밀함이 결과물의 가치를 좌우하는 번역이나 카피라이팅 같은 영역에서는, 통계적 유의성이 없다는 결과만으로 안심하기는 이르다고 봅니다.

언어모델의 단어 선택 분기에 워터마크 신호가 주입되는 원리를 표현한 이미지

EU AI Act 제50조, 8월 2일부터 무엇이 달라졌나

앤트로픽이 왜 지금 이걸 꺼냈는지는 유럽 쪽 일정을 보면 명확해집니다. 2026년 8월 2일은 EU AI Act에서 두 가지가 동시에 작동하기 시작한 날입니다.

첫째는 집행 권한입니다. 범용 인공지능, 즉 GPAI 모델 제공자에 대한 실체적 의무는 2025년 8월 2일부터 이미 적용되고 있었습니다. 달라진 건 2026년 8월 2일부터 EU AI Office가 이들에 대해 실제로 조사하고 행정적 과징금을 부과할 수 있게 됐다는 점입니다. 규정만 있고 칼자루는 없던 상태가 끝난 셈입니다.

둘째는 제50조 투명성 의무입니다. 이 조항은 생성형 콘텐츠에만 국한되지 않습니다. 이용자가 챗봇 같은 AI 시스템과 직접 상호작용하는 경우의 고지 의무, AI로 생성하거나 조작한 콘텐츠에 대한 라벨링 의무, 감정인식과 생체인식 분류 시스템에 관한 고지 의무를 모두 포괄합니다. 딥페이크도 여기 들어갑니다.

기계판독 가능한 워터마크 요건은 원칙적으로 2026년 8월 2일부터 적용되지만, 그 이전에 이미 시장에 출시된 시스템이 생성한 콘텐츠에 한해서는 2026년 12월 2일까지 유예됩니다. 앤트로픽이 2026년 8월 2일 이전에 출시된 구형 클로드 모델에도 워터마크를 순차 적용하겠다고 밝힌 배경이 바로 이 전환 기간입니다. 해당 작업은 앞으로 수개월에 걸쳐 진행될 예정이라고 합니다.

앤트로픽은 2026년 7월 AI 생성 콘텐츠 투명성에 관한 EU 실행규약에 서명했습니다. 이 실행규약은 2025년 12월과 2026년 3월 두 차례 초안을 거쳐 2026년 6월 10일 최종본이 공표됐고, 최초 서명자 명단에 들어가려면 2026년 7월 22일까지 신청해야 했습니다. 서명 기관은 약 190곳에 이릅니다. 서명 자체는 자율사항이지만, 이 정도 규모가 모였다는 건 사실상 업계 표준으로 굳어지는 중이라는 신호로 읽힙니다.

고위험 AI는 미뤄졌는데 투명성은 왜 그대로였나

여기서 짚고 넘어갈 반전이 하나 있습니다. 원래 2026년 8월 2일은 고위험 AI 시스템 규율이 시작되는 날이기도 했습니다. 그런데 그 일정이 통째로 뒤로 밀렸습니다.

AI Act를 개정하는 EU의 ‘Digital Omnibus’가 2026년 6월 29일 이사회 최종 승인을 받으면서, 채용과 신용평가, 교육, 필수 서비스 등을 포괄하는 독립형 고위험 시스템의 준수 시한이 2027년 12월 2일로 연기됐습니다. 의료기기나 기계류처럼 규제 대상 제품에 내장된 고위험 AI는 2028년 8월 2일로 더 멀리 밀렸습니다.

반면 투명성 의무와 GPAI 집행 권한은 예정대로 8월 2일에 발효됐습니다. 저는 이 비대칭이 상당히 의미심장하다고 봅니다. EU가 “위험도 분류와 사전 적합성 평가”라는 무거운 규제는 산업계 부담을 고려해 늦춰준 반면, “AI가 만든 걸 AI가 만들었다고 밝히는” 최소한의 투명성은 양보하지 않았다는 뜻이기 때문입니다.

한 가지 더 덧붙이자면, 비동의 성적 이미지나 아동 성착취물을 생성하는 AI 시스템에 대한 신규 금지는 조직의 고위험 해당 여부와 무관하게 2026년 12월 2일부터 발효됩니다. 연기된 건 시한이지 요건 자체가 아니라는 점을 기억해둘 필요가 있습니다.

이미지와 파일은 다른 길, C2PA 콘텐츠 크리덴셜

텍스트 이야기만 하다 보면 놓치기 쉬운데, 클로드가 만드는 이미지와 파일에는 다른 방식이 적용됩니다. PNG, JPG, SVG 같은 지원 파일을 생성할 때 앤트로픽은 C2PA 방식의 암호학적으로 서명된 정보를 파일 메타데이터에 넣습니다.

C2PA는 어도비와 마이크로소프트, 구글, 오픈AI, BBC 등이 참여하는 개방형 산업 표준으로, 콘텐츠의 출처와 생성·처리 이력을 기록합니다. 미국 상무부도 2023년 10월 바이든 전 대통령의 AI 행정명령 후속으로 C2PA를 AI 생성 콘텐츠 식별을 위한 기술 표준으로 제시한 바 있습니다. 카메라 제조사와 이미지 편집 소프트웨어에서도 쓰이는 규격입니다.

클로드 텍스트 워터마크와 결정적으로 다른 점은 삽입 위치입니다. C2PA는 픽셀이 아니라 파일 메타데이터에 인증 정보를 기록하기 때문에, 메타데이터를 벗겨내면 그대로 사라집니다. 실제로 국내에서도 소라나 나노바나나 결과물의 표시를 지우는 방법이 유튜브와 레딧에서 공유되고 있다는 보도가 나왔습니다. 윈도의 생성형 지우기나 맥의 클린업 같은 운영체제 기본 도구만으로도 가시적 표시는 지워집니다.

발표 열흘 만에 등장한 제거 도구

이제 이번 사안에서 가장 논쟁적인 지점으로 넘어가겠습니다. 앤트로픽이 클로드 텍스트 워터마크 도입을 발표한 직후, 파리의 기술 창업자 기욤 메이어가 워터마크 작동 방식을 분석해 깃허브에 ‘워터마크 리무버’ 첫 버전을 공개했습니다.

8월 11일 엑스에 관련 게시물이 올라오면서 확산 속도가 붙었습니다. 두 번째 게시물 이후 노출 수가 200만 회를 넘었고, 링크드인에서도 공유가 이어졌습니다. 반응을 확인하려고 새 계정까지 만들 정도였다고 합니다. 그가 만든 도구는 텍스트의 의미를 유지하면서 표현과 단어 선택을 조금씩 바꾼 뒤 다시 검사하는 과정을 반복해 워터마크 신호를 약화시키는 방식입니다.

흥미로운 건 그가 밝힌 동기입니다. 콘텐츠 출처를 표시하는 것 자체에 반대하는 게 아니라, 현재 제안된 워터마크 기술과 적용 방식에 문제를 제기하는 것이라고 반복해서 설명하고 있습니다. 받은 메시지와 댓글의 99.9%가 긍정적이었다고도 했고요. 물론 AI 생성 여부를 알 권리를 근거로 그를 비판하는 목소리도 있습니다.

다만 이 도구가 실제로 얼마나 효과적인지는 아직 미지수입니다. 앤트로픽의 공식 탐지 방식과 탐지 API가 공개되지 않은 상태라 검증 자체가 어렵습니다. 기욤 메이어 본인도 앤트로픽이 탐지기를 공개하면 도구를 계속 수정해야 할 수 있어 개발에 수개월이 걸릴 가능성을 언급했습니다.

오탐 문제가 진짜 쟁점이다

제거 도구 소동보다 저는 그가 제기한 오탐 문제가 훨씬 중요한 쟁점이라고 봅니다.

클로드 텍스트 워터마크는 통계 분석에 기반합니다. 통계 기반이라는 건 확률적 판단이라는 뜻이고, 확률적 판단에는 필연적으로 오탐이 따라붙습니다. 기욤 메이어가 든 예시는 이렇습니다. 연구자가 10쪽짜리 논문에서 마지막 문장 하나만 AI로 다듬었는데 문서 전체가 워터마크 있는 문서로 판별될 수 있다는 겁니다.

영어가 모국어가 아닌 사람이 문법 검사 도구를 쓰는 경우도 마찬가지입니다. 그래머리 같은 도구를 거친 글에 보이지 않는 워터마크가 붙으면, 본인이 직접 쓴 결과물까지 AI 생성물로 분류될 수 있습니다. 저는 이 지적이 상당히 현실적이라고 느꼈습니다. 실무에서 AI를 교정 도구로만 쓰는 사람이 훨씬 많기 때문입니다.

앤트로픽 스스로도 이 기술이 궁극적으로 답할 수 있는 질문은 “이 텍스트가 클로드에 의해 부분적으로 작성됐을 가능성은 어느 정도인가”라고 명시했습니다. 워터마크가 검출됐다고 해서 그 글을 전적으로 AI가 썼다는 뜻은 아니라는 겁니다. 문제는 이 뉘앙스가 실제 운용 현장에서 얼마나 지켜질까 하는 점입니다. 학교나 채용 심사 같은 곳에서 “탐지됨/탐지 안 됨”이라는 이분법으로 소비되기 시작하면, 기술이 의도한 확률적 판단은 순식간에 낙인으로 바뀝니다.

클로드 텍스트 워터마크가 잘 안 통하는 영역

앤트로픽이 밝힌 한계도 정리해둘 만합니다. 워터마크가 모든 AI 텍스트를 완벽하게 잡아내지는 못합니다.

짧은 텍스트에서는 탐지 효과가 떨어집니다. 분석할 단어 선택 자체가 적어서 통계적으로 의미 있는 패턴을 확보하기 어렵기 때문입니다. 반대로 텍스트가 길어질수록 판단 신뢰도는 올라갑니다.

사실관계가 명확한 문장에서도 적용 여지가 좁습니다. 아이작 뉴턴의 대표 저작을 언급하는 문장이라면 다음 단어가 특정 정답이어야 하는데, 정확성을 해치지 않고 다른 단어를 고를 여지가 거의 없습니다. 코드도 비슷합니다. 수식이나 명령어처럼 정해진 표현이 필요한 곳에서는 워터마크의 미세한 조정이 들어갈 자리가 없습니다. 주석처럼 표현 선택의 폭이 있는 부분에만 제한적으로 적용됩니다.

인간이 쓴 글을 교정하는 경우도 마찬가지입니다. 문법과 구두점 정도만 손봤다면 대부분의 단어는 사람이 쓴 것이라 탐지가 안 될 수 있습니다. 반대로 대폭 수정하거나 상당 부분을 새로 썼다면 탐지 가능성이 올라갑니다.

번역은 예외입니다. 최종 텍스트의 각 단어를 클로드가 선택하기 때문에 워터마크가 작동할 여지가 충분히 생깁니다. 클로드가 만든 번역 결과에도 워터마크가 들어간다는 뜻입니다.

마지막으로, 앤트로픽은 텍스트의 모든 단어를 완전히 다시 쓰면 워터마크를 제거할 수 있다고 인정했습니다. 다만 그렇게 전면 재작성한 글을 여전히 AI가 생성한 콘텐츠라고 부를 수 있는지에 대해서는 별도의 논쟁이 있을 수 있다고 덧붙였습니다.

AI 생성물 출처 표시 의무와 워터마크 제거 시도가 맞서는 구도를 표현한 이미지

국내 AI 기본법과 비교하면 온도차가 보인다

여기서 시선을 국내로 돌려보겠습니다. 한국은 EU보다 먼저 움직였습니다. 2026년 1월 22일 AI 기본법이 시행되면서 AI 생성물에 가시적 또는 비가시적 워터마크 표시가 AI 사업자에게 의무화됐습니다. 위반하면 시정명령을 받거나 최대 3천만 원의 과태료가 부과될 수 있습니다.

표시 방식에는 선택지가 있습니다. 일반 생성물은 사람이 인식할 수 있는 표시나 워터마크·메타데이터 같은 기계판독 방식 중에서 고를 수 있습니다. 다만 딥페이크처럼 실제와 구분하기 어려운 콘텐츠는 이용자가 명확히 인식할 수 있는 가시적 표시만 허용됩니다. 여기에 최소 1년 이상의 계도기간이 운영되고 있어서, 그 기간에는 사실조사와 과태료 부과가 원칙적으로 유예됩니다. 인명사고나 인권 훼손 같은 중대 사안은 예외입니다.

EU와 비교하면 접근이 조금 다릅니다. EU 제50조는 GPAI 집행 권한과 함께 묶여 있어서 과징금이라는 실질적 무기가 붙어 있는 반면, 국내는 진흥 기조 아래 계도기간을 길게 두고 연착륙을 유도하는 쪽에 가깝습니다. 어느 쪽이 옳다고 단정하기는 어렵습니다. 다만 앤트로픽 같은 글로벌 사업자가 클로드 텍스트 워터마크를 지역별로 제한하지 못하고 전 세계에 동일하게 적용하기로 한 이상, 국내 이용자도 EU 규제의 결과물을 그대로 받아 쓰게 된다는 점은 짚어둘 만합니다.

유통 단계의 공백, 그리고 정보통신망법 개정안

국내 제도에서 진짜 구멍은 다른 곳에 있습니다. AI 사업자가 워터마크를 붙이더라도, 이용자가 그걸 고의로 훼손해 플랫폼에 유통하는 경우 이용자와 플랫폼을 제재할 법적 근거가 없다는 점입니다.

AI 기본법 시행 보름 만에 유튜브와 레딧에서 워터마크 제거법이 공유되기 시작한 것도 이 공백 때문입니다. 매직이레이저, 바일로, 소메이크 같은 워터마크 리무버들이 커뮤니티에서 추천되는 상황입니다. 권헌영 고려대 정보보호대학원 교수는 “단순히 워터마크 삽입을 강제하는 데 그치지 않고, 이를 우회하거나 제거하는 행위에 대한 법적 실효성을 확보해야 한다”면서도 제재 대상과 범위에는 신중해야 한다는 의견을 밝혔습니다.

국회도 움직였습니다. 조인철 더불어민주당 의원이 2026년 1월 20일 발의한 정보통신망법 일부개정안은 게시자에게 AI 생성물 표시 의무를 부과하고, 플랫폼 사업자에게 표시 유지·관리 의무를 지우며, 이용자의 임의 제거·훼손을 금지하고 위반 시 처벌 근거를 마련하는 내용을 담고 있습니다. 기업의 표시 의무와 이용자의 보존 의무를 결합해 관리 책임을 유통 단계까지 확장하겠다는 취지입니다. 현재 과학기술정보방송통신위원회에서 심사가 진행 중입니다.

저는 이 개정안이 통과되더라도 클로드 텍스트 워터마크 같은 비가시적 방식에는 적용이 애매할 수 있다고 봅니다. 이미지의 다이아몬드 마크를 지우는 행위는 고의성을 입증하기 비교적 쉽지만, 문장을 자연스럽게 다듬는 과정에서 통계적 신호가 약해진 경우를 “고의로 훼손했다”고 규정하기는 훨씬 까다롭기 때문입니다.

공공 정보화 사업 현장에서 지금 챙겨야 할 것들

여기서부터는 제 본업 이야기를 좀 해보겠습니다. 최근 몇 년 사이 공공기관 사업에서 생성형 AI를 활용하는 과업이 눈에 띄게 늘었습니다. 민원 답변 초안 생성, 정책 자료 요약, 보고서 작성 지원 같은 과업이 제안요청서에 들어오는 게 이제 특별한 일이 아닙니다.

클로드 텍스트 워터마크와 EU 제50조의 흐름이 이 현장에 던지는 질문은 세 가지 정도로 정리됩니다.

첫째, 산출물의 출처를 어떻게 기록할 것인가입니다. AI가 생성한 초안과 사람이 검토·수정한 최종본을 구분해 이력으로 남기는 체계가 없으면, 나중에 “이 문서가 AI 생성물인지” 확인해야 하는 상황에서 답을 내기 어렵습니다. 워터마크는 사후 확률 판단일 뿐이고, 정작 필요한 건 조직 내부의 작성 이력입니다.

둘째, 표시 의무 준수의 책임 주체를 계약 단계에서 명확히 해야 합니다. AI 사업자가 워터마크를 넣는 건 사업자 몫이지만, 그 결과물을 공공 문서로 발행하는 순간 표시 여부에 대한 책임은 발주기관 쪽으로 넘어옵니다. 이 경계를 과업지시서나 사업수행계획서에서 미리 정리해두지 않으면 준공 단계에서 애매해집니다.

셋째, AI 탐지 결과를 어떤 용도로 쓸지 미리 정해야 합니다. 앞서 짚은 오탐 문제 때문입니다. 만약 어떤 기관이 제출 문서의 AI 생성 여부를 심사 기준으로 삼겠다고 하면, 그 판단이 확률적이라는 점과 오탐 가능성을 함께 명시해야 분쟁을 줄일 수 있습니다.

한 가지 덧붙이자면, 이 세 가지는 아직 어느 감리 기준에도 표준 항목으로 들어가 있지 않습니다. 그래서 사업관리 담당자가 먼저 챙기지 않으면 그냥 지나가기 쉬운 영역입니다. 저는 국내에서도 EU 제50조 수준의 라벨링 요건이 공공 조달 문서에 반영되는 건 시간문제라고 보고 있습니다.

앞으로 지켜볼 지점

몇 가지를 계속 추적해볼 생각입니다.

가장 먼저는 앤트로픽의 탐지 API 공개 시점과 방식입니다. 회사는 사용자가 텍스트의 워터마크 여부를 확인할 수 있도록 탐지 API를 제공할 예정이라고 밝혔지만, 구체적인 구현 방식은 아직 준비 중입니다. 이 API가 나오면 콘텐츠 검증이 필요한 기업이나 서비스가 자체 시스템에 검증 기능을 붙일 수 있게 됩니다. 동시에 제거 도구 개발자들도 그 시점부터 본격적으로 대응할 수 있게 되겠죠.

다음으로는 다른 사업자들의 후속 조치입니다. 앤트로픽은 다른 주요 AI 사업자들과 함께 관련 조치를 추진하고 있다고 설명했습니다. 실행규약 서명 기관이 약 190곳이라는 점을 고려하면, 텍스트 워터마킹을 도입하는 사업자는 앞으로 더 늘어날 가능성이 큽니다. 그렇게 되면 개별 사업자의 워터마크를 각각 다른 키로 검증해야 하는 상황이 생기는데, 검증 인프라를 누가 어떻게 운영할 것인가라는 새로운 문제가 따라올 겁니다.

국내 쪽에서는 조인철 의원 발의안의 처리 경과와, 계도기간이 끝난 뒤 과기정통부가 실제로 어떤 기준으로 표시 의무 이행을 판단할지가 관건입니다. 저는 계도기간 종료 시점 전후로 세부 가이드라인이 한 차례 정리되어 나올 것으로 예상하고 있습니다.

마지막으로 기술 자체의 진화도 지켜볼 만합니다. SynthID의 개선판으로 언급되는 MirrorMark처럼, 워터마크를 텍스트 전체에 분산시키고 다중 비트 인코딩을 지원해 편집 저항성을 높이는 연구가 이어지고 있습니다. 워터마크를 넣으려는 쪽과 지우려는 쪽의 기술 경쟁은 당분간 계속될 것으로 보입니다.

공공기관 문서 작성 과정에서 AI 초안과 사람 검토본의 이력을 구분해 관리하는 모습을 표현한 이미지

마무리하며

오늘은 클로드 텍스트 워터마크를 기술 원리부터 EU AI Act 제50조라는 배경, C2PA를 통한 이미지·파일 대응, 발표 직후 터진 제거 도구 논란, 그리고 국내 AI 기본법과의 비교까지 차례로 살펴봤습니다.

정리해보면 이번 사안의 구조는 이렇습니다. EU는 고위험 AI 규제 시한은 2027년 12월로 미뤄주면서도 투명성 의무만큼은 예정대로 8월 2일에 발효시켰고, 앤트로픽은 여기에 맞춰 지역 구분 없이 전 세계에 워터마크를 적용했습니다. 그리고 그 발표가 나온 지 열흘도 안 돼 제거 도구가 나왔습니다. 규제와 기술, 그리고 이용자의 반발이 거의 실시간으로 부딪히고 있는 셈입니다.

제가 가장 인상 깊게 본 건 제거 도구 개발자의 논지였습니다. 출처 표시 자체에 반대하는 게 아니라 지금 방식의 정확도와 적용 범위에 문제가 있다는 주장이었는데, 이 지점이 앞으로의 논의를 좌우할 거라고 봅니다. 클로드 텍스트 워터마크가 확률적 판단 도구로 신중하게 쓰이면 콘텐츠 생태계에 도움이 되겠지만, 이분법적 낙인으로 소비되기 시작하면 오히려 억울한 피해자를 만들 수 있습니다.

혹시 여러분은 본인이 쓴 글에 AI 워터마크가 붙는 상황을 어떻게 보시나요? AI를 교정 도구로만 쓰시는 분이라면 더 걱정되실 것 같은데, 어떤 부분이 가장 마음에 걸리시는지 댓글로 이야기 나눠주시면 다음 글에서 더 깊이 다뤄보겠습니다.