Claude가 11월 3일부터 텍스트 워터마크를 구형 모델 몇 가지로 확대한다는 이야기를 봤다(8월 이후 나온 새 모델에는 원래부터 있었다). 눈에는 보이지 않고, 복사해 붙여넣어도 남는다고 한다. 내 질문은 이거였다. 나는 그냥 복사해서 붙여넣었을 뿐인데, 왜 워터마크가 그대로 있을까?

처음에는 보이지 않는 문자를 심어 둔 줄 알았다. 그런데 아니었다. 보이지 않는 문자조차 아니다.

워터마크는 문자가 아니라 단어 선택 습관에 있다

Anthropic은 이 워터마크를 “어휘 선택에 나타나는 눈에 띄지 않는 패턴"이라고 설명한다. 문자도, 토큰도 추가하지 않는다. The Decoder에 따르면 이는 Google DeepMind의 SynthID 텍스트 워터마크의 변형이다. 모델이 다음 단어(기술적으로는 token)를 고를 때, Anthropic만 아는 키에 따라 특정 단어 쪽으로 살짝 치우치게 된다.

한 문장만 봐서는 아무것도 보이지 않는다. 하지만 글이 한 단락 쌓이면 이 편향이 통계적으로 찾아낼 수 있는 규칙이 된다.

내 이해로는 종이에 도장을 찍는 게 아니라 글 쓰는 습관을 바꿔 놓는 것에 가깝다. 복사해 붙여넣으면 같은 글자열을 가져가니 습관도 함께 따라온다. 일반 텍스트로 붙여넣든 숨은 기호를 전부 지우든 마찬가지다. 남는 것이 애초에 글자 자체이기 때문이다.

뒤집어 말하면 이것이 약해지는 이유이기도 하다. Fortune에 따르면 가벼운 수정은 남을 수 있지만, 대폭 고쳐 쓰거나 번역하거나 다른 글과 섞으면 규칙을 측정하기 어려워지고, 글이 너무 짧아도 정확히 측정되지 않는다.

11월 3일에 무엇이 추가되나

8월 2일 이후 출시된 새 모델에는 출시 때부터 이 워터마크가 들어 있다. The Decoder는 고객에게 보낸 서한을 보도했는데, 11월 3일(화요일)부터 Claude Mythos 5, Opus 4.7, Opus 4.6, Sonnet 4.6도 추가된다고 한다.

이 보도에는 세부 사항도 하나 있다. Opus 4.6과 Sonnet 4.6은 temperature, top_p, top_k를 모두 기본값으로 유지했을 때만 워터마크가 들어간다는 것이다. 이 세 가지는 API로 연동하는 개발자만 조정할 수 있는 단어 선택 무작위성 파라미터이고, 웹 버전이나 앱 사용자는 건드릴 수 없다. 이 파라미터를 바꾸면 단어 선택 확률이 달라지므로 워터마크 규칙이 맞지 않게 되는 것 같다. 다만 이 부분은 현재 The Decoder만 이렇게 쓰고 있어서 확인이 필요한 사항으로 봐 둔다.

여러 매체의 보도가 일치하는 점도 있다. 사용자는 이를 끌 수 없다. 워터마크에는 사용자가 누구인지, 어느 조직인지, 무슨 대화를 했는지가 들어 있지 않다. 탐지용 API는 현재 비공개 프리뷰 단계이고 대상은 규제 기관, 언론, 연구자 같은 단체여서, 일반인은 아직 도구를 구할 수 없다.

무엇을 증명하고, 무엇을 증명하지 못하나

이 부분이 가장 오해받기 쉽다고 생각한다.

워터마크가 탐지되었다는 것은 이 글이 Claude의 손을 거쳤다는 뜻일 뿐이다. Fortune의 정리에 따르면 Claude에게 글을 교정하거나 번역해 달라고 맡기기만 해도 흔적이 남을 수 있다. 반대로 탐지되지 않았다고 사람이 쓴 글이라는 뜻도 아니다.

그래서 AI가 전부 대신 썼는지, 사람이 초안을 쓰고 AI에게 교정이나 번역을 맡겼는지를 구분하지 못한다. “이 사람은 AI를 썼다"는 판결문이 아니라 하나의 단서에 가깝다.

나는 이렇게 조정할 생각이다

나도 글을 쓸 때 AI에게 정리와 윤문을 맡기기 때문에 이 일은 내게도 해당된다.

먼저 마음이 좀 놓이는 점이 있다. 탐지 도구는 현재 공식 기관과 특정 단체에만 있다. 내 이해로는 고객이나 상사가 손에 넣을 수 있는 AI 탐지기는 대부분 Anthropic의 이 도구가 아니므로, 이 뉴스 하나 때문에 당황할 필요는 없다.

다음은 원리에서 추론한 방법인데, 내 추론이지 Anthropic이 한 말이 아니다. 워터마크는 모델이 글을 생성하며 단어를 고르는 그 순간에 새겨진다. 그러니 내가 한 편을 다 쓴 뒤 Claude에게 “전체를 매끄럽게 다듬어서 그대로 달라"고 하고 복사해 붙여넣어 제출하면, 그 글은 글자마다 Claude가 고른 것이라 워터마크가 있다. 반대로 수정 제안만 목록으로 받고 원고 위에서 내 말로 직접 고치면, 글의 주된 어휘는 여전히 내가 고른 것이다.

워터마크를 피하려고 힘을 쓸 생각은 없다. 피할 수 있는지 확실하지 않기 때문이다.

다만 상황을 나눠서 봐야 한다고 생각한다. 번역, 고객 응대 답변, 일상적인 카피처럼 효율이 중요한 글은 워터마크 때문에 일부러 다시 쓸 필요가 없다. 조정이 필요한 것은 실명으로 내는 의견 글이나 계약상 AI 사용이 금지된 건이다. 그럴 때는 순서를 뒤집겠다. AI는 앞단에서 자료 정리와 놓친 부분 찾기를 돕고, 마지막 단계는 내가 직접 쓴다. 그러면 글은 내 것이고, 워터마크가 있는지 없는지 추측할 필요도 없다.

참고 출처