"AI 워터마크는 품질 저하 없다더니..." '다시 생성' 누르면 똑같은 말만 반복하는 이유

요약 최근 EU AI 법안의 투명성 가이드라인 시행에 발맞춰 주요 AI 개발사들이 생성 텍스트에 워터마크를 도입하겠다고 발표하면서, 이것이 AI 출력물의 품질을 저하시키는지에 대한 논란이 일고 있습니다. 유명 테크 블로거 존 그루버(John Gruber)는 앤트로픽의 클로드(Claude) 텍스트 워터마킹 적용을 두고 "출처를 숨기기 위해 글의 명확성과 품질을 희생하는 것은 글쓰기에 대한 모욕"이라고 강하게 비판했습니다. 이에 대해 일부 개발자들은 워터마크가 난수 생성 방식을 살짝 바꾸는 것에 불과해 주사위의 면을 바꾸는 것처럼 품질에는 아무런 영향을 주지 않는다고 반박했습니다. 하지만 블로그 글의 필자는 앤트로픽과 구글의 '신스ID(SynthID-Text)' 논문이 내세운 '품질 저하 없음' 주장에 허점이 있다고 지적합니다. 이들이 주장하는 품질 무손실은 단 한 번의 단일 답변 평가를 기준으로 한 것일 뿐, 실제 사용자들이 AI와 긴 대화를 나누거나 여러 번 재시도하며 사용하는 현실과는 거리가 멀다는 것입니다. 실제로 구글 논문의 보충 자료를 살펴보면, 워터마크 적용 시 단일 답변의 품질은 유지될지 몰라도 여러 답변 간의 다양성(inter-response diversity)이 떨어지는 트레이드오프가 존재한다고 명시되어 있습니다. 같은 프롬프트를 여러 번 입력했을 때 워터마크가 적용된 모델은 매번 훨씬 더 유사하고 뻔한 답변만을 내놓게 됩니다. 실제로 한 기술 컨설턴트가 오픈 모델로 테스트한 결과, 해안 마을 여행기를 요청하자 워터마크 모델은 5번 중 4번이나 거의 동일한 오프닝 문장을 반복하는 모습을 보였습니다. 결국 사용자가 마음에 들지 않아 '다시 생성' 버튼을 누르거나 창의적인 대안을 찾으려 할 때, 워터마크로 인해 뻔하고 정형화된 결과물만 반복해서 마주하게 되는 문제가 발생합니다. AI 연구진의 주장과 달리 실제 체감 품질과 다양성 측면에서는 분명한 성능 저하가 나타난다는 지적입니다.