OpenAI의 새로운 워터마킹 시스템
OpenAI는 2026년 10월 5일, 유럽연합의 AI 법안에 따라 ChatGPT와 Codex에서 생성된 텍스트에 보이지 않는 워터마크를 추가할 것이라고 발표했습니다. 이는 AI 생성 콘텐츠의 투명성을 높이기 위한 조치로, 2023년 8월 2일부터 시행된 EU AI 법안의 요구 사항에 부합합니다. OpenAI는 이 워터마크가 향후 몇 주 내에 모든 요금제의 ChatGPT 및 Codex 사용자에게 제공될 것이라고 밝혔습니다.
워터마크의 작동 원리
OpenAI의 워터마크는 실제 기호가 아닌, 모델의 단어 선택을 미세하게 조정하여 독자가 인식할 수 없는 패턴을 생성합니다. 이 패턴은 텍스트가 복사되고 붙여넣기 될 때도 함께 이동합니다. OpenAI는 이 워터마크가 사용자 식별을 하지 않으며, 성능에 의미 있는 변화를 주지 않는다고 설명했습니다. OpenAI는 이 기술을 'textGrain'이라고 명명하고, 펜실베이니아 대학교와 예일 대학교의 연구자들과 공동으로 기술 보고서를 발표했습니다.
워터마크의 감지 및 한계
OpenAI의 테스트에 따르면, 워터마크는 편집을 통해 제거될 수 있는 가능성이 있습니다. 예를 들어, 단어의 10%를 동의어로 교체하면 감지율이 약 92%에서 66%로 떨어졌습니다. 또한, 짧은 구문, 수학 문제의 답변, 번역된 텍스트는 감지하기 더 어렵다고 합니다. OpenAI는 이러한 한계로 인해 초기 감지기 접근을 승인된 연구자와 전문가 조직에만 제공한다고 밝혔습니다.
"워터마크가 없다고 해서 인간이 작성한 것을 증명하지는 않습니다. 텍스트가 너무 짧거나 과도하게 편집되었거나, 다른 회사의 AI에서 생성된 것일 수 있습니다."
경쟁사와의 비교
OpenAI의 발표는 앤트로픽이 클로드에서 생성된 텍스트에 워터마크를 추가하겠다고 발표한 지 두 달 만에 이루어졌습니다. 앤트로픽의 결정은 일부 사용자들로부터 반발을 샀으며, 이들은 클로드가 단순한 도구일 뿐 자신들이 제공한 지침과 맥락이 더 중요하다고 주장했습니다. OpenAI는 과거에 워터마킹 시스템을 개발했지만, 사용자들이 워터마킹이 없는 경쟁사로 전환할 것을 우려하여 출시를 미루었습니다.
AI 생성 콘텐츠의 미래
OpenAI, 앤트로픽, 구글, 메타, 마이크로소프트 등 여러 기업들은 AI 생성 콘텐츠에 대한 EU의 행동 강령을 준수하기로 약속했습니다. 이러한 조치는 AI 기술의 발전과 함께 콘텐츠의 출처와 신뢰성을 높이기 위한 노력으로 해석됩니다. AI 생성 콘텐츠의 투명성은 앞으로의 AI 기술 발전에 중요한 요소가 될 것입니다.