딥페이크 사기 막는다! AI 콘텐츠에 워터마크 붙인다

[오늘의 경제 이슈] 생성형 AI 콘텐츠에 워터마크? 정부가 준비 중인 변화

요즘 뉴스보다 보면 한 번쯤은 봤을 거예요. "이 콘텐츠는 AI로 생성되었습니다." 라는 문구요. 아직 흔하진 않지만, 앞으로는 자주 보게 될지도 모르겠습니다. 왜냐하면, 정부가 생성형 AI 콘텐츠에 '워터마크'를 붙이는 방안을 추진 중이거든요.

사실 요즘은 텍스트, 이미지, 영상, 심지어 목소리까지 AI로 만들 수 있는 시대잖아요. 우리도 블로그에 글을 쓸 때, ChatGPT나 이미지 생성 도구 한번쯤은 써봤을 테고요. 문제는 이렇게 만들어진 콘텐츠가 사람 손으로 만든 것과 구분이 어려워졌다는 점이에요. 뉴스처럼 보이는 가짜 정보나, 연예인 영상처럼 만든 딥페이크 같은 것도 점점 정교해지고 있고요.

그래서 정부(과학기술정보통신부)가 나섰습니다. AI가 만든 콘텐츠에 '이건 AI가 만들었어요!'라는 표시, 즉 워터마크를 붙이자는 거죠. 말 그대로 디지털 낙인 같은 건데요. 사용자가 이 콘텐츠가 인공지능에 의해 생성되었는지 아닌지를 한눈에 알 수 있도록 하겠다는 겁니다.

워터마크는 이미지나 영상에 로고나 투명 문구를 넣는 방식이 될 수도 있고, 텍스트라면 메타데이터(눈에 보이지 않는 코드 형태)로 구현될 수도 있어요. 아직 구체적인 기술 방식은 확정되지 않았지만, 자율적 도입을 유도하되 필요에 따라 일정 기준을 만들어 의무화할 수도 있다고 하네요.

이런 변화가 생기는 배경에는 '신뢰' 문제가 있어요. 예전엔 정보는 신문이나 방송에서 나오는 걸로 믿었지만, 지금은 SNS나 블로그, 유튜브에서 더 많은 정보를 접하잖아요. 그런데 그 정보들이 AI로 생성된 것인지, 사람이 쓴 것인지 모르겠다면? 아무래도 받아들이는 신뢰도가 흔들릴 수밖에 없죠.

물론 이런 움직임에 대한 우려도 있어요. AI를 활용하는 크리에이터 입장에선 "표시를 붙이면 콘텐츠가 덜 진짜같이 보이는 것 아닌가?" 하는 걱정이 있을 수 있고요. 또 창작 활동 자체를 제한받는다고 느낄 수도 있고요. 정부도 이런 점을 인식해서 섣부른 규제가 되지 않도록 신중하게 접근하겠다는 입장이긴 합니다.

개인적으로는, 이 정책이 꼭 나쁜 것만은 아니라고 생각해요. 생성형 AI를 잘 활용하면 분명 좋은 도구가 되는데, 그걸 투명하게 표시해주는 건 오히려 건강한 디지털 환경을 만드는 데 도움이 될 수 있거든요. 단, 그 과정에서 사용자나 제작자 모두 납득할 수 있는 합리적인 기준과 기술 지원이 함께 마련되어야겠죠.

아직은 준비 단계라 바로 시행되는 건 아니지만, 앞으로 콘텐츠를 제작하거나 소비하는 우리 모두에게 영향을 줄 변화임은 분명합니다. 이제는 '이게 누가 만든 콘텐츠인지'를 따지는 시대가 되었으니까요. 여러분은 AI 콘텐츠에 워터마크, 어떻게 생각하시나요?