메타, AI 기반 비디오 식별 워터마킹 도구 출시

OpenAI는 최근 ChatGPT Plus 및 Pro 사용자를 위해 "Sora"라는 비디오 생성 AI 도구를 출시했습니다. 하지만 이런 종류의 도구는 처음 있는 것은 아닙니다. 실제로, 인공지능을 기반으로 매우 빠르게 영상을 제작할 수 있도록 지원하는 서비스가 많이 생겨났습니다. AI는 점차 크리에이터를 위한 강력한 조력자가 되고 있지만, 어떤 영상이 진짜이고 어떤 영상이 AI가 만든 것인지 구분하기 어려워 시청자에게는 혼란을 주는 경우도 많습니다.

AI 영상 제작 시장이 날로 급속히 성장함에 따라, 온라인에서 가짜 영상이나 AI가 생성한 영상을 감지하는 일이 점점 더 어려워지고 있습니다. 이 문제를 해결하기 위해 Meta는 "Meta Video Seal"이라는 워터마킹 도구를 출시했습니다. 이 도구는 AI가 생성한 비디오 콘텐츠에 워터마크를 추가하는 방식으로 작동합니다.

Meta에 따르면, AI가 생성한 비디오에 워터마크를 추가해도 사용자 경험에는 큰 영향을 미치지 않습니다. 워터마크는 비디오의 전반적인 모양에 영향을 주지 않고 직접 삽입할 수도 있습니다. 또한, Video Seal은 비디오에 숨겨진 메시지를 추가할 수도 있으며, 이를 감지하여 비디오의 출처를 추적할 수 있습니다.

"메타 비디오 실"의 특별한 기능은 블러링, 자르기, 압축 알고리즘 등 일반적인 비디오 편집 작업을 "저항"하여 온라인 공유를 더 쉽게 만들어준다는 점입니다. 즉, 누군가 메타 비디오 실을 사용하여 워터마크가 포함된 비디오를 편집하더라도 워터마크는 그대로 유지되어 비디오의 진위와 출처를 확인하는 데 도움이 됩니다.

Meta는 교육 문서 및 추론 코드와 함께 허가된 라이선스에 따라 도구를 배포하고 있습니다. 또한 누구나 모델을 사용해 볼 수 있는 대화형 데모도 있습니다.

메타는 "AI 도구는 세상을 더욱 가깝게 만드는 데 도움이 될 수 있지만, 그 이점을 훼손할 수 있는 모방, 조작 및 기타 형태의 오용 위험을 완화하기 위한 안전 장치를 구현하는 것이 중요합니다."라고 말했습니다. "AI가 생성한 비디오에 '워터마킹'을 적용하는 것은 AI 콘텐츠와 모델의 추적성을 개선하는 데 중요한 단계입니다."

Meta는 Video Seal을 통해 악의적인 행위자가 AI를 악용하여 가짜 뉴스를 퍼뜨리는 것을 어렵게 만드는 것을 목표로 합니다. AI는 놀라운 일을 해내고 유용한 콘텐츠에 대한 접근성을 높일 수 있지만, 모든 사람이 정확한 정보를 이용할 수 있도록 보장하기 위해서는 극복해야 할 몇 가지 장벽도 있습니다.