OpenAI, ChatGPT로 생성된 텍스트에 워터마크 추가 고려

월스트리트 저널에 따르면, OpenAI는 ChatGPT 가 생성한 텍스트에 워터마크를 넣는 시스템 과 워터마크를 감지하는 도구를 약 1년 전부터 준비해 왔습니다. 하지만 회사 내부에서는 출시 여부를 놓고 논쟁 중이다. 한편으로는 그것이 책임감 있는 일인 것 같습니다. 반면에 회사의 이익에 해를 끼칠 수도 있습니다.

OpenAI의 워터마킹은 모델이 이전 단어와 문구 다음에 가장 가능성이 높은 단어와 문구를 예측하는 방식을 조정하여 탐지 가능한 패턴을 만드는 것으로 설명됩니다.

AI가 작성한 자료를 감지할 수 있는 방법을 제공하는 것은 학생들이 AI를 사용하여 숙제를 하는 것을 막으려는 교사들에게 잠재적인 도움이 될 수 있습니다. 저널은 해당 회사가 워터마크가 챗봇의 텍스트 출력 품질에 영향을 미치지 않는다는 것을 발견했다고 보도했습니다. 저널은 회사가 의뢰한 설문 조사에서 "전 세계 사람들이 AI 감지 도구 아이디어를 4:1의 비율로 지지했다"고 썼습니다.

저널이 기사를 게재한 후, OpenAI는 오늘 TechCrunch에서 발견한 블로그 게시물 업데이트에서 텍스트 워터마크 추가를 추진했다고 확인했습니다. 이 보고서에서 해당 회사는 자사의 방법이 매우 정확하며(저널에서 확인한 문서에 따르면 "99.9% 효과적") "의역과 같은 스푸핑"에 강하다고 밝혔습니다. 또한 이 회사는 모국어가 모국어가 아닌 사람들에게 AI 도구가 유용하다는 사실에 대한 부정적인 인식이 우려된다고 밝혔습니다.

하지만 OpenAI는 워터마크를 사용하면 ChatGPT 사용자가 소외될 수 있다는 점을 우려하는 듯합니다. 설문조사에 따르면, 응답자의 30% 가까이가 워터마크 기능이 구현되면 소프트웨어 사용량이 줄어들 것이라고 회사에 말했습니다.

그럼에도 불구하고 일부 직원들은 워터마크 기능이 효과적일 것이라고 생각합니다. 그러나 사용자들의 불만에 대응하여 저널은 제안된 테스트 방법 중 일부는 "사용자들 사이에서는 논란의 여지가 적을 수 있지만 검증되지 않았다"고 밝혔습니다. 오늘의 블로그 게시물 업데이트에서 회사는 메타데이터 임베딩을 탐색하는 "초기 단계"에 있으며, 새로운 기능이 얼마나 잘 작동할지 알기에는 아직 "너무 이르다"고 밝혔습니다. 하지만 암호화된 서명이 되어 있기 때문에 오탐지는 없을 것으로 예상됩니다.