OpenAI, 단 15초 녹음으로 음성 재구성 기술 개발

3월 29일, OpenAI는 단 15초 분량의 짧은 녹음을 기반으로 음성을 생성하고 텍스트를 읽을 수 있는 인공지능을 갖춘 Voice Engine 소프트웨어를 선보였습니다. 영어로만 녹음된 내용이라도 외국어 음성을 재생할 수 있습니다.

Voice Engine은 OpenAI가 2022년부터 개발해 왔으며 2023년 말에 여러 고객을 대상으로 테스트를 실시했습니다. 이 테스트를 통해 소프트웨어는 읽기 지원, 다양한 언어 간 콘텐츠 번역, 말하기 능력을 잃은 사람들을 위한 음성 생성 기능을 입증했습니다.

그러나 OpenAI는 특히 미국 대선과 관련하여 음성 모방 기술의 잠재적 위험을 강조했습니다. 이것이 그들이 접근성을 제한하고 이 기술을 널리 보급하지 않기로 결정한 이유 중 하나입니다.

ChatGPT를 소유한 회사에 따르면, Voice Engine의 발표는 관리자와 대중이 인공지능을 이용한 사기에 대한 경계를 강화하도록 장려하기 위한 것입니다. 개발자들은 범죄자들이 음성 사칭 소프트웨어를 사용해 개인 정보를 훔치거나 은행 보안 시스템을 해킹할 수 있다고 경고했습니다.

OpenAI는 "이 기술이 널리 출시되든 아니든, 사람들이 이 기술이 어떤 방향으로 나아갈지 이해하는 것이 중요하다"고 말했습니다.

인공지능을 이용한 음성 편집 기술은 지난 1월, 미국 조 바이든 대통령의 "뉴햄프셔 민주당 예비선거에 참여하지 말라"는 내용을 담은 녹음 파일이 소셜 미디어에 급속도로 퍼지면서 주목을 받았습니다.

음성 사기를 감지하는 데 특화된 회사인 핀드롭 시큐리티(Pindrop Security)는 해당 녹음을 분석한 후, 20개 이상의 언어로 음성을 생성하는 인공지능 소프트웨어를 개발하는 스타트업인 일레븐랩스(ElevenLabs)의 기술을 사용한 딥페이크라고 결론지었습니다.

포춘지에 따르면, 바이든 씨의 딥페이크 음성은 많은 전문가와 미국 선거 관리들 사이에서 우려를 불러일으켰으며, 이를 "인공지능을 이용해 선거를 방해하려는 시도"라고 불렀습니다. 일부 평가에 따르면 오디오 딥페이크를 배포하는 것은 쉬울 뿐만 아니라 악의적인 행위자가 이 기술을 사용하여 선거 결과에 영향을 미치고 유권자들이 투표소에 가지 않도록 만들 위험도 있습니다.