“힘이란 물체를 움직이고 방향을 바꾸게 하는 것인데…”

이는 오픈AI가 지난달 29일(현지 시간) 맛보기(프리뷰) 방식으로 공개한 음성 복제 모델 ‘보이스엔진’의 샘플 사례다. 오픈AI는 보이스엔진이 15초 분량의 사람 목소리만 있으면 거의 똑같게 음성을 복제해 낸다고 밝혔다. 

AI의 음성 복제 기술 자체가 새로운 것은 아니다. 이미 수많은 스타트업과 기술 기업이 음성 복제에 뛰어든 상태다. 하지만 챗GPT와 같은 강력한 언어 생성AI 모델과 수억 명 사용자를 보유한 오픈AI가 음성 복제에 뛰어들었다는 점에서 딥페이크(조작된 영상, 이미지, 음성)가 불러올 혼란에 대한 우려를 키우고 있다.

오픈AI는 “위험성을 감안해 소수 개발자 그룹에만 보이스엔진 기술을 공유할 것”이라고 밝혔지만 AI발(發) 딥페이크 피해는 늘고 있다. 올 초 미국 대선 경선 과정에선 조 바이든 미 대통령 목소리를 사칭한 허위 전화가 돌아 파장이 일었다. 국내에서도 배우 조인성, 송혜교 등 유명인의 음성과 얼굴을 조작한 투자 권유 영상을 활용한 사기 범죄가 발생했다.