실제 아이유가 ‘밤양갱’을 부르는 것 처럼 만든 ‘AI 영상’ [유튜브(@Spot-AI-fy) 갈무리]

[헤럴드경제= 박영훈 기자] “내 목소리와 섬뜩할 정도로 비슷해 충격을 받았다” (할리우드 배우 스칼렛 요한슨)

“이건 좀 심각하다. 소름 돋는다” (가수 장윤정)

그동안 우려돼 왔던 인공지능(AI)의 법적·윤리적 문제가 일파만파로 확산되고 있다. 업계에선 “결국 터질게 터졌다”는 반응이다.

할리우드 배우 스칼렛 요한슨의 목소리를 챗GPT 개발사 오픈AI가 무단으로 썼다는 논란이 일고 있다. 요한슨은 “챗GPT 음성이 내 목소리와 섬뜩할 정도로 비슷해 충격을 받았다”며 강하게 반발하고 있다.

요한슨이 변호인을 통해 강하게 반발하자, 오픈 AI는 일단 음성 서비스를 중단했다.

할리우드 배우 스칼렛 요한슨 [로이터=연합뉴스]

오픈AI는 최근 챗GPT의 5개 음성 서비스 중 하나로 스카이(Sky)를 선보였다. 스카이(Sky) 음성이 요한슨과 매우 흡사해 목소리를 도용한 것 아니냐는 논란이 일고 있다.

요한슨은 성명을 통해 “작년 9월 올트먼 오픈 AI CEO가 곧 출시될 GPT-4o의 음성을 담당해 달라고 제안했지만, 개인적인 이유로 제안을 거절했다”며 “공개된 영상을 들었을 때 내 목소리와 매우 유사해 충격과 분노를 느꼈다”고 밝혔다.

외신들은 “오픈AI가 의도하지 않았더라도 요한슨의 음성과 매우 흡사한 챗GPT 음성을 만든 것에 대해 법적 책임을 질 수 있다”고 보도했다.

오픈AI는 최근 AI의 안전과 통제를 담당하던 기술 개발팀 ‘수퍼얼라인먼트’(Super Alignment)팀을 해체했다. 일각에선 팀이 해체되고 주축 멤버들이 나가면서 오픈AI 안전 의식에 빈틈이 생긴 것이 아니냐는 지적이 나온다. 이번 ‘목소리 사태’도 그 일환이라는 것이다.

실제 아이유가 ‘밤양갱’을 부르는 것 처럼 만든 ‘AI 영상’ [유튜브(@Spot-AI-fy) 갈무리]

AI 기술이 고도화하면서 마치 해당 가수가 직접 부른 것 같은 영상이 제작되고 있고, 이 영상들이 유튜브를 타고 수십만 조회수를 기록하고 있다.

국내에서도 비비 인기곡 ‘밤양갱’에 AI를 입혀 마치 아이유가 ‘밤양갱’를 부르는 것 처럼 만든 AI 영상이 화제와 논란을 동시에 불러일으켰다.

아이유 ‘밤양갱’, 박명수 ‘밤양갱’ 영상은 유튜브에서 수십만 건의 조회수를 기록했다. 해당 영상은 목소리의 주인공이 직접 부른 게 아닌, AI 기술로 유명 연예인의 목소리를 학습시켜 만들었다. 실제와 구분이 안될 정도로 똑같애, 연예인들은 불쾌감을 호소하고 있다.

가수 장윤정은 AI 곡을 듣고 “이건 좀 심각하다. 소름 돋는다”고 말했다. 그러면서 “노래까지는 AI가 안 될 거라고 생각했는데, 이러면 가수가 왜 레코딩을 하겠냐”고 일침을 가했다.

박명수도 화제가 된 자신의 ‘밤양갱’ AI 곡에 대해 “어쩌면 그렇게 똑같냐”면서 당혹감을 드러냈다. 그는 “저는 그 노래(밤양갱)을 부른 적이 없다”며 “그렇게 똑같을 줄 몰랐는데, 우리 연예인들은 어떻게 해야 하냐”고 우려했다.

AI가 인간과 유사한 수준까지 발전하면서 여러 법적·사회적 문제를 포함한 안전성 우려가 더 커지고 있다.