AI(인공지능)가 만든 가짜 뉴스에 미국 증시가 흔들리는 충격적인 일이 벌어졌다. 22일(현지시각) 페이스북과 트위터 등 소셜미디어에 국방부 청사 펜타곤 폭발 사진이 올라와 순식간에 전 세계로 퍼지면서 미국 S&P500 지수가 출렁였다. 기존 언론까지 가짜 사진을 진짜로 판단해 퍼 날랐다. 미 국방부가 사실을 알리면서 진정됐지만 ‘AI발 가짜 뉴스’ 불안감이 적지 않다.

이런 ‘해프닝’은 드문 일이 아니다. 이달 초엔 CNN 유명 앵커인 앤더슨 쿠퍼가 “조 바이든 미국 대통령이 코로나 사태에 대해 거짓말을 했으니 여러분은 분노해야 한다”고 말하는 동영상이 트럼프 전 대통령의 소셜미디어에 올랐는데 교묘하게 기존 영상을 짜깁기하고 AI로 목소리를 만들어낸 가짜 뉴스였다. 이런 사실을 모르면 영락없이 쿠퍼가 바이든을 강력 비난한 것처럼 보인다.

AI 가짜 뉴스가 재미있는 이야깃거리를 넘어 경제에 타격은 물론 선거판까지 흔들 수 있음을 보여준 것이다. 미국 뉴스 신뢰도 평가기관인 뉴스가드에 따르면 이런 AI 가짜 뉴스 생산 사이트가 125개나 있고, 이들이 저마다 하루 수백개의 콘텐츠를 쏟아낸다고 한다. 조작된 사건과 거짓 주장들이 일상을 파고들고 있다는 얘기다. 상호작용이 가능한 챗GPT 가짜 뉴스는 더 위험하다. 챗GPT를 개발한 샘 올트먼 오픈AI CEO도 지난 16일 미 의회 청문회에서 “가장 우려하는 것은 설득과 조작을 통해 일종의 1대1 대화형 허위 정보를 제공하는 능력”이라고 경고하기도 했다.

무엇보다 우려되는 건 AI발 가짜 뉴스가 대규모 여론 조작으로 선거판을 흔들 수 있다는 사실이다. 특히 편향성이 강한 정치 분야는 가짜 뉴스에 취약하다. 민주주의 근간을 흔들 수 있다는 얘기다. 각국이 AI발 가짜 뉴스 규제 도입에 나서는 이유다. 미국은 AI로 만든 정치광고 영상과 사진에 출처를 의무적으로 표기하도록 하는 ‘메이드 바이 AI(made by AI)’법안이 발의됐고, 유럽연합(EU)도 AI가 만든 콘텐츠 표기를 의무화하는 규제안을 검토 중이다. 한국도 지난 22일 이상헌 더불어민주당 의원이 AI 생성 콘텐츠 사실을 표시하는 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표발의했다. 하지만 당장 내년 총선이 걱정이다. 대책마련이 시급하다.

AI기술은 하루가 다르게 발전하고 분야를 가리지 않는다. AI기술의 개발·사용에 대한 전반적인 검토와 가드레일이 필요한 시점이다. 다만 AI기술이 국가경쟁력과 직결된 만큼 혁신을 가로막지 않도록 섬세한 틀을 짜야 한다. 가짜 뉴스가 범람하면 사회 신뢰성이 무너지고 피해는 고스란히 국민에게 돌아간다는 점을 명심해야 한다.