최근 정치권과 사회 각계각층을 겨냥한 ‘딥페이크(AI 기반 합성)’ 가짜뉴스가 무분별하게 확산되면서 민주주의 근간을 흔들고 있다는 우려가 나오고 있다. 특히 선거철을 앞두고 특정 후보의 음성과 영상을 정교하게 조작한 영상들이 온라인 커뮤니티를 중심으로 퍼지고 있지만, 이를 차단할 법적·기술적 장치는 여전히 걸음마 수준에 머물러 있다.

지난 2024년 1월, 미국 민주당 대선 경선을 앞두고 뉴햄프셔주 주민들에게 조 바이든 대통령의 목소리를 똑같이 흉내 낸 'AI 자동 녹음 전화(로보콜)'가 걸려 왔다. "이번 주 화요일에 투표하지 말고, 그 힘을 11월 본선 투표를 위해 아껴두라"며 투표 포기를 독려하는 내용이었다.

우리나라에서도 지난 2024년 총선 전, 윤석열 당시 대통령의 과거 대선 후보 시절 영상을 교묘하게 편집해 "저 윤석열, 저열한 가짜뉴스로 국민을 기만해 왔다"는 식의 가짜 고백 영상이 틱톡 등에 퍼져 경찰이 수사에 착수하고 방송통신심의위원회가 차단 결정을 내린 바 있다.

■ "말투까지 똑같네"… 유권자 속이는 정교한 조작

직장인 이모 씨(45)는 최근 메신저로 받은 영상 하나를 보고 깜짝 놀랐다. 평소 지지하던 정치인이 유흥업소에서 부적절한 발언을 하는 장면이었다. 그러나 확인 결과, 이는 AI 기술을 활용해 얼굴과 목소리를 합성한 '딥페이크' 영상이었다.

전문가들은 과거의 가짜뉴스가 조잡한 합성 사진이나 텍스트 위주였다면, 최근에는 전문가조차 육안으로 구별하기 힘든 고화질 영상으로 진화했다고 입을 모은다. 

■ 플랫폼 규제 사각지대… 유포 속도 못 따라가

가장 큰 문제는 유포 속도다. SNS와 숏폼 플랫폼을 통해 한 번 퍼진 영상은 수 시간 만에 수십만 회의 조회수를 기록한다. 뒤늦게 '가짜'임이 밝혀져 삭제 조치가 내려져도, 이미 대중의 머릿속에는 부정적인 이미지가 각인된 후다.

현행법상 허위사실 유포에 따른 명예훼손 등으로 처벌이 가능하지만, 해외에 서버를 둔 플랫폼의 경우 가해자를 특정하기 어렵고 수사 기간도 오래 걸린다. 방송미디어통신심의위원회가 상시 모니터링을 강화하고 있으나, 하루에도 수만 건씩 쏟아지는 콘텐츠를 모두 걸러내기엔 역부족이다.

■ "AI 리터러시 교육과 강력한 입법 병행돼야"

법조계에서는 가짜뉴스 생성자에 대한 처벌뿐만 아니라, 이를 알고도 방치하는 플랫폼 기업에 징벌적 손해배상을 물리는 등 강력한 법적 장치가 필요하다고 지적한다.

대학의 한 언론정보학과 교수는 "기술의 발전이 규제의 속도를 앞지르고 있는 상황"이라며 "시민들이 정보를 비판적으로 수용하는 '미디어 리터러시' 교육과 함께, AI 생성물에는 반드시 'AI 제작' 워터마크를 의무화하는 법안 처리가 시급하다"고 강조했다.

송원근 기자