조 바이든 미국 대통령이 인공지능(AI)으로 생성된 딥페이크 영상이나 가짜 뉴스 등의 확산을 규제하는 방안이 담은 행정명령에 서명했다고 로이터 통신과 CNBC 등 주요 외신들이 30일(현지 시각) 보도했다.

행정명령에는 미국 AI 기업들이 서비스 출시 전 미 상무부 산하 국립표준기술연구소(NIST)의 안전성 평가를 의무적으로 거치도록 했다. AI 모델을 국가 안보와 경제, 무기 제조 등에 사용할 경우 AI 시스템이 사이버 공격에 대한 방어력을 갖췄는지 등 연방 정부의 안전성 평가를 의무적으로 통과해야 하는 것이다. 또 사용자에게 차별·편견을 조장할 위험성이 없는지 등을 집중적으로 평가하도록 했다.

바이든 대통령은 앞서 진행한 연설에서 “나도 내 딥페이크 영상을 본 적이 있는데 도대체 내가 언제 그런 말을 했을까 놀라웠다”라면서 “사기꾼들은 여러분의 3초 목소리를 녹음해 조작한 영상과 오디오를 만들어 온라인상에 퍼뜨릴 수 있다”고 지적했다.

그는 “사람들을 속이기 위해 AI 장치들이 이미 사용되고 있다”며 “딥페이크(deepfake)는 사람들의 평판을 훼손하고 가짜뉴스를 퍼트리며 사람들에게 사기를 치기 위해 AI가 만든 오디오와 영상을 사용한다”고 말했다.

그는 이어 “모든 사람은 오디오나 영상이 AI로 만들어졌을 때 이를 알 권리가 있다”며 이번 행정명령에 따라 상무부가 AI 생성 자료에 워터마크 등의 레벨을 붙이도록 표준을 개발할 예정이라고 밝혔다.

딥페이크란 인공지능을 기반으로 활용한 인간 이미지 합성 기술이다. 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭한다.

바이든 대통령은 이날 AI와 관련한 의회 차원의 조치도 함께 촉구했다. 특히 빅테크가 온라인에서 어린이와 청소년의 개인 데이터를 수집하는 것을 막고 어린이를 타깃으로 한 광고를 금지하기 위한 초당적 법안이 통과돼야 한다고 강조했다.

그는 “AI로 인한 도전과 기회는 국제적”이라면서 “우리는 미국이 최첨단 기술을 유지할 수 있도록 혁신 분야에서 세계를 선도하고 최고의 인재를 유치하며 미국의 리더십을 계속 진전시킬 것”이라고 언급했다.

이번 명령은 인공지능 기술이 빠르게 움직이는 강대국이라고 평가받은 미국이 AI 규제에서 앞장설 것이라는 점을 보여주기 위한 조치로 풀이된다. 바이든 대통령은 연설 마지막에 "AI가 발전하고 위험성을 잠재우려면 이 기술을 잘 관리해야 한다"고 강조했다.