4월 총선, 11일부터 '딥페이크 영상 선거운동' 금지

지난해 11월 일본 SNS에 인공지능(AI)을 이용해 만든 기시다 후미오 총리가 성적인 발언을 하는 동영상이 유포돼 논란을 불렀다.




기시다 후미오 일본 총리의 가짜 동영상 장면

이 동영상에는 'LIVE'(생중계)나 'BREAKING NEWS'(뉴스 속보)라고도 적혀 있어 기시다 총리의 발언이 긴급 속보로 생중계되는 듯한 인상을 주었다.

이후 30초 분량으로 줄인 동영상이 지난 2일 소셜미디어 엑스(X·옛 트위터)에 올라와 하루 만에 조회수 232만회 이상을 기록했다.

모두 인공지능(AI) 딥러닝을 기반으로 한 합성 기술인 딥페이크(AI를 기반으로 합성한 특정 인물 이미지·영상)로 만든 영상과 이미지였다.




트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 '가짜 사진

지난해 3월에 미국 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 '가짜 사진'이 인터넷상에서 확산한 바 있는데 이것도 AI로 만든 것이었다.

문제는 세상에 없는 인물과 이미지를 만들어 내는 딥페이크가 더 방대한 정보가 투입되는 딥러닝을 통해 더 정교해지고 실존에 가까워진다는 점이다.

딥보이스(AI를 기반으로 합성한 특정 인물 목소리) 기술을 이용하면 목소리는 물론 말투까지 똑같이 흉내낼 수 있다. 

이러한 기술로 생성한 동영상을 X나 유튜브에 올리기만 하면 삽시간에 전 세계로 퍼져 나간다. 가짜 뉴스의 확산은 분노의 확산이다. 

팩트체크를 통해 가짜뉴스로 판명되더라도 이미 누군가에게는 사실로 인식되고 있다는 것이다. 

딥페이크를 이용한 가짜뉴스는 전 세계 주요 선거가 줄줄이 예정된 올해 특히 민주주의를 위태롭게 하는 요소로 꼽힌다. 




미국은 올해 11월 5일 대선을 앞둔 상황에서 극단주의와 인종차별 등 부정적인 콘텐츠가 유통되는 것을 차단하기 위해 SNS 사업자를 규제하는 방안을 논의하는 중이다.

문제가 된 콘텐츠를 제작·배포하는 것뿐만 아니라 이를 확산시킬 수 있는 플랫폼을 제공한 SNS 사업자에게도 합당한 책임을 물어 콘텐츠 규제를 강화하고 있다.

우리나라 총선 정국에서도 AI 가짜뉴스는 심각한 불안 요인이 되고 있다. 정치인을 음해하기 위해 만든 딥페이크 사진이나 동영상이 SNS를 통해 확산될 수 있다.

당선이 유력한 후보의 사퇴 연설 동영상이 선거 직전 SNS에 공유된다면 총선의 결과가 흔들릴 수 있을 정도의 파괴력을 가질 것이다.

중앙선거관리위원회는 지난해 9월 생성형 AI를 통해 허위사실이 포함된 콘텐트를 누구나 쉽게 만들어 선거전에 악용할 수 있다는 점을 지적하고 대책 마련에 나섰다.

지난 연말 국회는 딥페이크의 선거운동 활용을 규제하는 공직선거법 개정안을 통과시켰다.

개정안에는 선거일 90일 전부터 선거일까지 선거 운동을 위해 딥페이크 영상을 제작·편집한 뒤 유포·상영 또는 게시할 수 없게 하는 내용이 담겼다. 

이를 위반하면 7년 이하 징역 또는 1천만 원 이상 5천만 원 이하 벌금에 처하도록 했다. 

개정안은 또 선거일보다 90일이 넘게 남았더라도 딥페이크 영상을 만들어 올릴 때는 가상의 정보라는 것을 명확히 알 수 있게 표시하도록 했다.

적절한 규제는 향후 AI 관련 사회·경제적 이익을 극대화하는 데도 중요한 요소가 될 것이다.