서울STV

AI 부작용, 진짜 같은 가짜 '딥페이크' 논란… '강한 규제 필요'

편집인 2024-02-05 15:05:41

테일러 스위프트 딥페이크 확산 사태…백악관 "의회도 입법 조치 취해야"

세계적인 팝스타 테일러 스위프트의 얼굴 사진이 합성된 딥페이크(deepfake) 음란 이미지가 온라인상에서 확산돼 논란이 일고 있다.

2023년도 '타임'지 올해의 인물로 선정된 팝스타 테일러 스위프트

딥페이크는 컴퓨터 스스로 대규모 데이터를 심화 학습하는 딥러닝(deep learning)과 가짜라는 뜻의 페이크(fake)의 합성어로, 특정 인물의 얼굴 등을 인공지능 기술을 이용해 사진·동영상 등에 합성한 편집물이다.

딥페이크 제작은 보통 추출, 학습, 병합 등의 단계를 거친다. 추출은 영상이나 이미지 데이터를 AI에서 확보하는 것을 뜻한다. 이어 AI가 이 데이터를 학습한 뒤 진짜와 가짜 데이터를 섞어 딥페이크를 생성한다.

딥페이크의 첫 사례는 2017년 미국 인터넷 커뮤니티 ‘레딧’에 올라온 유명인 합성 음란물로 알려져 있다.

그리고 ‘아이언맨 톰 크루즈’라는 영상도 공개되어 많은 관심을 받았는데, 영화 어벤져스 아이언맨 얼굴에 톰 크루즈 얼굴과 목소리를 합성한 것으로 실제 톰 크루즈가 연기하는 것과 구분하기가 어려울 정도였다.

딥페이크 기술은 특수한 환경에서 사용되는 것으로만 생각될 수 있으나 'FakeApp'이라는 무료 프로그램이 배포되면서 프로그램 전문가 수준이 아니더라도 손쉽게 딥페이크 영상을 만들 수 있게 되었다.

초기에는 딥페이크 영상을 만들기 위해 수천 장의 이미지가 필요했지만, 인공지능 기술 발전으로 단 한 장의 이미지를 가지고도 딥페이크 영상을 제작할 수 있는 수준에 이르렀다.

현재 딥페이크 기술은 가짜 여부를 단번에 판별하기 어려운 초정밀 위조 단계에 이르렀다.

스위프트의 딥페이크 이미지를 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 여론이 거세지는 분위기다.

현재 미국 9개 주에서는 AI를 이용해서 누군가의 모습을 모방해 합성한 딥페이크 사진을 당사자의 동의 없이 만들거나 공유하는 것을 금지하는 법률을 시행하고 있지만, 연방 정부 차원의 규제는 없는 실정이다.

미 행정부는 지난해 10월 말 ‘안전하게 보호되고 신뢰할 수 있는 AI 개발 및 이용에 관한 행정명령’을 발표했다.

이 명령은 AI 기술로 만든 합성 콘텐츠를 식별하는 장치를 강화하고 디지털 생성물의 가짜 여부나 출처를 확실히 하도록 하는 방안을 마련하도록 했다.

유럽연합(EU)도 일찌감치 규제에 나섰다. EU는 2022년 디지털서비스법(DSA)을 제정해 이용자가 월 4500만명이 넘는 플랫폼들을 대상으로 지난해 8월부터 적용됐다.

위반 시 연간 글로벌 수익의 최대 6%에 해당하는 과징금이 부과되며, 최악의 경우 유럽 시장에서 퇴출당할 수도 있다.

국내에도 딥페이크 규제 장치는 마련돼 있다. 선거 전 90일간 딥페이크를 활용한 선거운동을 금지하는 공직선거법 개정안이 지난해 12월 국회를 통과했다. 지난 29일부터 오는 4월 총선 때까지 이 법이 적용 중이다.

이전글: 만능통장 \'ISA\', 혜택 대폭 확대...시중자금 ...

다음글: [歷史콘텐츠?] 박정희의 후견으로 성장한 정치...