조종엽 논설위원

다국적 금융그룹의 홍콩지부 직원이 딥페이크(deep fake·인공지능 기술로 정교하게 합성된 인물 영상이나 이미지, 음성)에 속아 2억 홍콩달러(약 342억 원)를 송금하는 사기를 당했다고 홍콩 경찰 당국이 2일 밝혔다. 직원은 본사 최고재무책임자(CFO) 및 원래 알던 동료 여럿이 참석한 화상회의에서 내려온 지시에 따랐는데, 사실은 사기범들이 딥페이크로 조작한 얼굴이었다는 것이다. 지난달 말엔 팝스타 테일러 스위프트의 딥페이크 음란 이미지가 소셜미디어로 확산해 미국이 발칵 뒤집히기도 했다. 세계적으로 딥페이크가 뜨거운 감자다.

▷‘맥락을 잘 살피면 딥페이크를 가려낼 수 있다’고 자신한다면 오산이다. 러시아-우크라이나 전쟁에선 딥페이크가 교란의 도구로 쓰였다. 양국 대통령이 각각 항복하거나 평화를 선언하는 영상을 비롯해 적잖은 딥페이크가 제작됐다. 한데 아일랜드 코크대 연구진이 전쟁 초기 트윗을 분석한 결과 미디어의 진짜 보도에 ‘딥페이크’나 ‘가짜뉴스’라고 잘못된 딱지를 붙인 사례가 조작된 딥페이크 게시물을 잡아낸 것보다 오히려 더 많았다고 한다.

▷2021년 3월 미국 펜실베이니아주에선 고교생 치어리더들이 음주, 흡연하는 가짜 영상을 만들어 전송한 혐의로 한 여성이 체포됐다. 영상 속 학생은 ‘명백히 조작된 영상’이라고 했다. 미국 주요 방송사도 학생을 딥페이크의 피해자로 보도했다. 그러나 두 달 뒤 영상은 진짜인 것으로 밝혀졌다. 딥페이크의 확산에 기대어 일단 ‘가짜 영상’이라며 잘못을 부인할 수 있다는 우려가 현실화된 것이다.

▷진실과 거짓이 불확실해지면 사람들이 진실을 더욱 믿지 않게 되는 ‘거짓말쟁이의 배당금(liar’s dividend)’이 생긴다. 도널드 트럼프 전 미국 대통령이 자신의 실수를 모아 놓은 광고 영상을 두고 ‘AI를 사용한 가짜’라며 대놓고 거짓을 말하는 것도 이제 사람들이 영상마저 믿지 않기에 가능한 일이다. 최근 미국 민주당 경선에서 조 바이든 대통령의 음성으로 ‘투표를 거부하라’는 가짜 전화가 걸려오는 등 딥페이크가 만든 혼란이 불신을 낳고 있다. 가짜가 진짜를 몰아내고 있는 것이다.

▷딥페이크가 공신력 있는 매체로 유통되면 혼란은 더욱 증폭된다. 지난해 6월 우크라이나와 접경한 러시아 일부 지역 TV와 라디오에선 블라디미르 푸틴 러시아 대통령의 계엄령 선포 연설이 방송됐다. ‘우크라이나가 침공했으니 대피하라’는 내용이었다. 우크라이나군 또는 반(反)러시아 민병대와 관련된 것으로 추정되는 딥페이크였지만 일부 주민들은 실제로 대피했다. 후방 교란 작전이 성공한 것이다. 한국도 총선일에 임박해 악의적인 딥페이크 영상이나 이미지, 음성이 유포되면 사실상 대책이 없다. 딥페이크 등 허위·조작정보를 가려내는 전통 미디어의 어깨가 더욱 무겁다.

출처: 동아일보(2024-02-06)