"미국인 모두 징병"… 감쪽같은 AI 영상 주의보

03/15/23

갈수록 인공지능(AI)를 활용한 딥페이크 영상 제작이 쉽고 저렴해지면서 일반인들의 사용이 늘고 있습니다.

이에 따른 가짜 뉴스도 활개를 치면서 경계가 필요하다는 지적도 나옵니다. 

지난달 27일 트위터에는 바이든 대통령이 우크라이나 전쟁을 지원하기 위해 미국 국민 징병제를 선언하는 영상이 공개됐습니다.

삽시간에 영상이 퍼지면서 800만 조회수를 기록했지만 이 영상은 우익 단체 ‘휴먼 이벤트 데일리’가 제작한 가짜뉴스였습니다.

이들은 AI를 활용해 인간의 이미지를 합성하는 딥페이크와 AI 보이스 프로그램을 모두 활용했다고 전했습니다.

최근 소셜미디어 틱톡(TikTok)에서도 실제 광고 영상과 유명인의 목소리를 AI 프로그램으로 합성한 영상이 돌아다녔습니다. 

이 영상은 미국 코미디언 출신 팟캐스터 조 로건과 게스트 앤드류 휴버맨 박사가 남성용 ‘성욕 증진’ 커피 브랜드를 홍보하는 모습이었습니다.

해당 영상이 소셜미디어를 통해 급격히 퍼져나가자 휴버맨 박사는 트윗을 통해 “영상이 가짜”라고 지적했습니다. 

뉴욕타임스는 이 영상이 최근 AI의 발달과 함께 유명인을 내세운 가짜뉴스, 가짜 광고 영상의 확산을 보여준다고 지적했습니다.

또 AI 기술의 발달하고, 전문가가 아닌 일반인도 스마트폰 앱을 통해 저렴한 비용으로 딥페이크 영상을 만들 수 있는 세상이 도래했다고 덧붙였습니다.

이에 IT 기업들은 AI로 제작된 가짜 영상을 탐지하고 가짜 뉴스로 인한 피해를 줄이기 위해 나섰습니다.

메타는 지난 2021년 딥페이크 영상을 83%까지 찾아낼 수 있는 프로그램을 개발했다고 밝혔습니다.

메타 외 소셜미디어 페이스북과 스트리밍 영상 서비스 기업 트위치 등은 딥페이크 기술로 만든 가짜 영상의 게시를 금지하고 있습니다.