내년 대선 앞두고 'AI 발 가짜 뉴스 쏟아져'

07/19/23

내년 대선을 앞두고 AI로 생성한 컨텐츠, 가짜 뉴스들이 쏟아지고 있습니다.

AI가 정교하게 만든 가짜 뉴스들이 유권자를 혼란에 빠뜨릴 가능성이 있다는 우려도 잇따릅니다. 

CNN방송은 내년 대선을 앞두고 AI생성 컨텐츠가 유권자를 혼란에 빠뜨릴 수 있다며 공화당 대선 주자인 론 디샌티스 플로리다 주지사가 지난달 트위터에 올린 영상에 대해 보도했습니다.

영상에는 같은 당 대선 주자 가운데 선두인 트럼프 전 대통령이 앤서니 파우치 전 국국립알레르기·전염병연구소(NIAID) 소장을 안는 이미지가 담겼습니다.

트럼프 전 대통령은 재임 시절  파우치 전 소장과 코로나19 팬데믹 대처 방식을 두고 심각한 마찰을 빚었는데, 그럼에도 불구하고 파우치 전 소장을 경질하지 않았다는 점을 은근히 비난하는 분위기입니다.

이미지는 후에 가짜로 밝혀졌지만, 트위터는 해당 영상을 제거하지 않았습니다.   

이와 관련해 전문가들은 소셜미디어(SNS) 플랫폼에서는 수십억명이 정보를 찾아 다니고 '악당'이 종종 가짜 주장을 퍼뜨린다는 점에서 관련 기업의 위험 관리 책임이 크다고 지적했습니다.

하지만 CNN은 지금은 선거 관련 오보의 물결을 따라잡기가 어느 때보다 어렵기 때문에 SNS가 '퍼펙트 스톰'(초대형 복합위기)에 직면해있다고 강조했습니다.

AI가 만들어내는 글과 이미지가 사실적인 만큼 유권자가 잘못된 정보에 쉽게 휘둘릴 가능성이 크기 때문입니다.

게다가 규제당국도 아직 AI 기술과 관련한 실질적인 방호책을 구축하지 못한 상태인데 AI의 기술 진화 속도는 SNS 플랫폼이나 규제당국이 따라잡기에 버거울 정도로 빠른 상태입니다.

페이스북 모회사 메타에서 근무했던 한 AI 연구원은 "대선까지는 아직 1년 이상이 남았는데, 앞으로 선거와 관련한 SNS에서의 잘못된 정보가 AI로 인해 더 악화될 것이라고 우려했습니다.