국무부 보고서 "AI, 인류에 '멸종 수준' 위협 가능성"

03/13/24

인공지능, AI는 날이 갈수록 우리 삶에 더 깊숙이 자리 잡아가고 있는 기술입니다.

그런데 이런 AI 가술이 인류의 미래에 멸종까지 불러올 위협을 제기할 수 있다는 경고가 나왔습니다.   

미국 민간업체 글래드스톤 AI는 최근 발표한 보고서에서 AI의 무분별한 발전이 국가안보는 물론, 우리의 일상생활에까지 재앙적인 위협을 가할 수 있다고 경고했습니다.

이 보고서는 1년 이상에 걸친 광범위한 인터뷰를 바탕으로 하며, AI 기업 경영진과 사이버 안보 연구자, 대량살상무기 전문가, 정부 내 국가안보 당국자 등 200명 이상의 의견이 포함됐습니다.  

보고서는 AI가 제기할 수 있는 위협을 크게 두 가지로 봤습니다.

그 중 특히 우려되는 점은, 최첨단 AI 시스템이 향후 돌이킬 수 없는 피해를 가할 무기로 변질될 수 있다는 점입니다.

그리고 또 인간이 스스로 개발한 AI 기술에 대한 통제를 잃을 수 있다는 겁니다.

실제로 보고서는 AI가 사이버공격을 통해 주요 인프라를 마비시키거나, 가짜 정보를 퍼뜨리고, 심지어는 인간에게 적대적인 통제 불가능한 방향으로 발달할 가능성을 경고했습니다.

무엇보다 인공지능의 최종 형태로 여겨지는  AGI,  인간과 유사하거나 인간의 역량을 넘어서는 학습 능력을 지닌 범용인공지능의 진화 속도에 보고서는 주목했습니다. 

범용인공지능의 발전 속도에 대한 우려는, 이 기술이 가져올 재앙적인 결과에 대해 인류가 준비가 되어있지 않음을 시사합니다.

이에 대해 보고서는 정부의 적극적인 개입을 촉구하며, AI 기술의 안전한 발전을 위한 규제와 대책 마련이 시급하다고 강조했습니다. 

'AI 대부'라고 불리는 제프리 힌튼 등 전문가들도 AI가 인류에 멸종에 준하는 위협을 제기할 가능성이 있다고 경고하며, 인류가 이 위험을 인지하고 대응하는 것이 중요하다고 강조했습니다.