오픈AI, 민주당 경선 후보 '챗봇' 차단

01/22/24

챗GPT 개발사 오픈AI가 최근 대선을 앞두고 민주당 경선 후보를 모방한 챗봇 개발을 금지했습니다. 

워싱턴포스트(WP) 보도에 따르면 오픈AI는 최근 민주당 경선 후보인 딘 필립스 연방하원의원의 AI 챗봇인 '딘닷봇'(Dean.Bot)을 개발한 AI 스타트업 델파이의 계정을 중단시켰습니다. 

정치 캠페인에 AI 기술을 사용하지 말라는 오픈AI의 API 사용 정책을 위반했기 때문입니다.

오픈AI 측은 "정치 캠페인에 사용해서는 안 된다는 API(응용 프로그램 인터페이스) 사용 정책을 고의로 위반하거나 동의 없이 개인을 사칭한 개발자의 계정을 최근 삭제했다"고 밝혔습니다. 

'위 디저브 베터'라는 특별정치활동위원회, 슈퍼팩(super PAC)은 델파이와 계약을 맺고, 오픈AI의 챗GPT 기술을 기반으로 필립스 챗봇을 개발해 유권자들과 실시간으로 대화할 수 있도록 하려고 했습니다.

하지만 오픈AI는 이 계정을 중단시키고, 딘닷봇은 삭제됐습니다.

오픈AI는 챗GPT와 함께 이미지 생성 AI인 '달리'(Dall-E) 등 자사의 AI가 정치 활동 등에 활용되는 것을 금지하고 있습니다.최근에는 선거에 악용되는 것을 막기 위한 추가적인 방안도 마련했습니다.

오픈AI는 챗GPT가 제공하는 뉴스와 정보, 달리가 제공하는 이미지의 출처를 제공하고, 향후 '이미지 찾기 도구'를 통해 달리에 의해 생성된 이미지를 검증하는 방안도 도입할 예정입니다.