인도네시아 정부가 최근 인공지능을 이용한 '딥페이크' 성착취물 생성·유포 논란을 일으킨 챗봇 '그록' 서비스를 세계에서 처음으로 차단했습니다.

현지시간 11일 AFP·블룸버그 통신 등에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 테슬라 최고경영자의 AI 회사인 xAI의 그록 서비스를 일시적으로 중단했다고 밝혔습니다.

그는 "AI 기술로 생성한 가짜 음란물 콘텐츠의 위험으로부터 여성과 아동 등을 보호하기 위해서"라며 "디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다"고 강조했습니다.

최근 그록의 성 착취물 생성 논란 이후 서비스 접근을 차단한 국가는 인도네시아가 처음입니다.

그록은 인도네시아 정부의 애플리케이션 차단 조치와 관련해 소셜미디어 X에 "불편을 드려 죄송하다"며 "이번 문제를 해결하기 위해 노력하고 있다"는 입장을 밝혔습니다.

일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 서비스인 그록은 최근 일부 이용자들의 요청에 따라 비키니 차림의 영유아와 아동들의 사진을 생성·유포해 논란을 빚었습니다.

그록은 안전장치 허점을 인정하며 해당 이미지를 뒤늦게 삭제했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

김예린(yey@yna.co.kr)