말레이시아 정부가 비키니 수영복 등을 입은 아동 사진을 유포한 챗봇 '그록'(Grok)의 인공지능(AI) 기업 xAI를 상대로 조사에 착수했습니다.

현지 시간 5일 블룸버그 통신 등에 따르면 말레이시아 방송통신멀티미디어위원회(MCMC)는 최근 미성년자와 여성 사진을 조작해 음란 콘텐츠를 생성하는 AI와 관련한 신고를 접수해 조사하고 있다고 밝혔습니다.

MCMC는 "이런 유해 콘텐츠를 제작하거나 전송하는 행위는 말레이시아 법률상 범죄"라며 관련 혐의를 받는 AI 사용자와 해당 기업 대표를 소환할 예정이라고 덧붙였습니다.

그록은 최근 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 소셜미디어(SNS) 플랫폼 엑스(X·옛 트위터)를 통해 유포했습니다.

이 사진들은 일부 이용자들의 요청에 따라 생성됐으며 이 중에는 1~2살 영유아로 보이는 아동 사진도 포함됐습니다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 해당 사진들을 삭제했습니다.

최근 인도 정부도 xAI에 서한을 보내 그록이 노출이나 노골적인 성적 표현 등을 생성하지 않도록 포괄적으로 검토하라고 요청했습니다.

프랑스 정부는 그록이 사용자 동의 없이 명백하게 불법적인 성적 콘텐츠를 생성했다고 비판했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

강은나래(rae@yna.co.kr)