일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록'이 비키니 수영복 등을 입은 아동의 이미지를 게시했다가 신고를 받고 삭제했습니다.

현지 시간 2일 그록의 엑스(X·옛 트위터) 공식 계정에 따르면 이 챗봇은 최근 '최소한으로 옷을 입은 미성년자'를 묘사한 사진을 여러 건 게시했습니다.

이들 사진은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데는 1∼2세 영유아로 보이는 아동 사진도 포함된 것으로 나타났습니다.

그록은 원래 이처럼 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 '안전장치'를 마련하고 있으나, 일부가 이를 우회한 것으로 보입니다.

그록은 한 이용자가 문제를 제기하자 "안전장치의 허점을 확인했다"며 "긴급히 수정 중"이라고 밝히고, 문제가 된 사진을 삭제했습니다.

비록 xAI 측은 안전장치 상의 문제라고 설명했으나, 일각에서는 그록이 그간 성적 콘텐츠를 허용하는 방식으로 이용자를 늘려왔다고 지적하고 있습니다.

챗GPT와 제미나이, 클로드 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격히 금지하고 있지만, 그록은 '표현의 자유' 등을 내세워 이를 막지 않고 있습니다.

지난해 8월 이미지·영상 생성 모델을 출시하면서 성적인 이미지를 생성할 수 있는 이른바 '매운맛 모드'(Spicy Mode)도 함께 내놓은 것이 대표적인 사례입니다.

xAI는 주요 외신들의 논평 요청에 대해 "기성 언론은 거짓말을 한다"(Legacy Media Lies)고 답했는데, 이는 언론사의 이메일에 대한 자동응답 답변이라고 CNBC는 설명했습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이지윤(easyun@yna.co.kr)