일론 머스크의 인공지능, AI 회사 xAI가 개발한 챗봇 '그록'이 성 착취물 딥페이크 생성 논란으로 거센 역풍을 맞고 있습니다.

현지시간 9일 미 언론에 따르면 민주당 소속 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코) 등 3명은 이날 애플과 구글 최고경영자(CEO)에게 서한을 보내 xAI의 그록 앱과 이 챗봇이 주로 이용되는 소셜미디어 엑스(X·옛 트위터) 앱을 앱스토어에서 퇴출하라고 요구했습니다.

이 상원의원들은 "일론 머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다"며 "엑스의 끔찍한 행위에 눈감는 것은 귀사(애플·구글)의 콘텐츠 관리 관행을 조롱거리로 만들 것"이라고 지적했습니다.

그러면서 두 회사가 이런 조처를 하지 않을 경우 "이용자가 직접 휴대전화에 앱을 다운로드하는 것보다 앱스토어가 더 안전한 경험을 제공한다는 귀사의 주장을 훼손할 것"이라고 덧붙였습니다.

애플과 구글은 이 사안에 대한 언론의 논평 요청에 아직 입장을 내놓지 않고 있습니다.

앞서 그록은 지난 몇 주간 엑스에서 '여성들의 사진을 비키니 차림으로 편집해 달라'는 등의 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해내 세계적으로 물의를 일으켰습니다.

수천장의 사진을 딥페이크로 만든 이미지들은 대부분 피사체인 당사자의 동의 없이 생성됐습니다.

유럽 주요 국가들이 이 문제에 대한 조사에 나섰고, 말레이시아와 호주, 인도 역시 관련 콘텐츠에 대한 단속을 벌이겠다고 밝힌 상태입니다.

논란이 커지자 엑스·xAI 측은 이날부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했습니다.

그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 "유료 구독이 필요하다"고 답변하고 있습니다.

해당 기능은 원래 엑스에서 일일 사용량 제한 하에 무료로 제공됐지만, 이제는 월 8달러를 지불하는 프리미엄(유료) 구독자에게만 이미지 생성 기능이 허용됩니다.

AP통신 등 미 언론은 그록의 이미지 생성 기능 제한에 따라 이날 엑스에서 그록이 생성한 노골적인 딥페이크 이미지 수가 이전보다 눈에 띄게 줄었다고 전했습니다.

다만 엑스와 별도로 운영되는 그록 자체 앱은 여전히 구독 없이도 이미지 생성을 허용한다고 블룸버그 통신 등은 지적했습니다.

유럽에서도 그록의 이미지 기능을 엑스 유료 구독자로 제한한 조처는 미봉책에 불과하다며 비판의 목소리가 나옵니다.

미 연방거래위원회와 법무부는 아직 xAI에 대한 조사 여부를 밝히지 않고 있습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

신주원(nanjuhee@yna.co.kr)