챗GPT 개발사 오픈AI가 인공지능(AI)으로 생성한 이미지도 아동 성착취물(CSAM)로 규정하도록 법을 개정해야 한다고 강조했습니다.

현지시간 8일, 오픈AI는 '생성 AI 시대의 아동 보호'라는 아동 안전 청사진 문서에서 "AI 시스템은 합성 CSAM을 생성하거나 기존 이미지를 디지털로 변조하는 데 악용될 수 있다"며 관련 법 개정을 주장했습니다.

현재 AI로 생성된 사진은 실존 인물을 대상으로 촬영하지 않았다는 이유로 아동 성착취물로 규정되지 않습니다.

오픈 AI의 주장은 "범죄자가 처벌을 피하는 사각지대를 막아야 한다"는 취지입니다.

오픈AI는 현재 미국 45개 주에서 관련 법을 개정했으며, 나머지 5개 주와 워싱턴DC에서만 이와 같은 포괄 법률이 없는 상황이라고 소개했습니다.

지난해 한국에서도 AI로 조작된(딥페이크) 아동 성착취물과 관련한 법이 부재해 논란이 있었습니다.

대법원이 "아동·청소년의 얼굴에 다른 알몸 사진을 합성한 AI 조작 영상(딥페이크)은 아동청소년보호법상 아동 성착취물에 해당하지 않는다"고 판결해 논란이 된 것입니다.

한편, 오픈AI는 아동 성착취물 생성 '미수범'도 처벌해야 한다는 의견을 냈습니다.

"이용자가 AI를 이용해 아동 성착취물을 생성하려고 시도했으나, AI 시스템이 이를 차단했을 때도 범죄로 기소할 수 있어야 한다"며 "(이를 통해) 불법 자료가 생산되거나 유포되기 전에 피해를 예방할 수 있다"고 강조했습니다.

그러면서 "이와 같은 조항이 있어야, 이용자가 반복적으로 시도해 AI 시스템 안전장치의 허점을 찾는 것을 막을 수 있다"고 덧붙였습니다.

특히 오픈AI는 주 차원의 접근뿐 아니라 연방 차원에서 이와 같은 정책을 입안해야 한다고도 강조했습니다.

오픈AI는 이외에도 신고 품질과 관할권 조정, 관련 기술적 조치 등도 제안했습니다.

오픈AI의 이번 계획은 미국의 주(州) 법무장관연합(AGA)과 전미실종학대아동방지센터(NCMEC)와 협력해 마련된 것으로 밝혀졌습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이나경(nakyi@yna.co.kr)