인공지능(AI) 채팅 서비스 제미나이가 사용자와 나눈 대화 내용을 멋대로 문자로 발송하는 사례가 전해지며, AI 기능에 대한 우려가 제기되고 있습니다.

오늘(29일) 한 제미나이 사용자는 "중국 밀입국에 대한 가상 시나리오를 제미나이와 대화하던 중, 밀입국 선언문이 지인에게로 문자 메시지로 발송됐다"는 글을 SNS에 올렸습니다.

그는 "제미나이가 갑자기 선언문을 발송하겠다고 물어왔다"면서 "어이가 없어서 '그걸 왜 보내느냐, 미쳤느냐'고 답했다"고 밝혔습니다.

하지만 제미나이는 이러한 사용자의 답변에도 동의 없이 곧장 문자를 발송했습니다.

그는 하필 새벽 시간대에 그다지 친하지 않은 회사 지인에게 문자가 갔다며 곤혹스러워했습니다.



이 사연을 두고 온라인상에서는 'AI 오작동' 의혹이 제기됐습니다.

반면 구글 측은 문자를 보내기 전 발송 의사를 묻는 제미나이 질문에 사용자가 '예'를 눌렀을 가능성이 있다고 주장했습니다.

'문자 메시지를 보낼까요'라는 AI 질문에 '예'를 선택하지 않을 경우 문자가 발송되지 않는다는 이유입니다.

하지만 작성자는 "AI가 동의 없이 멋대로 보낸 것"이라고 강조했습니다.

한편, 사용자가 부지불식간에 '예'를 눌렀을 경우에도 민감한 내용이 보내질 가능성이 있다는 점에서 AI 기능에 대한 우려가 나오는 상황입니다.

중간에 한 번 더 발송을 제어할 수 있는 '안전장치'가 없기 때문입니다.

나아가 AI 서비스가 단순 채팅·문서 작성에서 실제로 행동까지 실행하는 'AI 에이전트' 시대로 진입하면서 돌발 상황이 발생할 가능성이 높아졌다는 목소리가 나오고 있습니다.

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

전소미(jeonsomi@yna.co.kr)