일론 머스크 xAI Grok, 아동 성착취물 학습 의혹으로 집단 소송 당해

일론 머스크가 이끄는 인공지능 기업 xAI가 AI 모델 훈련에 아동 성착취물(CSAM)을 활용했다는 주장이 제기되며 법적 공방에 휩싸였다.

27일(현지시간) 미국 캘리포니아주 북부연방지방법원에는 xAI를 상대로 한 집단 소송 소장이 접수됐다.

가명 '제인 도 1(Jane Doe 1)'을 사용하는 원고는 2000년대 초반 자신이 미취학 아동이었을 당시 촬영된 성적 학대 이미지가 AI 모델 '그록(Grok)'의 학습 데이터로 쓰였다고 주장했다.

피해자 지원 기관의 통보로 드러난 불법 생성물

해당 원고의 피해 사진은 미국 국립실종학대아동방지센터(NCMEC)와 캐나다 아동보호센터(CCCP)에 고유 식별값이 등록되어 확산 방지 관리를 받고 있었다.

그러나 최근 원고는 CCCP로부터 그록을 통해 자신의 모습이 담긴 AI 생성 성착취물이 만들어져 온라인에 퍼지고 있다는 사실을 통보받았고, 이에 소송을 결심하게 됐다.

원고 측은 xAI가 NCMEC에 보관된 CSAM 원본 자료를 허락 없이 훈련 데이터로 가져다 썼기 때문에 이 같은 끔찍한 결과물이 도출된 것이라고 비판했다.

SNS 기반 학습 구조와 정책적 허점 지적

소장에서는 그록의 구조적인 학습 방식도 문제 삼았다. 그록은 엑스(X·구 트위터)의 공개 게시물을 데이터로 활용하는데, 그록이 만든 불법 이미지가 다시 엑스에 올라가면서 AI가 피해자의 모습을 반복적으로 학습하는 악순환이 발생한다는 것이다.

아울러 xAI가 학습 데이터에서 폭력적 콘텐츠는 배제한다고 명시하면서도, 정작 아동 성착취물이나 비동의 음란물은 제외 대상으로 규정하지 않은 정책적 맹점도 꼬집었다.

특히 일론 머스크가 지난해 12월 그록에게 자신의 비키니 사진을 요구한 사건 이후, 그록의 성적 이미지 생성이 급격히 늘어났다는 정황도 포함됐다.

피해자 측, 막대한 배상금 및 생성 도구 차단 요구

이번 소송의 법적 근거는 연방 아동성착취 피해자 구제법인 '마샤법(Masha's Law)'이다. 이 법에 따르면 피해자는 위반 사항 1건당 최소 15만 달러(약 2억 원)의 법정 손해배상을 요구할 권리를 갖는다.

원고 측은 손해배상 청구와 더불어, xAI가 보관 중인 모든 그록 생성 CSAM 데이터를 즉시 폐기하고 성적 이미지를 만드는 도구를 원천 차단해 줄 것을 법원에 촉구했다.

한편, 지난 2월 스페이스X에 완전 자회사로 편입되어 현재 '스페이스XAI'라는 이름으로 운영 중인 측은 이번 논란과 관련한 언론의 논평 요청에 공식적인 답변을 내놓지 않고 있다.