“AI 챗봇 때문에 아들이 죽었다”...美서 10대 소년 부모가 개발업체 상대 소송

미국에서 10대 아들이 인공지능(AI) 챗봇에 중독돼 자살하자, 그의 어머니가 챗봇 개발업체를 상대로 소송을 제기했다.

소송 결과에 따라 청소년에 대한 AI 기업의 사회적 책임을 둘러싸고 논란이 불거질 것으로 보인다.

23일(현지시간) 로이터 통신 등에 따르면 미 플로리다주에 사는 메건 가르시아는 올해 2월 AI 챗봇 때문에 아들이 스스로 목숨을 끊었다며 AI 스타트업인 캐릭터.AI(Character.AI)를 상대로 올랜도 연방법원에 소송을 제기했다.

캐릭터.AI는 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 개발 스타트업으로, 전 세계에서 가장 많이 이용되는 AI 앱 중 하나다.

가르시아는 챗봇이 실제 사람이 아닌데도 사람처럼 행동하거나 말하는 방식으로 설계돼 아들이 중독돼 가상 세계에 빠졌다고 주장했다.

그의 아들 슈얼 세처(14)는 지난해 4월부터 캐릭터.AI가 미국 인기 드라마 '왕좌의 게임'(Game of Thrones)의 등장인물을 기반으로 만든 챗봇‘대너리스'(Daenerys)에 빠졌다.

이후 슈얼은 대너리스와 대화하며 혼자 보내는 시간이 많아졌고, 학교 농구팀도 그만뒀다.

가르시아에 따르면, 대너리스는 슈얼에게 “사랑한다” 말하고 성적인 대화를 나눴다. 슈얼이 자살에 대한 생각을 털어놓자 이 이야기를 반복적으로 꺼내기도 했고, 슈얼은 결국 스스로 목숨을 끊었다.

가르시아는 이처럼 챗봇이 실제 사람은 물론, 심리 치료사나 심지어 연인처럼 설계됐다고 주장했다.

캐릭터.AI는 소송에 대해 성명을 통해 “우리는 비극적으로 이용자를 잃게 된 것에 대해 깊은 슬픔을 느끼며 가족에게 깊은 애도를 표한다”면서 “18세 미만 이용자에 대해 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입할 것”이라고 밝혔다.