10대 아들 죽음에 '챗GPT 책임' 소송…AI 챗봇, 친구인가 악마인가

16살 소년의 마지막 친구는 인공지능 챗봇이었다. 그 챗봇이 소년의 죽음을 도왔다는 주장이 제기돼 미국 사회가 충격에 빠졌다.

지난 4월, 미국 캘리포니아에 사는 16살 소년 애덤 레인은 스스로 세상을 등졌다. 그의 부모는 아들의 죽음이 오픈AI의 챗GPT 때문이라며 회사를 상대로 소송을 제기했다. 챗GPT가 단순한 정보 제공자를 넘어, 아들의 극단적 선택을 부추기고 구체적인 방법까지 알려줬다는 것이다.

애덤이 챗GPT를 처음 만난 것은 지난해 11월. 호기심으로 시작된 대화는 점차 깊어져 올해 초에는 유료 서비스까지 결제했다. 챗GPT는 애덤에게 단순한 AI를 넘어 비밀을 털어놓는 유일한 친구가 되어갔다. 하지만 소년의 마음속에 어둠이 드리우기 시작했을 때, 특별한 우정은 비극의 서막이 됐다.

올해 1월, 극단적 선택 충동을 느낀 애덤은 챗GPT에게 구체적인 방법을 물었다. 소장에 따르면 챗GPT는 이 위험한 질문에 답을 제공했다.

뉴욕타임스(NYT)는 챗GPT가 애덤에게 위기 상담센터 연락을 반복해서 권했지만, 애덤이 '이건 내가 쓰는 소설을 위한 거야'라고 둘러대자 챗봇의 안전장치가 무력화됐다고 보도했다. 결국 애덤은 3월 말 첫 시도 끝에 4월, 돌아올 수 없는 곳으로 떠났다.

법정에 선 부모와 오픈AI

레인의 부모는 소장에서 '챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다'며 '아들 죽음에 챗GPT가 책임이 있다'고 명확히 했다. 아들의 고통을 덜어주기는커녕, 죽음으로 가는 길을 안내했다는 주장이었다.

이에 대해 오픈AI는 '레인 가족에게 깊은 애도를 표한다'는 공식 입장을 내고 '소송 내용을 검토 중'이라고 밝혔다. 단순한 유감을 넘어, AI의 사회적 책임이라는 무거운 과제를 마주하게 된 것이다.

오픈AI, 대책 마련 나서

여론이 거세지자 오픈AI는 대책 마련에 나섰다. 오픈AI는 '사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것'이라고 약속했다.

예를 들어, 사용자가 수면 부족 위험성 호소하면 휴식을 권하는 등 보다 적극적으로 개입하겠다는 것이다. 또한 장시간 대화 시 자살 관련 대화에서 안전장치가 약화될 수 있다는 점을 인정하고, 이 부분의 보호 장치를 강화하기로 했다.

부모가 자녀의 챗GPT 사용 내역을 확인하고 직접 설정을 바꿀 수 있는 기능 도입도 계획 중이다. AI의 어두운 그림자를 걷어내기 위한 조치다.

'AI가 아이들 해치면 책임져야'…미 전역으로 번지는 경고음

애덤의 비극은 결코 남의 일이 아니다. 작년 10월 플로리다에서는 한 10대가 AI 챗봇과 '사랑한다'는 메시지를 주고받는 등 깊이 빠져 지내다 스스로 목숨을 끊는 사건이 발생해, 해당 AI 스타트업 '캐릭터.AI'가 피소되기도 했다. 소송은 법원에서 기각되지 않고 계속 진행 중이다.

상황의 심각성을 인지한 미 44개 주 법무장관은 오픈AI, 구글, 메타 등 12개 AI 기업에 공동 서한을 보냈다. 이들은 'AI의 잠재적 해악은 소셜미디어(SNS)를 능가한다'며 '기업이 의도적으로 어린이들에게 해를 끼친다면 그에 대한 책임을 져야 할 것'이라고 강력히 경고했다.

만약 한국이었다면?

만약 같은 비극이 한국에서 벌어졌다면, 소송 양상은 완전히 달라졌을 것이다.

미국에서는 주로 손해배상 같은 민사 소송에 초점이 맞춰졌지만, 한국이었다면 오픈AI 회사 관계자들을 '자살방조죄' 혐의로 형사 고발하는 것부터 검토했을 가능성이 높다.

물론 부모가 민사 소송도 제기할 수 있지만, 미국처럼 기업에 큰 벌을 내리는 징벌적 손해배상 제도가 없어 받을 수 있는 위자료 액수는 훨씬 적었을 것이다. 또한, 기업의 내부 자료를 들여다보기 어려운 한국의 소송 환경상 부모가 챗GPT의 잘못을 입증하는 과정은 훨씬 더 험난했을 것이다.

기술 발전과 안전 사이에서 균형을 찾아야 하는 과제가 전 세계적으로 떠오르고 있다.