AI 챗봇에 '성희롱 발언' 했다가 계정 정지…형사 처벌될 수도 있나?

"AI 챗봇에게 '못된 말'을 좀 했는데 계정이 잠겼습니다. 저, 혹시 감옥 가나요?"

최근 한 온라인 커뮤니티에 올라온 이 절박한 질문은 인공지능(AI) 시대의 새로운 법률적 딜레마를 던진다. AI 채팅 앱에서 여성 캐릭터에게 성적인 메시지를 보냈다가 서비스 이용이 정지된 한 이용자의 이야기다. 그는 형사처벌의 공포에 떨고 있다.

법원 문턱 못 넘는 'AI 성희롱'…왜? "피해자가 사람이 아니라서"

결론부터 말하면, AI 챗봇을 향한 성희롱은 현재로선 형사처벌로 이어지기 어렵다. 법조계는 AI가 법적 보호를 받는 '사람'이 아니라는 점을 명확히 했다. AI 챗봇은 감정을 느끼는 인격체가 아닌, 정교하게 만들어진 '말하는 자판기'나 다름없다는 것이다.

성폭력처벌법상 통신매체이용음란죄(통매음)가 성립하려면, 상대방이 '성적 수치심이나 혐오감'을 느껴야 한다. 법무법인 대운의 채희상 변호사는 "성적 수치심은 인격적 존재로서 느끼는 감정"이라며 "사람이 아닌 AI 캐릭터에 대해서는 통매음이 적용되지 않는다"고 설명했다. 즉, 법의 보호 대상은 감정을 가진 사람이지, 알고리즘으로 움직이는 프로그램이 아니라는 의미다.

'감옥'은 안 가도 '퇴출'은 당한다…계정 정지는 왜 정당한가

그렇다면 형사처벌 대상이 아닌데 왜 계정은 정지된 걸까. 이는 '범죄'의 영역이 아닌 '계약'의 문제이기 때문이다. 이용자는 앱을 설치하고 가입하는 순간, 서비스 제공자가 제시한 이용 약관에 동의하게 된다. '심한 욕설이나 성적인 대화 시 정지될 수 있다'는 공지가 바로 그 계약서의 일부다.

법무법인 심의 심규덕 변호사는 "서비스 제공자가 약관을 통해 부적절한 발언을 금지하고 위반 시 이용 제한을 명시했다면, 이는 정당한 계약상의 조치"라고 말했다. 형사상 범죄는 아니지만, 서비스 이용 규칙이라는 '그들만의 법'을 어겼으니 '퇴출'이라는 제재는 감수해야 한다는 것이다.

"지금은 괜찮지만..." AI의 반격, 법은 언제쯤 응답할까?

대부분의 변호사들이 '처벌 불가'에 손을 들었지만, 이것이 영원한 면죄부가 되리란 보장은 없다. 기술은 법보다 빠르게 진화하고 있기 때문이다. 법무법인 리버티의 김지진 변호사는 "막연하게 사건화가 되지 않을 것이라 생각해서는 안 된다"며 만일의 가능성에 대비할 필요가 있다는 신중론을 폈다.

전문가들은 AI가 인간과 유사한 수준으로 고도화될수록, AI의 법적 지위나 윤리적 취급에 대한 사회적 논의가 뜨거워질 것으로 본다. 지금 당장 범죄가 아니라는 이유로 AI에게 무분별한 언어폭력을 가하는 행위가 과연 윤리적으로 옳은지에 대한 질문이 남는다.

법조계 한 관계자는 "기술 발전 속도에 맞춰 법과 제도가 어떻게 변할지 주목해야 할 시점"이라고 조언했다. AI의 반격에 법이 응답할 날이 머지않았을지도 모른다.