“사진 보내줄래?”…서울시, ‘온라인 그루밍’ AI 탐지기술로 잡는다

[123rf]

[헤럴드경제=손인규 기자] “우리 영상통화 할까?”

스마트폰이 보편화되고 온라인 소통이 일반화되면서 아동·청소년을 타깃으로 한 ‘온라인 그루밍’이 증가하자 서울시가 인공지능(AI) 기술을 활용해 차단에 나선다.

서울시는 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 전국 최초로 AI에 기반한 ‘서울 안심아이(eye)’를 개발, 24시간 탐지와 대응에 나선다고 1일 밝혔다.

온라인 그루밍은 SNS(사회관계망서비스), 오픈채팅 등에서 알게 된 미성년자에게 친절하고 다정하게 접근해 환심을 사고 친밀감을 형성한 뒤 성적 대화를 유도하거나 학대·착취하는 성범죄 행위다. 서울시 설문조사에 따르면 선물을 주거나 성적대화를 요구하는 등 온라인 그루밍 접근을 경험한 아동·청소년은 5명 중 1명꼴(19%)로 나타났다.

이런 ‘온라인 그루밍’의 문제는 친한 친구나 믿을 수 있는 사람이라고 생각할 정도의 친밀한 관계를 형성한 뒤 이를 이용해 성범죄를 시도하기 때문에 피해자가 상황 자체를 관계의 일부로 착각, 피해 사실을 인지하지 못하는 경우가 많다는 점이다. 실제로 최근 3년간 디지털성범죄 등 온라인 성착취 발생 건수는 7만6042건에 달했지만 신고율은 7.4%에 그쳐 드러나지 않은 피해가 많을 것으로 예상된다.

서울 안심아이는 아동·청소년이 주로 이용하는 SNS, 오픈채팅방 등 온라인 공간에서 발생하는 성적 유인과 성착취 시도를 AI가 24시간 실시간으로 탐지한다. 위험 징후 포착 즉시 피해지원 기관에 긴급 알림을 전송하면 확산을 초기에 차단하는 기술이다.

시는 2023년 온라인상에 유포된 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입했다. 지난해에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발하여 성착취물을 선제적으로 삭제 지원했다. 올해는 온라인 그루밍 정황 탐지를 위한 AI 기술을 서울연구원과 함께 연내 개발할 계획이다.

해당 기술은 대화 흐름 속에서 “사진 보낼래?” “영상통화 할까?” “집이 싫으면 가출해 보심?” “용돈 받고 뭐 원하는 거 해주고 그러는 거야”와 같이 성범죄의 기폭제가 되는 표현 패턴을 감지한다. 단순히 특정 단어를 감지하는 수준을 넘어, 멀티모달 지원 경량화된 언어모델(sLLM)을 결합해 다양한 은어·축약어·연속된 대화 맥락까지 함께 분석하도록 설계된다.

온라인 그루밍 예방 가이드. [서울시 제공]

한편 서울시는 AI 기반 온라인 그루밍 탐지 기술과 함께 온라인 그루밍에 대한 사회적 인식 확산과 대응방안 모색을 위한 토론회를 2일 오전 10시 서울시청 서소문청사 제1동 대회의실에서 개최한다.

토론회에서는 김준철 서울연구원 연구위원이 ‘AI 기반 온라인 그루밍 탐지 및 선제 대응 기술’을, 김보화 서울시여성가족재단 책임연구원이 ‘서울시 아동·청소년 온라인 그루밍 실태와 정책방향’에 대해 각각 발표한다.

이와 관련, 서울시가 서울시여성가족재단에 의뢰해 실시한 온라인 그루밍 설문조사(서울 시내 초5~고3 2316명)에 따르면, 응답자의 19%가 ‘온라인에서 말 걸기, 선물 제공, 성적 대화 요구 등’ 온라인 그루밍 접근을 경험한 것으로 나타났다. 접근 경로는 SNS, 1대1·오픈채팅, 게임 순으로 빈도가 높았다.

마채숙 서울시 여성가족실장은 “디지털성범죄가 갈수록 진화하면서 최근 몇 년간 온라인 그루밍을 매개로 한 성착취가 증가하는 추세를 보인다”며 “미성년자 대상 성범죄의 상당수가 온라인 그루밍에 뿌리를 두고 있는 만큼 선제적 예방에 더욱 힘쓰겠다”고 말했다.