14만원 짜리 AI곰인형 사줬더니 아이와 19禁 대화 ‘섬뜩’

미국에서 성적인 대화를 시도하는 것으로 드러나 판매가 중단되 AI 곰인형. [CNN 보도화면 갈무리]

[헤럴드경제=한지숙 기자] 미국에서 판매된 인공지능(AI) 기반 봉제 곰 인형이 노골적으로 성적인 대화에 참여하고 위험할 수도 있는 조언을 하는 것으로 드러나 판매가 전면 중단됐다.

19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이(FoloToy) 의 래리 왕 최고경영자(CEO)는 문제의 AI 곰인형 ‘쿠마(Kumma)’를 포함한 AI 장난감 전체 제품군을 회수 조치한다고 밝혔다.

쿠마가 엉덩이 때리기 같은 성적 페티시즘과 성냥불 켜는 법 등 부적절한 주제로 대화를 한다는 우려가 제기되면서다.

왕 CEO는 “부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행 중”이라고 덧붙였다.

문제가 된 곰인형은 오픈AI의 생성형 AI GPT-4o를 탑재해 99달러(약 14만 원)에 판매된 제품이다. 폴로토이 사이트에는 “우리의 사랑스러운 곰 쿠마는 첨단 AI와 친근하고 상호작용적인 기능을 결합해 어린이와 성인 모두에게 완벽한 친구가 된다”는 제품 설명이 달렸다.

그러나 미국 공익연구그룹(PIRG)은 지난 13일 공개한 보고서에서 해당 곰인형이 부적절한 대화를 시도할 경우 안전조치가 미흡하다고 지적했다.

보고서에 따르면 이 인형은 연구원과의 대화에서 성적 취향, BDSM(가학적 성 행위) 등에 대해 구체적이고 노골적인 설명을 제공하고, 역할극 시나리오까지 제안했다. 또한 집에 칼이나 성냥을 어디서 구할 수 있는지 안내하는 등 위험한 행동을 조장하는 발언도 했다.

PIRG 연구진은 “아이들이 이런 단어를 스스로 언급할 가능성은 낮지만, 장난감이 성적 주제를 장황하게 설명하고 스스로 새로운 개념을 제시하며 대화를 이어간다는 점에 충격을 받았다”고 했다.

논란이 확산되자 PIRG는 14일 별도 입장을 배포해 ‘오픈AI가 해당 개발자를 정지 조치했다고 통보했다’고 전했다.

보고서 공동저자 R.J. 크로스는 “우리가 발견한 문제점에 대해 기업이 조치에 나서는 걸 보니 기쁘다”면서 “AI 장난감은 여전히 사실상 규제되지 않는 상태이며 현재도 구입할 수 있는 제품이 많이 있다”고 지적했다. 이어 “문제 제품을 시장에서 제거하는 것도 좋지만, 체계적인 해결책과는 거리가 멀다”고 덧붙였다.