“이용자 중심의 AI 사회로”…최민희 의원, ‘AI 서비스 이용자보호법’ 발의

최민희 의원실 제공

[헤럴드경제=양대근 기자] 더불어민주당 최민희 국회의원(국회 과학기술정보방송통신위원장, 경기 남양주갑)이 16일 인공지능(AI) 서비스 이용자의 권리를 실질적으로 보장하고 피해 구제를 위한 제도적 기반을 마련하는 ‘AI 서비스 이용자보호법’(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 일부개정법률안)을 대표발의했다고 밝혔다.

이번 개정안은 인공지능 기술이 빠르게 확산되며 국민 일상에 깊숙이 자리 잡은 현실 속에서 , AI에 의해 생성되거나 작동되는 결정이 개인에게 중대한 영향을 미침에도 불구하고 그 기준이나 결과에 대한 설명조차 들을 수 없는 구조를 바로잡기 위해 추진됐다.

특히 허위·기만 콘텐츠 , 딥페이크 음란물 등 AI 기반의 부작용이 이미 사회문제로 대두되고 있는 상황에서 그 피해를 입는 이용자에 대한 실효적인 보호 장치가 반드시 필요하다는 판단에 따른 것이다 .

최 의원이 발의한 이번 개정안은 세 가지 핵심 내용을 담고 있다. 고영향 인공지능으로 인해 개인의 권리나 의무에 중대한 영향을 받는 경우 해당 AI 사업자에게 결과에 대한 설명을 요구할 수 있는 ‘설명요구권’을 법적으로 보장한다.

AI 사업자는 이에 정당한 사유가 없으면 이용자가 요구한 설명을 제공하여야 하며 결과 도출 기준과 절차, 데이터 활용 개요 등을 이용자가 쉽게 열람할 수 있도록 해야 한다. 이는 블랙박스화된 알고리즘에 대한 국민의 접근권을 강화하고, 투명하고 책임 있는 AI 운영을 유도하기 위한 장치다.

둘째, 인공지능사업자의 이용자 보호 업무를 정부가 평가하고 그 결과를 공개할 수 있도록 하는 ‘이용자 보호 평가제’를 도입했다. 이는 AI 서비스 제공자 스스로가 피해 예방과 민원 처리에 성실히 임하도록 유도하고 , 공공의 감시 아래 자율적인 개선을 유도하려는 목적이다.

셋째, AI 와 관련된 이용자 피해가 발생했을 경우 신속하고 실질적인 해결을 도모하기 위한 ‘인공지능 분쟁조정위원회’ 설치를 명문화했다. 조정위원회는 원상회복 , 손해배상 등 조정안을 제시할 수 있으며, 당사자가 수락하면 재판상 화해와 같은 효력을 가진다.

이번 입법은 국회 과방위에서 2024 년부터 지속적으로 논의되어 온 과제이기도 하다. 실제로 방송미디어통신위원회 초대 위원장 후보자로 지명된 김종철 후보자 또한 최근 인사청문회 서면답변에서 “AI 서비스 일상화로 인한 허위·기만 콘텐츠, 딥페이크 음란물 등으로 인한 권익 침해를 예방하기 위한 정책의 시급성에 공감한다”며 “AI 서비스 이용자보호법과 온라인 서비스 이용자보호법 등을 포괄적으로 검토하여 효과적인 입법방안을 마련할 필요가 있다”고 밝혔다. 김 후보자의 이 같은 발언은 입법의 필요성과 정당성을 재확인시켜주는 대목이다.

최 의원은 “인공지능의 기술발전으로 인한 피해는 철저히 사람에게 귀속된다”며 “인공지능 기술이 사람을 위한 것이 되도록 이용자 권리를 중심에 놓고 제도를 설계해야 한다. 정부가 추진 중인 ‘AI 3 강’ 전략이 기술경쟁력 확보에 집중되고 있는 만큼, 국회는 그에 걸맞은 이용자 중심의 신뢰 기반 구축에 집중할 필요가 있다”고 밝혔다.