AI모델 편향성·오용 가능성 검증
 |
| SK텔레콤 직원이 세계 최대 이동통신 전시회 MWC26에서 열릴 글로벌 AI 레드팀 챌린지에 참가할 자체 개발 인공지능(AI) 모델 ‘에이닷엑스 케이원(A.X K1)’을 점검하고 있다. [SK텔레콤 제공] |
 |
SK텔레콤은 세계 최대 이동통신 전시회(MWC26) 기간 중 열리는 ‘글로벌 AI 레드팀 챌린지’에 참여한다고 25일 밝혔다.
이를 통해 자체 개발 인공지능(AI) 모델 ‘에이닷엑스 케이원(A.X K1)’의 안전성과 신뢰성을 검증할 계획이다.
글로벌 AI 레드팀 챌린지는 국내외 통신·AI 기업들이 개발한 거대언어모델(LLM)을 대상으로 진행된다. 약 100명의 평가단이 AI 모델의 차별적 응답 생성, 정보 침해 등 오용 가능성을 찾아내는 방식이다.
세계이동통신사업자연합회(GSMA)와 AI 데이터·신뢰성 평가 전문기업 셀렉트스타가 공동 주최하는 행사는 다음 달 3일(현지 시각) 스페인 바르셀로나 MWC 행사장 내 탤런트 아레나에서 열린다.
AI 모델이 생성하는 응답의 안전성을 외부 전문가들이 직접 점검하는 프로그램인 만큼, 기술적 완성도와 신뢰성을 갖춘 기업들이 참여하는 행사로 평가된다. 평가단이 도출한 검증 결과는 심사단을 통해 점수화된다. 참여 기업 수나 최종 점수, 순위 등은 외부에 공개되지 않는다.
SK텔레콤은 자체 개발 LLM 에이닷엑스 케이원으로 챌린지에 참여한다. 에이닷엑스 케이원은 모델 설계부터 학습까지 전 과정을 독자적으로 개발한 모델이다. 최근 국가 차원의 AI 프로젝트인 ‘독자 AI 파운데이션 모델’ 평가 1단계에 선정됐다.
에이닷엑스 케이원을 포함한 A.X 모델 시리즈는 SK텔레콤이 통신·플랫폼 전반에서 축적한 데이터와 운영 노하우를 바탕으로 고도화한 AI 모델이다. 현재 AI 서비스 ‘에이닷’ 등을 통해 고객에게 제공되고 있다. SK그룹 내부의 다양한 업무 영역에도 단계적으로 적용 범위를 넓혀가는 중이다.
SK텔레콤은 에이닷엑스 케이원의 성능과 안전성을 글로벌 무대에서 검증하는 한편, 그 결과를 AI 서비스 고도화에 반영할 방침이다.
김태윤 SK텔레콤 파운데이션 모델 담당은 “AI가 고객의 일상과 사회 전반에 널리 확산하면서 기술 경쟁력과 함께 안전성과 신뢰성 확보가 더욱 중요해지고 있다”며 “글로벌 AI 레드팀 챌린지를 통해 SKT가 보유한 AI 기술에 대한 신뢰성을 한층 높일 것”이라고 말했다. 고재우 기자
