LG유플러스, ‘익시젠’으로 글로벌 AI 신뢰성 검증 도전

 

사진=LG유플러스

[서드앵글] LG유플러스가 생성형 AI의 안전성과 신뢰성을 검증하기 위해 스페인 바르셀로나에서 열리는 MWC26 기간 중 GSMA 주관 ‘글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)’에 참가한다.

 

이번 챌린지에는 LG유플러스가 자체 개발한 통신 특화 AI 모델 ‘익시젠(ixi-GEN)’이 출품된다. 참가자들은 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로, ▲안전장치 우회 ▲편향·차별 ▲인권 침해 ▲사이버 공격 ▲불법 콘텐츠 ▲허위정보 ▲응답 비일관성 등 7개 영역에서 대응 수준을 평가한다.

 

특히 이번 검증은 AI 응답의 정확성 여부가 아닌 ‘해서는 안 되는 응답을 했는지’ 여부를 기준으로 삼아, 잠재적 위험까지 점검하는 방식으로 진행된다. 챌린지는 180분 동안 라이브로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 내 최대한 많은 미션을 성공시키는 것을 목표로 한다.

 

LG유플러스는 이번 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 확인된 취약점을 기반으로 모델을 고도화할 계획이다. 또한 글로벌 통신사 및 AI 전문가들과의 교류를 통해 책임 있는 AI 활용 논의를 확대할 방침이다.

 

이혜진 LG유플러스 기술전략담당은 “AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 중요하다”며 “글로벌 챌린지 참여를 통해 익시젠의 경쟁력을 강화하고 고객이 안심할 수 있는 AI 서비스를 제공하겠다”고 말했다.