‘생성형 AI 레드팀 챌린지’에 참여하는 네이버와 SK텔레콤 등의 AI 기업들이 행사에서 수집한 데이터를 향후 AI 안전성 강화 등에 반영하겠다는 의사를 밝혔다. 사진은 ‘생성형 AI 레드팀 챌린지’ 행사 포스터. (자료=과학기술정보통신부)

[한국정경신문=하재인 기자] 네이버와 SK텔레콤 등이 ‘생성형 AI 레드팀 챌린지’ 행사의 성과를 AI 기술 발전에 활용하겠다는 의지를 보이고 있다.

10일 ‘생성형 AI 레드팀 챌린지’에 참여하는 업계는 향후 해당 행사에서 수집한 데이터를 AI 안전성 강화에 반영할 예정이라고 전했다.

네이버는 행사를 운영하는 대표 파트너사다. AI 레드팀 챌린지 참가자들이 대형 언어 모델(LLM)의 안전성을 검증하고 실험할 수 있도록 자체 개발 AI ‘하이퍼클로바X’를 제공한다.

네이버 관계자는 “챌린지를 하이퍼클로버X 모델의 안전성을 강화할 수 있는 기회로 활용하고자 한다”며 “취약점을 검증한 데이터를 활용할 수 있으니까 이를 통해 모델 안전성을 강화할 수 있을 거라 보고 있다”고 의견을 전달했다.

SK텔레콤은 실제 서비스 중인 LLM의 취약점을 행사에서 확인할 예정이다. 이를 통해 나오는 보완점들은 SK텔레콤의 AI 안전성을 높이는데 활용한다는 계획이다.

오는 11일에는 과학기술정보통신부와 한국정보통신기술협회가 주관하는 ‘생성형 AI 레드팀 챌린지’ 행사가 2일간 열린다. 행사에 참여하는 대표 파트너사인 네이버는 LLM 서비스인 하이퍼클로바X를 제공한다. (자료=네이버)

오는 11일에는 과학기술정보통신부와 한국정보통신기술협회가 주관하는 ‘생성형 인공지능 레드팀 챌린지’ 행사가 2일간 열린다. 행사에는 네이버와 SK텔레콤 등의 AI 기업이 참가한다.

‘인공지능 레드팀’은 통제된 환경에서 적대적 방법을 사용해 AI 시스템의 결함과 취약성을 식별하기 위해 구조화된 테스트 활동이다. 레드팀 챌린지는 국내 AI 기업의 LLM을 점검할 수 있는 기회를 마련해 민간이 AI 안전과 신뢰성을 확보할 수 있도록 하는 것이 목적이다.

이번 행사에서 네이버가 제공하는 하이퍼클로바X는 사용자의 요구에 맞는 응답을 제공하는 LLM이다. 네이버 서비스부터 기업형 서비스까지의 AI 프로덕트 구축이 가능하다.

SK텔레콤은 지난 1월 오픈한 ‘엔터프라이즈 AI마켓’을 통해 에이닷엑스·엔트로픽·오픈AI 등의 LLM을 제공하고 있다. LLM을 기반으로 한 광고 문구 제작 서비스인 ‘AI 카피라이터’도 출시했다.

행사 2일차에는 국내외 AI 기업·기관·전문가가 참여하는 ‘글로벌 AI 안전 컨퍼런스’가 열린다. 해당 컨퍼런스에서는 생성형 AI의 안전과 신뢰성 확보방안이 논의된다.

한국정경신문 하재인 기자 hajaeinn@naver.com 하재인 기자의 기사 더보기

저작권자 <지식과 문화가 있는 뉴스> ⓒ한국정경신문 | 상업적 용도로 무단 전제, 재배포를 금지합니다.