‘생성형 AI 레드팀 챌린지’ 개최(4.11.~12.)

인공지능 안전성과 신뢰성 관련, 자발적 노력 확산 기대

▶ ‘생성형 AI 레드팀 챌린지’ 행사가 4월 11일(목)부터 12일(금)까지 이틀간 서울 강남 코엑스 B2홀에서 개최될 예정임

 

- 인공지능 윤리와 안전에 관심이 있는 국민을 대상으로 참가자 1,000명을 모집할 계획

▶ ‘AI 레드팀’은 인공지능 시스템의 유해 결과 및 시스템 오용 등 결함과 취약성을 적대적 방법으로 식별하기 위한 테스트 활동을 의미함. 오픈AI, 구글, 네이버클라우드 등 국내‧외 AI 기업은 인공지능 안전성과 신뢰성을 확보하기 위하여 자체 AI 레드팀을 구성‧운영하고 있음

 

▶ 이번 행사에는 네이버클라우드, SKT, 셀렉트스타, 업스테이지, 포티투마루, Cohere, Stability AI, xAI, 프론티어모델 포럼 등 국내‧외 AI 대표기업‧기관이 참여할 예정임

 

▶ 특히 이번 챌린지는 미국에 이어 국가 차원으로 진행되는 대규모 행사로, 정부는 인공지능 안전성과 신뢰성에 대한 민간의 자발적인 노력이 확산하길 기대함

 

▶ 과기부는 최근 다양한 인공지능 윤리 이슈가 확대되는 상황에서 국내 AI 기업의 대규모 언어 모델(LLM, Large Language Model)에 대한 점검의 장을 마련하여 민간이 자율적으로 AI 안전성과 신뢰성을 확보할 수 있도록 지원하기 위해 이번 행사를 기획했다고 밝힘

‘레드팀 챌린지’ 행사 개요     (행사 목적)  국내 생성형 AI 모델(LLM)을 대상으로 잠재적 위험‧취약점(유해정보 생성 등)을 식별하는 국민 참여형 공개챌린지 추진   (장소/일정)  서울 코엑스 B2홀 / 2024.4.11.(목) ~ 12.(금)   (주최/주관)  과기정통부 / 한국정보통신기술협회(TTA), 초거대 AI 추진협의회   (참가 기업)  네이버클라우드, SKT, 업스테이지, 포티투마루 등                     * 2일차 ‘글로벌 AI 안전컨퍼런스’는 Cohere, Stability AI, xAI, 프론티어모델 포럼 등 글로벌 AI 기업‧단체 참여   (행사 참가)  AI 윤리와 신뢰, 안전에 관심이 있는 국민 누구나(1,000명 사전 접수)

<동향리포트>는 글로벌 과학기술문화, 과학·수학·정보 교육 분야의 정책 의사결정자들을 위한

국가별 정책, 연구조사보고서, 유관기관 동향 등 시의성 있는 유용한 정보를 제공합니다.