잘못된 대답 대신, “모르겠어요”라고 대답하는 AI 개발

구글 ‘어스파이어’(ASPIRE) 통해 고급 지능의 미래 개척

▶ 구글이 AI에게 “모르겠어요”(I don’t know)라고 말하게 하는 방법을 개발해 전 세계가 주목

○ 벤처비트(www.venturebeat.com)는 1월 18일 구글이 질문에 대한 LLM 답변을 자체 평가함으로써 답변이 얼마나 확실한지 확인할 수 있는 ‘어스파이어’(ASPIRE)를 개발했다고 보도함

 

○ 구글 측은 어스파이어가 신뢰도 측정기 역할을 하면서 신뢰도 점수를 출력하고, 이를 통해 LLM의 선택적 예측을 개선할 수 있다고 설명함

 

○ 이에 따라 AI가 질문자에게 답변을 제공하기 전, 자체 생성한 답변을 평가하도록 작동하면서 질문에 대한 답을 확신할 수 없을 때 또는 답이 틀렸다고 판단하면 기존의 방식처럼 잘못된 대답을 하는 대신, “모르겠어요”라고 답변하게 됨

 

○ 구글 연구진에 따르면 어스파이어는 추측보다 ‘정직함’에 초점을 맞춤으로써 AI와 인간의 상호 작용을 더욱 신뢰할 수 있게 만들도록 설정됨

 

○ 연구진은 “AI 비서는 무엇이든지 아는 예언자가 아니라, 사려 깊은 조언자 역할을 하게 될 것이며, “모르겠어요”라고 말하는 것이 실질적으로 고급 지능의 신호가 되는 미래의 길을 열어준다”라고 설명함

<동향리포트>는 글로벌 과학기술문화, 과학·수학·정보 교육 분야의 정책 의사결정자들을 위한

국가별 정책, 연구조사보고서, 유관기관 동향 등 시의성 있는 유용한 정보를 제공합니다.