AI가 정보 조작 탐지에 중요한 역할 수행

미국 연구진, AI 활용해 소셜 미디어 허위 정보 분석

 

▶ 미국 연구진이 소셜 미디어에서 외국의 정보 조작용 선전 활동을 탐지하고 허위 정보를 식별하기 위한 AI 기술 개발에 성공했음. 이는 AI가 단순히 허위 정보를 생성하는 데 그치지 않고, 허위 정보 탐지 및 차단 등 방어적 역할로도 중요하게 활용될 수 있음을 시사함

 

▶ 플로리다 국제대학교(FIU) 컴퓨터공학부 마크 핀레이슨(Mark Finlayson) 교수 연구팀은 소셜 미디어 계정 분석, 문화적 맥락 이해, 사건의 순서 파악 등을 통해 AI가 허위 정보를 정확하게 식별할 수 있는 방법을 제시했음

 

  - 미국 정부는 2024년 7월 러시아 정부 지원을 받는 가짜 계정들이 허위 정보를 퍼뜨리려 했다는 사실을 밝혀냈고, 외국의 적들이 소셜 미디어를 통해 여론을 조작하려는 시도를 지속적으로 경고하고 있음

 

▶ 핀레이슨 교수는 AI를 활용한 스토리 분석 기술을 개발하고 있으며, 특히 허위 정보는 단순한 데이터가 아닌 이야기 형식으로 전달된다는 점에 주목하고 있다고 언급함

 

  - 그는 감동적인 이야기나 개인적인 경험이 사실보다 더 설득력 있게 대중을 조종할 수 있다면서, 허위 정보가 이야기를 통해 퍼져 나간다고 강조했음

 

  - 예를 들어, 환경 운동가가 플라스틱 오염 문제를 다룰 때 통계나 데이터보다 플라스틱 빨대가 코에 박힌 거북이를 구한 이야기 등을 공유하는 것이 더 효과적일 수 있다고 설명함

 

▶ 또한, 연구팀은 사용자 이름(핸들) 분석 도구를 통해 소셜 미디어 계정의 신뢰성을 판단하고, 허위 정보를 퍼뜨리는 계정에 대한 식별 방법을 제시했음

 

  - 예를 들어 ‘AlexBurnsNYT’라는 이름은 뉴욕의 기자를 자처하는 사용자에게 신뢰감을 줄 수 있는 반면, ‘NewYorkBoy’라는 이름은 그만큼의 신뢰도를 주지 못함

 

  - 연구팀의 아즈와드 이슬람(Azwad Islam) 박사과정 학생은 “사용자 이름은 그 사람이 의도하는 이미지나 사회적 배경을 잘 드러낸다”면서, 이를 통해 사용자의 성별, 위치, 성격 등 다양한 정보를 추론할 수 있다고 밝힘

 

▶ 한편 연구팀은 AI가 허위 정보를 식별하는 기술 개발에 있어 문화적 차이를 인식하는 것 또한 중요하다고 강조함

 

  - 연구팀은 AI가 특정 문화적 상징을 잘못 해석한다면 큰 오류를 일으킬 수 있다고 지적하면서 다양한 문화적 배경을 고려한 AI 훈련이 필요하다고 설명함

 

▶ 이와 함께 AI가 스토리 속에서 사건들이 일어난 순서를 정확하게 이해하게 하는 것도 중요한 과제임. 핀레이슨 교수는 “이야기 속 사건들은 종종 뒤섞여 있으며 사건 순서가 복잡하게 얽혀 있을 수 있어 AI가 이를 제대로 이해하는 것이 필수적”이라고 강조함

 

▶ 향후 이 기술은 정부와 기업들이 허위 정보를 차단하고 공공의 신뢰를 지키는 데 중요한 역할을 할 것으로 예상되며, 허위 정보 식별뿐만 아니라 다양한 응용 분야에서 유용하게 활용될 수 있을 것으로 기대됨

<동향리포트>는 글로벌 과학기술문화, 과학·수학·정보 교육 분야의 정책 의사결정자들을 위한

국가별 정책, 연구조사보고서, 유관기관 동향 등 시의성 있는 유용한 정보를 제공합니다.