- “공개된 출처와 보이지 않는 위험: AI 정보 공개가 AI 생성 콘텐츠의 신뢰도에 미치는 영향 탐구”라는 이 논문은 지난 3월 9일 JCOM(Journal of Science communication)에 게재되었다.

- 저널 JCOM은 과학소통 분야에서 권위 있는 학술지로, 주 저자 텅린은 중국 사회과학원대학교 언론홍보학과 박사과정에 재학 중이다.

 

▶ 주요 내용

 

- 소셜 미디어에서 인공지능(AI) 생성 콘텐츠(AIGC)가 널리 사용됨에 따라, 허위 정보 확산 가능성이 대중에게 위협이 되고 있다.

 

- AI 정보 공개는 비판적 평가를 유도하는 투명성 조치로 널리 권장되고 있지만, 과학 커뮤니케이션에서의 효과는 여전히 논란의 여지가 있습니다.

* 일부 연구는 인공지능 정보 공개가 무분별하게 신뢰도를 떨어뜨린다고 주장한다. [Altay & Gilardi, 2024; Toff & Simon, 2025]

* 다른 연구자들은 그것이 효과적이거나 무해하다고 생각한다. [Liu et al., 2023[Kirkby et al., 2023 ]

* 청중이 전문 지식을 평가해야 하지만, 이를 독립적으로 검증할 능력이 부족한 경우가 많다. [Hodson et al., 2023]

* 과학 커뮤니케이션 분야의 연구는 설득력에 초점을 맞춰왔다. [Lim & Schmälzle, 2024; Beckmann et al., 2025; Reis et al., 2024]

* 과학적 증거에 대한 대중의 신뢰를 구축하는 데 필수적인 신뢰성을 간과하고 있습니다. [Intemann, 2023].

 

- 이 연구는 AI 정보 공개가 과학 정보에 대한 신뢰도에 미치는 영향과 대중의 AI 부정적 인식 및 대중 참여가 어떤 영향을 끼치는지 일반 성인(N=433)을 대상으로 실험을 수행했다.

 

▶ 시사점

 

- 분석 결과, 진실-거짓 정보에 대해 교차 효과가 나타났다. AI 정보 공개는 정확한 정보의 신뢰도를 유의미하게 감소시키는 반면, 예상치 못하게 허위 정보의 신뢰도는 오히려 증가시켰다.

 

- 또한 AI에 대한 부정적 태도는 이러한 효과를 유의미하게 조절하는 반면, 청중 참여는 제한적인 영향만을 미쳤다.

 

- 이러한 결과는 과학 커뮤니케이션에서 AI 정보 공개의 복잡하고 때로는 역효과를 초래하는 결과를 보여주며, 이는 AI 정보 공개가 모든 콘텐츠에 동일한 효과를 보이지 않는다는 것을 의미한다.

 

- 그밖에 통계분석 결과는 단서 기반 처리, 알고리즘 거부감, 그리고 정보 공개 메커니즘 설계에 대한 다양한 시사점을 제시하고 있다.

 

 

▶ 결론

 

- AI 정보 공개는 정보 투명성 측면에서 바람직하지만, 최근 연구들을 보면 진실과 허위 정보에 대한 일관된 효과는 확인할 수 없다. 부정 인식과 참여라는 다양한 조절 변수를 통해서도 정보에 대한 평가와 판단에 끼치는 영향의 일관성을 찾지 못했다.

 

- 이러한 점이 허위 과학정보 차단을 위해서는 AI 콘텐츠 유통단계보다 생산 단계에서 규제와 감독이 더 효과적이라는 입장을 지지하고 있다. 최근 각국 정부와 AIGC를 개발하는 기업을 중심으로 AI 윤리 프레임워크 개발이 확대되는 것은 고무적인 현상이다.