- 이 법은 한국의 AI 체계를 통일하는 단일 포괄 프레임워크로, EU에 이어 세계 두 번째로 AI에 특화된 법률이다. 동법 시행령도 입법 예고된 상황이다.

 

- 이 법은 건전하고 신뢰할 수 있는 AI 개발을 위한 규칙을 정립함으로써 인권과 존엄성을 보호하고 삶의 질을 향상시키는 동시에 한국의 국가 경쟁력을 강화하는 것을 목표로 한다.

- 사회 전반에 AI 영향력이 날로 확대되고 있어, 이 법의 주요 내용과 함께 여러 분야에 미치는 영향에 대해 알아보고자 한다.

 

▶ 주요 내용

 

- 이 법과 시행령은 크게 5가지 핵심 의무를 담고 있다.

 

1) 모든 AI 사업자는 AI 활용 사실을 사전에 고지하는 등 투명성을 확보 해야 한다.

 

2) 대규모 모델 개발자는 위험도가 클 경우 AI 시스템 수명주기 전반에 위험 식별, 평가, 완화 및 위험관리체계 구축 등 안정성을 확보해야 한다.

 

3-1) 고영향 AI사업자는 ① 결과 도출 기준과 학습 데이터 개요 등 설명 방안 수립, ② 데이터 적법 수집·모니터링·이용자 고충 처리 절차 마련, ③ AI가 오작동하거나 의도치 않은 결과를 낼 때 사람이 개입해 중단하거나 변경할 수 있는 '비상정지' 기능 확보, ④ 위 조치 사항을 증명하는 문서를 5년간 보관하는 등의 특별 책무를 수행해야 한다.

 

3-2) 고영향 AI 서비스 사업자는 안전성·신뢰성 확보 조치 이행 근거를 문서로 5년간 보관하고, 위험관리방안의 주요 내용을 사업장이나 홈페이지 등에 게시해야 한다. 또한 ①위험관리방안 주요 내용, ②AI 설명 방안 주요 내용, ③이용자 보호 방안, ④고영향 AI 관리·감독하는 사람의 성명 및 연락처를 공개해야 한다(영업비밀 제외 가능).

 

4) AI사업자는 AI가 사람의 기본권에 미치는 영향을 평가해야 하고, 평가한 제품과 서비스를 우선적으로 고려해야 한다.

 

5) 대규모 해외 사업자는 국내 대리인을 지정해야 한다.

 

▶ 시사점

 

- 교육분야와 연관성: 교육 AI는 투명성, 안전성 의무를 다해야 하는 고영향 AI에 해당한다. 대표적 교육분야 AI인 디지털교과서(AIDT)는 현재 법적으로 교육자료로 격하된 상황이지만, 그 성격과 내용 측면에서 학생의 기본권에 중대한 영향을 미치는 고영향 AI 요건에 해당할 가능성이 높다.

 

- 문화콘텐츠와 연관성: 과학문화 콘텐츠 포함, K-콘텐츠 산업 전반에 직접 영향을 미치게 된다. AI로 제작한 웹툰·웹소설·음악·영상·광고를 서비스하는 사업자는 모두 생성형 AI 고지 의무 대상이다. 다만 법과 시행령에 저작권법 준수 의무 언급이 없으며, 텍스트/데이터 마이닝 예외 조항이 없어 AI 학습 과정에서 중요한 법적 문제로 부각될 수 있다. 법령에서는 이를 주관 부처에서 관련 정책 수립 근거를 마련한 상황이다.

 

- STI(Science, Technology and Innnovation)와 연관성: AI 안전·신뢰 업무를 전문적·효율적으로 수행하기 위한 인공지능안전연구소, AI 관련 정책 개발과 국제 규범 정립·확산을 지원하기 위한 인공지능정책센터, AI 집적단지 업무의 종합 지원을 위한 AI 집적단지 전담기구 등의 지정·운영 사항을 시행령에 반영했다. 또한 국가 연구개발 체계 내에서 "AI 융합" 관련 R&D 프로젝트를 우선순위로 선정할 수 있도록 했다.

 

- 자율 윤리 체계 구축: 정부는 윤리적 AI 원칙을 수립하도록 하는 기반을 마련했으며, 교육기관·연구기관·AI기업이 이 원칙에 따라 민간 자율 AI 윤리위원회를 설립할 수 있도록 허용했다.

 

▶ 결론

 

- 한국의 AI 기본법은 EU AI Act와 유사하게 고영향 AI 정의와 규제 메커니즘을 갖고 있다. 다만 AI 기준을 EU보다 10배 완화해 사실상 국내 사업자 대부분은 규제에서 제외된다. 또한 중국은 AI 콘텐트 사전 심사와 면허제라는 강력한 규제 시행을 앞두고 있지만(2026.4.1.), 한국은 보다 유연한 접근으로 콘텐츠 산업의 창작 자유와 글로벌 경쟁력 유지에 역점을 두고 있다.

 

- 미국은 연방법률은 없으나 주 단위의 규제는 확산되고 있다. 국가AI이니셔티브사무소가 AI전략 감독과 민간과 학계 협력의 허브 역할을 한다.

 

-종합하건대, 한국 AI 기본법은 진흥 측면에서는 R&D, 안전 등에서 명확한 성과를 보이고 있으며, 규제 측면에서도 글로벌 기준 선도라는 상징성을 띠지만, 저작권, 교육 분야 등에는 여전히 후속 과제가 남아있다.