윤리 규범과 안전 예방에 입각한 AI 규제 (중국 베이징시)
등록일:
2023.07.28
조회수:
181
새로운 과학기술이 등장할 때마다 규제해 왔던 중국 정부는 최근 새롭게 등장한 AI(인공지능)에 대해서도 새로운 윤리 규범과 안전 예방에 입각한 규제 방안을 제시. 이에 따라 베이징시는 AI에 대해 본격적으로 규제할 것을 예고. AI 제품이 생성한 정보뿐 아니라 알고리즘 등 기초적인 AI 기술도 규제하려는 가운데 AI 산업의 혁신・발전도 꾀하고 있어 그 귀추가 주목됨
배경
- 기존 콘텐츠를 배우기만 하는 것이 아닌 새로운 콘텐츠를 생산하는 챗GPT(Chat Generative Pre-trained Transformer) 등 생성형 인공지능(Artificial Intelli- gence, AI)의 등장으로 세계 산업 환경에 거대한 변화가 일어나고 있음. 중국은 그동안 과학기술의 양면성(편의성과 위험성)을 인정하고 과학기술이 가져오는 이익은 취하고 해는 피한다는 윤리 원칙에 따라 새롭게 등장하는 과학기술을 규제하였음. AI의 등장에도 마찬가지로 규제 방안을 제시
- 중국 국무원(중앙인민정부)은 지난 2017년 7월 ‘차세대 AI 발전 계획’을 발표. 자유로운 시장경쟁을 원칙으로 삼되 정부와 시장의 역할을 나눠 윤리 규범의 제정과 안전 예방 등 정부의 관리・감독 역할을 충분히 발휘할 것을 강조
- 이 발전 계획에 맞춰 중국 과학기술부 산하 국가 차세대 AI 관리 전문위원회는 지난 2021년 9월 ‘차세대 AI 윤리 규범’을 발표. AI 산업에서의 공정・공평・조화・안전의 촉진과 편견・차별・침해・유출의 회피를 위해 관리감독・연구개발・생산・소비 등 네 가지 측면에서 AI 윤리 규범 제시
주요 내용
- 시는 올해 5월 말 국무원의 AI 발전 계획과 과학기술부의 AI 윤리 규범이 반영된 ‘세계적인 영향력을 갖춘 AI 혁신 발원지 건설 실시 방안(2023~2025년)’과 ‘범용 AI의 혁신・발전을 촉진하기 위한 몇 가지 조치’를 발표
- 시 AI 산업의 혁신・발전을 위해 2025년까지 AI 산업 성장률을 10% 이상 유지하고 핵심 AI 산업 규모를 3천억 위안(한화 약 54조 원)까지 늘리고 1만억 위안(한화 약 179조 원) 이상의 경제적 파급효과를 내는 것을 목표로 설정. 또한 AI 산업에서 활동하는 기업 수가 국내 선두 자리를 유지하고 5~10개의 AI 유니콘 기업1) 을 새롭게 육성하는 것을 목표로 하여 생성형 AI가 시 경제의 기본적인 생태계가 될 것을 기대
- 관리・감독에 있어서는 다음의 몇 가지를 제시
- 상시 지도 메커니즘의 구축
- 여론 형성과 사회적 동원 능력이 있는 AI 제품이 생성한 인터넷상의 정보에 대한 상시 지도 메커니즘의 구축
- 알고리즘의 제출・변경・취소 등 절차를 이행하도록 지도
- AI 윤리 규범에 입각한 관리・감독의 지속적인 강화
- AI 윤리 규범 공공 서비스 플랫폼을 설치해 기업들의 자율・자치 능력을 제고
- AI 윤리 규범 준수에 대한 심사・평가와 교육・홍보를 통해 AI 산업 주체들의 윤리의식 강화
- 데이터 안전과 개인 정보 보호 강화
- 데이터 안전 인증제와 개인 정보 보호 인증제를 실시하도록 장려
- 국가 간 데이터 전송에 대한 안전관리 시스템을 갖추도록 장려
- 상시 지도 메커니즘의 구축
시사점
- 베이징시는 세계적인 추세에 맞춰 AI 산업의 혁신・발전을 촉진하기 위한 여러 가지 계획을 수립. 하지만 앞서 살펴봤듯이 시는 AI 윤리 규범과 안전 예방에 입각하여 AI 제품이 생성한 정보뿐만 아니라 알고리즘 등 기초적인 AI 기술도 규제할 것을 예고. 이러한 규제에도 불구하고 시가 AI 산업을 혁신・발전시킬 수 있을지 그 귀추가 주목됨
1) 기업가치가 10억 달러(한화 약 1조 3천억 원) 이상인 스타트업
https://www.beijing.gov.cn/zhengce/zhengcefagui/202305/t20230530_3116889...
https://www.beijing.gov.cn/zhengce/zfwj/202305/t20230530_3116869.html
정 민 욱 통신원, muchung617@gmail.com