전국 단일 점수망 아닌 기관·지역별 체계…주민 행동평가 도시는 제한적
핵심 요약
- 쓰촨대 법학 연구자가 중국 사회평가 체계에 AI를 결합하면 행정 효율을 높일 수 있지만 시민 감시로 이어질 위험도 있다고 경고했다. 투명한 절차와 신뢰할 수 있는 알고리즘을 주문했다.
중국(China)의 사회평가 체계에 인공지능(AI)을 결합하면 정부의 위험 평가 능력을 높이는 동시에 대규모 시민 감시로 이어질 수 있다는 연구가 나왔다. 의료·금융·복지 등 시민 생활에 영향을 미치는 만큼 데이터 관리와 행정 권한에 명확한 한계가 필요하다는 지적을 담았다.
소셜뉴스XYZ(SocialNews.XYZ)의 11월 1일 보도에 따르면 사우스차이나모닝포스트(South China Morning Post)가 소개한 이 연구는 쓰촨대 법학원 박사과정생 린젠싱(Lin Jianxing)이 수행했다. 2026년 10월 쓰촨사범대 학술지(Journal of Sichuan Normal University)에 실렸으며, 쓰촨성(Sichuan)의 사회 거버넌스 모델과 제도 혁신을 다루는 사업의 지원을 받았다.
린은 사회평가 체계가 데이터 마이닝과 알고리즘 분석으로 시민의 온·오프라인 활동을 점수화하고, 잠재 위험과 향후 행동을 예측해 행정·규제 판단에 활용한다고 설명했다. 이런 평가가 개인의 법적 권리·의무에 직접 영향을 주지 않는 것처럼 보여도 의료, 금융 서비스, 대출, 정부 지원 사업에서 시민이 받는 대우를 좌우할 수 있다고 짚었다.
연구는 부실한 데이터나 잘못 설계한 모델이 부정확한 평가와 불공정한 결과를 낳을 수 있다고 경고했다. 엄격한 데이터 관리 기준과 강력한 감독 없이 방대한 디지털 흔적으로 시민의 상세 프로필을 만들면 위험 관리 도구가 행동 감시 수단으로 변질될 수 있다는 것이다. 린은 알고리즘에 지나치게 의존하는 행정의 불투명성과 차별 위험을 지적하며 투명한 절차, 신뢰할 수 있는 알고리즘, 행정 권한의 명확한 제한을 강조했다.
행정 효율과 복지 접근성을 높일 가능성도 제시했다. 연구에 등장하는 안후이성(Anhui)의 동적 사회부조 모니터링 플랫폼은 데이터 공유와 정보 데이터베이스를 이용해 저소득층을 파악하고 복지 서비스 전달을 개선한다. 린은 사회평가 체계가 시민의 필요와 위험을 미리 파악하고 공공 자원을 효율적으로 배분하는 데 도움이 될 수 있다고 평가했다. 중국 국무원도 2025년 행동계획에서 공공 서비스 개선과 선제적 행정을 위해 AI를 정부 서비스에 점진적이고 질서 있게 도입할 것을 주문했다.
다만 연구는 중국의 사회신용 체계가 시민 행동을 점수화하고 감시하는 전국 단일망으로 묘사되는 것과 달리, 실제로는 정부 기관과 지방 당국이 서로 다른 체계를 운영한다고 설명했다. 선행 학술연구를 인용해 주민 행동평가 프로그램을 운영하는 도시는 제한적이며, 더 넓은 사회신용 체계의 일부는 정부 기관과 공직자를 감독하는 데도 쓰인다고 덧붙였다.
