시민이 제어하는 AI 공공 시스템 시범 사업

1. 공공 AI 시스템, 시민 주도로 설계되는 패러다임의 전환

4차 산업혁명과 디지털 전환이 가속화되면서 AI는 공공 행정, 교통, 환경 모니터링, 안전 관리 등 다양한 분야에 도입되고 있다. 그러나 기존의 AI 공공 시스템은 대부분 중앙정부나 지방자치단체, 혹은 특정 기업 주도로 설계·운영되는 경우가 많았다. 이러한 구조는 시민의 의견이나 지역사회의 특성이 반영되기 어렵고, 시스템 설계부터 운영까지의 투명성이 부족하다는 비판을 받아왔다. 이에 따라 전 세계적으로 ‘시민 주도의 공공 AI’에 대한 논의가 활발히 진행되고 있으며, 일부 지방자치단체와 혁신도시를 중심으로 시민이 직접 참여하고 제어권을 행사하는 AI 공공 시스템 시범 사업이 시도되고 있다.

이러한 시범 사업은 설계 초기 단계부터 지역 주민의 요구를 반영하고, 시민 참여 회의·공청회 등을 통해 정책 결정을 공동으로 수행하는 것이 특징이다. 예컨대 AI를 활용해 공공 CCTV를 운영하는 시범 사업의 경우, 범죄 예방과 안전 확보라는 목적 외에도 프라이버시 보호와 감시 과잉 방지를 위해 시민이 카메라 설치 위치나 운영 시간, 식별 기술의 범위 등을 결정한다. 이 과정에서 시민들이 직접 알고리즘의 윤리성, 데이터 보관 기간, 접근 권한 등에 의견을 내고 시스템 설계에 반영되도록 한 것이다. 이는 AI 시스템이 단순히 기술 혁신의 산물이 아니라, 시민의 민주적 통제와 사회적 합의를 기반으로 설계될 수 있음을 보여준다.

2. 시민 참여형 AI 시스템의 운영 방식과 사례 분석

시민이 직접 제어하는 공공 AI 시스템은 운영 방식에서 기존 행정 서비스와 명확히 구분된다. 먼저, AI 알고리즘의 작동 방식을 설명하는 대시보드나 가시화된 리포트가 제공되어 시민이 자신의 의견이 시스템에 어떻게 반영되는지 확인할 수 있다. 두 번째로, 주민대표나 시민단체가 참여하는 ‘AI 운영 위원회’가 꾸려져 시스템의 주요 업데이트, 학습 데이터 수정, 서비스 종료 여부 등까지 논의할 수 있다. 예를 들어 독일 함부르크에서는 AI가 예측한 교통 혼잡 데이터를 활용해 버스 배차를 최적화하는 시스템을 운영하면서, 각 구역의 주민과 버스 기사들이 AI 운영위원회에 참여해 교통 패턴에 대한 실시간 피드백을 제공하고 있다. 이 피드백은 AI가 재학습하는 데이터로 활용되어 정확도를 높이고, 주민들의 생활과 실제로 연결되는 맞춤형 교통 서비스를 실현한다.

또한 핀란드 헬싱키에서는 시청이 주도한 AI 환경 모니터링 시스템을 시민과 협업해 구축한 사례가 있다. 도심의 미세먼지와 대기질 변화를 측정하는 AI 시스템을 설치하면서, 감지 센서 위치를 주민 투표로 결정하고 수집된 데이터를 누구나 실시간으로 볼 수 있도록 오픈 데이터 포털을 개방했다. 이 데이터는 AI가 시뮬레이션을 통해 공원, 보행로, 대중교통 정류장의 미세먼지 농도를 예측하고, 시청은 시민이 쉽게 이해할 수 있는 가시화 정보로 재공유한다. 시민들은 이를 통해 산책로를 선택하거나 마스크 착용 여부를 판단하는 등 실질적 생활 정보를 얻게 된다. 이러한 사례는 AI 기술의 민주적 운영 가능성과, 시민의 피드백이 AI 시스템을 더욱 실효성 있게 만든다는 점을 잘 보여준다.

3. 시민 통제형 AI 시스템 도입 시 주요 쟁점과 해결 방안

시민 주도의 AI 공공 시스템은 혁신적이지만, 실제 도입 과정에서 여러 과제가 존재한다. 첫째는 ‘디지털 정보 격차’로, 모든 시민이 기술적 이해도가 높은 것은 아니기 때문에 AI 시스템 설계와 운영에 동등하게 참여하기 어려운 경우가 있다. 이를 해결하기 위해 핀란드의 헬싱키 사례처럼 주민을 대상으로 한 AI 리터러시 교육을 제공하거나, 시범 사업 과정에서 기술적 용어를 쉽게 풀어낸 정보 제공서를 배포하는 방법이 제시된다. 두 번째 쟁점은 시민 의견 수렴의 대표성과 다양성이다. 지역사회 내 특정 단체나 연령대의 의견만 반영되는 상황을 방지하기 위해, 다양한 계층을 초대하는 무작위 주민 참여 방식, 온라인 설문과 오프라인 공청회를 병행하는 등 포괄적 방안이 필요하다.

셋째는 보안과 개인정보 보호 문제다. 시민 주도로 결정한 AI 시스템은 공공 데이터를 다루는 만큼, 보안 체계가 취약하면 오히려 개인의 프라이버시를 위협할 가능성이 있다. 예를 들어 스마트시티 내 AI 교통 시스템이 CCTV 영상을 학습 데이터로 사용하는 경우, 차량 번호판과 보행자 얼굴이 그대로 수집될 수 있다. 이에 따라 시범 사업 단계에서부터 ‘비식별화 데이터 처리’, 접근 권한 체계 수립, 개인정보 보호를 위한 알고리즘 검증 절차가 필요하다. 이러한 다층적 접근 방식을 통해서만 시민 주도의 AI 시스템이 안전성과 신뢰성을 확보할 수 있다.

4. 미래 도시와 AI 거버넌스, 시민의 역할 강화 방안

AI 기반 공공 서비스는 앞으로 스마트시티, 자율주행 인프라, 재난 예측 등 도시의 핵심 시스템으로 확대될 가능성이 높다. 따라서 기술의 투명성과 민주성을 보장하는 ‘AI 거버넌스’ 구축이 필수적이다. 미래에는 시민과 지자체, AI 개발사가 삼각 협의체를 구성해 주요 의사결정에 시민권을 보장하고, 이 과정을 정기적으로 평가하고 수정하는 체계를 갖추는 것이 중요하다. 또한 시민은 단순한 의견 제공자에 그치지 않고, 직접 데이터 수집과 관리, 서비스 평가까지 참여해 AI 시스템을 공동 운영하는 주체로서 역할을 확대할 수 있어야 한다.

더불어 이러한 시스템을 지원하는 중앙정부의 역할도 중요하다. 시범 사업에서 얻은 성과와 한계를 토대로 전국 단위 가이드라인을 마련하고, 각 지역 상황에 맞춘 로컬 AI 거버넌스 모델이 발전할 수 있도록 제도적·재정적 지원을 해야 한다. 예산, 법제, 교육 프로그램 지원을 통해 각 도시별로 AI 민주주의 모델이 자리잡게 된다면, 시민은 공공의 문제를 해결하는 기술의 진정한 주인이 될 수 있다. 앞으로 시민 제어형 AI 시스템은 기술 혁신과 시민 참여의 접점을 넓혀가며, 지속 가능하고 투명한 도시 발전의 핵심 동력이 될 것이다.