[연속워크숍⓷] 공권력 AI의 현황과 대응 : 경찰AI와 출입국 AI – 공권력 AI, 행정 효율화보다 인권을 우선 고려해야

사회적 약자일수록 AI에 의한 인권 침해 가능성 높아

‘판단주체로서의 인간’이라는 책임성 부여해야

경찰과 출입국 행정 분야에서 얼굴·동작 인식 등 생체인식 기술과 실시간 예측 기능을 결합한 AI 도입이 빠르게 추진되고 있습니다. 그러나 공권력 집행은 그 대상이 되는 개인의 권리에 중대한 영향을 미치는 분야로, AI 도입은 사회적 차별 심화, 개인정보 무단 활용, 알고리즘에 의한 낙인 등 심각한 인권 침해로 이어질 수 있습니다. EU AI법은 개인예측치안과 공공장소 실시간 생체인식을 금지하고, 이주·난민 심사 등을 고위험 AI로 분류하여 엄격한 의무를 부과하고 있습니다. 반면, 한국의「인공지능 기본법」은 금지 AI 규정이 없고 고위험 영역도 매우 협소하게 설정되어 있는 실정입니다.

이에 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(AI시민행동)은 6번에 걸쳐 진행하는 ‘AI 시대 영항받는 사람’ 워크숍의 세번째 주제로 ‘경찰·출입국 AI의 도입 현황과 인권 위험’이라는 주제로 지난 7월 14일 오후 3시 민주사회를 위한 변호사모임 대회의실에서 공권력 분야에 AI가 도입됨에 따라 발생할 것으로 예상되는 문제들을 분석하고, 시민의 권리를 지키기 위한 방안을 모색했습니다.

먼저 박병욱 제주대학교 행정학과 교수는 경찰 분야의 AI 현황과 문제점을 짚었습니다. 박 교수는 경찰 분야에 AI가 도입될 경우 경찰관의 인지적, 지식적 한계를 극복하여 더욱 정확한 위험 판단을 할 수 있도록 일면 기여하는 측면도 없지 않지만, AI의 불투명성과 편향성 문제가 크다고 지적했습니다. 불투명한 알고리즘은 명확한 근거없이 시민들을 평가하고 감시하는 등 인격권, 행동자유권 등 기본권을 심각하게 침해할 수 있다는 것입니다. 경찰의 위험방지 및 범죄행위 예방을 위한 정보상 조치(CCTV 등)에 AI를 도입하는 경우 편견 및 오류가능성이 높기 때문에, AI 판단은 위험의 의심으로만 인정해야 한다고 주장했습니다. 즉 인간인 경찰관의 확인과정을 거친 후 경찰조치가 취해져야 하며, 판단주체로서의 경찰관의 역할과 책임성을 강조했습니다. 기본권 침해가 우려되는 고영향 AI 활용 영역에서는 더욱 세심하게 AI의 한계가 고려돼야 하며 관련 조건을 법적으로 설정하는 것이 필요하다고 덧붙였습니다.

다음으로 이일 공익법센터 어필 변호사는 이민행정에서의 AI 현황과 문제점에 관해 발제를 했습니다. 이 변호사는 ‘이민행정 AI’를 이민행정의 전 과정에서 데이터를 분석·예측하여 인간의 결정을 보조하는 자동화 시스템이라고 설명하며, 차별의 자동화, 대규모 감시, 강제송환금지의무 위반 등 AI가 도입되었을 때의 인권 침해 문제를 짚었습니다. 그러면서 특히 해당 문제들이 이주민, 난민, 무국적자 등 구조적으로 취약한 위치에 있는 비국민들의 인권을 심각하게 훼손할 수 있다고 지적했습니다. AI 고도화를 위해 민간기업에 법무부 보유 정보를 학습용으로 제공하고 개인정보보호위원회가 해당 정보를 민감정보로 보면서도 목적 범위 내 이용으로 정상적 처리위탁에 해당한다고 판단한 바 있는 법무부와 과학기술정보통신부가 협업하여 진행한 ‘인공지능 식별추적시스템 개발사업’을  환기했습니다. 이 변호사는 이민행정 AI 사용을 금지할 필요는 없더라도 개별 위험에 비례하는 차등적 통제가 중요하다고 했습니다.

첫번째 토론을 맡은 랑희 공권력감시대응팀 활동가는 경찰이 AI 기술을 활용해 치안 역량을 대대적으로 강화하겠다는 목표를 밝혀 ‘AI 혁신 TF’가 정식 직제화되었고, 실제로 현장 순찰 및 실종자 수색 등에 AI 탑재 드론 사용, 그리고 자율주행 AI 순찰 로봇 등을 사용하고 있다고 언급했습니다. 이같은 예측적 치안은 범죄 발생률을 낮추고 경찰 활동의 효율성을 제고할 수 있을 것이라는 기대가 있지만, 이는 필연적으로 개인정보 침해와 감시를 초래한다고 지적했습니다. 랑희 활동가는 이같은 문제와 우려를 해소하기 위해 ▲고영향 AI 판단 기준의 협소함, ▲경찰청 AI의 기본권 침해 방지를 위한 제도적 장치 미비, ▲AI 기능 향상 목적의 데이터 공유를 추진하는 데 대해 시민의 통제 방안 논의 등 세 가지 사항이 검토되어야 한다고 주장하며 토론을 마무리했습니다.

두번째 토론을 맡은 최호웅 민주사회를 위한 변호사모임 디지털정보위원회 위원장은 감사원의 ‘인공지능 대비 실태’ 감사보고서를 기반으로 지능형 CCTV의 탐지 정확도는 12~52% 수준임을 언급하며 오류가능성이 높다는 점을 짚었습니다. 그러면서 오류가 공권력 행사로 이어졌을 때 시민의 개인정보자기결정권과 일반적 행동자유권의 침해로 이어질 수 있는 문제를 지적했습니다. 개인정보보호법 제15조 제1항 제3호 “소관 업무의 수행”이 AI를 이용한 경찰 직무 집행의 독립적인 수권조항으로 해석할 수 없다고 주장하며, 대상, 목적, 데이터 종류, 분석 방법 등을 개별 법률(경찰관직무집행법 등)에 구체적으로 규정할 필요가 있다고 제언했습니다. 나아가 규제 방안으로 ▲경찰이 AI를 사용할 경우 인공지능기본법상 고영향 인공지능 운용자 책무 부여, ▲투명성 확보를 위한 경찰 AI 시스템 등록 및 공개 등 영향받는 자에 대한 권리 보장, ▲집회·시위 위축을 방지하기 위한 참가자 전체 분석 제한 등을 제시했습니다.

세번째 토론을 맡은 고기복 모두를 위한 이주인권문화센터 대표는  데이터·국경관리·스크리닝 등에만 방점을 찍는 한국 정부의 이민 정책을 비판했습니다. 그러면서 GCM 23가지 목표에 비추어 ▲수집 생체정보의 사용 범위 한정 및 AI 학습 등 2차 이용 금지, ▲이민 분야 AI의 고위험 지정, ▲알고리즘의 차별성 평가 제도 도입, ▲투명성 확보 및 독립적 구체 절차 마련, ▲챗봇, 통·번역 지원 등 이주민의 행정 접근성을 높이는 저위험 영역에서 AI 활용 촉진 등을 제안했습니다. 고 대표는 AI 기술이 인권과 윤리를 존중하는 방향으로 발전할 수 있도록 시민단체의 지속적인 모니터링의 필요성을 강조했습니다.

네번째 토론을 맡은 허오영숙 한국이주여성인권센터 대표는 한국의 이주정책이 이주여성을 주로 가족이나 돌봄 노동의 대상으로 젠더화하고 있으며, AI가 해당 편중을 심화시킬 가능성이 있다고 지적했습니다. 특히 AI가 대체로 국경감시, 국가안보에 초점이 맞춰져 있고, 딥페이크 등 젠더기반 폭력대처에 적극적으로 활용될 것으로 기대하기 어렵다고 이야기했습니다. 또한 특정 인종, 출신국 같은 사회적 약자에 속하는 집단의 여성일수록 더욱 심한 피해가 발생할 것이라고 강조했습니다. 나아가 법무부의 ‘2030 이민정책 미래전략’을 언급하며, 강화된 국경 관리가 이주 여성들의 생존을 더욱 어렵게 할 것이라는 전망을 덧붙였습니다.

이번 워크숍에서는 경찰과 출입국 분야의 AI가 도입되었을 때 발생할 수 있는 문제점과 대응방안에 대해서 논의했습니다. 특히 공권력 분야는 생체정보 등 민감정보가 AI에게 적극 수집될 수밖에 없다는 점에서 더욱 엄격하게 규제되어야 할 것입니다. 한편, AI시민행동은 오는 7월 15(수) 오후 2시 서울시공익활동지원센터에서 ‘교육 분야 인공지능 도입에 따른 인권 영향 분석 및 제도적 대응’이라는 주제로 연속워크숍을 이어갑니다.

🔎 프로그램

• 일시 : 2026년 7월 14일(화) 오후 3시
• 장소 : 민주사회를위한변호사모임 대회의실(지하 1층) ※온라인 생중계(줌) 병행
• 공동주최 : 공권력감시대응팀, 공익법센터 어필, 민주사회를위한변호사모임 디지털정보위원회, 민주주의법학연구회, 외국인이주·노동운동협의회, 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동, 한국이주여성인권센터
• 주관 : 디지털정의네트워크, 정보인권연구소
• 후원 : 아름다운재단
• 사회 : 장여경(정보인권연구소 상임이사)
• 발제 : 박병욱(민주주의법학연구회, 제주대학교 행정학과 교수) – 경찰 분야, 이일(공익법센터 어필, 변호사) – 이주 분야
• 토론 : 랑희(공권력감시대응팀 활동가), 최호웅(민주사회를위한변호사모임 디지털정보위원회 위원장, 변호사), 고기복(모두를 위한 이주인권문화센터 대표), 허오영숙(한국이주여성인권센터 대표)

※이번 워크숍은 소비자·보건의료·공권력·교육·사회복지·지역(울산) 등 총 6개 분야에 걸쳐 순차적으로 개최되는 “영향받는 사람들의 목소리” 연속 워크숍의 세 번째 순서입니다. 각 워크숍은 온·오프라인 병행될 예정으로, 문자통역이 제공됩니다.