공익법센터 프라이버시/정보인권 2025-06-10 10788

[새정부과제] 인권과 안전, 민주주의 담보하는 AI 정책

“이재명 대통령과 새 정부에 제안합니다”

내란의 긴 터널을 지나 새 정부가 출범했습니다. 향후 5년은 민생경제와 민주주의 과제를 조속히 해결하고, 기후위기와 디지털 전환, 대외 정세 변화에 적극 대응해야 하는 결정적인 시기입니다. 임기를 막 시작하는 이재명 정부의 역할과 책임은 그 어느 때보다 막중할 것입니다. 광장의 시민들 또한, 지난 3년간 누적된 정책적 오류와 실패를 바로잡고, 내란의 극복을 넘어 더 나은 사회로 나아갈 수 있길 바라 마지 않을 것입니다.

참여연대는 이재명 대통령과 새 정부의 국정과 각 부처 정책에 반영할 개혁정책 과제 보고서를 마련했습니다. 정치·경제·사회·인권·전환 등 각 12개 분야를 망라하여 이재명 대통령의 공약을 검토하여 추진 또는 수정·보완할 공약은 무엇인지 밝히고 64개의 개혁정책 과제를 제안합니다. 이재명 정부가 충실하게 검토하고 국정 기조와 과제에 반영하여 이행되기를 바랍니다.

📌이재명 정부에 제안하는 참여연대 정책과제 [원문보기/다운로드]

XI. 새로운 전환 분야

✨정책과제1. 인권과 안전, 민주주의 담보하는 AI 정책

✨정책과제2. 디지털 경제민주화 통한 플랫폼 공정경쟁 질서 구축

✨정책과제3. 책임 있는 기후대응 위한 정부조직 개편

✨정책과제4. 공공 중심 에너지 전환과 정의로운 전환

[새정부과제] 인권과 안전, 민주주의 담보하는 AI 정책

현황과 문제점

챗GPT의 등장으로 AI(인공지능)에 대한 대중적 관심이 폭발적으로 늘어났으며 스마트폰의 AI 비서나 AI 스피커, 온라인 쇼핑몰의 상품추천 등 일상 생활에서 익숙한 AI 서비스뿐 아니라 자율주행차, 배달 로봇, 금융서비스, 사회복지수급자 선정, 일자리 배치나 채용 등 민간과 공공영역 곳곳에서 인공지능을 활용하고 있음. 그러나 인간노동력 대체, 소비자 대면서비스의 품질 저하, 조작, 차별적 관행 반복 강화, 자원낭비로 인한 환경문제 등 AI가 가져올 수 있는 위험에 대해서는 실감하지 못하는 것이 현실임. 산업로봇과 배달로봇 등 일자리 대체로 인한 실업과 안전 문제, AI 학습 과정에서 데이터 저작권 및 개인정보 오남용 문제, 디지털성폭력과 보이스피싱 피해 등 다양한 문제들을 야기하고 있음. 또한 AI 제조와 운영에는 막대한 전기, 물 등이 필요하며 이로 인한 탄소배출량과 물소비량 등에서 기후문제를 더욱 악화시킬 것이라는 비판을 받고 있음. 12.3 내란에서 확인하였듯이 알고리즘에 의한 공론장의 잠식과 허위조작정보 문제, 이로 인한 편향, 혐오 등은 다양성, 포용과 같은 민주주의 가치에도 중대한 위협이 되고 있음.
급속히 발전하는 AI가 우리 사회에 미칠 영향에는 혜택과 위험이 모두 있을 수밖에 없으며, 국가 정책은 이 두 가지 측면 모두에 대해 균형적이어야 함. 그러나 윤석열 정권이 추진한 AI 정책은 AI 기술의 안전성과 신뢰성 확보를 위한 위험성 규제 필요에 대한 호응보다는 산업 진흥에만 초점을 맞춰, 국가 정책이 인권과 안전을 압도하였음. AI에 대한 투자와 지원 정책 외에 AI가 국민의 안전, 인권, 민주주의에 미칠 영향에 대한 통찰과 대비가 전혀 없었음. 국회 역시 시민사회의 우려에도 불구하고 AI 산업의 육성에 치우친 AI 기본법을 2024년 12월에 제정함. 2026년 1월 22일 시행될 AI 기본법은 안전과 위험 대비 대책이 거의 없는 것과 다름없음에도 기업은 이마저 규제라며 반발하고 있는 실정임.
반면 일반 시민과 노동자야말로 AI 시대의 핵심적인 이해관계자라는 사실을 엄중하게 인식해야 함. 시민 모두가 영향을 받는 당사자임에도, AI 정책은 주로 전문가 주도의 경제 중심적이고 기업 이익을 우선시하는 산업진흥정책 기반 거버넌스에서 정해짐. 그러나 AI 산업진흥에 대한 구체적인 대안이나 정부 지원에 따른 예상 성과 등에 관한 구체적인 결과에 대한 논의 없이 낙관적인 희망론에 근거하여 일방적인 태도로 진행되고 있음. 이 과정에서 실제로 인공지능의 영향을 받는 시민들은 배제되어 왔음. 이에 새 정부는 AI가 주는 편익과 동시에 시민의 생명, 안전 및 민주주의에 미치는 위험도 고려하여 균형잡힌 AI 정책을 추진하는 것이 필요함.

당선자 관련 공약과 평가 의견

관련 공약 : K-AI이니셔티브 전략

[수정보완 필요] AI 세계 3대 강국 진입, 글로벌 AI-이니셔티브 전략 추진, ‘AI 기본사회’ 구축, 국가 책임 AI 국가인재 양성, AI 규제 합리화 등 5가지 전략을 내세우고 있음. 이재명 대통령의 AI 공약은 AI산업 육성이 중심으로, ‘AI의 위험으로부터 시민의 안전과 인권을 보호’하겠다는 내용이 전무함. 반드시 정책 추진 과정에서 보완되고 강화되어야 할 것임.
‘AI 규제 합리화’ 공약의 경우 기업이 요구하는 규제 완화만을 해서는 안될 것임. 규제는 단순히 기업의 활동을 제한하기 위한 것이 아니라 공공의 안전과 복지를 보장하기 위한 국가의 필수적 수단임. 이를 마치 ‘혁신의 장애물’이라는 식의 기업의 주장은 안전 장치 없는 브레이크가 달린 자동차를 운전하게 해 달라는 것과 같음. 무엇보다 효과적인 규제는 오히려 기업의 혁신을 촉진하며 현대 사회의 지속 가능한 발전을 위해 필수적임.
당선자의 공약 ‘AI규제 합리화’와 그 하부 과제로 제시한 ‘AI산업생태계 조성 위한 법률정비’는 AI기본법에 미비한 금지인공지능 정의, 고위험AI에 대한 위험완화 대책, 투명성, 책임성 부과 등과 같이 AI기본법에 미비한 규제방안, 누구나 안전하고 인권친화적인 AI의 혜택을 누릴 수 있도록 국가가 적정한 가드레일을 설정해 주는 것어야 함. 이에 대한 구체적인 방안이 정책 수립과정에서 반드시 반영되어야 할 것이며, 동시대적으로 입법되고 있는 세계 각 국의 입법 내용을 반드시 참고하여야 할 것임.

구체적 과제 제안