공익법센터 프라이버시/정보인권 2025-05-07 8707

[2025대선] 정책방향23. 안전과 인권, 민주주의 보장하는 인공지능

21대 대선을 한 달여 앞두고 참여연대는 각 정당과 후보자들에게 정책방향과 의제 25가지를 제안하는 보고서
“내란을 넘어 더 단단한 민주주의로”를 발간했습니다.

내란 사태와 대통령 윤석열 파면으로 치러지는 조기 대선인만큼 정권 교체의 요구가 그 어느 때보다도 높습니다. 그러나 이는 단순히 대통령을 바꾸자는 요구가 아니라 지난 2년 반 동안 누적된 후퇴와 퇴행을 되돌리고 더 단단한 민주주의로 나아가야 한다는 시대적 요구입니다. 윤석열 정부 임기동안, 국가는 스스로 역할을 포기하고 기업과 개인에게 책임을 떠넘기며 사회경제적 복합위기가 심화되는 것을 수수방관했습니다. 민주적 규범과 남북 간 합의는 모두 무시되었고 서민들의 삶은 심각하게 피폐해졌습니다.

이번 대선이야말로 우리 앞에 산적한 거대한 복합위기를 해결하기 위해 각계의 고민과 토론이 이뤄지는 장이 되어야 합니다. 이번 참여연대 보고서가 뜨거운 정책 토론의 장에 자양분이 되기를 기대합니다.

📌2025 대선에 제안하는 참여연대 25개 의제 [원문보기/다운로드]

IV. 정의로운 전환과 인권·평등·안전 실현
✨정책방향21. 기후위기 대응의 국가책임 강화
✨정책방향22. 공공중심 에너지 전환과 정의로운 전환
✨정책방향23. 안전과 인권, 민주주의 보장하는 인공지능
✨정책방향24. 인권과 평등을 강화하기 위한 법제도 마련
✨정책방향25. 재난·참사로부터 안전한 사회

정책방향23. 안전과 인권, 민주주의 보장하는 인공지능

현황과 문제점

현재 AI는 노무·인사, 학습, 의료, 금융, 행정서비스, 재판, 사회복지 등 민간의 다양한 서비스와 공공서비스, 행정처분에 이르기까지 우리 사회 곳곳에서 활용되고 있고 앞으로 더 확대될 추세임. AI 활용은 비용 효율적이고 편의를 제공할 수 있으나 인간 노동력 대체, 차별적 관행 반복 및 강화, 자원낭비로 인한 환경문제 등 다양한 문제를 야기하고 있음. 그러나 그동안 AI의 위험성 규제의 필요에 대한 호응보다는 산업위축론에 따른 진흥에 초점을 맞춘 국가 정책이 우세하였음.
실제 알고리즘의 편향성으로 인하여 대출 등 금융서비스, 채용, 사회복지, 경찰수사 등에서 차별적 대우가 세계적으로 큰 논란을 빚고 있음. 산업로봇과 배달로봇 등 일자리 대체로 인한 실업과 안전 문제, AI 학습 과정에서 데이터 저작권 및 개인정보 오남용 문제, 디지털성폭력과 보이스피싱 피해 등 다양한 문제들을 야기하고 있음. 또한 AI 제조와 운영에는 막대한 전기, 물 등이 필요하며 이로 인한 탄소배출량과 물소비량 등에서 기후문제를 더욱 악화시킬 것이라는 비판을 받고 있음.
특히 세계 최초의 ‘알고리즘 쿠데타’라고 불리는 윤석열의 12.3내란에서 확인하였듯이 알고리즘에 의한 공론장의 잠식과 허위조작정보 문제, 이로 인한 편향, 혐오 등은 다양성, 포용과 같은 민주주의 가치에 위협이 되고 있음.
또한 이러한 문제들은 시민 모두가 영향을 받는 당사자임에도, AI 정책은 주로 전문가 주도의 경제 중심적이고 기업 위주인 기술정책 거버넌스에서 정해짐. 이 과정에서 실제로 인공지능의 영향을 받는 시민들은 배제되어 왔음. 이에 AI가 주는 편익과 동시에 시민의 생명, 안전 및 민주주의에 미치는 위험도 고려하여 균형잡힌 AI 정책을 추진하는 것이 필요함.

정책추진 과제