공익법센터 인공지능(AI) 2026-08-27 79

[2026 정기국회 입법·정책과제] AI 책임성·공공성 강화 위한 「인공지능기본법」 개정

1. 현황과 문제점

AI는 챗봇, 의료 진단, 자율주행차, 대출 및 자산상담, 채용, 인사평가, 노무관리를 비롯해 최근에는 에이전틱AI와 피지컬AI에 이르기까지 우리 사회 전반에 걸쳐 활용되고 있음. 무엇보다 정부가 AI 강국을 선언하고 최우선 정책과제로 추진하는 과정에서 행정부를 견제하고 균형을 맞추어야 할 국회조차 정부의 AI산업 진흥 일변도의 규제완화와 AI 예외주의 기조에 대응하는 균형과 견제의 역할을 하지 못하고 있어 우려가 큰 상황임. 이에 그동안 시민사회는 AI의 위험성 통제, 고위험 AI 사업자의 책임성 강화, AI에 영향 받는 사람의 권리 보장을 실효성 있게 담보할 제도 마련을 요구해 옴.

그러나 2026.1.22.부터 시행되고 있는 <인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(이하, 인공지능기본법)>은 ▲사회적으로 용인할 수 없는 금지해야 할 인공지능 정의가 없고, ▲고영향 인공지능의 정의에 빠진 분야가 많고, ▲고영향 인공지능 사업자의 책무 위반에 대한 처벌 규정이 미흡하여 실효성을 담보하기가 어렵고, ▲인공지능의 영향받는 자를 정의하고 있으나 권리 및 구제에 대한 조항이 없으며, ▲국방 또는 국가안보 목적의 인공지능은 이 법의 적용을 제외하고 있고, ▲텍스트, 이미지, 오디오 생성, 패턴 인식, 번역 등 다양한 방식으로 재현될 수 있는 범용AI 모델에 대한 규정이 없음.

AI 시스템으로부터 인권에 중대한 ‘영향받는자(개인과 집단 포함)’의 권리 존중과 보호는 유엔 인권기구를 비롯한 국제인권규범에서 각국 정부에 지속적으로 이행을 요구하여 온 국제기준임(2020.3.4.A/HRC/43/29: “경제적, 사회적, 문화적 권리 실현을 위한 신기술의 역할에 관한 보고서” 등). 또한 AI가 인권, 민주주의, 법치주의에 미치는 악영향을 완화하기 위해 2024.5. 유럽평의회(Council of Europe)가 채택한, 법적 구속력이 있는 ‘인공지능과 인권, 민주주의, 법치주의에 관한 유럽 평의회 프레임워크 협약’에는 영향받는 자 구제 조치로 인공지능 사업자가 인권에 중대한 영향을 미칠 가능성이 있는 AI 시스템 관련 정보를 관할 당국에 제공하고, 특정한 경우 영향 받는 사람에게도 제공하도록 하고, 인공지능에 기반한 결정으로부터 영향 받는 사람은 결정에 대하여 이의를 제기할 수 있고, 특정한 경우 시스템 자체에 대한 정보를 제공받을 수 있어야 한다고 규정하고 있음. 그러나 2026.1.5. 감사원이 실지감사 보고서를 통해 지적한 대로 인공지능기본법에는 영향받는 사람에게 발생하는 피해에 대한 보호 면에서 법률적 공백이 존재함.

국가인권위원회가 2024년 권고한 바와 같이 AI의 위험성을 사전에 예측, 위험을 완화할 수 있는 방안 등을 확보하기 위해서는 사전 영향평가를 하는 것이 필요함. 그러나 현행 인공지능기본법에는 이를 사업자의 자율적 판단에 맡기고 있음. 최소한 고영향 AI의 운영자의 인공지능 영향평가를 의무화하고 그 결과는 적절한 방식으로 공개해야 함. 특히 공공기관이 도입하는 AI시스템은 전국민이 영향을 받기 때문에 영향평가를 의무화해야 함.

2. 세부 과제

1) 위험에 따른 적절한 의무와 책임을 부과하기 위해 정의 규정 개선

이용자의 개념으로 포섭되어 실질적인 책임과 의무에서 면제되고 있는, AI시스템을 업무 목적으로 자신의 권한 하에 운영하거나 사용하는 ‘운용자(deployer)’ 개념 도입(제2조 정의 규정 개정).
범용인공지능에 대한 정의 추가 : 다양한 용도로 적응, 활용될 수 있는 범용인공지능에 대한 정의 신설하여 위험에 따른 안전성 의무 부과 필요
개발 사업자의 책무와 이용 사업자의 책무 구분, 영향받는 자의 보호 방안 마련

2) 환경 보호와 기후위기 대응 위한 규범과 원칙 마련

인공지능 진흥과 환경 보호 사이의 규범적 균형을 위해 목적 조항, 기본원칙 및 국가 책무 조항에 ‘기후위기 대응 및 환경적 지속가능성 확보’ 등 추가함.
인공지능 개발과 운영이 환경 및 기후에 미치는 영향을 공개 및 평가함.
국가 거버넌스에서 인공지능 데이터센터의 환경적·사회적 영향 관리 및 지속가능한 운영이 다뤄지도록 함.

3) 가장 인권침해가 우려되는 국방·국가안보 등 분야도 규제 영역으로 포함 필요

국방 또는 국가안보 목적으로만 개발·이용되는 인공지능 적용제외 규정 삭제하여 기본법으로서 일반적 기준을 이 분야에도 적용하도록 제4조(적용범위) ②항 삭제함.

4) 사회적으로 용인할 수 없는 금지인공지능 정의 도입

▲취약 집단 악용 및 행동 왜곡, ▲잠재의식 자극 및 인지적 조작 기술, ▲대규모 사회적 평점, ▲무단 크롤링 기반 안면인식 DB 구축, ▲공공장소에서의 실시간 원격 생체 식별, ▲직장 및 교육기관에서의 감정 분석, ▲민감 정보 추론 기반 생체인식 분류, ▲인간의 실질적 통제가 결여된 자율 무기 체계(LAWS), ▲인적 개입 없는 예측 치안 시스템 등 9대 금지 유형에 해당하는 인공지능 시스템의 개발, 출시, 운영 및 이용을 전면 금지하고, 기타 인간의 존엄을 침해할 우려가 있는 인공지능 시스템에 대해서도 대통령령으로 추가 지정할 수 있도록 함.

5) 생명, 안전 또는 기본권에 영향을 미치는 고영향AI 추가

고영향인공지능 각 목 조항에 ▲수사 및 기소 등 기본권을 침해할 수 있는 국가기관의 권한 행사에 이용되는 인공지능, ▲군 또는 정보기관에서 첩보, 방첩, 무기 운용에 사용되는 인공지능, ▲사람의 감정인식에 사용되는 인공지능, ▲사법부 또는 행정부에서 판결, 결정, 심판 등의 업무에 사용되는 인공지능, ▲정보통신망의 운영에 사용되는 인공지능, ▲선거 및 투표행위, 투표결과에 영향을 미치기 위하여 사용되는 인공지능, ▲제품 안전에 영향을 미칠 수 있는 인공지능 등을 추가함.

6) 실제로 AI의 영향을 받는 사람의 권리 보장, 구제 절차 명시 필요

제2조 9호의 ‘영향받는자’에 대한 정의 조문에 상응하는 영향받는 자의 권리를 명시적으로 정의, 신설함.
인공지능 사업자가 인권에 중대한 영향을 미칠 가능성이 있는 AI 시스템 관련 정보를 관할 당국에 제공하고, 특정한 경우 영향 받는 사람에게도 제공하도록 하고, 인공지능에 기반한 결정으로부터 영향 받는 사람은 결정에 대하여 이의를 제기할 수 있고, 특정한 경우 시스템 자체에 대한 정보를 제공받을 수 있어야 함.

7) 신뢰할 수 있고 안전한 AI를 위한 최소한의 투명성 강화 및 안전성 확보 조치