[카드뉴스] ‘세계최초’라는 인공지능법안, 과연 괜찮은 걸까?

2023년 2월 14일 국회 과학기술정보방송통신위원회 소위를 통과한 인공지능법안은, 인공지능 산업에 대한 장밋빛 전망에만 눈이 멀어 지나친 규제완화만 있을 뿐 일자리, 인권침해, 프라이버시 유출 등 인공지능이 야기할 다양한 위험에 대한 준비는 터무니없이 부족합니다.

해외 기업과의 경쟁을 이유로 규제 완화를 주장하지만, 정작 미국과 유럽연합은 인공지능이 야기할 위험에 주목해 다양한 규제책 마련에 박차를 가하고 있습니다. 지금 국회에서 추진되고 있는 인공지능 법안이 위험한 이유와 시민사회가 반대하는 이유를 카드 뉴스로 정리했습니다.

인공지능, 편리한 만큼 잘못되면 피해도 큽니다

• 드론형CCTV-대량감시 #잘못된범죄예측 #자율주행차-보행자사고 #로봇의사-오진단
• 그래서 다양한 위험과 도전에 대비하기 위해 세계 각국은 AI 규제법을 추진중입니다

유럽연합(EU) : 위반시 엄청난 과징금 부과

• 최대 3천만 유로 또는 전세계 연 매출액 6%
• 위험 수준에 비례한 규제
• 용인할 수 없는 위험규정 : 잠재의식 영향기술, 원격생체인신시스템 등
• 기존 법체계와 일관성 유지 : 개인정보, 소비자보호, 차별금지, 성평등 등

미국 : 공정 경쟁, 투명성, 책무성 강화

• 연방거래위원회(FTC)소관, 소비자보호등 영향평가 (영향평가결과 5년보관의무, 요약보고서 FTC제출)

반면 대한민국은? 안전 < 산업육성

• 우선허용ㆍ사후규제원칙
• 과기부장관이 고위험AI여부 판단
• 고위험AI 사업자 책무는 권고사항

대한민국 법안(인공지능산업육성 및 신뢰기반조성 등에 관한 법률안)의 문제점을 자세히 살펴보면,

문제1) 안전 위한 사전적 규제보다는 기업 우선

• AI기술 등 연구ㆍ개발 및 제품ㆍ서비스 출시 제한 사유 : 국민의 생명ㆍ안전ㆍ권익에 위해가 되거나 공공의 안전 보장, 질서 유지 및 복리 증진을 현저히 저해할 우려가 있는 경우에만 한정

문제2) 고위험인공지능 분류 기준과 원칙 불분명

• 개인에게 치명적 피해 우려 있는 영역 분류 無 : AI입학시험, 성적평가, 회사 노무관리, 신용평가, 소방의료응급서비스, 범죄예측, 유아 장난감 등 인공지능 오남용 우려
• 용인할 수 없는 위험AI영역 규정 無 : 행동 왜곡/조작하는 AI, 사람을 분류ㆍ평가하는 AI, 실시간 원격 생체인식 등등

문제3) 사실상 전권을 과기부장관이 소관

• AI 관련 모든 분야 과기부 소관 : 제도개선, 소비자보호, 인권, 차별 개인정보 분야 등 과기부 소관, 고위험 여부도 과기부장관이 정함
• 타 부서 소관 각종 인증권한도 과기부 소관 : 제품안전인증, 산업안전인증, 승강기안전인증과 같이 지금까지 산자부, 고용노동부, 행안부 등 여러부처가 관리해 온 분야까지도 모두 과기부장관이 소관하게 됨

문제4) 고위험 AI에 대한 위험방지대책 없음

• AI기술 적용시 이용자에게 고지로 충분, 위험방지는 기업 내부 규정 권고에만 그칠 뿐 : 준수여부도 기업 자율규제에 맡기며 위반해도 벌칙 규정 없음

잘쓰면 편리한 AI, 남용은 위험한AI
인공지능 육성에만 치우친 법안 아닌 국민안전과 인권 보장하는 인공지능법 제정해야 합니다.

기술은 인간의 존엄을 지켜나가는 바탕에서 발전해야 합니다.

참여연대는 국민 안전과 인권을 보장하는 인공지능법을 마련하기 위한 국회 토론회를 2023년 6월에 진행할 예정입니다.