공익법센터 인공지능(AI) 2026-07-15 57721

[연속워크숍⓸] 교육 분야 인공지능 도입에 따른 인권 영향 분석 및 제도적 대응 – 교육 AI 활용에 앞서 권리 리터러시 교육 우선돼야

학생·학부모·교사 등 당사자 목소리가 반영되는 거버넌스 구축해야

AI 리터러시, AI 활용뿐 아니라 영향받는 자의 권리와 인권 교육돼야

최근 교육 현장에서 여러 인공지능 기술 도입이 추진되며 청소년의 학습 방식과 데이터 프라이버시에 중대한 변화를 야기하고 있습니다. 이 과정에서 학생의 학습 이력, 행동 패턴 등 민감한 데이터가 시스템에 기록 및 분석되고 있으나 정작 정보 주체인 학생과 학부모는 기술의 작동 메커니즘과 그에 따른 위험성을 충분히 이해하지 못하는 정보 비대칭 문제가 발생하고 있습니다. 또한 리터러시 교육은 기술의 활용법 전수에만 치중되어 있어 기술이 인권에 미치는 영향이나 개인정보 자기결정권에 대한 대응 교육은 부족한 실정입니다.

현재 시행 중인 인공지능 기본법은 ‘영향받는 자’ 개념을 포함하고 있음에도 불구하고 이용자 보호 조치에 편중되어 있습니다. 인공지능 도입을 결정하고 이용하는 주체는 교육 당국이나 학교이지만, 그 결정으로 인해 권리에 영향을 받는 당사자는 교사와 학생입니다. 당사자의 권리를 구제하기 위한 구체적인 근거 마련과 목소리를 반영하는 과정이 필수적입니다.

이에 인공지능 책임성과 공공성 강화를 위한 시민사회 공동행동(AI시민행동)은 AI가 청소년들에게 미치는 영향을 살펴보고 대응 방안을 모색하기 위해 지난 7/15(수) 오후 2시 서울시공익활동지원센터에서 ‘교육 분야 인공지능 도입에 따른 인권 영향 분석 및 제도적 대응’이라는 주제로 연속워크숍의 네 번째 회차를 진행했습니다.

발제를 맡은 진냥 연대하는 교사잡것들 활동가는 AI를 활용한 교육에 있어 ‘진흥’과 ‘통제’라는 두 축이 청소년을 정책의 주체가 아닌 대상으로 위치짓는다고 비판했습니다. 또한 AI를 활용한 폭력(딥페이크 등)에 대응할 청소년 보호제도가 없다며, 이 같이 청소년 보호가 조명되지 않는 것은 청소년을 권리 주체로 보지 않는 시각에 기반한 것이라고 비판했습니다. 또한 진냥 활동가는 AI 교과서(이하 AIDT)의 문제점으로 검증과 숙의없는 정책 결정이라고 비판했습니다. 구체적으로 교육부가 AIDT 정책을 시행하는 과정에서 학생·학부모·교사 등 당사자들의 의견 수렴 절차, 통상적으로 운영되는 시범운영 미실시 등 절차적 정당성과 숙의과정이 부존재했다고 지적했습니다. 나아가 인권의 측면에서 AI가 가지는 ▲동의없는 개인정보 수집, ▲알고리즘 편향과 구조적 차별, ▲또래 상호작용과 공동학습 위축, ▲판단 및 책임 경험의 부재 등의 위험성을 인지하여, 정책·제도에 영향받는 사람의 목소리가 반영되어야 한다고 강조했습니다. 그러면서 AI 리터러시 교육이 AI를 활용하는 법을 가르치는 것에서 그치지 않고, 학생이 스스로를 정보 주체로 인식하고 열람·정정·삭제·처리정지 등 AI의 결정에 이의를 제기할 수 있는 권리가 있다는 사실을 알려주는 것으로 확장되어야 한다고 설명하며, ‘권리 리터러시’를 AI 교육의 필수 요소로 명시할 것을 제안했습니다. 더하여 교사도 학생의 정보권을 옹호·지원할 역량을 갖출 필요가 있다고 덧붙였습니다.

첫번째 토론을 맡은 은설 청소년인권운동연대 지음 활동가는 먼저 미성숙하다는 이유로 학생들의 인권은 밀어내고, 학생들을 교육의 ‘대상’으로만 바라보는 교육 구조를 비판했습니다. 그러면서 AI를 교육과정에서 가르쳐야 한다는 것에는 동의하지만, 제도 도입 과정에서부터 작동하는 청소년에 대한 차별을 경계해야 한다고 이야기했습니다. 특히 교육의 영향받는 주체는 청소년인 만큼 그들의 의견과 조응하는 제도가 설계되어야 한다고 강조했습니다. 나아가 AI와 관련된 거버넌스를 개편하는 것으로는 변화에 충분하지 않고 학생들이 직접 학교 운영 사항에 참여하고 논의할 수 있는 구조적 장치가 마련되어야 한다고 주장했습니다.

두번째 토론을 맡은 백운희 정치하는엄마들 운영위원은 AI를 사용하고 그 결과를 감당하는 학생, 학부모 등은 정책 결정에서 배제되었다며, 개인정보 침해 가능성이 있는 정책에서 당사자의 의사가 반영되지 못하는 상황을 지적했습니다. 백 위원은 법률적 공백과 보완점을 제시하며 영향받는 자의 권리 보장을 강조했습니다. 특히 편향성, 정서적 과잉 의존, 비관계성, 판단 외주화 등의 위험이 청소년의 성장에 방해요소로 작용할 수 있다고 설명했습니다. 나아가 정보권이 침해되는 상황이 발생했을 때 구제 수단을 마련할 것을 언급했습니다. 그러면서 AI 리터러시의 교육 방향에 기술결정론적 사고를 경계하고, 공동체의 가치가 반영되어야 한다고 이야기했습니다.

세번째 토론을 맡은 전정환 민주사회를 위한 변호사모임 교육위원회 위원장은 AIDT의 가장 큰 문제는 체계적 거버넌스의 부재라고 비판했습니다. 특히 AIDT를 교과서가 아닌 교육 자료의 지위로 입법한 것은 AIDT 관련 논란을 잠재우기 위한 미봉책에 불과하며, 오히려 AIDT에 대한 검증 기준만 낮추게 되었다고 비판했습니다. 정보인권의 측면에서도 검증 및 거버넌스 체계가 부족하다고 덧붙이며, 정보주체의 동의를 강조했습니다. 전 위원장은 AIDT의 검증 영역은 단순히 사실관계, 개인정보 보호 등에만 국한되면 안되고, 균등한 교육이 이루어지고 있는지와 또 다른 불평등을 야기하지는 않는지 등까지 폭넓게 검증되어야 한다고 했습니다.

이번 워크숍에서는 교육 현장에서 AI가 야기하는 인권 문제를 분석하여 단순히 기술 활용법의 수준을 넘어 영향받는 자의 권리 보호로 나아갈 수 있는 방안을 논의했습니다. ‘AI 시대 영향받는 사람’ 연속워크숍은 8월 19일(수) 오후 3시 ‘노동권과 AI’를 주제로 이어집니다.

🔎프로그램