[의견서] 인공지능이 ‘좋은 거버넌스’에 미치는 영향 의견서 유엔인권이사회 자문위에 제출

독립적인 감독기관 필요, AI 거버넌스에 영향 받는 사람들 포함 강조

국제 인권 기준에 부합하는 규범, 적법절차 마련에 한국정부 나서야

참여연대(공동대표 진영종ㆍ백미순ㆍ한상희)는 지난 5월 5일 유엔인권이사회(the Human Rights Council) 자문위원회(the Advisory Committee)에 <인공지능(이하, ‘AI’) 시스템이 좋은 거버넌스(good governance)에 미치는 영향에 대한 의견서>를 제출했습니다. 이는 지난 2024년 10월 9일 유엔인권이사회가 제57차 회의에서 결의안 57/5를 채택하여 자문위원회에 AI 시스템이 좋은 거버넌스에 미치는 영향에 대한 연구를 준비하도록 요청했고, 이 연구는 인공지능 시스템이 좋은 거버넌스를 통해 인권을 증진하고 보호하는 데 기여할 수 있는 분야를 명시하여, 이를 제62차 인권 이사회에 제출할 목적이라고 밝히고 있습니다. 자문위원회는 국가, 유엔 기구, 국가 인권 기관, 시민 사회, 민간 부문, 학술 기관 등 다양한 이해관계자들의 의견과 정보를 구하였고, 참여연대는 시민사회의 일원으로 설문에 응하였습니다.

참여연대는 AI가 투명성, 책임성, 대중의 참여를 촉진하여 거버넌스를 크게 개선할 수 있는 잠재력을 가지고 있기도 하지만, 반대로 시스템이 투명성이 부족하거나 편견을 드러내거나 취약한 인구를 소외시킬 때 AI 거버넌스에 위험을 초래할 수도 있다고 지적했습니다. 특히 사회적, 경제적 권리에 영향을 미치는 영역에서 알고리즘 의사결정을 규율하는 권리 기반 국가 규제의 필요성을 강조했습니다. 또한 AI 기반 의사 결정 프로세스가 투명하고 책임감 있게 유지되도록 보장하기 위해서는 알고리즘의 해석 가능성을 보장하는 설명 가능한 인공지능(XAI), 결과를 평가하고 잠재적 피해를 식별하기 위한 독립적인 외부 감사, 이러한 기술의 구현을 감독하는 위원회 설립을 제안하였습니다.

참여연대는 국제 인권법에 따라 인권 원칙에 부합하는 AI 규제에 대한 일차적인 책임은 국가에 있다고 지적했습니다. 유럽연합의 인공지능법(AI Act)은 중앙 집중식 규제 프레임워크가 어떻게 명확한 위험 범주를 규정하고 적합성 평가를 의무화하며 대중의 신뢰를 유지하고 인권을 보호하기 위한 집행 메커니즘을 구축할 수 있는지를 보여주는 적절한 예라고 지적하며 이러한 규정의 정당성과 공정성을 보장하기 위해서는 독립적인 감독기관이 절실히 필요하다고 강조했습니다. 한국을 비롯 국제 사회는 모든 AI 거버넌스가 국제 인권 기준에 완전히 부합하도록 의무화하는 강력하고 구속력 있는 규범적 지침을 시급히 제정하고 지지해야 한다는 점도 분명히 하였습니다.

AI는 이제 공공, 민간 분야 할 것 없이 다방면에 도입되고 있습니다. 한국은 지난 2024년 12월에 국회에서「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(인공지능기본법)」이 제정되었습니다. 그러나 이 법은 AI가 인권, 기본권 및 민주주의 등에 미칠 부정적 영향에 대해 제대로된 안전 장치를 마련하고 있다고 볼 수 없습니다. 무엇보다 AI에 영향을 받는 당사자들을 AI 거버넌스에 참여시키지 않았을 뿐 아니라 피해구제의 절차를 마련하지도 않고 있습니다. 따라서 AI가 투명성, 책임성, 참여 등 좋은 거버넌스의 원칙을 실현할 수 있도록 제도마련이 시급합니다. 한국정부는 국제 인권 기준에 부합할 수 있는 규범 마련과 독립된 감독기관 및 피해구제절차 등의 적법절차 마련에 나서야 할 것입니다.

인공지능 시스템이 좋은 거버넌스에 미치는 영향에 대한 의견서(국문)

Submission to the call for inputs on Impact of artificial intelligence systems on good governance(영문)

보도자료 [원문보기/다운로드]