[의견서] 인공지능윤리원칙, 인공지능의 영향을 받는 자 등 관련자 모두를 대상으로 하여야

인공지능윤리원칙(안)에 대해 과기부에 의견서 제출

과학기술정보통신부가「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」제27조에 근거해 마련한 ｢인공지능 윤리원칙｣(안)에 대해 지난 5월 29일부터 7월 8일까지 의견을 수렴하고 있습니다. 이에 참여연대는 7월 2일 인공지능 윤리원칙은 인권기반접근의 대체가 아니라 보완임을 명백히 하고, 인공지능 개발 등 공급자 위주가 아니라 인공지능의 영향을 받는 자 등 관련자 모두를 대상으로 하여야 하며, 무엇보다 인공지능 전과정(연구, 설계, 개발부터 출고 및 사용을 포함하는 주기)에 걸쳐 투명성과 책임성을 명시하는 것이 필요하다는 등의 의견을 제시하였습니다.

○ 인공지능윤리원칙(안)에 대한 구체적 의견

기술발전은 급격하나 이를 법과 제도가 따라 가지 못하는 상황에서 윤리기준은 그 틈새를 메우는 역할을 해야 함. 이후 법과 제도화로 이어져야 할 것이라는 점에서 단순한 자율적 권고사항이라는 점을 떠나 국가적 차원의 윤리 레퍼런스라는 점을 고려해야 함. 이에 아래와 같이 의견을 제시함.

• 목표가 명확히 드러나지 않음 : 서문에 일부 포함되어 있으나 좀 더 명료하게 드러나야 함. 예) 유럽연합 ‘신뢰할 만한 AI윤리 가이드라인(2019)’은 적법하고 윤리적이며 견고한 AI시스템의 설계, 개발, 이용을 위한 원칙, 요구사항 및 자율점검을 위한 평가 목록 개발을 목적으로 한다고 하고, EU 조약, EU 헌장 및 국제인권법에 규정된 기본권을 바탕으로 AI의 개발, 배포, 이용에 의해 제기되는 윤리적 문제에 초점을 둠. 2021년 과학기술정보통신부가 발표한 “사람이 중심이 되는” 인공지능윤리기준과 같이 전체 지향점을 드러낼 수 있는 것을 제안함.
• 윤리원칙의 적용대상은 분명하고 명확히 해야 함 : 인공지능과 관련된 모든 이가 대상이어야 함. 2021년 윤리기준은 산업계의 자율적 가이드라인으로의 역할을 기대하며 만들었다면 이번 윤리원칙안은 인공지능기본법 제27조에 근거해 국가가 일종의 윤리적 틀을 제공하는 것임. 따라서 산업계뿐 아니라 관련된 모든 사람을 대상으로 하고 이에 걸맞는 내용이어야 함에도 기업위주, 공급자 위주로 설정되어 있는 것은 보완되어야 할 것임.
• 인공지능시스템의 수명주기 전반을 대상으로 해야 함 : EU의 인공지능윤리 가이드라인에 따르면 적용 대상 주기를 인공지능 전주기라고 하면서, 분명하게 연구, 설계, 개발부터 출고 및 사용을 포함하는 주기로서 유지 거버넌스, 운용, 교역, 자금조달, 모니터링 및 평가, 유효성 검사, 사용 종료, 분해, 폐기에 이르는 모든 과정을 포함해야 함.
• 영향받는자까지 포함해야 함 : 연구자, 프로그래머, 엔지니어, 데이터 과학자, 최종 사용자, 기업, 대학, 민간 및 공공 단체 등을 비롯한 자연인과 법인 전체를 포함. 이것이 중요한 이유는 윤리원칙이 기업 등 인공지능개발자, 사업자 등만이 아니라 영향을 받는 사람들까지 전체 포괄한다는 점을 분명히 해야 하기 때문임.
• 윤리원칙의 의미 : 윤리원칙은 자율적 실천 기반이라고 밝히고 있지만 인공지능법 제27조에 따라 국가가 인공지능 윤리와 관련한 최상위의 준거 틀을 제공하는 것임. 기업마다 각자의 윤리기준이 있지만 국가가 제시하는 일종의 표준적 레퍼런스라는 점에서 의미가 있을 것임. 또한 국민 누구나 인공지능의 영향을 받는다는 점에서서 모든 국민이 윤리기준의 적용대상이라는 것을 명확하고 분명한 용어로 쓰고 쉽게 이해되도록 해야 함. 관련 기업 자체적 기준마련 시 레퍼런스 제시. 기업들의 내부 윤리 정책수립에 실질적으로 적용할 수 있도록 함.
• 인권기반 접근의 필요성
  유엔, 국가인원위원회 등은 인공지능에 대한 인권기반으로 접근할 것을 권고함. 인권기반 접근이란 인공지능 기술을 개발하고 활용하는 국가와 기업 등을 의무주체로 인공지능 기술의 대상이 되는 사람들을 권리주체로 명확히 규정하여 국제인권법 등에서 확인한 인권을 보호하고 존중하며 인권침해가 발생한 경우 필요한 구제 절차를 제공하도록 법과, 제도로서 감독하는 것임. 이는 사람에게 미치는 영향에 초점을 맞춰야 한다는 것임. 유엔 사무총장은 인공지능과 같은 신기술의 개발과 배치가 견고한 인권 기반에 뿌리를 두는 것이 기술 발전의 혜택을 온전히 누리고 피해 가능성을 최소화하는 길이라고 발언함.
  
  “인공지능을 개발하고 배치할 때 국가의 역할과 의무 그리고 기업의 책임을 명확히 하는 것이야말로 인류에게, 유익하고 책임있는 인공지능의 혁신”
  
  따라서 윤리원칙은 인권을 보완하는 것이지 이를 대체하는 것이 아님. 급격한 기술변화에 따라가지 못하는 법과 제도를 보완하는 역할을 하되 법과 제도화로 뒷받침되어야 할 것임. 권고적 역할이라고 하더라도 국가가 제시하는 가장 상위의 윤리기준이라는 점에서 윤리기준은 최소한의 원칙을 제시하는 것이 아니라 법과 제도로 아직 담아내지 못하는 빈틈을 최대한 메울 수 있는 역할을 할 수 있어야 함. 우선, 우리사회가 절대 용인해서는 안될 것이 분명히 제시할 필요가 있음. 예컨대, 우리 사회가 도덕적, 윤리적으로 용인할 수 없는 인공지능은 개발 금지, 완전자동화된 살상 무기 등의 개발 금지, 사회적 점수화, 공공장소에서의 실시간 안면인식, 사람의 취약점을 이용한 잠재의식 조종, 결정 조종 등.

○ 윤리원칙 제정 이후 실효성 확보를 위해 해설서, 자율점검표 등에서 추가로 반영되어야 할 쟁점·사례

• 기본권 보호의 원칙 포함할 것 : 윤리 제정의 핵심 목적은 결국 AI로 인해 생명, 안전 등을 포함한 기본권 보호임, 안그러면 굳이 귀찮게 만들 필요가 없음. 반드시 AI가 기본권에 미치는 영향을 포괄할 수 있어야 함. 혹시라도 문제가 발생했을 때 어떻게 한다는 기준 제시해야 줘야 함. 이에 AI 이용 사전, 사후 영향평가가 필요하고 AI 설계에서 개발, 배포, 운영 전주기에 걸쳐 영향을 받는 자, 이용자의 관점이 반영될 수 있어야 한다는 점도 명시할 필요가 있음.
• 공정성 포용성 : 이해 관계자의 시각이 반영될 수 있도록 해야 함. 설계 개발과정 등 전 AI수명주기에 영향을 직/간접으로 받을 수 있는 이해관계자가 참여, 협의 과정 필요. 그리고 사용자 중심의 설계가 필요하다는 선언도 포함해야 할 것임. 원칙에 넣기가 어렵다면 이후 예정인 체크리스트에는 반드시 포함해야 함.
• 책임성 조항 : 민주주의 영향평가도 필요하고, 신체, 정신, 사회적 관계에도 영향을 미치기 때문에 그 효과를 모니터링하는 것도 필요함.

○ 시민·이용자 권익 보호 관점에서 추가 고려·보완 필요 사항

• 신뢰가능한 인공지능이 되기 위해서는 책임주체와 권리주체가 분명하게 설정되어야 함. 2024년 통과한 유엔 최초의 AI 결의안(A/78/L.49) 역시 “AI의 설계, 개발, 배포, 이용 전 과정에서 인권의 존중·보호·증진을 핵심 원칙으로 삼을 것”을 강조하고 있음. 유엔 표현의자유 특별보고관이 2018년 보고서(A/73/348)에서 언급한 바와 같이 AI 윤리는 인권을 보완할 수는 있지만 대체할 수는 없음.
• 모든 사람은 권리가 있고 국가와 기업은 권리를 보장하고 침해를 구제해야 할 책임이 있음. 사람들이 자신의 권리를 인식하고 필요할 경우 국가와 기업에 권리의 보장을 요구할 수 있으며, 이를 보장하는 사회적인 체계를 수립하는 것이 AI 시대에도 특히 중요함. 이에 윤리원칙이 이와 같은 인권기반 접근을 대체하는 것이 아니라 보완한다는 점을 분명히 할 필요가 있음.