평화군축센터 한반도 평화 2026-07-13 1313

[후기] 리빌딩 포럼 3.0 : AI윤리와 방위산업, 그리고 한반도 평화

2026.07.09. <남북관계와 한반도 평화를 위한 리빌딩 포럼 3.0> 제2차 시민평화콜로키엄 ©시민평화포럼

지난 7월 9일(목) <남북관계와 한반도 평화를 위한 리빌딩 포럼 3.0> 제2차 시민평화콜로키엄이 개최되었습니다. 시민평화포럼과 한겨레 통일문화재단이 공동주최하는 리빌딩 포럼은 평화활동가와 연구자가 함께 모여 한반도 평화를 위한 전략을 논의하는 자리입니다.

AI윤리와 방위산업, 그리고 한반도 평화

이번 콜로키엄의 주제는 <AI 윤리와 방위산업, 그리고 한반도 평화>입니다. 인공지능 기술이 감시와 정보 분석을 넘어 표적 식별, 군사적 의사결정, 무기 운용 전반에 빠르게 도입되는 상황에서, 한국에서도 빠르게 군사AI 기술 도입과 개발이 추진되고, 국방인공지능기본법안도 상정되어 있습니다. 이번 포럼은 군사AI의 도입이 발생시키는 윤리적 쟁점을 살펴보고, 군사AI를 민주적으로 통제할 수 있도록 시민사회가 개입할 수 있는 방안을 논의하기 위해 마련되었습니다.

첫 번째 발제를 맡은 강성현 성공회대학교 평화월딩연구소 소장은 가자지구에서 활용된 AI 표적선정 시스템을 사례로 들어, 오늘날 인공지능이 개별 무기를 넘어 감시·분류·표적 선정·타격을 하나로 연결하는 ‘AI 전쟁 운영체제’로 발전하고 있다고 설명했습니다. 문제는 AI가 잘못 작동하는 경우에만 있는 것이 아니라, 민간인 피해와 인간의 생명을 계산 가능한 수치로 전환하도록 설계된 시스템이 정확하게 작동하는 것 자체에 있다고 강조했습니다.

강성현 소장은 이러한 AI 전쟁 운영체제가 한반도의 분단과 국가폭력의 역사, 이른바 ‘적’과 ‘내부의 적’을 분류해 온 체계와 결합할 위험을 짚었습니다. 한국전쟁 당시의 민간인 학살과 12·3 내란 과정에서 나타난 체포 명단을 비교하며, 과거 사람이 작성했던 명부와 위험 등급이 인공지능을 통해 실시간으로 자동 생성될 경우 시민과 제도가 개입할 가능성마저 줄어들 수 있다고 경고했습니다. 이에 따라 데이터가 수집되는 입력의 문턱, 표적과 위험을 분류하는 결정의 문턱, 숙의와 검증을 생략하게 만드는 속도의 문턱에서 민주적 통제가 이루어져야 한다고 제안했습니다. 또한 시민사회와 비판적 전문가가 기술의 도입 여부와 한계를 함께 결정하는 ‘숙의적 기술 거버넌스’가 필요하다고 강조했습니다.

두 번째 발제를 맡은 이미현 참여연대 협동사무처장은 현재 국회에 발의된 「국방인공지능법안」이 군사 AI의 위험을 규제하는 법이라기보다 기술 개발과 방위산업을 촉진하는 산업 육성법에 가깝다고 평가했습니다. 법안에는 국제인도법과 국제인권법 준수 의무, 자율살상무기와 의미 있는 인간 통제에 관한 명확한 정의, 독립적 감독, 피해자 구제와 책임 규정 등이 충분히 담겨 있지 않다고 지적했습니다. 특히 ‘신속한 전력화’와 ‘기술혁신’을 이유로 획득 절차와 규제를 우회할 수 있도록 한 특례 조항은 안전성과 책임성을 약화할 위험이 크다고 설명했습니다.

이미현 협동사무처장은 국방 AI 법제가 기술 개발을 정당화하는 장치가 아니라 위험을 통제하는 장치가 되기 위해서는 국제법 준수와 민간인 보호 원칙을 명문화하고, 예측 불가능한 자율무기와 인간을 직접 공격하는 대인 자율무기의 개발·운용을 금지해야 한다고 제안했습니다. 또한 안전성 검증을 의무화하고, 개발자·기업·지휘관·국가의 책임 범위를 명확히 하며, 시민사회와 외부 전문가가 참여하는 독립적인 감독체계를 마련해야 한다고 강조했습니다.

첫 번째 토론을 맡은 하영숙 가톨릭대학교 의과대학 인문사회의학연구소 박사는 가톨릭 사회교리와 생명윤리의 관점에서 “인간의 생명은 계산될 수 없다”고 강조했습니다. 인공지능은 데이터를 분석하고 위험을 예측할 수 있지만 양심과 도덕적 책임을 가질 수 없기 때문에, 생명에 관한 최종 판단과 책임은 반드시 인간에게 남아 있어야 한다는 것입니다. 또한 인간이 형식적으로 마지막 승인만 하는 구조는 진정한 인간 통제가 아니며, 기술의 설계·개발·배치·운용 전 과정에서 인간의 존엄과 책임이 보장되어야 한다고 지적했습니다.

두 번째 토론을 맡은 신재욱 열린군대를위한시민연대 활동가는 국내 방산기업들이 개발하고 있는 AI 기반 무기체계를 탐지·표적 선정·교전이 네트워크로 연결되는 ‘킬웹’이라는 측면에서 분석했습니다. 킬웹에서는 여러 센서와 무기, 지휘체계가 동시에 작동하기 때문에 인간이 어느 단계에서 실질적으로 통제하고 책임지는지 확인하기 어려워진다고 설명했습니다. 특히 다수의 무인무기를 한 사람이 통제하거나, 표적 식별과 의사결정에 외국 기업의 소프트웨어가 활용되는 상황에서는 인간 통제가 형식적 승인으로 축소되고 국가·기업·지휘관 사이에 책임 공백이 발생할 수 있다고 지적했습니다.

신재욱 활동가는 이러한 공백을 막기 위한 시민의 역할로 국방 AI 관련 위원회에 시민사회와 인권·평화 전문가의 참여를 보장하는 일, 국방인공지능법안 심사 과정에 구체적인 입법의견을 제출하는 일, 정보공개청구를 통해 국방 AI의 개발과 운용 현황을 감시하는 일을 제시했습니다.

이번 콜로키엄은 군사 AI의 문제를 단순한 기술의 정확도나 산업 경쟁력의 문제가 아니라, 누가 인간을 분류하고 생사에 관한 결정을 내리는지, 그 결정에 누가 책임을 지는 지에 관한 민주주의와 평화의 문제로 바라보아야 한다는 점을 확인했습니다. 특히 분단과 군사적 긴장이 지속되는 한반도에서는 군사 AI 개발 경쟁이 무력 사용의 문턱을 낮추고 남북 간 불신과 군비경쟁을 심화할 수 있는 만큼, 기술 개발에 앞서 명확한 금지선과 국제법적 기준, 민주적 통제와 시민의 감시체계를 마련해야 한다는 데 발제와 토론의 문제의식이 모였습니다.