평화군축센터 군비축소 2026-10-14 15415

[후기] 🤖군사 AI 쟁점 토크 War, Peace + AI ③: 질주하는 군사AI 무엇을 건너뛰고 있나

국방인공지능법, 국방첨단전력사업법 등 3개 군사AI 법안 비판적 검토
군사AI법안들, 신속획득 명분으로 기존 검증·통제 절차 형해화 우려 제기돼
법안 간 충돌 또는 무력화하는 문제, 국회가 종합적으로 심의해야

2026.10.13 군사 AI 쟁점 토크 War, Peace + AI ③: 질주하는 군사AI 무엇을 건너뛰고 있나 현장사진(사진=참여연대)

어제(10/13) 참여연대 평화군축센터와 성공회대 평화월딩연구소는 군사 AI의 문제와 쟁점을 시리즈로 살펴보는 <군사 AI 쟁점 토크 War, Peace + AI>의 세 번째 순서로 <질주하는 군사 AI : 무엇을 건너뛰고 있나>를 개최했습니다. 이번 행사에서는 군사 AI와 첨단무기체계의 신속한 개발·도입을 위해 추진되고 있는 법안들을 살펴보고, 속도를 이유로 시험평가와 국회 통제, 국제법 검토 등 필수적인 검증·통제 절차까지 약화시키고 있는 것은 아닌지 집중적으로 검토했습니다.

이미현 참여연대 협동사무처장의 사회로 진행된 이날 행사에서는 ▲군사 AI를 위한 ‘예외’는 어떻게 만들어지는가 : 군사 AI를 가속하는 3법, ▲군사 AI와 방위사업법 : 신속획득에도 넘을 수 없는 선은 무엇인가 라는 제목 하에 강성현 성공회대 평화월딩연구소 소장과 김연식 성신여대 법학부 교수가 각각 발제하고, 이어서 김태경 성공회대 정치외교학전공 교수가 ▲누가 선을 지키는가 : 군사 AI의 민주적 통제와 시민 참여형 미래 거버넌스라는 제목으로 토론했습니다.

먼저, 강성현 성공회대 평화월딩연구소 소장은 현행 국내법 상 사람을 채용하는 데 활용되는 AI에는 위험관리와 인간의 감독을 요구하면서, 정작 사람을 표적으로 분류하고 공격하는 군사 AI에는 같은 규율이 적용되지 않는 역설을 지적하며 서두를 열었습니다. 강 소장은 인공지능기본법이 국방·국가안보 전용 AI를 적용 대상에서 제외한 상황에서, 올해 국회에 발의된 군사 AI 관련 법안들마저 검증과 규제의 공백을 메우기보다 신속한 무기 획득을 위한 예외를 확대하고 있다고 비판했습니다. 특히 국방인공지능법안, 국방첨단전력사업법안, 소프트웨어중심무기체계획득특별법안 등을 분석하며 ▲특례 적용 대상과 인증 기준 등 핵심 사항을 대통령령에 위임하고 ▲국방첨단전력사업법을 다른 법률보다 우선 적용하도록 하며 ▲시험평가 대체와 사업타당성조사 면제 등 규제 완화를 여러 법안에 나누어 담는 방식으로 기존의 무기체계 획득과 운용에 대한 통제 장치를 약화시키고 있다고 설명했습니다. 특히 첨단전력사업법안에는 국회에 관련 보고를 할 의무도 없고, 정식 시험평가는 인증심사나 실사용평가로 갈음하는 한편, 국방첨단전력사업 또는 운용개량 단계 관련 업무에 종사하거나 종사하였던 자의 징계·손해배상 책임은 경감하거나 면제할 수 있도록 규정하고 있습니다. 강 소장은 이처럼 군사 AI 관련 법안들과 방위사업법 개정안의 예외 또는 면책 조항들이 서로 맞물리면서, 무기 획득 체계 전반의 검증과 통제 기능을 형해화하거나 무력화할 위험이 있다며, 국회가 관련 법안들을 종합적으로 심사해야 한다고 강조했습니다.

두 번째 발표를 맡은 김연식 성신여대 법학부 교수는 현행 방위사업법에도 신속한 무기 획득을 위한 제도가 이미 마련되어 있는데, 군사AI 도입을 위해 국회에 발의되어 있는 새로운 법안들이 기존의 검증·통제 장치 등 제도들을 형해화시키고 있다며 “브레이크가 고장 난 차에 가속 페달을 하나 더 다는 셈”이라고 지적했습니다. 김 교수는 무엇보다 군사AI 무기체계의 획득과 운용 과정에서 문제가 발생했을 경우, 소송의 원고적격 문제라든지 평화적 생존권이 헌법에 보장되어 있지 않은 점, 안보 영역에 대한 사법부의 판단 자제 등의 문제로 사실상 사법적 통제에 구조적 한계가 있어 시민을 대표하는 국회의 감시와 통제가 핵심적인 견제 수단이라고 강조했습니다. 그러나 정작 국회에서 추진 중인 국방인공지능법안과 국방첨단전력사업법안에는 국회 보고 의무는커녕 ‘국회’라는 단어조차 등장하지 않는다며, 시민을 대표해 행정부를 감시하고 통제해야 할 국회가 스스로 그 역할을 수행할 제도적 장치를 마련하지 않는 점이 문제라고 비판했습니다. 김 교수는 “넘을 수 없는 선은 속도를 내더라도 지워서는 안 되는 절차”라며 ▲새로운 무기의 국제법 적합성 검토 의무화 ▲표적 선정과 교전에 관여하는 고위험 AI 체계의 시험평가·인증 완화 제외 ▲특례 적용 결정의 책임자 기록과 국회 보고 ▲특례 대상과 고위험 체계의 법률상 명시 ▲국제법 검토와 안전성 검증을 전제로 한 면책 등을 제안했습니다.

토론자로 나선 김태경 성공회대 사회융합자율학부 정치학 전공 교수는 앞서 발제에서 지적된 군사AI 법안들의 통제 수단 부재의 문제와 관련해, 국회와 시민사회 모두 군사 AI를 민주적으로 통제하기에는 구조적으로 취약하다고 지적하며 서두를 열었습니다. 국회는 군사·기술 분야의 전문성과 정보, 심사 시간에서 행정부와 큰 격차가 있고, 안보 강화와 방위산업 육성이라는 목표에 대한 초당적 합의로 정당 간 경쟁도 작동하지 않고 사실상 충분한 견제 기능을 수행하지 못하고 있다는 것입니다. 특히 현재 ‘민관군 협력’에서 말하는 ‘민’은 주로 방산기업과 연구기관을 의미하며, 시민사회와 인권·국제인도법 전문가, 군사 AI의 결정에 영향을 받는 사람들은 논의에서 애초에 배제돼 있다고 지적했습니다. 김 교수는 군사 AI의 도입 여부와 속도뿐 아니라 어떤 기술을 어디에 사용할 것인지, 어떤 위험을 허용할 것인지에 대한 결정 자체가 민주적 통제의 대상이 되어야 한다고 강조했습니다. 이를 위해 군사 AI 군비경쟁의 가속만을 유일한 미래로 전제하지 말고, 국제규범의 이행과 군비통제 등 다양한 대안을 시민과 함께 검토해야 한다며 시민의회와 공론조사, 국회의 독립적인 기술평가 기능 강화 등을 제안했습니다.

이어진 종합토론에서는 민간과 군사 영역에서 AI 기술과 데이터가 결합·공유되면서 시민의 일상 정보가 군사적 목적으로 활용되고, 군사기술이 다시 공공·치안 영역으로 확장될 위험도 논의됐습니다. 참가자들은 특정 게임 이용자들이 게임 과정 중에 생성한 데이터를 AI무기체계 개발에 이용한 사례, 과거 정부가 출입국 과정에서 수집한 내·외국인의 얼굴 사진 약 1억 7천만 건을 별도 동의 없이 AI 개발에 활용하도록 민간 업체에 제공한 사례를 짚었습니다. 무엇보다 시민 개개인이 생성한 데이터를 AI 기술개발에 제공하는 과정, 특히 사회적으로 축적된 데이터가 군사적 목적으로 이용되는 과정을 시민이 통제할 수 있어야 한다는 점도 지적되었습니다. 참석자들은 AI의 개발과 활용 방향을 누가 결정하고 그 위험을 누가 감수하는지 질문해야 한다며, 시민의 ‘데이터 주권’과 ‘데이터 시민권’을 보장할 필요성을 강조했습니다. 또한 강성현 소장은 국방첨단전력사업법안 제14조가 첨단전력체계를 군과 공공 분야에서 ‘통합적으로 활용’하도록 하고 방위사업청이 공공기관을 위해 조달할 수 있게 한 점을 들어, 군사 목적으로 개발된 감시·식별·예측 체계가 치안과 행정 영역으로 확대되는 동시에 공공과 민간에서 수집된 데이터가 그 체계의 학습과 개량에 되돌아오는 양방향 회로가 열린다고 지적했습니다. 이 과정에서 시민에 대한 감시가 확대될 우려가 크지만 이를 통제할 제도적 장치는 마련되어 있지 않다는 점을 지적했습니다.

참가자들은 국방AI 관련 법안들에 대한 국회 입법 과정을 세심히 모니터링 하는 한편 현행 발의안의 문제점들이 개선될 수 있도록 관심을 이어가겠다고 한 목소리로 이야기 했습니다. 또한 군사 AI에 대한 국제법적 검증과 민주적 통제를 강화하고, 시민의 데이터 권리와 참여를 보장하기 위한 논의도 이어갈 것임을 밝혔습니다.

▣ 보도자료 [원문보기/다운로드]
▣ 별첨자료. 토론회 자료집 [원문보기/다운로드]
▣ 유튜브 생중계 다시보기 >>