평화군축센터 국방정책감시 2026-08-28 94

[2026 정기국회 입법·정책과제] 국제법 준수·민주적 통제 보장하도록 「국방인공지능법안」 제정

1. 현황과 문제점

2024년 12월 통과된 인공지능기본법안에는 외교안보 관련 사안은 대상에서 제외하고 있어 현재 국방분야 AI를 규율하는 법체계가 전혀 없는 상황임. 이에 여야 의원이 「국방인공지능법안」을 공동발의하였으나, 군사 영역에 AI를 적용함으로써 발생하는 법적·윤리적 쟁점은 제대로 담고있지 않아 우려가 제기되고 있음. 특히 해당 법률은 국제규범이 만들어지기도 전에 추진되고 있는 것인만큼 신중할 필요가 있음.

이런 상황에서 전 세계적으로 인공지능을 활용한 무기 개발과 투자가 크게 증가하고, 실제 전장에 투입되어 사용되면서 여러 가지 법적·윤리적 쟁점이 발생하고 있음. 러시아의 우크라이나 침공으로 시작된 전쟁에서 적을 스스로 식별하고 사살 여부를 판단하는 AI를 실제 운용하기도 했다는 발표가 있었음. 이스라엘은 팔레스타인 가자지구에서 군사 표적 식별에 AI를 활용했으며, AI가 식별한 표적을 검증 없이 살해함. 지난 2월 미국과 이스라엘의 이란 공격에도 AI 기술이 활용되었음.

자율살상무기로 인한 무장 충돌 확대와 군비 경쟁, 민간인 살상 가능성, 해킹의 위험성 등에 대한 경고가 지속되고 있음. 국제 시민사회는 특정재래식무기금지협약(CCW)의 금지 목록에 자율살상무기 시스템을 추가할 것을 촉구하고 있음.

여야가 발의한 법안은 국방인공지능을 “국가 차원의 전략으로 정립”하고, 국방력 강화와 국가 안보를 위해 국방AI를 적극 도입 활용하고 산업을 육성하는 데에만 초점을 맞추고 있음. 구체적으로 ▷국제법 준수 의무 등 기본원칙 부재 ▷국방 AI 핵심 개념에 대한 정의 부재 ▷‘인적 개입’ 규정의 모호성 ▷독립성과 민주적 통제 결여된 국방인공지능위원회 ▷개발 및 특례 조항의 위험성, 금지·제한하는 규정 부재, 신뢰성, 안전성 확보에 대한 법적 구속력, ‘책임 공백’ 문제 해결 방안 부재 등 심각한 문제를 가짐.

한국 정부는 군사 인공지능 사용시 유엔헌장과 국제인도법, 국제인권법을 지켜야 한다는 국제사회 합의에 동조해 왔고 무력사용에 대한 인간의 판단과 통제에 관한 조치를 포함하는 모든 안전장치를 강조하는 유엔 결의안 채택을 공동 주도하기도 했음. 하지만 발의안에는 한국이 국제사회에 약속하거나 결의한 안전장치, 국제법 준수 등의 내용은 반영하지 않음.

2. 세부 과제

1) 국제법 준수 의무 등 기본원칙 수립

목적을 ‘실질적이고 책임있는 인간 통제’와 ‘국제법 준수’로 수정. 이로써 AI 무기체계의 안전성·책임성·투명성을 확보하고, 민간인 보호와 인권 존중에 이바지하도록 방향을 수정.

2) ‘인적 개입’의 구체적인 구성요소 명문화

단순한 ‘인적 개입’을 넘어 AI 체계와 임무 특성, 전장 환경, 민간인 위험도 등 맥락에 따라 인간 통제 수준을 결정하는 ‘맥락에 적합한 인간의 책임있는 판단과 통제’를 기본방향에 추가하고, 인간 통제의 구체적인 구성요소를 법률에 명문화 함.
인간에 대한 살상 결정을 기계에 위임하지 않는다는 원칙 역시 명시.

3) 국방인공지능위원회의 독립성과 민주적 통제 확보

군, 정부 중심 구조에서 벗어나 시민사회와 외부 전문가 참여를 확대한 위원회 구성을 명시해야 함. 외부 위원이 전체 위원의 3분의 1 이상이 되도록 함.
위원회 기능을 국방인공지능의 위험 관리와 책임성을 강화할 수 있는 방향으로 수정.
‘인공지능 기술의 국방 분야 개입 도입 및 운용 현황’과 위원회 활동을 정기적으로 국회에 보고토록 의무화하고, 국회 요구 시 관련 정책과 사업 현황을 보고하도록 해 민주적 통제가 가능하도록 해야 함.

4) 금지·제한하는 국방 AI 규정 신설

금지대상, 고위험, 제한된 위험 등 위험도(risk-based)에 따른 분류체계를 도입하고, 예측불가능한 자율무기와 인간을 직접 공격하는 대인 자율무기의 연구, 개발 및 운용을 금지해야 함.

5) 신뢰성, 안전성 확보에 대한 법적 구속력, ‘책임 공백’ 문제 해결방안 제시

안전성 확보 조항은 법적 강제력이 있는 의무 사항으로 규정하고, 안전 인증이 없는 시스템 운용은 금지함. 인공지능 오작동 또는 운용과정에서 발생한 피해에 대해 책임 범위·기준을 정하고, 책임 규명과 사후조사 가능토록 전 과정에서 기록 보존과 문서화 의무 명시함.
발생한 피해에 대한 독립적인 조사 매커니즘을 마련하고, 피해자 구제 절차와 책임 추궁 절차 역시 구체적으로 규정해야 함.

3. 관련 법안