참여사회 2026년 09-10월 2026-08-30 31

[이슈] 자율살상무기체계 : 가속하는 전쟁, 비어가는 책임

살상의 자동화, 명목상의 인간 통제

전쟁은 언제나 폭력과 파괴의 참극이었다. 그러나 오늘날 인공지능의 전면적 도입은 전쟁의 문법 자체를 근본적으로 뒤흔들고 있다. 펜타곤이 공언한 ‘AI 우선^AI-First’ 전쟁 수행 전략과 각국의 무기 현대화 경쟁 속에서 전장의 판단은 기계로 이양되고 있다. 표적의 탐지와 식별, 타격 우선순위 결정, 나아가 타격의 실행까지 모두 데이터와 알고리즘의 연산 속으로 흡수되고 있는 것이다.

군사 표적 선정에 쓰이는 기술은 크게 ‘자율무기체계^{AWS, Autonomous Weapon Systems}’와 ‘인공지능 기반 의사결정지원체계^{AI-DSS, Artificial Intelligence-based Decision Support System}’로 나뉜다. 자율무기체계는 사람의 직접 명령이 아니라 센서가 읽어 들인 신호에 따라 표적을 탐지하고 무력을 행사하는 무기다. 일단 작동시키고 나면 무엇을 언제 어디서 공격할지는 사람이 아니라 센서 처리 결과가 결정한다. 인공지능 기반 의사결정지원체계는 기계학습과 거대언어모델^LLM로 방대한 감시 데이터를 분석해 지휘관에게 표적 목록과 행동 방침을 추천하는 전산화 도구다.

전자가 표적 식별부터 교전까지를 직접 실행한다면, 후자는 정보를 걸러내고 표적 목록을 만들어 사람에게 권고하는 시스템이다. 전자의 위험이 직접적이라면, 후자의 위험은 간접적이고 보다 통제 가능하며 안전할 것으로 보인다. 사람이 그 권고를 믿고 행동해야 비로소 피해가 발생하기 때문이다. 따라서 전자는 전면 금지하고 후자만을 허용하는 방안이 대두되었다.

그러나 이 구분은 실전에서 쉽게 무너진다. 가자지구에서 쓰인 이스라엘의 ‘라벤더^Lavender’ 체계가 대표적이다. 잘 알려졌다시피 라벤더는 통신 패턴, 소셜미디어 관계, 주소 변경 빈도 같은 ‘행동 특징’을 근거로 3만 7천여 명을 잠재적 표적으로 지목했고, 인간 장교에게는 표적당 20초 남짓한 검토 시간만이 주어졌다. 이스라엘군은 이 체계가 약 10%의 확률로 오류를 낸다는 사실을 알고 있었다.

기계의 확률적 계산을 맹신하는 ‘자동화 편향^{automation bias}’이 전장의 시간 압박과 결합할 때, 인간은 기계의 추천을 추인하는 ‘고무도장’으로 전락한다. 형식상 인간이 통제권을 쥔 AI-DSS라도 실질적으로는 자율살상무기와 다름없이 작동하는 ‘명목상의 인간 통제’가 발생하는 것이다.

‘지원’이라는 이름이 안전을 보장하지 못하는 기술적 이유도 있다. 인공지능은 정확하고 완전한 데이터를 필요로 하지만 전장의 데이터는 쉽게 손상되고 적대적 오염에도 취약하며, 설계된 조건과 다른 환경에서는 실패하기 쉽다. 위협이 아닌 대상을 위협으로 오인하는 ‘거짓 긍정’은 자율무기에서는 곧바로 타격으로, 의사결정지원체계에서는 20초짜리 승인을 거쳐 같은 결과로 이어진다. 즉 사람이 20초 만에 도장만 찍는다면, 그것은 이름만 ‘지원’일 뿐 사실상 자율무기다. 인간 운용자가 명목상의 감독만 수행하게 된다면, 두 범주의 차이는 실질적으로 사라진다.

게다가 각국과 군사기업들은 자신들의 무기체계를 모두 완전한 자율무기가 아니라 ‘인공지능 기반 의사결정지원체계’라고 주장하고 ‘지휘·통제 보조 도구’로 분류함으로써 금지나 규제를 회피한다.

사람의 목숨이 수치로 계산될 때

킬러로봇금지국제운동^{스톱킬러로봇, Stop Killer Robots}은 2026년 6월 보고서에서 이를 ‘디지털 비인간화^{digital dehumanisation}’라 부른다. 인간이 데이터로 환원되고, 그 데이터가 삶을 좌우하는 결정의 근거가 되는 과정이다.

가장 큰 문제는 질적 판단이 수치로 대체된다는 점이다. 국제인도법이 규정하듯이 민간인과 전투원을 구별하고 민간 피해를 줄이며 사전 예방 조치를 하는 판단들은 맥락적·질적 평가이며 숫자로 환원될 수 없다. 그런데 알고리즘 표적 체계는 바로 그 환원을 수행한다. 가자에서 ‘부수적 피해 허용치’가 미리 설정된 숫자로 운용되었다는 보도는, 사람의 목숨이 임계값 문제로 바뀐 순간을 보여준다.

환원은 표적 목록을 만드는 데이터 수집과 알고리즘 구축, 연산 단계에서 이미 시작된다. 어떤 사람의 생활 패턴 데이터가 의심 대상의 데이터와 상관관계를 보이거나 통계적 개연성이 있다는 이유만으로 잠재적 표적이 될 수 있다. 어떤 얼굴, 어떤 정체성, 어떤 동네가 더 자주 ‘위협’으로 분류되는지는 데이터와 알고리즘, 그리고 이를 해석하는 언어모델이 결정하면, 인간은 추인할 뿐이다.

망설일 시간을 지우는 시스템

군은 표적을 정하고 타격하는 과정을 ‘표적 선정 주기’라 부른다. 전통적인 ‘킬체인^{kill chain}’은 탐지-고정-추적-표적화-교전-평가로 이어지는 선형적 사슬이다. 이 사슬에는 단계마다 지휘관과 운영자의 보고와 승인이 개입할 물리적 마찰의 시간과 숙의의 여지가 있었다.

그러나 현대전은 팔란티어의 전장 운영체제 ‘고담^Gotham’이나 미군의 ‘합동 전영역 지휘통제^CJADC2’ 체계처럼 ‘킬웹^{kill web}’으로 진화하고 있다. 킬웹은 지상·해상·공중·우주·사이버에 걸친 전 영역의 센서와 타격 자산을 하나의 데이터 그물로 연결한다. 단일 노드^Node가 파괴되어도 다른 노드가 즉각 대체해 공격을 지속하는 ‘회복 탄력성’과 ‘극단적 속도’가 핵심이다.

이러한 킬웹 환경에서 전쟁은 거대한 데이터 플랫폼 위에서 실시간으로 실행되는 ‘알고리즘 연산’이 된다. 분초를 다투는 알고리즘 간의 속도 경쟁 속에서 관찰-판단-결정-행동으로 이어지는 OODA 루프는 극단적으로 압축되며, 인간 지휘관의 도덕적 망설임이나 법적 숙의는 시스템의 효율을 저해하는 ‘지연 요소’로 간주되어 배제된다. 정밀 타격과 자율성을 내세우는 AI 군사기술은 “아군의 피해 없이 (민간인의 부수적 피해를 용인하며) 적만 정밀 타격할 수 있다”는 자신감을 심어주어 오히려 선제 공격의 유인을 높이고 전쟁 개시의 문턱을 낮춘다. 또한 AI 방어 시스템과 AI 공격 시스템이 전장에서 맞부딪힐 때, 사소한 센서 오류나 알고리즘 간의 예측 불가능한 상호작용으로 인해 순식간에 제어 불능 상태로 치닫는 ‘초고속 확전^{Flash War}’의 파국적 위험이 구조화, 자동화된다. 적성국들이 자율무기체계를 전면 도입하면, 한쪽의 방어 조치를 다른 쪽 시스템이 도발로 판독해 자동 대응하는 연쇄가 일어날 수 있는 것이다. 전쟁의 계산과 예측 가능성, 그리고 정밀성과 속도를 높이기 위한 기술이 오히려 전략적 불안정성을 키우고 전쟁의 논리와 위험을 가속화하는 역설에 빠지게 된다.

자율살상무기체계는 군사행동을 설명하고 책임질 수 있는가

구체적인 통제 장치가 없는 한, 자율살상무기체계에서 책임은 쉽게 분산되거나 증발한다. 기술적 이유는 AI 시스템의 ‘암흑상자화’다. 시스템이 왜 그런 결과를 냈는지 설명하기 어렵다. 또 다른 이유는 설계·개발·배치·사용의 여러 단계에 수많은 행위자의 결정이 겹쳐 책임의 소재를 특정하기 어렵다는 데 있다. 시스템의 복잡성과 불투명성은 피해의 논점과 책임의 소재를 희석시키고 전쟁과 속도의 정당성만을 강요하는 논리로 기능한다.

그렇다면 전쟁을 AI에게 맡긴다는 것, 무기를 자동화한다는 것은 무엇을 의미하는가. 가장 심각한 문제는 자동화된 살상의 효율성 뒤편으로 인간의 통제가 약해지며 책임의 주체가 은폐되기 쉽다는 사실이다.

참혹한 민간인 피해가 발생했을 때, 국가와 군은 (민간군사기업이 만든) AI 모델이 판단했다거나 “데이터나 알고리즘 자체의 한계로 인한 어쩔 수 없는 ʻ부수적’인 오차”라 변명하고, 기술 기업은 “국가가 사용을 결정했다”라고 말할 수 있다. 책임의 공백은 양측 모두에게 편리하게 이용된다. 즉 자율살상무기체계의 복잡성과 암흑상자화는 책임 회피의 알리바이로 악용되기 쉽고 피해자는 구제받을 여지가 사라진다. 살상의 결정을 자동화하고 책임의 소재를 불명확하게 만드는 지금의 기술적·정책적·법적 구조는, 전쟁의 참사와 고통을 가중시킬 수 있는 것이다.

2026년, 지금 무엇을 할 것인가

2023년 10월 유엔 사무총장과 국제적십자위원회^{ICRC, International Committee of Red Cross} 총재는 2026년까지 자율무기체계에 대한 금지와 규제를 담은 법적 구속력 있는 국제문서 협상을 마칠 것을 공동으로 촉구했다. 그 2026년이 지금이다. 그러나 유엔 총회 결의 제80/57호(2025년 12월)는 여전히 논의를 이어가기로 했을 뿐, 협상 개시에는 이르지 못했다.

한국도 자율무기개발과 국방산업증진을 위한 속도전에 나서고 있다. 이를 뒷받침하기 위한 「국방인공지능법」 제정안도 국회에 계류 중이다. 이 법안은 규제보다 산업 육성에 기울어 있을 뿐만 아니라, 규제의 거의 대부분을 특례와 장관 임의, 대통령령으로 전가함으로써 자의적인 권력행사에 따른 안전과 책임 공백이 매우 크다. 게다가 군사AI나 자율무기와 같은 개념과 종류조차 정의되어있지 않기에 그것의 개발과 사용에 따른 위험과 피해에 대한 정밀한 대책이 불가능한 상황이다.

이 논의는 군인이나 군사 전문가, 또 정치인의 것만이 아니다. 전쟁과 무기에 가장 많은 피해를 받는 사람들은 민간인, 시민이다. 가장 영향을 많이 받는 사람들의 목소리가 여기에 반영되지 않는다면 남는 것은 이것을 통해 권력을 유지하고 경제적 이익을 얻는 쪽의 목소리뿐일 것이다.

사람을 표적으로 삼는 자율무기의 명시적 금지, 표적 결정에 인공지능을 쓰는 관행에 대한 즉각적 모라토리엄, 모든 군사 체계에 대한 ‘의미 있는 인간 통제’(또는 맥락에 적절한 인간통제)의 보장, 그리고 군사 인공지능에 대한 민주적 감시다.

책임의 주체는 오직 인간이다. 그럼에도 현행 군사 AI와 자율살상무기 체계는 법적 책임 귀속과 제도적 처벌, 피해구제 방안을 전무하게 둔 채 살상 결정의 자리에서 인간을 지워가고 있다. 전쟁의 비극마저 자동화의 논리가 잠식할 때, 결국 마주할 현실은 법과 윤리의 통제를 벗어난 통제 불능의 자동화된 폭력이다.