참여사회 2026년 09-10월 2026-08-30 31

[이슈] 알리바이가 된 규범의 공백, AI 무기화와 민주주의

2026년 6월, 주영국 우크라이나대사관이 주최한 미디어 컨퍼런스에서 우크라이나의 드론 제조사 대표가 완전 자율 전투 실험에 대해 언급했다. 몇 년 전, 바흐무트와 차시우야르의 황량한 들판에서 인공지능 드론들이 인간과의 그 어떤 데이터 연결도 없이 독자적으로 표적을 탐색하고 파괴하는 실험이 진행되었다는 것이다. 이 교전으로 러시아 군인이 몇 명이 사망한 것으로 추정되지만, 우크라이나 국방부는 진위를 확인해주지 않았다. 당시 전투는 현장 영상조차 남아있지 않아 실험이 끝난 뒤에야 유인 드론을 파견해 파괴된 트럭과 시신을 확인했다고 전해진다. 놀라운 것은 기계가 사람을 죽이는 세계가 도래했음에도 이 세계가 생각보다 크게 놀라지 않고 있다는 사실이다.

이 기괴한 무감각함의 시작은 언제였을까. 2020년 3월 리비아 트리폴리 인근에서 튀르키예산 드론 ʻ카르구-2’가 퇴각하던 리비아 군인들을 사살한 것으로 추정되는 사건이 벌어졌다. 2021년 유엔 안전보장이사회에 제출된 보고서(S/2021/229) 제63항에는 통제자와의 데이터 연결이 끊긴 상태에서 기계가 스스로 퇴각하는 병력을 추적해 격퇴한 내용이 담겨 있다. 주요 언론들이 보도했지만, ʻ완전 자율 살상 추정’이라는 단서가 달린 기사들은 몇 달간 소비되다 이내 잊혔다.

군사 인공지능을 이야기할 때 사람들은 습관처럼 ʻ규범의 공백’을 말한다. 기술의 발전 속도가 너무 빨라서 법과 제도가 그 속도를 따라잡지 못한다거나, 기술 발전을 저해해선 안 되니 지금은 규제를 말할 때가 아니라는 노골적인 방어논리가 전부다. 하지만 이 진단은 게으른 변명일 뿐이며, 정작 마땅히 책임을 물어야 할 주체의 자리를 슬그머니 비워둔다는 점에서 지극히 정치적이다. 규범의 공백 그 자체를 문제 삼는 것보다 더 중요한 것은, 그 공백이 어떻게 만들어지고 있으며 누구에 의해 치밀하게 유지되고 있는가 하는 점이다.

국제사회에서 자율살상무기체계 금지를 다루는 가장 주요한 무대는 유엔 특정재래식무기금지협약^{CCW, Convention on Certain Conventional Weapons} 자율살상무기체계 정부전문가그룹^{GGE, Group of Governmental Experts}이다. 2012년 휴먼라이츠워치^HRW의 보고서를 시작으로 2014년 첫 비공식 전문가회의가 열렸고, 2016년 제5차 검토회의 결정에 따라 2017년부터 정부전문가그룹이 공식 가동되었다. 2019년 11개 지도원칙이 채택되었고, 2023년 당사국회의는 이 그룹에 3년의 임기를 부여하면서 최종 문서의 성격을 미리 규정하지 않은 채 필요한 요소들을 합의로 정리하라는 미완의 임무를 맡겼다. 그리고 2024년부터 논의는 의장이 제시한 롤링텍스트^{rolling text}를 중심축으로 아슬아슬하게 진행되어 왔다.

전원합의제를 채택하고 있는 CCW의 특성상 만장일치를 위해 완전 금지에서 일부 금지와 일부 규제로 타협안인 ʻ이원적 접근법’이 도출되었다. 예측 불가능하게 작동하는 무기체계와 사람만을 표적으로 삼도록 설계된 대인 자율무기체계는 엄격히 금지하고, 그 밖의 체계에 대해서는 표적, 작동 시간, 지리적 범위, 인간 감독의 요건을 깐깐하게 제한하자는 것이다. 2023년 유엔 사무총장과 ICRC 총재의 공동입장 발표, 2025년 브라질 주도 성명과 유엔총회 제1위원회의 압도적 결의안 지지 등 동력은 충분했다. 그러나 CCW는 여전히 협약 초안에 합의하지 못한 채 10년이 넘도록 표류 중이다.

이 표류의 원인을 세 가지로 요약하면, 첫째, ʻ전원합의’라는 제도가 만들어낸 기괴한 역설이다. 정부전문가그룹은 표결 없이 전원합의로만 작동한다. 단 한 국가라도 합의할 수 없다고 선언하면 모든 노력은 무력화된다. 본래 강대국이 다수결로 약소국을 밀어붙이는 것을 막기 위한 보호장치가, 현실에서는 군사기술 강국들이 규제를 완벽하게 저지하는 방패로 악용되어 왔다. 반대하는 국가는 전원합의라는 명분을 내세워 단어 하나하나에 트집을 잡으며 시간만 끌면 그만이다.

둘째, 각국의 ʻ이해관계’ 때문이다. 협상을 교착 상태로 몰아넣은 국가들의 명단은 세계 주요 무기 수출국 명단과 상당히 겹친다. 자율성에 대한 규범을 지금 세운다는 것은 아직 팔지 못한 무기를 앞으로도 영영 팔 수 없게 만든다는 뜻이다. 표적 선정 소프트웨어, 군집 드론, 배회탄약은 이미 방산 전시장의 주력 상품이다. “기술이 아직 정립되지 않았다”, “혁신을 저해한다”는 말은 신중함의 언어가 아니라 노골적인 무기시장 방어의 언어다. 규범없음은 막대한 이익을 위해 합의를 유예시킨 의도적인 성취다.

셋째, 의사결정 경로의 다변화가 가져온 착시다. 제네바의 합의 구조가 막히자 유엔총회가 우회로를 열었지만, 역설적으로 ʻ다른 트랙이 있다’는 옵션 때문에 제네바에서 타협안을 내야 한다는 부담이 사라졌다. 두 트랙 모두 “논의는 계속되고 있다”는 알리바이로만 남는 최악의 시나리오가 펼쳐지고 있다. 한국이 주도적으로 참여하고 있는 REAIM^{Responsible Artificial Intelligence in the Military Domain Summit} 논의 역시 구속력 있는 규범에 대한 국제사회의 집중력을 흐트러뜨린다는 비판을 받는다.

국제 시민단체들은 협상 교착의 주범으로 러시아, 이스라엘, 미국, 인도, 호주와 함께 ʻ한국’을 지목한다. 한국 대표단은 정중한 태도로 인도주의를 표방하는 듯, 규제 완화를 요구해 왔다. 완전자율무기체계에 대한 인간의 통제를 강화하려는 흐름에는 제동을 걸고, 미국의 통제 완화안에는 지지를 보내는 식이다. 한국정부는 유엔총회 결의안에는 동의하나 구속력 있는 협약을 촉구하는 브라질 주도 성명에는 불참하며 체면과 잇속을 동시에 챙기려 하는 모순적 태도를 보이고 있다.

2025년 단년 기준 세계 4위 무기 수출국이자 ʻ방산 4대 강국’을 목표로 내건 한국에서 국제 규범은 ʻ국익’이라는 이름 아래 산업 중흥 정책의 사소한 하위 변수로 철저히 배치된다. 전쟁은 인간의 존엄을 뿌리째 흔드는 인권침해의 총체라는 점에서 재래식 무기와 인공지능 무기가 가지는 차이는 크지 않다. 그러나 인공지능 무기화가 가져오는 뚜렷한 변화들이 있다.

첫째, 판단의 주체가 기계로 이전된다. 무엇을 적으로 간주할 것인가라는 중대한 판단이 데이터 패턴으로 전락한다. 가자지구에서 가동된 ʻ라벤더’는 주민 수만 명을 확률에 따라 점수화해 목록을 만들었고, ʻ아빠는 어디?’작전에 따라 대상이 집으로 돌아가는 순간 가족과 함께 사살했다. 인간을 속성의 집합으로 사물화하며 국제인도법의 구별 원칙을 무효화시킨 것이다.

둘째, ʻ킬체인’이 무서운 속도로 압축된다. 초당 수십 개의 타격 후보가 올라오는 화면 앞에서 인간의 승인은 검토가 아닌 단순 클릭에 불과해진다. 이스라엘 정보장교들이 표적 하나를 검토한 시간은 약 20초였다. ʻ자동화 편향’ 속에서 인간은 껍데기로 남는다. 미국은 이란 침공과정에서 24시간 만에 1,000개의 표적을 타격했고, 수단에서는 2026년 첫 다섯 달 동안 드론 공습으로 민간인 최소 1,000명이 사망했다. 살상이 원격화되고 값싸질 때 죽음은 존엄의 문제가 아니라 처리량의 문제가 된다.

셋째, 책임이 분산되다 못해 익명화된다. 알고리즘 개발사, 국방부, 지휘관, 운용자 그 누구에게도 책임이 귀속되지 않는 ʻ책임의 공백’이 발생하는 것이다. 2026년 2월, 이란 남부 미나브의 초등학교가 미군 토마호크 미사일에 무너져 175명 이상이 숨진 사건은 자율무기가 아니라 십수 년 갱신되지 않은 표적 데이터베이스가 만든 참사였고, 조사는 완료되고도 정치적 승인 단계에서 멈춰 선 채 책임은 아직 아무에게도 귀속되지 않았다. 의사결정지원체계나 이중용도 모델처럼 ʻ무기’ 범주에 들어가지 않는 기술로 살상의 경로가 옮겨갈수록 공백은 더욱더 확장될 것이다.

따라서 법적 구속력을 갖춘 국제규범이 필요하다. 규범이 있다면, 첫째, 밀실 검증을 해체할 수 있다. 제1추가의정서 제36조가 부과한 신무기 검토 의무는 기준도, 공개 의무도, 검증 절차도 없다. 새 규범은 그 밀실의 문을 열어젖히고 투명성 강화를 촉구하는 데 기여할 수 있다. 둘째, ʻ위반’을 명시할 수 있다. 위반의 구속력이 명시되어야 비극이 ʻ불운한 사고’로 증발하지 않고 명백한 ʻ침해’로 기록되며, 비로소 배상과 구제를 청구할 피해자의 자리가 생긴다. 셋째, 상호주의를 강제할 수 있다. 지금 구조에서는 한 국가의 윤리적 자제가 곧 그 국가의 군사적 손해로 되돌아오며, 자제할수록 불리해지는 조건에서 개별 국가에게 자제를 기대할 수는 없다. 대인지뢰와 집속탄 금지협약은 비준하지 않은 국가의 거래와 배치까지 위축시켜 왔다. 이런 점에서 규범은 서명한 자만 구속하는 것이 아니라, 서명하지 않은 자에게 설명의 부담을 지운다는 효과가 있다.

한국은 이미 자율 무기 기술의 깊숙한 당사자다. 2026년 4월 국방부는 전방 경계 병력 감축을 발표했다. AI 기반 과학화 경계체계가 그 빈자리를 메운다는 구상이었다. 논란이 일자 국방부 장관은 “2040년께 계획 중인 목표치”라고 부연했지만, 방향 자체가 철회된 것은 아니다. 감축된 병력을 대체할 인공지능과 그 알고리즘에 대한 시민적 논의는 없었다. 인공지능기본법은 국방을 배제했고, 국방인공지능법안은 산업 진흥에만 무게를 둔다. 국제 기준이 없어 국내 규율을 못 만들고, 국내 규율이 없어 국제 협상에서 신중하겠다고 둘러대는 이중 공백의 최전선에 한국이 있다.

2026년 9월 CCW 회의를 앞두고 이 글을 쓴다. 그리고 11월이면, 제7차 CCW 검토회의가 열린다. 국제사회는 전원합의에 따른 자율살상무기체계 금지 협약을 만들어낼 수 있을 것인가? 한국은 최종적으로 어떤 선택을 할 것인가?

선출된 권력보다 선출되지 않은 자본과 기술의 힘이 커지는 세계, 팔란티어를 만든 피터 틸류의 기술 과두권력^{Tech Oligarchy}이 꿈꾸는 비정한 세계가 빠르게 현실이 되고 있다. 계엄령을 무력화시킨 한국 사회 시민들의 민주주의는 인공지능 무기화 앞에서, 방산 주식의 가파른 상승세 앞에서 과연 멈추어 설 셈인가? 한국이 계엄을 막아내며 민주주의의 당당한 상징처럼 오르내리고 있지만, 인공지능 무기화야말로 또 다른 형태의 계엄령에 다름 아니다. 감시와 통제, 그리고 피비린내 나는 폭력이 기계의 이름으로 자동화되는 세계. 이 민주주의를 위협하는 기술들은 ʻ국방’과 ʻ안보’라는 말 뒤에 숨어 삶의 터전을 촘촘하게 장악해 나가고 있다.

두 번의 계엄을 거치고도 여전히 안보와 국방이라는 성역 앞에서 주춤거리는 민주주의. 그 안보의 성역화를 멈춰 세우는 일은 결국 이 세계를 더 살 만한 곳으로 만드는 길이 된다. 극심한 경제적 양극화와 예측 불가능한 기후재난이라는 위기 속에서, 인공지능의 군사적 이용을 감시하고, 금지하며, 규제하는 일은 여전히 시민의 몫이다.

그럴듯한 알리바이에 속지 않고 생명과 존엄에 대해 끝내 목소리를 내는 것, 각자의 걸음이 죽이는 일이 아니라 살리고 돌보는 일로 향하게 만드는 것은 오직 시민들의 다정하고도 끈질긴 추궁과 간섭, 개입을 통해서만 가능하기 때문이다.

글 문아영 피스모모 대표

문아영은 2012년 동료들과 함께 평화연구 및 교육단체 피스모모를 창립했다. 분단사회에서의 안보화(securitization)과정과 이를 디코딩(decoding)하는 작업으로서의 서로 배움에 깊은 관심을 두고 활동해 왔으며 2019년부터 인공지능 무기화의 문제를 모니터링하고 있다.