참여사회 2026년 09-10월 2026-08-30 32

[이슈] AI는 스스로 멈추지 않는다

‘알고리즘 전쟁’ 시대, 방위산업의 지형 변화

오늘날 인공지능AI은 전쟁의 구조 자체를 바꾸는 핵심요소로 부상했다. 인공지능 무기체계들은 우크라이나-러시아, 팔레스타인 가자 등 주요 전장에서 이미 실전 검증을 마쳤으며, 무엇보다 2026년 2월 28일 시작된 미국과 이스라엘의 이란 공습 작전에서는 인공지능이 단순한 군사 보조 도구를 넘어 표적 식별, 우선순위 선정, 공격 시나리오 분석 등 전 과정에 적극 활용되었다. 이처럼 전쟁의 양상이 ʻ알고리즘 전쟁’이 되면서 방위산업의 지형도 크게 바뀌고 있다.

무기를 생산하는 전통적인 방산기업들보다 알고리즘으로 전쟁을 설계하고 공격을 자동화하는 방산테크 기업들이 급부상하고 있다. 대표적으로 미국의 방산테크기업 팔란티어, 안두릴 등이 있다. 팔란티어는 수많은 데이터를 실시간으로 수집하고 인공지능으로 분석해 표적을 식별하고 타격을 할 수 있도록 지원한다. 안두릴은 자율 드론을 배치해 적진을 정찰 감시하고 GPS 교란에도 정밀한 자폭 타격을 한다. 이뿐만이 아니다. 미 국방부는 오픈AI, 구글 제미나이 등의 빅테크 기업들과 AI 모델, 표적화 지원 등 협력 범위를 대폭 넓혀가고 있다.

한국에도 테크 기업들의 방위산업 진출 흐름은 거세다. 이재명 정부가 AI를 활용한 군 전력 고도화를 목표로 국방인공지능으로의 전환 즉 ‘국방 AX’를 적극 추진하면서 많은 민간 테크기업들이 국방 AI 개발 사업에 뛰어들고 있다. 네이버와 네이버클라우드는 KAI^{한국항공우주산업}와 협력해 방산 분야에 최적화된 AI 파운데이션 모델을 함께 개발하고 있고, 게임 개발사 엔씨의 자회사 NC AI 역시 전차 생산 방산기업으로 유명한 현대로템과 손잡고 피지컬 AI 국가 연구개발 사업에 착수했다. 또 다른 게임 개발사 크래프톤 역시 한화에어로스페이스와 피지컬AI 공동개발 MOU를 체결했다. 한국판 ‘팔란티어’를 꿈꾸는 기업들의 협력 사례는 다양하다. 빠른 데이터 처리 능력, 인프라, 독점적 소프트웨어, 그리고 자율형 하드웨어로 일컬어지는 국방 AI는 이제 현대전의 속도와 구조, 의사결정의 방식을 바꾸는 필수재가 되었다.

기업의 자율 규제와 계약을 통한 통제의 한계

아무리 참혹한 전쟁 중이라도 최소한의 인도적 규범을 지키도록 하는 것은 단순 상호 학살과 파멸을 막기 위해 인류가 오랜 역사 위에 정립해 온 전쟁 윤리이자 국제인도법의 핵심이다. 그런데 전쟁의 중심에 서게 된 빅테크 기업들은 과연 이 윤리 기준을 어떻게 받아들이고 있을까. AI 무기를 규율하는 국제 규범이나 거버넌스가 아직 없는 가운데, 최근 기업의 자율적인 윤리 기준과 계약만으로 AI 무기의 비윤리적 활용을 통제할 수 있을까 의구심을 갖게 하는 일이 빈번해지고 있다.

2026년 2월 13일, 미국의 언론매체 악시오스는 베네수엘라 대통령 니콜라스 마두로 체포 작전에서 AI 모델 클로드가 사용되었다고 보도했다. 클로드를 만든 기업 앤트로픽 측은 군이 자사 모델을 폭력적인 작전에 투입한 것이 기업의 안전 원칙을 위반한 것이라고 주장하며 미 국방부에 안전 지침 준수를 요구했다. 그러나 국방부는 민간 기업이 연방 계약을 통해 도입한 제품이기 때문에 제품의 활용 방식을 정부에 이래라저래라 할 수 없다고 맞섰다. 앤트로픽이 자사 AI 모델 클로드의 군사 무기화를 반대하고 비협조적 태도를 보이자 결국 국방부는 보란 듯이 앤트로픽을 자국 공급망 위험 기업으로 지정했다. 최근에는 앤트로픽이 최상위 AI 모델인 미토스5, 페이블5를 공개하자 미 상무부는 수출통제를 명령하기도 했다. 겉으로는 보안 문제를 내세웠지만, 실상은 전쟁에 활용되기를 거부했던 앤트로픽에 대한 보복적 조치라는 이야기가 나온다.

구글 등 다른 빅테크 기업들도 이미 그 전부터 이른바 ‘전쟁 비즈니스’에 협력하는 것을 두고 대내외 비판에 직면했었다. 구글은 미 국방부의 메이븐 프로젝트 참여를 둘러싸고 격렬한 내부 갈등을 겪으면서 ‘전쟁 비즈니스에는 참여하지 않겠다’는 결론에 도달했지만, 3년 뒤 결국 국방부와의 협력을 재개했다. 특히 내부 갈등 이후에 무기와 감시 목적의 AI 개발을 금지하는 ‘구글 AI 원칙’을 발표했으나, 2025년 2월 관련 금지 문구를 삭제하기에 이르렀다. 아마존도 직원들의 조직적 반대에 부딪혔지만 이와 상관없이 관련 비즈니스를 강행했다.

AI 기업 내부에서 아무리 윤리적 고민이 있더라도 국가의 요구에 응할 수밖에 없는 방위산업의 구조적 문제로 인해 기업의 자체 윤리적 기준은 전쟁 비즈니스를 통제하거나 규율하는 힘을 갖지 못하는 것이 현실이다. 더불어 전쟁 비즈니스가 가져다주는 막대한 이익도 기업들이 포기하지 못하는 이유일 것이다.

팔란티어 CEO 알렉스 카프의 말처럼, 군사 AI 기업들은 기술 개발을 하는 데에 주저하지도 멈추지도 않을 것이란 점이 점점 더욱 명확해지고 있다.

“Whether AI weapons will be built is no longer the question. The question is who will build them and to what end. Our adversaries will not waste time on theatrical debates about the merits of developing technology essential to military and national security. They will simply proceed.” ¹

AI 무기가 만들어질 것인지 말 것인지는 더 이상 질문이 아니다. 문제는 ‘누가 어떤 목적으로 만드느냐’다. 우리의 적들은 군사 및 국가 안보에 필수적인 기술 개발의 타당성을 놓고 연극 같은 토론을 벌이며 시간을 낭비하지 않을 것이다. 그들은 그냥 추진할 것이다.

금지하고 규제하는 「국방인공지능법」이 필요하다

AI의 군사 무기화로 인한 윤리적 문제는 ‘전쟁 국가’ 미국에만 해당되는 이야기일까? 당연히 아니다. 앞서 언급했듯이 국내 방산기업들도 AI 무기체계 개발에 박차를 가하고 있고, 정부는 ‘한국판 팔란티어’를 키우겠다며 ‘방산 벤처천억기업’ 30개사를 육성하겠다고 공언하고 있다. 그러는 사이 최근 ‘K방산’ 수출은 급격히 증가해 한국의 2025년 무기 수출 시장 점유율은 전 세계 4위에 오르기도 했다.

이런 상황임에도 국내에 국방분야 AI 개발과 도입을 규율하는 법체계는 아직 없다. 물론 인공지능기본법이 제정되어 있지만, 외교안보 관련 분야는 적용 대상에서 제외하고 있어 국방분야 AI는 사실상 법적 공백상태에 놓여 있다. 이에 국회가 지난 1월 여야 공동으로 「국방인공지능법안」을 발의하였으나, 군사 영역에 AI를 도입함으로써 발생할 수 있는 법적·윤리적 쟁점은 제대로 담고 있지 않아 계속해서 우려를 낳고 있다. 특히 무기체계에 적용되는 AI 기술은 사람의 생명과 안전에 직접적으로 영향을 미치는 것이고, 외교안보 사안이라는 이유로 비공개되거나 성역화되기 쉬운 분야인만큼 엄정한 심의가 이뤄져야 한다. 게다가 아직 국제규범이 만들어지기도 전이기 때문에 그만큼 신중한 검토가 필요함에도 여야 공동으로 발의된 법안이라는 이유로 국회 내 논의조차 제대로 이뤄지지 않고 있는 실정이다.

그동안 한국 정부는 군사 인공지능 사용 시 유엔헌장과 국제인도법, 국제인권법을 지켜야 한다는 국제사회 합의에 동조해 왔고, 무력사용에 대한 인간의 판단과 통제 조치를 포함한 모든 안전장치를 강조하는 유엔 결의안 채택을 공동 주도하기도 했다. 하지만 실제 ｢국방인공지능법안｣ 발의안에는 한국이 국제사회에 약속하거나 결의한 안전장치, 국제법 준수 등의 내용은 전혀 반영되지 않았다. 또한 위험수준에 따라 금지하거나 제한해야 할 인공지능에 대한 규정도 포함되어 있지 않다 보니, 자칫 인간의 개입 없이 살상을 결정할 수 있는 자율살상무기^LAWS 개발이 허용되는 것으로 해석될 여지도 있다.

‘인적 개입’ 규정이 모호하게 되어 있는 것도 개선해야 한다. 현재 발의되어 있는 법안에는 “자동화된 결정이 사람의 생명 또는 신체에 중대한 위해를 발생하게 할 우려가 있는 경우에는 인적 개입이 보장되도록 하여야 한다”고만 명시하고 있다. 그러나 ‘중대한 위해’가 무엇인지, ‘우려’에 대한 판단 기준과 주체는 누구인지, ‘인적 개입’의 주체, 시점, 방식은 무엇을 의미하는지에 대해 정의되어 있지 않다. 인간이 단순히 최종 승인권을 갖는 것을 인적 개입이라고 한다면 이는 실질적 통제라기보다 형식적 승인에 그칠 가능성이 높다. 이미 팔레스타인 가자지구 등 여러 전장에서 인간은 단 20초 만에 수십, 수백의 표적 공격을 기계적으로 승인하는 수준의 개입밖에는 하지 못한다는 것이 재차 확인됐다. 게다가 인공지능으로 식별하고 만들어낸 표적 목록에도 오류가 반드시 존재하기 때문에 이는 곧 민간인 살상 문제로 이어질 수밖에 없다.

군사AI 정책들이 국제규범과 원칙들에 맞게 이뤄지고 있는지 감시할 수 있는 독립적인 감독 메커니즘도 제대로 규정하고 있지 않다. 법안에는 국방인공지능 거버넌스 체계인 ‘국방인공지능위원회’의 구성과 기능을 명시하고 있으나 위원은 오로지 군, 정부 중심 인사들과 AI 기술자들로만 구성하겠다고 하고 국회에 대한 보고 기능도 제대로 규정하고 있지 않는다. 국방AI 정책의 수립과 이행을 민주적으로 통제할 수 있을지 의문이 가는 대목이다.

이러한 법적·윤리적 쟁점에도 불구하고 국방인공지능법안은 전체적으로 국방AI를 적극 도입 활용하고 산업을 육성하는 데에만 초점을 맞추고 있을 뿐 위험을 최소화하고 규제나 통제를 하기 위한 조항은 담고 있지 못하다. 국방인공지능을 규율해야 하는 법에서조차 이를 제대로 통제하지 못한다면 이 법의 정당성은 어디서 찾을 수 있을까?

국방부는 아직 법이 제정되어 있지 않은 지금이 도리어 아무런 규제가 없어 군사AI 개발의 적기라고 판단하는 듯하다. 최근 게임 기업 등 테크기업들과 방산기업 간의 협업 프로젝트가 대거 추진되고 있는 것이 이를 방증한다. 그러나 분명한 점은 속도전과 산업 진흥에만 매달려서는 인공지능에 대한 통제 상실의 위험이나 불분명한 책임 소재의 문제를 해결할 수 없다는 것이다. 보다 근본적으로는 더 쉽고 빠른 표적 식별과 공격 결정이 전쟁을 줄여주지도 끝내주지도 못한다는 점이다. 이러한 명백한 사실 앞에 정부와 국회가 국방인공지능법과 관련 정책들에 대한 시민사회의 비판을 귀담아듣기를 기대한다.