군 지도자들이 참석하는 어느 컨퍼런스나 회의에서든 늘 이 주제를 마주하게 될 가능성이 크다. 바로 전쟁에 인공지능(AI)을 통합하는 것에 대한 논의이다. 핵지휘·통제·통신 체계(NC3)는 중요한 의미를 내포하고 있으며 의사 결정에 향상된 분석 기회를 제공하는 반면 인간 통제에 대한 우려를 불러일으킨다.
더워존(The War Zone) 웹사이트에 따르면, 2025년 3월 공군 및 우주군 협회(Air & Space Forces Association)의 2025년 전쟁 심포지엄의 NC3 아키텍처에 대한 패널 토론에서 미 공군 글로벌 타격 사령부(AFGSC)의 전략 계획, 프로그램 및 요구 책임자인 타이 뉴먼(Ty Neuman) 소장이 “AI에 대해 생각하지 않고, AI를 고려하지 않는다면 우리는 패배할 것이다. 나는 패배할 생각이 없다”면서 “그러므로 우리는 반드시 AI에 대해 생각해야만 한다”고 밝혔다.
국방 지도자들은 NC3를 포함한 각종 체계의 현대화와 전략적 경쟁자 대비 우위 유지에 있어 AI를 핵심 도구로 보고 있다.
뉴먼 소장은 “AI는 차세대 NC3 아키텍처의 일부가 되어야 한다”면서 “이 기술을 어떻게 활용할지에 대해 현명하게 판단해야 한다”고 했다. 또한, “아마도 속도가 가장 중요할 것이 분명하다”면서 “방대한 양의 데이터를 처리해야 할 것이므로, 디지털 아키텍처, 복원력을 갖춘 아키텍처 등등을 통해 데이터를 처리할 수 있는 속도를 활용해야 한다”고 덧붙였다.
AI란 엄청난 양의 데이터를 통해 ‘학습’하고, 종래에 인간의 인지를 필요로 했던 문제를 해결하거나 기능을 인간의 개입 없이 수행함으로써 독립적으로 행동할 잠재력을 갖춘 최신 머신 러닝(ML) 프로그램을 가리킨다.
NC3 시스템을 포함하여, 3대 핵전력을 구성하는 무기 시스템을 하나로 묶는 핵 억지력의 현대화는 미국 전쟁부와 북대서양조약기구(NATO, 나토)를 비롯한 많은 동맹국 및 파트너국의 최우선 과제이다.
미국 전략사령부 사령관인 앤서니 코튼 미 공군 대장은 네브래스카주 오마하에서 열린 2024년 미국 국방부 정보 시스템 컨퍼런스에서 “AI 모델의 연쇄 효과, 새롭게 등장하는 예상치 못한 장벽, 그리고 핵 의사결정 과정에 AI를 간접적으로 사용하게 되는 위험을 파악하기 위한 연구 노력을 지시해야 한다”면서 “첨단 AI와 강력한 데이터 분석으로 의사결정상의 우위를 차지할 수 있으며 우리의 억지력도 개선되므로, [정보 기술과] AI의 우월성은 재래식 능력과 핵 능력을 더욱 효과적으로 통합할 수 있게 하여 억지력을 강화한다”고 강조했다.
사람보다 ‘기하급수적으로 빠른’
영국 레스터 대학의 피터 로텐바흐 연구원은 미 군축협회가 발행하는 암즈컨트롤투데이(Arms Control Today) 2022년 9월호에 게재한 보고서에서 AI 시스템을 NC3에 통합하면 핵 의사결정에서 인간의 오류나 편견을 완화하여 핵 위험이 극대화된 위기 상황에서 심각한 실수를 방지할 수 있다고 했다. 라우텐바흐(Rautenbach)의 보고서는 AI 체계가 방대한 데이터를 분석할 수 있는 잠재력이 ‘인간 분석가보다 기하급수적으로 빠르다’는 점에서 큰 이점이 있으며, 이를 통해 의사결정권자들이 공격 징후를 조기에 신속하고 정확하게 파악할 수 있도록 보장한다고 밝혔다. 라우텐바흐는 또한 “그러므로 이러한 시스템이 위기 상황에서 의사결정권자들에게 가능한 최상의 정보를 제공하게 될 것”이라면서 “편향되지 않은 시각으로 엄청난 양의 데이터를 지속적으로 분류하여 상관관계를 찾아내는 능력은 조기 경보 시스템 및 핵 안보 분야 내 사전 탐지 활동과 특히 관련성이 깊다”고 강조했다.
타이 뉴먼 소장은 전쟁 심포지엄에 참석한 사람들에게 “오늘날의 세계에서 [통신] 시스템의 인간 운영자인 나는 신호가 100가지 다른 방향으로 전송되기 때문에 보다 보안이 강화된 가장 안전한 경로가 무엇인지 판단할 능력이 없다”면서 “어떤 신호는 손상되었을 수 있고, 어떤 신호는 손상되지 않았을 수도 있는데, 나는 손상 여부를 판단할 능력이 없으니 AI에 판단을 맡겨야 한다”고 주장했다.
코튼 대장은 AI가 리더들에게 더 많은 “의사결정 공간”을 제공하여 핵 관련 체계 전체를 안전하게 유지할 수 있다면서 “적들은 우리의 핵 지휘통제와 의사결정 우위를 제공하는 역량이 연중무휴 가동되므로 침해되거나 무력화될 수 없다는 사실을 알아야 한다”고 강조했다.
더워존에 따르면, 미 우주군 우주 시스템 사령부 군사 통신 및 위치, 항법 및 시간 담당 부국장인 라이언 로즈(Ryan Rose) 대령은 전쟁 심포지엄 패널 토론에서 “우리는 시계열 데이터를 분석하여 동향을 파악할 수 있으며, 그러한 AI 도구를 예측 방식으로 사용할 수 있을 것”이라면서 “시스템 유지 보수와 마찬가지로 시스템을 능동적으로 관리하고, 시스템 업그레이드를 계획하고, 예상치 못한 중단이나 교란으로 인한 위험을 줄이는 등 우리 시스템에서 AI 도구를 활용할 수 있을 것”이라고 했다. 또한 “그 외에도, 사이버 보안 관련 데이터나 동향, 또는 적들이 무엇을 하고 있는지 파악하는 것도 의사결정권자들에게 유용할 것”이라고 덧붙였다.
새로운 기술이 등장하면서 AI 시스템도 위험 무풍 지대는 아니다. 라우텐바흐가 파악한 잠재적 문제로는 다음과 같은 것이 있다.
- 정렬 기계는 지시대로 동작할 수는 있지만 프로그래머가 원하는 대로 동작하지는 않는다. 정렬되지 않은 AI 시스템은 재앙적인 결과를 초래할 수 있다. “복잡한 운영 환경에서 머신 러닝 시스템은 그 자체의 취약성 문제, 즉 데이터 입력 시 사소한 조정이나 편차로 인해 지능이 뛰어난 프로그램의 능력이 저하되는 경향이 있는 경우가 종종 있는데, 이는 프로그램이 입력된 데이터를 이해하는 훈련을 받지 못했기 때문이다.”
- 부적절한 데이터 세트 보다 새로운 시스템이나 언어 모델에 데이터가 충분하지 않으면 시스템을 신뢰할 수 없게 되는 결과를 초래할 수 있는데, 특히 시뮬레이션된 교육 데이터를 사용하는 경우 더욱 그러하다. 라우텐바흐는 “구식 탄도 미사일 발사에 관해서는 광범위한 기록이 있지만,검증이 덜된 신규 모델에는 시뮬레이션을 사용해야 할 수도 있다”면서 “실제 공격적 핵 사용과 관련된 데이터가 부족하다는 것은 분명 세계를 위해 다행스러운 일이지만, 그럼에도 불구하고 이는 NC3 시스템을 위한 머신 러닝 프로그램 훈련에 관여하는 데이터의 상당 부분을 인공적으로 시뮬레이션해야 한다는 것을 의미한다”고 했다. 라우텐바흐는 그 결과, 외관상으로는 유능해 보이지만 실제 상황에서는 실패하는 AI 시스템이 될 수 있다고 덧붙였다.
- 인간의 편견 라우텐바흐는 머신 러닝 시스템에는 그 시스템을 만든 인간의 편견이 들어 있을 수 있다고 했다. 일부 머신러닝 시스템에서 성별이나 인종적 편견이 표시된 적이 있는 것처럼, 적성국의 행동을 관찰하도록 훈련된 AI 시스템에서도 유사한 문제가 발생할 수 있다. 라우텐바흐는 “인간의 편견이 시스템에 침투하면 특정 행위자나 변수와 관련된 데이터가 실제 세계에서 일어나고 있는 일을 정확하게 반영하지 않게 될 수 있다”고 했다. 시스템 결과에 따른 경고에 편견이 계속 남아 있는데도 국가의 지도부와 군부가 이 경고를 균형 잡히고 공정한 것이라고 추정하는 경우, 그 결과는 “재앙적인 오산”이 될 수 있으며, 거짓 양성에 반응할 위험이 더욱 커진다.
인간의 개입 유지
국방 지도자들은 군사체계에 AI를 통합하기 위해 신중하게 움직이고 있다고 한다. 현재는 정기적으로 수행해야 되는 것으로 간주되는 기능을 위한 데이터 수집 및 분석 분야에 주로 사용되고 있다. 2025년 1월, AI를 배치한 최초의 군함이 된 미 해군 구축함 USS 피츠제럴드호는 원격 모니터링 시스템을 통합하여 정비 문제를 예측하고 함대 준비 태세를 개선하게 되었다. 국가지리정보국(NGA)은 2017년에 시작한 메이븐(Maven) 프로그램을 통해 AI를 사용하여 위성 데이터 및 기타 데이터를 분석하고 잠재적인 목표물을 찾고 있다. 국가지리정보국 국장인 프랭크 휘트워스(Frank Whitworth) 중장은 디펜스원(Defense One)과의 인터뷰에서, 메이븐의 차기 버전에는 잠재적 위협이 될 수 있는 이상 징후를 식별하기 위한 ‘추론(reasoning)’ 기능을 갖춘 AI 기술이 포함될 예정이라고 밝혔다. 휘트워스 중장은 이 능력을 통해 예상치 못한 위치에 적군의 트럭이 있거나, 활동에 갑작스런 변화를 보이는 무기 시설과 같은 이상 상황을 탐지할 수 있을 것이라고 덧붙였다.
미국 외에 동맹국과 파트너국들도 안보를 강화하기 위해 AI를 통합하는 방법을 모색하고 있다. 2024년 7월에 발표된 NATO 개정 전략의 목표는 다음과 같다.
디클란 반즈(DECLAN BARNES)/미 육군 공병대
NATO 동맹국이 모범을 보이고 방위 및 안보를 위한 책임감 있는 AI 개발과 이용을 장려할 수 있는 기반 제공
AI 활용 사례 전달을 비롯하여 능력 개발 및 전달에 AI 채택을 가속화하고 주류화하여 NATO 동맹 내 핵심 요소로서 상호운용성 강화
동맹의 AI 기술 보호 및 모니터링, 관련 위험을 관리 및, NATO의 혁신 능력 보호를 통한 안보 정책 고려 사항 해결 AI의 적대적 사용으로 인한 위협을 식별하고 위협으로부터 보호 전 세계 지도자들은 AI 시스템의 안전성과 신뢰성을 보장하기 위한 지침을 마련하고 있다. 2023년 2월, 미국 국무부는 인공지능과 자율 기술의 책임감 있는 군사적 사용에 대한 정치적 선언(Political Declaration on Responsible Military Use of Artificial Intelligence and Autonomy)을 발표했다. 2025년 6월 현재, 약 60개국이 이 선언에 지지를 표명했다.
야마다 시게오 주미 일본 대사는 2024년 12월 워싱턴 DC 소재 국제전략연구소가 주최한 AI 컨퍼런스에서 “우리는 혁신을 극대화하는 동시에 신뢰성과 보안, 윤리적인 AI 사용을 보장하는 체계를 마련해야 한다”면서 “이러한 균형이야말로 효율적인 AI 거버넌스를 위한 초석”이라며, “어떻게 AI를 모두에게 믿을 수 있고 유익한 것으로 만들 것인가 하는 것은 아직 답을 찾지 못한 문제”라고 말했다.
라우텐바흐는 위험을 줄이기 위해서는 현재의 기술적 한계를 고려하여 AI를 NC3에 통합하는 것을 반드시 고려해야 한다고 했다. 미국 국방부 지도자들도 이에 동의하며, NC3를 포함한 미래의 무기체계에서는 AI가 핵심 기능이 되겠지만, 인간도 여전히 의사 결정 과정에 참여하게 될 것이라고 강조했다.
코튼 대장은 “첨단 시스템은 우리에게 더 빠르고 효율적으로 정보를 제공할 수 있다.”라며 “그러나 그러한 역량의 채택을 극대화하고 적에 대한 우위를 유지하기 위해 항상 인간의 판단이 개입되어야 한다.”라고 말했다.
지도자들은 안전장치가 무엇보다 중요할 것이라고 했다. 미국과 동맹국 및 파트너국은 경쟁자보다 뒤처지는 것을 원치 않으며, 이러한 시스템을 신속하게 개발해야 한다는 압박은 불완전성의 위험을 가중시킨다.
뉴먼 소장은 “AI가 아무리 훌륭하고, 컴퓨터 프로세스와 그 비슷한 것들이 아무리 뛰어나다 해도, 결국은 AI에 입력되는 데이터의 질이 모든 것을 좌지우지하는 것”이라면서 “따라서 데이터가 손상되면 사실상 AI에 데이터나 출력이 있는지 여부를 확인할 방법이 없으므로 반드시 그 과정에 사람이 개입하게 해야 한다”고 했다.
로즈 대령은 “AI의 경계를 확장하여 확실하고 신뢰할 수 있는 혁신적인 솔루션을 제공하는 것이 중요하다고 생각하지만, AI 통합, 특히 NC3 시스템에 AI를 통합하는 데에는 몇 가지 도전과 위험이 존재한다는 것도 알고 있다”면서 “엄정한 테스트, 밸리데이션 및 감독 메커니즘 구현을 통해 이러한 위험과 도전 과제 중 일부를 완화하고, 궁극적으로 의도한 대로 작동하는 AI 시스템을 인도할 수 있는 방법을 찾을 수 있을 것이라 생각한다”고 밝혔다.