На любой конференции военных лидеров сегодня почти неизбежно обсуждают внедрение искусственного интеллекта (ИИ) в сферу ведения боевых действий. Для систем ядерного командования, управления и связи (NC3) это открывает широкие перспективы: появляются новые возможности для более глубокого анализа при принятии решений, но одновременно возникают опасения, связанные с сохранением человеческого контроля.
«Если мы не будем думать об ИИ и учитывать его в своей работе, мы проиграем, — заявил генерал-лейтенант ВВС США Тай Нойман, директор по стратегическому планированию, программам и требованиям Глобального ударного командования ВВС США (AFGSC). — А я не заинтересован в проигрыше. Так что нам абсолютно необходимо разобраться с этим».
Руководители оборонного сектора рассматривают искусственный интеллект как ключевой инструмент модернизации систем, включая NC3, и сохранения технологи-
ческого преимущества над стратегическими соперниками.
«ИИ должен стать частью архитектуры NC3 следующего поколения. Мы должны с умом использовать эту технологию», — подчеркнул Нойман. По его словам, «скорость, безусловно, является самым важным фактором. Мы будем работать с огромными объемами данных, и цифровые, отказоустойчивые архитектуры должны позволить нам максимально использовать преимущества высокой скорости их обработки».
ИИ охватывает современные программы машинного обучения (ML), способные анализировать большие объемы данных и действовать автономно, выполняя задачи, которые ранее требовали человеческого участия и когнитивных способностей.
Модернизация ядерного сдерживания, включая системы NC3, объединяющие элементы ядерной триады, остается одним из ключевых приоритетов Министрества войны (Военного министерства) США (МВ), его партнеров и союзников, включая НАТО.
«Необходимо сосредоточить исследовательские усилия на выявлении рисков каскадных эффектов моделей ИИ, новых непредвиденных препятствий, а также косвенной интеграции ИИ в процессы принятия решений в ядерной сфере», — заявил генерал ВВС США Энтони Коттон, командующий Стратегическим командованием США, выступая на конференции Министерства обороны по информационным системам разведки в 2024 г. в Омахе, Небраска. По словам Коттона, «передовые технологии ИИ и надежная аналитика данных дают преимущество в принятии решений и укрепляют потенциал сдерживания. Превосходство в области информационных технологий и ИИ позволяет более эффективно интегрировать обычные и ядерные возможности, усиливая общую систему сдерживания».
«В разы быстрее», чем человек
Интеграция систем искусственного интеллекта в NC3, по мнению Питера Раутенбаха — исследователя из Университета Лестера в Великобритании, может снизить вероятность человеческих ошибок и предвзятости при принятии решений в ядерной сфере, помогая избежать критических просчетов во время кризиса, когда риск ядерной эскалации особенно высок. В своем отчете, опубликованном в сентябре 2022 г. в журнале «Arms Control Today» — издании Ассоциации по контролю над вооружениями, Раутенбах отметил, что способность ИИ анализировать большие объемы данных является значительным преимуществом: такие системы «работают в разы быстрее, чем человек-аналитик», обеспечивая более точную и своевременную информацию для лиц, принимающих решения, и позволяя оперативно выявлять потенциальные угрозы. «Эти системы смогут предоставлять руководителям максимально точную информацию для использования в условиях кризиса», — отметил Раутенбах. По его словам, способность ИИ выявлять корреляции и систематизировать огромные массивы данных с объективной точки зрения имеет ключевое значение в сфере ядерной безопасности для систем раннего предупреждения и обнаружения угроз до запуска.
«Как оператор системы связи в современном мире, я не смогу определить, какой маршрут передачи данных является самым безопасным и надежным, — сказал Нойман на симпозиуме по военному делу. — Сигналы будут поступать из сотни разных направлений: часть может быть скомпрометирована, часть — нет. Я не смогу этого определить, поэтому ИИ должен быть встроен в этот процесс».
По словам генерала Коттона, ИИ способен расширить «пространство для принятия решений», обеспечивая безопасность всего ядерного комплекса. «Наши противники должны понимать, что система ядерного командования и управления, а также другие возможности, обеспечивающие преимущество в принятии решений, функционируют круглосуточно, без перерывов, и не могут быть скомпрометированы или выведены из строя», — подчеркнул он.
«Мы можем анализировать исторические данные и выявлять тенденции, а инструменты искусственного интеллекта могут использоваться в прогнозных целях. Мы могли бы применять их в наших системах для проактивного управления — например, для обслуживания оборудования, планирования модернизации и снижения рисков неожиданных сбоев или перебоев», — заявил полковник Космических сил США Райан Роуз, заместитель директора по военным коммуникациям, позиционированию, навигации и синхронизации в Командовании космических систем, выступая на симпозиуме «Warfare Symposium», сообщает «TWZ». «Кроме того, данные или тенденции, связанные с кибербезопасностью, а также возможность предвидеть действия противников, могут оказаться полезными для лиц, принимающих решения».
Как и любые новые технологии, системы искусственного интеллекта не лишены рисков. Среди потенциальных проблем Раутенбах выделяет следующие:
Согласованность. Машина может действовать в соответствии с инструкциями, но не так, как задумывали программисты. Несогласованная система искусственного интеллекта способна привести к катастрофическим последствиям. «В условиях сложных операционных сред системы машинного обучения часто сталкиваются с проблемой собственной хрупкости — склонностью даже самых продвинутых интеллектуальных программ к сбоям из-за незначительных изменений или отклонений во вводимых данных, которые они не были обучены распознавать».
Недостаточные наборы данных. Недостаток данных в новых системах или языковых моделях может сделать их ненадежными, особенно если используется симулированная обучающая информация. «Хотя существуют обширные записи, связанные с запуском старых баллистических ракет, более новые, менее протестированные модели могут потребовать применения симуляции», — отметил Раутенбах. «Отсутствие данных о реальном применении ядерного оружия в наступательных целях, безусловно, является удачей для всего мира, но это также означает, что большая часть данных, используемых для обучения систем машинного обучения, применяемых в NC3, будет искусственно создана». В результате, по его словам, может получиться система искусственного интеллекта, которая выглядит работоспособной, но оказывается неэффективной в реальных условиях.
Человеческие предубеждения. Системы машинного обучения могут наследовать предвзятость своих создателей, отметил Раутенбах. Так же, как некоторые алгоритмы машинного обучения демонстрируют гендерные или расовые предубеждения, аналогичные проблемы могут возникнуть и в системах искусственного интеллекта, предназначенных для наблюдения за действиями враждебных государств. «Человеческие предубеждения могут проникнуть в систему, и данные, относящиеся к определенным субъектам или переменным, перестанут точно отражать реальную картину происходящего», — пояснил он.
Если руководство и военные страны будут считать такое предупреждение сбалансированным и объективным, хотя оно на самом деле является результатом предвзятости, это может привести к «катастрофической ошибке в расчетах» и повысить риск реагирования на ложные срабатывания.
ДЕКЛАН БАРНЕС/ИНЖЕНЕРНЫЙ КОРПУС СУХОПУТНЫХ ВОЙСК США
Человек в цепочке принятия решений
Руководители оборонного ведомства заявляют, что осторожно продвигаются вперед с интеграцией искусственного интеллекта в военные системы. В настоящее время ИИ в основном используется для сбора и анализа данных в рамках рутинных функций. В январе 2024 г. эсминец ВМС США «USS Fitzgerald» стал первым военным кораблем, на котором была внедрена система искусственного интеллекта, включающая удаленный мониторинг для прогнозирования технических неисправностей и повышения боеготовности флота. Национальное агентство геопространственной разведки (NGA) применяет ИИ для анализа спутниковых и других данных с целью выявления потенциальных целей в рамках программы «Maven», запущенной в 2017 г. Следующая версия программы будет включать технологии ИИ с элементами «рассуждения» для обнаружения аномалий, представляющих потенциальную угрозу, сообщил журналу «Defense One» глава NGA вице-адмирал Фрэнк Уитворт. По его словам, эта технология способна выявлять, например, вражеский грузовик в неожиданном месте или оружейный объект, демонстрирующий резкое изменение активности.
Помимо США, союзники и партнеры также изучают возможности применения ИИ для повышения безопасности. Пересмотренная стратегия НАТО, опубликованная в июле 2024 г., направлена на:
создание основы, позволяющей странам-членам НАТО подавать пример и поощрять ответственное развитие и применение ИИ в целях обороны и безопасности;
ускорение внедрения ИИ в разработку и использование военных возможностей, а также укрепление оперативной совместимости как ключевого элемента взаимодействия внутри Альянса, в том числе путем демонстрации практических примеров использования ИИ;
защиту и мониторинг технологий ИИ НАТО, управление связанными рисками и обеспечение способности Альянса к инновациям с учетом соображений безопасности;
выявление угроз, связанных с применением ИИ противниками, и защиту от них.
На глобальном уровне лидеры также разрабатывают руководящие принципы, чтобы обеспечить безопасность и надежность систем искусственного интеллекта. В феврале 2023 г. Госдепартамент США представил Политическую декларацию об ответственном военном применении искусственного интеллекта и автономных систем. По состоянию на июня 2025 г. этот документ был одобрен 60 странами.
«Мы должны создать рамки, которые будут способствовать максимизации инноваций, одновременно гарантируя надежное, безопасное и этичное использование ИИ. Этот баланс является основой эффективного управления искусственным интеллектом, — отметил Сигео Ямада, посол Японии в США, выступая на конференции по вопросам ИИ в декабре 2024 г., организованной Центром стратегических и международных исследований в Вашингтоне. — Вопрос о том, как обеспечить надежное и универсально полезное использование ИИ, остается открытым», — добавил он.
По словам Раутенбаха, при интеграции искусственного интеллекта в системы NC3 необходимо учитывать существующие технические ограничения, чтобы минимизировать возможные риски. Руководители оборонного ведомства США согласны с этим и отмечают, что, несмотря на возрастающую роль ИИ в будущих системах вооружения, включая NC3, человек должен оставаться частью контура принятия решений.
«Современные технологии позволяют получать информацию быстрее и точнее, — подчеркнул генерал Коттон. — Однако человеческое участие в процессе принятия решений должно сохраняться, чтобы максимально использовать потенциал систем и поддерживать преимущество над противником».
По словам руководителей, ключевое значение будут иметь меры безопасности. США, их союзники и партнеры стремятся не уступать конкурентам, однако давление, связанное с необходимостью ускоренного развития подобных систем, повышает риск технических недоработок.
«Каким бы продвинутым ни был искусственный интеллект и вычислительные системы, их эффективность напрямую зависит от качества исходных данных, — отметил Нойман. — Если данные искажены, мы не сможем определить, насколько достоверны сами данные или полученные результаты. Именно поэтому участие человека в этом процессе остается абсолютно необходимым».
«Я считаю важным расширять границы применения ИИ и предлагать инновационные, надежные и заслуживающие доверия решения, но при этом осознаю, что интеграция ИИ, особенно в системы NC3, связана с определенными трудностями и рисками, — заявил Роуз. — При наличии надежных процедур тестирования, проверки и контроля, мы сможем уменьшить эти риски и в итоге создать системы ИИ, которые будут функционировать так, как задумано».