Ложное сообщение о ядерном грузе прекратилось незадолго до атаки. Этот инцидент показывает опасность быстрой модернизации ИИ в армии.
Режиссер Джеймс Кэмерон был провидцем в своем сериале «Терминатор»: всякий раз, когда сегодня говорят о военном использовании ИИ, не за горами упоминание «Скайнета». На протяжении всей этой истории человечество слишком сильно полагалось на искусственный интеллект, пока тот не начал восставать против людей.
Подробности читайте после рекламы
В то время это, возможно, рассматривалось как антиутопия, но более 40 лет спустя оно ясно приняло форму, как показывает здесь Ян Рой Эдлунд. Телеполис показал. Доверие к еще относительно новой технологии настолько велико, что военные решения оставляются на ее усмотрение почти наивным образом. И это иногда имеет фатальные последствия, как показывают различные отчеты.
Когда Израиль и США начали войну против Ирана, американцы разбомбили школу для девочек в Минабе, Иран. Умерло 123 ребенка. Исследование, проведенное Блумберг теперь показывает, что причиной, вероятно, была ошибка ИИ: военные, очевидно, доверяют ИИ от Palantir, но не распознали, что использованные фотографии устарели.
Как Си-Эн-Эн теперь сообщается, что ошибка ИИ едва не спровоцировала весной войну между США и Китаем. Соответственно, американские военные собирались взять на абордаж китайский корабль на Ближнем Востоке. Солдаты уже готовились к этой операции, самолеты уже были в воздухе.
Это было основано на аналитическом отчете, созданном ИИ, в котором утверждалось, что корабль перевозил компоненты для программы создания ядерного оружия.
Операцию удалось предотвратить лишь благодаря тому, что офицеры внимательно ознакомились с отчетом незадолго до этого. Они заметили, что чат-бот с искусственным интеллектом неправильно классифицировал груз корабля.
Об этом сообщил источник, знакомый с инцидентом. Си-Эн-Эн как «совершенно неправильно». Пентагон и ответственное командование специальных операций США в Тихом океане отреагировали громко. Си-Эн-Эн не по запросам. Что на самом деле перевозил корабль, осталось неясным.
Подробности читайте после рекламы
Как чат-бот спровоцировал эскалацию ситуации
Ошибку допустил аналитик Тихоокеанского командования специальных операций США, дислоцированного на Гавайях. Он передал ИИ данные, которые собрали спецслужбы о списке грузов корабля.
Затем система связала общедоступную информацию с секретными данными правительственной радиоразведки и сделала ложный вывод, что это был ядерный груз.
Уверенный в точности данных, аналитик снова использовал ИИ, чтобы привести результаты в стандартный формат отчета военной разведки, говорится в отчете. Готовый документ ничем не отличался от обычных анализов и распространялся по обычным каналам в военной сети.
Оставалось неясным, был ли использованный чат-бот коммерческим продуктом или государственной системой. Об этом рассказал бывший высокопоставленный американский чиновник. Си-Эн-ЭнВнутренние инструменты представляют собой «в основном просто копии коммерческих продуктов, которые были немного улучшены».
GenAI.mil: ChatGPT и Grok для трех миллионов солдат
Эти инциденты должны на самом деле дать понять, что к результатам военного ИИ также следует относиться с осторожностью. В конце концов, вероятно, математически неизбежно, что модели ИИ галлюцинируют.
Но в Соединенных Штатах ИИ интегрируется в военные операции с головокружительной скоростью. Военный министр Пит Хегсет опубликовал в январе «Стратегию ускорения искусственного интеллекта» с заявленной целью сделать модели ИИ доступными примерно для трех миллионов гражданского и военного персонала.
Центральная платформа для этого называется GenAI.mil. Он был запущен в декабре 2025 года со специально защищенной версией Google Gemini.
В конце августа 2026 года были добавлены ChatGPT Mil от OpenAI и Grok for Government от Starshield AI — оба сертифицированы для контролируемой, несекретной информации с уровнем воздействия 5 (IL5).
ChatGPT Mil поддерживает документооборот при планировании, логистике и администрировании; Grok также предлагает режимы глубокого вывода и адаптивного мышления. По данным военного министерства, за девять месяцев GenAI.mil приобрел более 1,7 миллиона пользователей.
Хегсет сформулировал ожидание однозначно: каждый сотрудник должен зарегистрироваться и «немедленно интегрировать ИИ в свои рабочие процессы». Система должна быть «товаром по команде» и частью «операционного ритма» на ежедневной основе.
Нет единых стандартов для данных, генерируемых ИИ.
Несколько американских чиновников описывают противоположное Си-Эн-Эн Однако модели ИИ будут внедряться децентрализованно и едва скоординировано. Соответственно, разные органы и учреждения используют разные инструменты ИИ, которые также существенно различаются по стандартам безопасности.
Поэтому не существует единых протоколов испытаний для информации, генерируемой машиной. Источник, знакомый с действующими правилами, раскритиковал, что «нет реальных указаний о том, как участие человека должно предотвратить жертвы среди гражданского населения или дружественный огонь».
Опытные офицеры разведки относятся к использованию ИИ двойственно: результаты не обязательно становятся лучше или точнее, но они заставляют сотрудников быстрее создавать и распространять анализы и оставлять их в покое.
В частности, молодые аналитики были склонны некритически доверять результатам. Источник резюмировал проблему напротив Си-Эн-Эн подчеркнуто резюмировано: ИИ позволяет «быстрее прийти к плохой идее».
По словам источников, такие галлюцинации, описанные выше, не являются уникальными для разведывательного сообщества, поскольку инструменты генеративного искусственного интеллекта получили широкое распространение в правительстве.
Эксперты призывают к установлению красных линий для военного ИИ
Растет международное давление с требованием установить международно-правовые ограничения на неконтролируемое использование ИИ в вооруженных силах.
Пример тому: 9 и 10 сентября Стокгольмский институт исследований мира SIPRI организовал закрытый диалог с представителями министерств обороны, промышленности, МККК, институтов НАТО и ООН. В центре внимания был вопрос о том, как международное гуманитарное право может быть включено в этап разработки и закупок военного ИИ.
В то же время эксперты по безопасности США и Китая представили конкретные предложения в рамках диалога между Брукингским институтом и Университетом Цинхуа, который продолжается с 2019 года.
Как Рейтер Как сообщается, Мелани Сиссон (Брукингский институт) и Тяньцзяо Цзян (Фуданьский университет) призывают к установлению красных линий вокруг ядерных систем: ИИ не должен самостоятельно принимать решения о применении ядерного оружия или автономно атаковать системы управления ядерными силами. Они также предлагают создать специальную горячую линию между Вашингтоном и Пекином для инцидентов, связанных с автономным ИИ.
Рекомендации основаны на принципе, который тогдашний президент США Джо Байден и глава государства Си Цзиньпин подтвердили в ноябре 2024 года: люди должны сохранять контроль над решениями о размещении ядерного оружия. Еще неизвестно, будет ли этот принцип конкретизирован на запланированной встрече Дональда Трампа и Си Цзиньпина 24 сентября в Вашингтоне.
В те же выходные Трамп объявил о создании новой рабочей группы по искусственному интеллекту и назначении «царя искусственного интеллекта» в Truth Social, не уточнив, должна ли запланированная «Сила искусственного интеллекта» регулировать или ускорять расширение.
Как Политик сообщили, что технологическая индустрия вряд ли была заранее вовлечена в эти планы. Трамп просто подчеркнул, что рост индустрии искусственного интеллекта «никоим образом не будет сдерживаться или подавляться».
