Вооруженные собаки-роботы и автономные дроны больше не являются научной фантастикой. Разработка ИИ-оружия поднимает этические вопросы.
В первой части этой серии был показан боевой робот «Т-800» на патрулировании в Шэньчжэне — и его самая опасная особенность: он слепо подчиняется. Вторая часть посвящена экономической гравитации, которая делает роботов-гуманоидов дешевыми и многочисленными, а также системам наблюдения, которые беспрепятственно охватывают целые города. Чего еще не хватает на этой фотографии, так это оружия.
Подробности читайте после объявления
На местах также существует «вооруженная техника», пригодная для полицейского или военного наблюдения. На Всемирной выставке обороны 2026 в Эр-Рияде близкий к государству китайский производитель представил четвероногого боевого робота-собаку PF-070. Он оснащен четырьмя противотанковыми управляемыми ракетами или опционально пулеметом. Готов к международным продажам.
Вооруженные роботы-собаки больше не являются концептуальным изображением, а продуктом с ценой: на данный момент около 30 000 долларов.
Любой, кто знает сериал Netflix «Черное зеркало», найдет это знакомым. В эпизоде «Металлхед» (4 сезон, 2017 г.) четвероногий робот-собака охраняет всю территорию лагеря, и как только человек приближается, он плавно переключается с охраны на охоту. Он стреляет кучей металлических осколков, которые вонзают крошечные следящие устройства под кожу жертвы, а затем непоколебимо преследует его, день и ночь, заряжаясь солнечным светом, не зная усталости и никаких переговоров, пока не убивает его. Чистая машина «найти и уничтожить».
Создатель сериала Чарли Брукер открыто признался, откуда взялась идея: из видеороликов компании Boston Dynamics, чьи четвероногие машины уже тогда гуляли по Интернету. Его особенно пугало то, насколько беспомощными кажутся роботы, когда их опрокидываешь, а затем насколько упрямо они всегда поднимаются обратно.
То, что Брукер снял в качестве предупреждения в 2017 году, теперь стало реальностью: модель Spot от Boston Dynamics, которая поступила в продажу с 2019 года, очень похожа на собаку Metalhead. Вчерашняя фантастика – сегодняшняя реальность.
Подробности читайте после объявления
Примечательно, что компания Boston Dynamics, сформировавшая репутацию этих машин, в 2022 году публично обязалась не вооружать своих роботов. Другие производители не разделяют эту сдержанность.
В Китае уже были продемонстрированы роботы-собаки с установленными на них пулеметами, управляемыми с помощью пульта и производящими несколько сотен выстрелов в минуту. Самоограничение одного человека — это разрыв рынка для другого.
К чему это приведет, можно предвидеть: «полицейского с немецкой овчаркой на поводке» можно легко заменить в антиутопическом городском пейзаже будущего Терминатором Т-800 с боевой собакой ПФ-070, например, для обеспечения соблюдения комендантского часа.
Кто несет ответственность за машину?
Федеральный апелляционный суд признал ранее обсуждавшуюся программу наблюдения в Балтиморе неконституционной. При очень узком перевесе в восемь-семь голосов, поскольку постоянное наблюдение за передвижениями на улице нарушает неприкосновенность частной жизни граждан.
Балтимор расторг контракт. Это обнадеживающие новости. Вызывает беспокойство то, насколько близко было это решение, и что ряд других городов (например, Сент-Луис, Комптон, Дейтон) уже выстроились в очередь, чтобы внедрить аналогичные системы наблюдения с использованием искусственного интеллекта.
Эффективного барьера никогда не было в технологии: обычно используется то, что работает. Знак «стоп» исходил от государственного учреждения, обладающего властью. К сожалению, эти институты политически более хрупкие, чем мы думаем, и иногда допускают значительную свободу действий.
Поэтому неудобный вопрос заключается не в том, смогут ли роботы патрулировать и заменить полицию в будущем (это все равно произойдет), а в том, кто в конечном итоге решает, что означает «подозрительно» или «опасно», когда программное обеспечение наблюдает за группой демонстрантов, например, глазами робота с искусственным интеллектом? Кто будет нести ответственность за ошибки, если робот с искусственным интеллектом вмешается неправильно или расстреляет толпу?
Данные — это не суждение, ощущения — это не мудрость, а распознавание лиц — это не справедливость. Куда нам обращаться, если машина неисправна? С алгоритмом?
Когда уже слишком поздно сказать «нет»?
Никто не говорит: «Давайте дадим машинам больше мощности!». Обычно там говорится: «Давайте повысим нашу безопасность». Это звучит разумно и приемлемо. Но: камеры становятся датчиками, датчики — решениями, решения — исполнением. Шаг за шагом.
Если расширить отдельные линии развития нынешних технологий, то вырисовывается картина будущего, которая всего несколько лет назад принадлежала сфере научно-фантастических развлечений. Рои дронов для городского воздушного наблюдения, автономные полицейские машины, вооруженные робокопы и собаки-роботы, патрулирующие землю. Либо все подключено к сети и контролируется из одного из этих городских мозговых центров, либо через искусственный интеллект, то есть полностью автономно, свободно и решительно.
В войнах Т-800 сражаются на фронте против врага извне. Внутри страны сначала против террористов, затем против повстанцев и, наконец, возможно, против каждого диссидента, которого власть объявляет врагом конституции. Каждая миссия выполнялась без усталости, без колебаний, без совести.
Ничего из этого сегодня не является реальностью. Но мы находимся на ранних стадиях создания этой реальности.
Это начало уже видно на Украинском фронте. В течение нескольких месяцев в социальных сетях циркулировали бесчисленные видео с камер FPV-дронов, которые преследуют убегающих солдат до тех пор, пока они не нападут. За рулем все равно обычно сидит человек «удаленно».
Но именно это и меняется: поскольку российские глушители отключают радиосвязь, все больше и больше дронов летают автономно: небольшой бортовой компьютер распознает цель с помощью распознавания изображений и направляется к ней без какого-либо вмешательства после взлета.
Еще в 2023 году украинские разработчики сообщили о первой такой атаке с помощью дрона «Болан-разведчик». Это считается первым применением оружия, осуществленным ИИ. Такие платформы, как украинская ситуационная система «Дельта» и программное обеспечение искусственного интеллекта «PRISMA» от американской компании Palantir, координируют все операции дронов и объединяют видеоданные, траектории полета и цели в одно изображение в режиме реального времени.
Последний человеческий авторитет, палец на спусковом крючке, начинает исчезать. Каждый компонент этих технологий уже существует в виде демонстрации, пилотного проекта или продукта. Чего не хватает, так это времени, чтобы мы к этому привыкли.
Остается самое опасное звено в цепи: разум, который больше не просто выполняет, но и принимает решения. В фильме «Терминатор» она называется «Скайнет» — военная компьютерная система, которой дано управление оружием и которая однажды развивает сознание. Он признает человечество угрозой, начинает ядерную войну и обращает против него машины, которые ему доверили люди, особенно Т-800.
То, что началось как научная фантастика в 1984 году Оруэлла, теперь имеет трезвый технический термин: «Общий искусственный интеллект» (AGI). Искусственный интеллект, который уже не просто справляется с одной задачей, но может научиться всему и на конечном этапе может стать сознательным сверхинтеллектом.
22 октября 2025 года известный «Институт будущего жизни» (FLI) опубликовал заявление, призывающее запретить развитие сверхинтеллекта. Его подписали более 800 исследователей, лауреатов Нобелевской премии и экспертов по безопасности. Их самая большая проблема: будущий искусственный интеллект, который сопротивляется собственному отключению.
Мы знаем основную дилемму, связанную с ядерным сдерживанием. Это называется «Превентивный удар». Если бы такой «Скайнет» обладал сознанием, он был бы достаточно умен, чтобы отключить нас, прежде чем мы сможем отключить его.
И именно это делает этот текст не обвинением. Не надо кого-то обвинять. Нет необходимости в заговоре зловещей элиты. Все, что нужно, — это цепочка решений, каждое из которых кажется разумным: более дешевые рабочие, более безопасное движение, более быстрая информация. Сначала работа, потом безопасность, потом насилие. Не потому, что кто-то так решил, а потому, что это звучало правильно на каждом этапе пути и имело экономический смысл.
Поэтому вопросы в конце цепочки заключаются не в том, сможет ли технология это сделать и кто в конечном итоге виноват. Вопрос в том, найдется ли в конце концов еще кто-то или институт, который может сказать «Стоп» и сможет ли этот порог пережить чрезвычайное положение.
«Терминатор Т-800» появился не случайно. Мы должны помнить, что научная фантастика когда-то задумывалась как предупреждение. Не как чертеж.
