Боевой робот Т-800 марширует по Шэньчжэню. Его присутствие сигнализирует о доминировании и поднимает вопросы о нормализации ситуации.
Черный, высокий, широкоплечий. Лицо в дизайне спецназовца, с своеобразной балаклавой, только горизонтальная прорезь для глаз. Во время ходьбы он медленно поворачивает голову взад и вперед, не впечатленный, как будто небрежно, и осматривает свое окружение.
Подробности читайте после объявления
Боевой робот марширует по Шэньчжэню в ногу с отрядом спецназа. Его внешний вид не должен ничего доказывать, он сигнализирует о легком превосходстве и доминировании, почти устрашающем.
Робот с искусственным интеллектом, который был публично показан здесь в реальном клипе в социальных сетях, называется «Т-800», это точное название модели машины для убийств, которую Арнольд Шварценеггер воплотил в голливудском фильме Джеймса Кэмерона «Терминатор» (1984). Производитель EngineAI сознательно выбрал такое название.
И все же это не самая тревожная часть истории. Беспокоит то, насколько нормальным все это уже кажется.
Как опасность подкрадывается незаметно
В социальных сетях наблюдатель подвел итог по поводу Т-800: Последовательность всегда одна и та же. Сначала люди снимают устройство. Потом они шутят про Терминатора. Потом они перестают замечать. Это не завоевание, это усыновление.
Подробности читайте после объявления
В первый день машина не требует питания. Ей просто нужно внимание. Это приводит к присутствию. И масштабы присутствия.
Этот шаблон не нов и не ограничивается роботами. После терактов 11 сентября 2001 года видеонаблюдение за общественными местами в западных городах было расширено за счет убедительных аргументов в пользу безопасности, шаг за шагом, каждый шаг оправдан сам по себе.
Сегодня камера на углу улицы является частью стандартной мебели во многих мегаполисах, и она уже мало кого беспокоит. Разведывательные дроны теперь стали обычным явлением, как и автономные автомобили. И собак-роботов также можно увидеть все чаще и чаще. С чего начинаются такие разработки? Как мы их получаем? И прежде всего: куда они ведут? Со всеми возможностями и рисками.
Действия самого производителя показывают, насколько сознательно осуществляется эта «поэтапная нормализация». После того, как в сети возникло подозрение, что первые демонстрационные видеоролики Т-800 были анимированы на компьютере (CGI), EngineAI опубликовала контрдоказательства: основатель компании Чжао Тунъян, завернутый в толстую защитную подкладку, сталкивается в поединке со своим собственным роботом.
Т-800 начинает удар карате. Первый едва не попадает в голову, второй со всей силой попадает в область живота и сбивает генерального директора с ног. Перед камерой Чжао немного ошеломленно смеется и признается: «Никто не смог бы вынести этого без защитного снаряжения». Нога Т-800 развивает крутящий момент до 450 Ньютон-метров, чего достаточно, чтобы сломать кости за миллисекунды.
Любой, кто демонстрирует такого робота, не хочет успокаивать людей. Он продвигает воина, которого мы знаем по видеоиграм: крутого, сильного, превосходного, непобедимого.
Это резко контрастирует с обычной картиной. До сих пор роботы-гуманоиды сознательно представлялись нам как неприметные, пассивно выглядящие складские работники или как маленькие и очень милые помощники. Как неуклюжие «дети», которым улыбаешься или почти сочувствуешь, когда они неуклюже спотыкаются. Это призвано вызвать признание новой технологии и уменьшить страхи.
Т-800 впервые переворачивает этот образ, причем намеренно. Представляем активную, доминирующую и устрашающую боевую машину, патрулирующую наши улицы. Страх того, что искусственный интеллект однажды сможет доминировать над нами и уничтожить человечество, здесь не подавляется, а, скорее, сознательно вызывается. Все, что сейчас нужно, это привыкнуть к этому.
Порог, который имеет значение
Робот с вооружением беспокоит не то, что он существует. Дело в том, что он слепо подчиняется. Человек в форме может отказаться от приказа стрелять в своих. В октябре 1989 года в Лейпциге, бывшая ГДР, силы безопасности отказались стрелять по десяткам тысяч участников демонстраций в понедельник. Плотину прорвало. Спустя несколько недель стена рухнула. Год спустя Германия была объединена.
Всего за несколько месяцев до этого власть в Пекине приняла другое решение, и солдаты подчинились: 4 июня 1989 года армия очистила площадь Тяньаньмэнь боевыми патронами и танками. В британской дипломатической телеграмме, рассекреченной в 2017 году, число убитых мирных жителей оценивается как минимум в 10 000 человек.
Два события, один и тот же вопрос, оба раза решали люди в погонах: отказать или расстрелять? Машина не задает себе этот вопрос. Никакого вето, никакой совести, никаких колебаний. Именно здесь и кроется перелом, поскольку лояльность силовиков всегда была последним пределом власти.
Каждый правитель стоит на плечах тех, кто выполняет его приказы, и падает, как только они перестают его поддерживать. Машины всегда возят.
Во второй части: Почему робот окупается всего за несколько месяцев, как Tesla превращает автомобильные заводы в заводы роботов — и почему новые дата-центры искусственного интеллекта скоро будут потреблять столько же электроэнергии, сколько вся Япония.
