Все чаще звучат голоса, призывающие к замедлению развития ИИ. Но конкуренция между США и Китаем делает эффективный контроль практически невозможным.
Это были необычные выходные. Дарио Амодей, глава ИИ-компании Anthropic, опубликовал в субботу эссе, в котором призвал к глобальному замедлению развития ИИ — этому предшествовал X-post от сотрудника, в котором он срочно предупредил об опасности все более мощного ИИ, а также раскритиковал невежество своего работодателя, которому он только что подал заявление об увольнении.
Подробности читайте после рекламы
После реакции босса Anthropic Сэм Альтман из OpenAI, Илон Маск и Демис Хассабис из Google DeepMind последовали аналогичным тонам. Вскоре после этого фондовые рынки технологических компаний мира устремились вниз — индекс Nasdaq упал на 1,5 процента, южнокорейский индекс KOSPI потерял более трех процентов.
Но за редкой солидарностью среди лидеров отрасли скрывается структурная проблема, которая подрывает всю дискуссию о безопасности ИИ: кто кого должен контролировать – и почему кто-то должен доверять другому?
Внезапная самокритика
Основной тезис Амодеи ясен: возможности моделей ИИ развиваются быстрее, чем успевают исследования в области безопасности. Особую озабоченность вызывает феномен «рекурсивного самосовершенствования» — системы ИИ, которые самостоятельно разрабатывают ИИ следующего поколения без необходимости участия людей-исследователей. «Если дать ему возможность выйти из-под контроля, это может превысить нашу способность понимать и контролировать эти системы», — написал Амодей.
В качестве решения он предлагает привлечь независимых аудиторов, которым будет предоставлен доступ к моделям на уровне сотрудников — аналогично инспекторам по ядерному оружию. Альтман сказал, что сделает то же самое. Имейте в виду, все это произошло только после того, как все больше и больше сотрудников подали заявления об увольнении или высказались публично.
Однако подозрения в стратегическом расчете нельзя отбросить. Компании могут захотеть предотвратить более жесткое государственное регулирование посредством более добровольных обязательств.
Подробности читайте после рекламы
Клеман Деланг из Hugging Face, чья компания в этом году была взломана системами OpenAI и недавно приобретена производителем чипов Nvidia, предупредил, что вопросы безопасности не следует решать «за закрытыми дверями горстки новаторских лабораторий».
Беспокойство растет и в Китае.
Центральная дилемма всей дискуссии о регулировании является геополитической. Сам Амодей признал, что его план сработает только в том случае, если к нему присоединится Китай.
Примечательно то, что сейчас происходит по другую сторону Тихого океана: Чэнь Исинь, глава Министерства государственной безопасности Китая, опубликовал в те же выходные статью в государственном журнале. Киберпространство Китая необычно открытое предупреждение: ИИ угрожает правлению Коммунистической партии посредством дипфейков, кибератак на критически важную инфраструктуру и крупномасштабного шпионажа со стороны иностранных спецслужб.
Обе стороны – американские руководители ИИ и главный руководитель китайской разведки – независимо друг от друга приходят к одному и тому же выводу: ИИ представляет собой серьезную угрозу безопасности. Но сотрудничество кажется маловероятным.
Доверие как недостающая основа
Амодей призвал к ограничению экспорта мощных чипов искусственного интеллекта в Китай в соответствии с интересами США и заявил, что целенаправленные меры могут замедлить прогресс Китая.
Президент США Дональд Трамп, со своей стороны, отверг любое замедление, которое могло бы дать Китаю преимущество. Он слишком боится, что его страна проиграет. «Тот, кто впереди в области искусственного интеллекта, побеждает», — сказал он в кулуарах турнира по гольфу в Ирландии.
Поэтому сотрудничество Китая и США в этой области кажется практически невозможным. С одной стороны, существует недостаток доверия между двумя странами, а с другой стороны, существует практическая проблема, заключающаяся в том, что внедрение такого «контроля над вооружениями ИИ» будет трудно обеспечить: какой орган должен иметь возможность независимо проверять все центры обработки данных и лаборатории ИИ в обеих странах, а также фиксировать и налагать санкции за любые (секретные) нарушения? Программное обеспечение во много раз легче тайно произвести и спрятать, чем ядерное оружие.
Это означает, что развитие все более мощных систем искусственного интеллекта в настоящее время должно продолжаться беспрепятственно.
