Пентагон угрожает мерами, которые до сих пор применялись только против иностранных компаний из вражеских государств.
Пентагон и компания Anthropic, занимающаяся искусственным интеллектом, расходятся во взглядах. Между ними разгорелась борьба за власть, которая, похоже, достигла критической фазы.
Подробности читайте после объявления
На встрече во вторник в Пентагоне министр обороны Пит Хегсет предъявил руководителю Anthropic Дарио Амодеи четкий ультиматум: компания должна снять все ограничения на военное использование своей модели искусственного интеллекта Клода к вечеру пятницы.
Если Anthropic не выполнит это требование, министерство примет решительные меры. Об этом сообщили Аксиос со ссылкой на нескольких человек, знакомых с ситуацией.
Две угрозы с далеко идущими последствиями
У Пентагона есть два рычага для усиления давления на Anthropic.
Первый это могло бы классифицировать компанию как «риск цепочки поставок». Как правило, эта мера затрагивает только иностранные компании, имеющие связи с вражескими государствами.
Последствия будут серьезными: любой компании, работающей с Пентагоном, придется доказывать, что она не использует Клода ни в одном из своих военных проектов. Пострадают многочисленные технологические компании.
Подробности читайте после объявления
Второй так называемый Закон об оборонном производстве находится в зале. Этот закон позволяет президенту применять принуждение против частных компаний. Он призван обязать компании выполнять заказы, уделяя при этом полный приоритет национальной обороне.
Совсем недавно его использовали во время пандемии короны для ускорения производства вакцин и аппаратов искусственной вентиляции легких. Согласно этому Уолл Стрит Джорнал Оба шага против отечественной компании, занимающейся искусственным интеллектом, будут почти беспрецедентными.
Представитель министерства прокомментировал ситуацию Аксиос «Единственная причина, по которой мы все еще разговариваем с этими людьми, заключается в том, что они нужны нам, и они нужны нам сейчас». Их проблема в том, что они такие хорошие.
Где Anthropic устанавливает свои границы
По сути, это фундаментальный вопрос: кто решает, для чего система ИИ может использоваться на войне — военные или производитель?
Хегсет придерживается позиции, согласно которой ни одна компания не должна диктовать Пентагону, когда дело касается оперативных решений. Поэтому министерство требует доступа к Клоду «для всех законных целей», не имея права голоса в отдельных операциях.
Антропический отвергает это в такой форме. Компания соглашается адаптировать свои правила использования для военных. Однако он категорически исключает два направления: Клод не может быть использован для массовой слежки за гражданами США или способствовать разработке оружия, стреляющего без контроля человека.
Кроме того, обострение отношений вызывает спор по поводу военной операции в Венесуэле.
Хегсет обвинил Amodei в том, что он пожаловался компании-партнеру Palantir на использование Клода в похищении президента Венесуэлы Мадуро.
Амодей отверг это и подчеркнул, что правила безопасности Anthropic никогда не препятствовали работе Пентагона.
Противоречивые описания из зала заседаний
Описания атмосферы разговора различаются в зависимости от источника. Высокопоставленный чиновник назвал встречу «совсем не теплой и дружеской». Другой человек, напротив, охарактеризовал это как деловитое и спокойное — никто не повышал голоса, а Хегсет даже прямо похвалил качество Клода.
Состав делегации Пентагона подчеркивает серьезность ситуации: помимо Хегсета в ней приняли участие его заместитель Стив Фейнберг, заместитель госсекретаря Эмиль Майкл, отвечающий за исследования, и главный юрист министерства Эрл Мэтьюз.
После встречи Anthropic избрал примирительный тон. Представитель заявил, что переговоры продолжаются «в духе доброй воли», чтобы продолжать ответственно поддерживать миссию национальной безопасности.
Легкой замены Клоду не видно
Заменить Клода военным будет непросто. Модель на данный момент является единственной, работающей в секретных системах вооруженных сил США.
По словам высокопоставленного чиновника, этот шаг вызовет «массовые нарушения». По словам информированного источника, Клод опережает конкурентов в нескольких важных для военной области областях, таких как наступательные кибероперации.
Тем не менее, Пентагон уже продвигает альтернативы. Переговоры с OpenAI, Google и компанией Илона Маска xAI об использовании их моделей в секретных сетях идут полным ходом.
у xAI громкий Аксиос соответствующий контракт уже подписан. Таким образом, модель Gemini от Google считается возможным кандидатом на замену — при условии, что Google согласится на те же условия, которые Anthropic до сих пор отвергала.
Насколько быстро эти модели будут готовы к использованию, остается открытым вопросом. Исход этого конфликта, вероятно, установит стандарты отношений между индустрией искусственного интеллекта и военными, выходящие далеко за рамки антропных.
