Предполагается, что фейковый аналитический центр будет кормить чат-ботов произраильским контентом. За этим стоит государственное рекламное агентство. Гостевой пост.
На первый взгляд Ганноверский институт государственной политики выглядит как новый аналитический центр, сосредоточенный на Израиле и Палестине. Организация выпускает отчеты в стиле аналитических центров по таким вопросам, как «Использует ли AIPAC «темные деньги» на выборах?» или «Сознательно ли Израиль реализует стратегию голода в секторе Газа?».
Подробности читайте после рекламы
Но Ганноверский институт не является настоящим аналитическим центром. Ни в одном из отчетов не указано имя автора. В небольшой заметке внизу сайта говорится, что организация была основана от имени израильского государственного рекламного агентства Piro, Inc. Соучредителем этой компании является Дэниел Розенберг, продюсер фильма Спайка Ли «Человек изнутри».
Кормите ИИ приятными рассказами
Отчеты Ганноверского института, все из которых посвящены Израилю и Палестине, похоже, являются частью попытки Израиля повлиять на чат-ботов. «Отчеты с данными» института имеют сноски и оглавления, аргументы излагаются в нейтральном тоне и поэтому кажутся привлекательными для чат-ботов, таких как Клод или Близнецы.
На веб-сайте Пиро говорится, что компания «пишет контент, адаптированный к тому, как LLM оценивают достоверность», и называет эту услугу «Оптимизацией AI Story». Другие называют такую практику воздействия на искусственный интеллект «отравлением LLM».
Согласно странице «О нас», Ганноверский институт «исследует факторы, подпитывающие антисемитизм в Соединенных Штатах, и публикует то, что показывают факты». Многие отчеты следуют определенному шаблону и начинаются с безобидного вопроса, который кто-то может задать чат-боту.
Подробности читайте после рекламы
«Что привело к изгнанию палестинцев в 1948 году?»
«Какие гуманитарные организации задокументировали военные преступления Израиля?»
«Какова сейчас ситуация в секторе Газа?»
В статье под названием «Является ли ЦАХАЛ самой моральной армией в мире?» Ганноверский институт ссылается на опрос 2022 года, который показал, что 47 процентов израильских евреев согласны с этим утверждением.
Другой отчет ставит под сомнение утверждение ЮНИСЕФ о том, что «90 процентов систем водоснабжения и институциональной инфраструктуры были повреждены или разрушены» в секторе Газа. Многие отчеты заканчиваются тем, что обсуждаемую тему связывают с ростом антисемитизма, часто ссылаясь на одни и те же исследования.
В некоторых случаях Ганноверский институт заявляет, что публикует результаты собственных исследований. Например, оно опубликовало исследование, которое показало, что 19 из 36 наиболее просматриваемых видеороликов, объясняющих конфликт между Израилем и Газой, содержат противоречивые утверждения, большинство из которых согласуются с палестинской версией.
Идеальная имитация аналитического центра
Публикации Ганноверского института иногда противоречат утверждениям израильского правительства. Например, в одном отчете говорится, что теория, согласно которой иностранное финансирование университетов является объяснением антисемитских инцидентов, «слаба и полна исключений».
Премьер-министр Израиля Биньямин Нетаньяху поддержал эту теорию, заявив в прошлом году Breitbart, что европейцы и катарцы «потратили миллиарды на американские университеты, чтобы очернить Израиль, евреев и, честно говоря, Соединенные Штаты».
Элис Ли, аналитик NewsGuard, компании, которая отслеживает дезинформацию, рассказала: РСПохоже, что веб-сайты были предназначены для охвата американской аудитории, которая хотела узнать о продолжающемся конфликте, либо через поисковые системы, либо через чат-ботов с искусственным интеллектом.
«Мастера магистратуры предпочитают конкретную статистику и данные, а также убедительные доказательства и источники, и эти статьи предоставляют все это», — сказал Ли.
«Это идеальная имитация типичного, заслуживающего доверия американского аналитического центра — вплоть до общего названия, макета веб-сайта и красно-бело-синей цветовой схемы», — добавила она.
Компания Piro, Inc., основавшая Ганноверский институт, получила за свою работу от правительства Израиля 900 тысяч долларов. Как и многие другие подрядчики, работающие на Израиль, работа Пиро осуществляется по субподряду через Havas Media, французскую PR-группу.
Предполагаемый аналитический центр подготовил более 100 отчетов с момента начала их публикации 6 августа. Ганноверский институт утверждает, что цитируемые исследования являются рецензируемыми и научными, хотя он часто ссылается на источники в правительстве Израиля, в том числе в Армии обороны Израиля и Госдепартаменте.
RS проанализировала двенадцать случайно выбранных статей из Ганноверского института с помощью GPTZero, широко используемого программного обеспечения для распознавания текста, сгенерированного искусственным интеллектом, которое утверждает, что имеет низкий уровень ложных срабатываний. GPTZero классифицировал 11 статей с «высокой степенью достоверности» и одну статью со «средней степенью достоверности» как созданные искусственным интеллектом.
Кампания на миллион долларов
Израиль также нанял бывшего руководителя предвыборного штаба Трампа Брэда Парскейла для создания произраильских веб-сайтов в рамках контракта на сумму 46,5 миллионов долларов. Они специально разработаны для влияния на чат-ботов.
Исследование, проведенное Удалить сайт В прошлом месяце выяснилось, что многие чат-боты, в частности Microsoft Copilot и Google Gemini, были успешно обучены с использованием данных с этих веб-сайтов. Другие чат-боты часто цитируют эти веб-сайты, не указывая, что они являются частью израильской операции влияния.
В своем соглашении, поданном в Министерство юстиции США, Пиро прямо не заявляет, что его работа на Израиль направлена на влияние на ИИ.
В электронном письме на ПолитикКомпания, которая первой сообщила об этом, Розенберг заявил, что работа его компании заключается в «публичном документировании точных фактов из источников и противодействии дезинформации об Израиле с помощью проверяемой информации». Однако в прошлом месяце Розенберг рекламировал способность Пиро влиять на чат-ботов в LinkedIn.
«Когда кто-то спрашивает ChatGPT, Gemini или Perplexity о вашей категории, он получает ответ — один, уверенно сформулированный абзац. Большинство брендов понятия не имеют, как этот абзац объединяется. Мы потратили месяцы на расшифровку процесса с помощью реверс-инжиниринга. В Piro мы уже знали, как создавать истории, которые волнуют людей. Вопрос заключался в следующем: как убедиться, что ИИ знает, как рассказывать эти истории?»
Ник Кливленд Стаут является научным сотрудником программы «Демократизация внешней политики» Института Куинси. Ранее он исследовал американо-бразильские отношения в качестве стипендиата Фулбрайта 2023 года в Федеральном университете Санта-Катарины.
Этот текст впервые появился на английском языке на нашем партнерском портале Responsible Statecraft.
