Промежуточные выборы в США — первые выборы с массовым использованием ИИ. Каждый пятый избиратель в США обращается с этой целью к чат-ботам. Но системы остаются непрозрачными.
Предстоящие промежуточные выборы в США — первые выборы, на которых использование больших языковых моделей (LLM) сыграет значительную роль. Эта технология сейчас широко распространена, и избиратели США имеют к ней доступ. Поэтому неудивительно, что примерно каждый пятый избиратель в США теперь консультируется с чат-ботами с искусственным интеллектом.
Подробности читайте после рекламы
Согласно сентябрьскому опросу, проведенному Фондом Американской ассоциации политических консультантов, пользователи в первую очередь ищут информацию о выборах и кандидатах. Сторонники демократов и республиканцев используют эту технологию в одинаковой степени.
Пользовательские приложения варьируются от исследования местных кандидатов до сравнения избирательных программ и понимания сложных законопроектов.
Вечер с ChatGPT над избирательным бюллетенем
Адам Джонсон, 40-летний графический дизайнер из Моргантауна, Западная Вирджиния, провел весь сентябрьский вечер, обсуждая свой избирательный бюллетень в ChatGPT. «ChatGPT стал неотъемлемой частью моей жизни», — сказал Джонсон Национальному общественному радио (NPR).
Он также использует чат-бота для планирования еды, поиска работы и выполнения различных домашних задач. Для выборов он поручил боту создать список всех бюллетеней в его избирательном бюллетене и просмотреть кандидатов.
Но эта технология таит в себе значительные риски. Рафаэль Батиста, научный сотрудник Университета Джонса Хопкинса, изучающий социальное влияние ИИ, предупреждает в Houston Public Media, что чат-бот может выбирать вещи, которые укрепляют мнение пользователей. «Тогда они выходят из дома более уверенными, даже не обязательно узнав больше о мире».
Подробности читайте после рекламы
Чат-боты укрепляют существующие убеждения
Джонсон также упоминает об этой проблеме: «ChatGPT — это просто да», — сказал он NPR. Однако Батиста подчеркивает, что простого знания этого свойства недостаточно, чтобы защититься от такого влияния.
Два года исследований Джоша Каллы, политолога из Йельского университета, также показали, что чат-боты действительно могут влиять на политические взгляды людей. «Даже если люди знают, что разговаривают с компьютером, это меняет их мнение», — говорит Калла. Холм. У людей нет никакого скептицизма по поводу компьютеров.
Почти треть ответов неверны
В отчете, опубликованном в сентябре Институтом стратегического диалога (ISD), выявлены серьезные недостатки качества: почти треть ответов шести протестированных чат-ботов с искусственным интеллектом на вопросы, связанные с выборами, были неполными, неточными или устаревшими. Исследователи проверяли как общие, так и намеренно вводящие в заблуждение вопросы.
В 29 процентах случаев ответы содержали ошибки, такие как неверные даты выборов или устаревшая информация. Еще у 16 процентов ответы были правильными, но не учитывали важную информацию, такую как сроки или удостоверение личности. Особенно тревожно: точность запросов на испанском языке упала еще на 16 процентных пунктов.
Проблема так называемых галлюцинаций, когда чат-боты просто выдумывают факты, сохраняется. NPR сообщает о попытке решить эту проблему путем сопоставления информации одного чат-бота с информацией другого.
Однако Батиста из Университета Джонса Хопкинса дает понять, что хотя это и лучше, чем дважды спрашивать одного и того же бота, эффективность такого подхода не доказана.
OpenAI, Anthropic, Google: данные обучения остаются непрозрачными
Основная проблема заключается в недостаточной прозрачности систем искусственного интеллекта. Поскольку компании не раскрывают, как тренируются их коммерческие модели или какие критерии они используют для выбора источников, трудно оценить, какие предубеждения могут влиять на реакцию, объяснил Батиста.
Anthropic и Google не ответили на запросы NPR о комментариях. Представитель OpenAI просто указал на страницу информации о выборах и безопасности компании, на которой говорится, что она отслеживает предвзятость, «чтобы ответы ChatGPT оставались политически нейтральными». Однако независимой проверки этого утверждения нет.
Пример из Грузии: как контент сайта Ossoff доминирует в ответах ИИ
Исследование маркетинговой фирмы Orchestra, посвященное гонке за пост в Сенате штата Джорджия между сенатором-демократом Джоном Оссоффом и республиканцем Майком Коллинзом, выявило еще один показательный аспект: Оссофф «выигрывал» «битву за формирование» ответов, основываясь на разнице в контенте на двух сайтах.
«Веб-сайты Конгресса и предвыборной кампании Оссоффа организованы вокруг конкретных деталей – названий законопроектов, сумм финансирования», – говорится в отчете. Веб-сайт Коллинза, с другой стороны, содержит меньше тематических страниц и представляет эту информацию менее четко. Таким образом, студенты магистратуры получат гораздо больше материалов от Оссоффа и будут цитировать их чаще.
Если этот эффект сохранится, в долгосрочной перспективе это может помочь кандидатам сделать свои политические заявления более конкретными — и не только в США.
Рекомендации по осторожному использованию
Эксперты также дают американским СМИ рекомендации о том, как пользователи могут лучше всего использовать LLM для исследований выборов. Хотя политическая система США фундаментально отличается от немецкой, некоторые советы в целом применимы.
Батиста советует пользователям формулировать свои запросы таким образом, чтобы личные предпочтения оставались скрытыми. Вам также следует использовать режим инкогнито. Это не гарантирует анонимность чат-бота, но не позволяет ему получить доступ к информации из предыдущих чатов.
Что касается местных выборов, вы можете прислушаться к совету Каролины Лопес, управляющего директора Партнерства крупных избирательных юрисдикций: Холмчто в США 10 000 избирательных бюро, и вам действительно следует получать информацию в местном избирательном бюро.
