Исследователи изучают российскую кампанию дезинформации. Использование ИИ увеличивает количество и разнообразие контента — без потери убедительности.
Может ли искусственный интеллект (ИИ) на практике усилить государственные пропагандистские кампании? Текущее исследование теперь предоставляет ощутимые доказательства. Исследователи, возглавляемые Морганом Уэком из Университета Цюриха, исследовали, как использование технологий ИИ оказало влияние на российскую кампанию по дезинформации.
Ее результаты показывают, что пропагандисты ИИ могут помочь расширить их охват, не теряя убедительности.
Российская пропагандистская сайт полагается на ИИ
В декабре 2023 года журналисты из BBC и исследователи из Университета Клемсона сообщили, что новостной сайт является частью российской пропагандистской сети. Цель состояла в том, чтобы распространить пророссийские и антиукраинские повествования. Исследователи обнаружили, что большая часть контента до 20 сентября 2023 года была просто скопирована другими справами СМИ.
Однако после этой даты процедура изменилась: статьи были в значительной степени переписаны ИИ. Это позволило странице использовать более широкий спектр источников и все же сохранить желаемый звук и ориентацию, которая соответствовала целям пропагандистов.
ИИ увеличивает количество и разнообразие контента
Чтобы изучить влияние использования ИИ, исследователи проанализировали 22 889 статей, которые были опубликованы до и после переключения. Результаты замечательны: из -за использования ИИ пропагандисты были более чем удвоили свой уровень публикации по сравнению с наиболее активным временем перед использованием.
В то же время использование ИИ сопровождалось увеличением обработанных тем. Они варьировались от предполагаемых успехов в России в Украине до критики законодательства о оружии в Соединенных Штатах. ИИ позволил операторам создать более широкий спектр контента, который соответствовал их целям.
Контент, сгенерированный ИИ, остается убедительным
Но приводит ли повышение производительности к потере убедительности? Чтобы проверить это, исследователи провели опрос 880 американцев США. Результат: содержание с момента после введения KI было столь же убедительным, как и с момента ранее.
«Наши результаты показывают, как инструменты ИИ уже начали менять масштаб и охват пропагандистских кампаний, поддерживаемых государством»,-говорится в исследовании. Исследователи подчеркивают, что необходимо принять меры, чтобы содержать влияние пропаганды на основе ИИ.
Влияние на реальную пропагандистскую кампании
Исследование дает понять: с помощью ИИ пропаганда может производиться быстрее и эффективно и адаптироваться к желаемым целевым группам. В то же время ИИ обеспечивает большую разнообразие тем, не теряя убедительности.
Это могло бы иметь далекие последствия, предупреждают исследователей. Поскольку чем лучше системы ИИ, тем сложнее распознавать и бороться с ИИ, сгенерированной ИИ,. Кроме того, затраты на кампании дезинформации снижаются, что может сделать их привлекательным для большего количества игроков.
