Раввин, созданный искусственным интеллектом, собрал тысячи последователей, прежде чем верующие обнаружили обман. Теперь специалисты по этике предупреждают.
Седовласый, бородатый, дружелюбный мужчина представился в социальных сетях хасидским раввином. В TikTok и Instagram аккаунт под именем Менахем Голдберг распространяет духовные послания о вере в видеороликах.
Подробности читайте после объявления
Существуют также, казалось бы, эзотерические сообщения об успехе и самооптимизации. В конце видеовыступлений «раввин» продвигал платные цифровые продукты.
«Хасидизм — религиозно-мистическое движение» — вот что вы прочтете об этом еврейском движении, которое относят к ультраортодоксальным.
На первый взгляд, нет ничего необычного в том, что раввин продвигает электронные книги и руководства через социальные сети и продвигает их как духовную помощь и инструменты для улучшения жизни. Популярность раввина Менахема Гольдберга росла в геометрической прогрессии.
Как выявилось головокружение
Его послания, произнесенные отеческим, успокаивающим голосом, легко понять. Слишком легко понять для тех, кто заподозрил.
Подробности читайте после объявления
Пользователи обнаружили визуальные несоответствия. Надписи на иврите частично неверны. Расположение предметов на видео не обязательно соответствует религиозным нормам. Предполагаемый раввин не предоставляет или предоставляет очень мало источников своей мудрости. Они начали исследования и смогли убедиться, что раввина Менахема Гольдберга не было.
Первоначально популярный «Раввин» оказался произведением искусственного интеллекта.
ИИ как инструмент, а не как авторитет
Тот факт, что некоторые раввины используют ИИ, не нов. Раввин Джош Франклин из Лонг-Айленда признался в этом почти три года назад. Существует несколько приложений для раввинов, которые используют искусственный интеллект для изучения канонического собрания еврейских писаний, Танаха. С другой стороны, полностью сгенерированная искусственным интеллектом фигура раввина беспокоит верующих.
Этот случай вызвал общественные дебаты в Израиле. Аналитический центр по вопросам еврейской этики «Цохар» предупреждает, что искусственному интеллекту нельзя позволять действовать в качестве человеческого религиозного авторитета.
Израильская пресса цитирует чиновников Цохара, заявляющих, что галахические и этические принципы основаны на человеческом суждении и контексте реального мира. ИИ не должен служить заменой человека-раввина в тех областях, где решения влияют на жизнь людей, общественные нормы или религиозные обычаи.
В религиозно-этическом центре подчеркнули необходимость прозрачности применения ИИ. Потребители будут иметь право знать, когда контент создается или распространяется с использованием искусственного интеллекта, особенно если он предназначен для передачи религиозного доверия. Поэтому необходимы публично видимая маркировка и более четкие правила.
Последствия разоблачения
Профиль в TikTok теперь помечен как продукт ИИ. Количество подписчиков там падает, да и количество кликов на новые видео тоже можно контролировать.
Ярлык до сих пор отсутствует в Instagram. Профиль смог сохранить своих подписчиков лучше, чем в TikTok.
Очевидно, что есть современники, которые также могут найти утешение и черпать силы в технологически созданном духовном контенте. В чаддизме раввин играет роль посредника между Богом и верующими. Для нерелигиозных людей также очевидно, что границы с немаркированным ИИ-«раввином» были перейдены.
От Голема к ИИ – старое предупреждение
Кстати, в TikTok, конечно, есть настоящие раввины-хасиды, такие как раввин Шаис Тауб. Тауб, среди прочего, расскажет о дипфейках, создаваемых искусственным интеллектом. Он приходит к выводу, что это не так уж и ново. По его словам, в древности были и шарлатаны.
В качестве совета по чтению рекомендуется эссе Джошуа Шультайса. еврейский генералгде он сравнивает ИИ с Големом. Мистическое существо, которое раввин Иегуда Лёв изначально создал из глины в Старой Праге как слугу и защитника еврейской общины. В одной из версий легенды бездушный голем ополчился против людей — раввину Лёву пришлось активировать свой стоп-код — в переносном смысле.
Остается вопрос, уверены ли мы с нашим ИИ, что у нас всегда есть кнопка выключения?
