Распознавание лиц, отслеживание, китайские технологии: новый отчет показывает, как быстро растет государственная слежка – без каких-либо доказательств повышения безопасности.
Обеспокоенность по поводу возможности массовой слежки с помощью ИИ лежит в основе спора между Пентагоном и компанией Anthropic, занимающейся искусственным интеллектом.
Подробности читайте после объявления
После того, как Пентагон оказал давление на Anthropic, чтобы она сняла ограничения безопасности, компания отказалась, опасаясь, что ее ИИ может использоваться для повсеместного наблюдения за собственным населением и для использования в системах вооружения без вмешательства человека.
OpenAI воспользовалась этой возможностью и получила контракт от Пентагона. Руководитель Open AI Сэм Альтман признал, что Министерство обороны не может контролировать использование собственного ИИ.
В результате этого решения старший менеджер OpenAI Кэйтлин Калиновски подала в отставку. Тем временем правительство США решило запретить Anthropic заключать государственные контракты в будущем в качестве штрафа, и теперь компания подала в суд на правительство.
Взгляд на Африку
На этом фоне, который показывает, насколько ожесточена борьба за превосходство ИИ и его использование – без каких-либо социальных и парламентских дебатов – нынешний доклад Британского института исследований развития о распространении массовой слежки с помощью ИИ в Африке является взрывоопасным.
Подробности читайте после объявления
Были рассмотрены одиннадцать африканских стран: Египет, Алжир, Кения, Маврикий, Мозамбик, Нигерия, Руанда, Замбия, Сенегал, Уганда и Зимбабве. Массовое наблюдение с помощью искусственного интеллекта используется во всех странах.
Расходы на технологию распознавания лиц и отслеживание транспортных средств составляют более 2 миллиардов долларов, хотя реальная цифра, вероятно, будет значительно выше, поскольку многие инвестиции являются секретными, а в двух странах вообще нет официальных данных.
Только Нигерия потратила более 470 миллионов долларов на распознавание лиц с помощью искусственного интеллекта и автоматическое распознавание номерных знаков.
На сегодняшний день крупнейшим поставщиком технологий наблюдения с использованием искусственного интеллекта правительствам африканских стран является Китай. Китайские компании часто продают эту технологию как полный пакет, включающий системы видеонаблюдения, распознавание лиц, сбор биометрических данных и камеры для отслеживания движения транспортных средств. Покупка часто финансируется за счет кредитов китайских банков.
Пропорциональность
Расходы в целом оправданы желанием снизить преступность и предотвратить терроризм. Однако соавтор доклада Вайрагала Вакаби предупреждает:
«Это крупномасштабное и инвазивное наблюдение за общественными местами с помощью искусственного интеллекта не является ни «законным, ни необходимым, ни пропорциональным» законной цели обеспечения безопасности. История показывает нам, что это новейший инструмент, который правительства используют для вторжения в частную жизнь граждан и ограничения свободы передвижения и выражения мнений».
Борьба с преступностью
Сомнительно, в какой степени фактической целью массовой слежки с помощью ИИ является борьба с преступностью и терроризмом. В докладе отмечается, что массовая слежка осуществляется даже в странах, «которые не подвергаются террористической угрозе или серьезной преступности».
Особенно серьезный момент в отчете:
«Мы не нашли никаких доказательств того, что слежка с помощью искусственного интеллекта в Африке привела к снижению терроризма или серьезных преступлений. Хотя быстрое увеличение правительственной слежки за гражданами часто оправдывается мерой безопасности, в наших исследованиях мы не нашли доказательств того, что слежка привела к увеличению числа обвинительных приговоров террористам или серьезным преступникам».
Свобода
В докладе критически оцениваются последствия для населения:
«Быстрое расширение наблюдения (…) оказывает «сдерживающий эффект», заставляя граждан и журналистов заниматься самоцензурой, ограничивая эффективную свободу говорить правду властям и привлекать правительства к ответственности, а также ограничивая свободу передвижения и ассоциаций».
Йоср Джуини Робертс, соавтор доклада, отмечает, что массовая слежка может помешать людям реализовать свое право на демонстрации:
«Мы знаем, что многие протестующие были арестованы на публичных собраниях. Мы не знаем наверняка, произошло ли это из-за камер, но это оказывает сдерживающее воздействие – поскольку такое могло случиться – на готовность людей участвовать в публичных собраниях».
протесты
Фактически, в отчете, опубликованном в Журнале практики прав человека в 2023 году, делается вывод:
«Основываясь на эмпирических исследованиях в Зимбабве и Уганде, он демонстрирует, как государственный надзор ограничивает поведение людей, что имеет серьезные последствия для прав, необходимых для индивидуального развития и функционирования демократии, в частности, прав на свободу выражения мнений и права на свободу собраний».
В докладе Amnesty International подчеркивается роль технологий, использованных правительством Кении во время протестов в 2024 и 2025 годах:
«Власти Кении отреагировали (…) насильственными мерами против молодых людей, реализующих свои права на свободу выражения мнений и мирных собраний, запугивая, угрожая, разжигая ненависть и незаконно наблюдая за ними в Интернете. Известные голоса в социальных сетях были арестованы или насильственно исчезли».
По оценкам, было совершено не менее 3000 произвольных арестов, 83 насильственных исчезновения и 128 убийств.
Ищем баланс
Булелани Джили, доцент Джорджтаунского университета, подчеркнула Guardian:
«Настоящая проблема заключается не только в том, регулируется ли слежка, но и в том, как общества находят баланс между безопасностью, подотчетностью и гражданскими свободами после того, как эти технологии будут глубоко институционализированы».
