Palantir: Когда программное обеспечение решает между жизнью и смертью

Palantir анализирует данные для властей. Программное обеспечение распознает закономерности и принимает решения. Но кто контролирует мощь алгоритмов?

Если программное обеспечение будет решать вопросы жизни и смерти людей, а внесудебные казни станут возможными даже в странах, которые уже давно отменили смертную казнь, то в конечном итоге на карту будет поставлена ​​вся правовая система, а безопасность населения окажется под огромным риском.

Когда власть больше не находится в руках демократических институтов

Программное обеспечение, которое показывает связи, которые люди с трудом могут понять во все более сложном мире, оказывается почти чудесным обещанием, предлагающим уровень безопасности, которого раньше не существовало.

Palantir — одна из таких компаний во всем мире, которая вдохновляет все больше и больше полицейских, желающих получить сведения, которые больше невозможно отследить без обширных знаний данных. Поэтому они полагаются на эту платформу анализа данных, которая благодаря собранным знаниям о данных становится все более важным международным игроком.

В связи с работой его компании становится ясно, что генеральный директор Palantir Алекс Карп, который изучал философию у Юргена Хабермаса во Франкфурте и получил докторскую степень в 2002 году у социального психолога Каролы Бреде с диссертацией, написанной на немецком языке, поляризован как минимум так же, как и его компания. Карп придерживается довольно радикальных взглядов, особенно когда дело касается миграционной политики.

В интервью изданию Хандельсблатт (см.: Палантир и Германия: Цифровой суверенитет должен стать приоритетом в 2026 году), он не только обвинил Германию не только в том, что в этой стране слишком мало инноваций, но также в слишком большой миграции и значительном незнании преимуществ наблюдения за данными.

Программы Palantir, которые анализируют и связывают большие объемы данных и распознают в них закономерности, получили широкое признание в западном мире. И это касается не только финансово сильных корпораций, но и спецслужб, вооруженных сил и полиции.

Эта выдающаяся клиентская база делает Palantir одной из самых противоречивых компаний в мире. В Германии общенациональное внедрение полицией вызывает споры. Программное обеспечение Palantir «Maven» будет внедрено в Бундесвере по следам НАТО.

Maven Smart System (MSS) — это платформа на базе искусственного интеллекта, разработанная Palantir для вооруженных сил США и НАТО для анализа и синтеза огромных объемов военных данных, от спутниковых изображений до изображений дронов и данных датчиков, для ускорения принятия решений в реальном времени и улучшения нацеливания. Потребность в человеческом анализе снижается.

Как автоматизированное наблюдение может подорвать судебный процесс

Сила, которую могут развить коллекции данных Palantir, становится очевидной в сцене из дискуссионного мероприятия, где упоминается предложение «Мы убиваем на основе метаданных».

Бессердечность и видимое осознание власти, с которой сделано это заявление, показывают, где находятся лица, ответственные за программное обеспечение. Тот факт, что сбор данных спецслужб, о котором говорится в коротком эпизоде ​​из 2014 года, позже был признан частично незаконным, больше не помогает пострадавшим.

Событием, которое в конечном итоге дало стартовый сигнал успеху Палантира, стало 11 сентября, предыстория которого до сих пор толком не выяснена, но в результате которого началась «война с террором».

Травматические атаки в США ознаменовали настоящий сбор данных, который Карп финансировал ЦРУ и успешно пообещал военным и агентам секретных служб, что программное обеспечение и данные могут быть использованы для поимки террористов и предотвращения будущих планов атак.

Palantir также в течение нескольких лет был деловым партнером властей Германии, сначала полиции Гессена.

Однако операция полиции в Гессене затем стала делом Федерального конституционного суда. В феврале 2023 года суд постановил, что правовая основа частично неконституционна, поскольку позволяет полиции создавать подробные профили людей, групп и сред всего одним щелчком мыши.

В будущем правовые нормы для автоматизированного анализа данных должны конкретно определять, какие источники данных полиции могут использоваться для интеллектуального анализа данных и в какой форме.

Хочет ли население этой страны большего наблюдения?

Если население Германии хочет больше видеонаблюдения в общественных местах, оно вряд ли будет иметь какой-либо смысл без автоматизированного программного обеспечения для анализа изображений и агрегирования данных, поскольку в противном случае пришлось бы создавать кадровую инфраструктуру, по сравнению с которой в бывшей ГДР наблюдение было бы детской игрой.

Пока даже отдаленно не ясно, кто хочет контролировать в этой стране программное обеспечение для наблюдения, базирующееся в США.

Очевидно, что немецкая общественность до сих пор понятия не имеет о ситуации, которая может возникнуть в результате слежки за частными, коммерческими данными в сочетании с суверенными задачами, если агрегирование этих неуказанных данных может в конечном итоге привести к последствиям, которые демократически легитимная правовая система может игнорировать в интересах неуказанного требования безопасности.

Нынешний пример политических изменений по ту сторону Атлантики должен стать предупреждением.