Когда правительство собирается соединить свой безграничный аппетит к социальному контролю с кажущимися безграничными вычислительными мощностями искусственного интеллекта, конечным результатом должно стать оруэлловское “мыслепреступление” – концепция, которая когда—то была исключительно областью спекулятивного вымысла, — становящаяся реальностью. Похоже, жизнь имитирует искусство.

Сообщается, что Таможенная и пограничная служба США (CBP) под эгидой Министерства внутренней безопасности (DHS) сотрудничает с фирмой, занимающейся технологиями искусственного интеллекта, под названием Fivecast, для развертывания программного обеспечения для наблюдения за социальными сетями, которое, по словам его владельца, якобы обнаруживает “проблемные” эмоции пользователей социальных сетей и впоследствии сообщает о них правоохранительным органам для дальнейших действий.

Издание 404 по запросам FOIA обнаружило различные маркетинговые документы Fivecast, в которых подробно описывается полезность её программного обеспечения для правоохранительных органов.

Таможенная и пограничная служба (CBP), входящая в состав Министерства внутренней безопасности США, приобрела программное обеспечение стоимостью в миллионы долларов у компании, использующей искусственный интеллект для выявления «настроений и эмоций» в сообщениях в Интернете, говорится в кэше документов, полученных 404 Media.

CBP сообщила 404 Media, что использует технологию для анализа информации из открытых источников, касающейся въезжающих и исходящих путешественников, которые, по мнению агентства, могут угрожать общественной и национальной безопасности или законной торговле и путешествиям. В этом случае конкретная компания под названием Fivecast также предлагает распознавание объектов на изображениях и видео с поддержкой искусственного интеллекта и выявление ”терминов и фраз [из категории] риска" на нескольких языках, говорится в одном из документов.

В маркетинговых материалах говорится о том, что программное обеспечение позволяет осуществлять целевой сбор данных не только с крупных социальных платформ, таких как Facebook и Reddit, но и с более мелких сообществ, таких как 4chan, 8kun и Gab. В качестве демонстрации функциональности в рекламных материалах Fivecast рассказывается о том, как программа смогла отследить посты в социальных сетях и связанных с ними лиц, начиная с «основных биографических данных» из статьи в журнале New York Times Magazine о членах ультраправого военизированного движения Boogaloo.

404 Media также получила утечку аудиозаписи, на которой сотрудник Fivecast объясняет, как этот инструмент может быть использован против сетей торговли людьми или пропагандистских операций.

Эта новость свидетельствует о том, что CBP продолжает использовать искусственный интеллект для мониторинга путешественников и целей, в число которых могут входить граждане США. В мае я рассказывал о том, что CBP использует ещё один инструмент искусственного интеллекта для проверки путешественников, который позволяет связать сообщения людей в социальных сетях с их номером социального страхования и данными о местонахождении.

Последние новости свидетельствуют о том, что CBP развернуло несколько систем на базе искусственного интеллекта и дают представление о том, на что именно способны эти инструменты, одновременно поднимая вопросы об их точности и полезности.

CBP не должна тайно закупать и внедрять инструменты, которые опираются на недобросовестную науку для тщательного изучения сообщений людей в социальных сетях, утверждают, анализа их эмоций и выявления предполагаемых «рисков», — заявил 404 Media Патрик Туми, заместитель директора проекта ACLU по национальной безопасности, в своем электронном письме.

404 Media получила эти документы в результате запросов по закону о свободе информации в CBP и другие правоохранительные органы США.

Один из документов, полученных 404 Media с пометкой «коммерческая тайна», представляет собой обзор продукта Fivecast «ONYX». В нём компания Fivecast утверждает, что её продукт может использоваться для таргетинга отдельных лиц или групп, отдельных постов или событий. Помимо сбора данных с больших и малых платформ социальных сетей, пользователи Fivecast могут загружать собственные «массовые» данные, говорится в документе.

Fivecast утверждает, что его инструмент был создан «по согласованию» с правоохранительными и разведывательными органами «пяти глаз» — США, Великобритании, Канады, Австралии и Новой Зеландии. В частности, при построении сетей «лиц, представляющих интерес» инструмент «оптимизирован именно под эти требования».

Что касается определения эмоций и настроений, то на графиках, приведенных в документе Fivecast, можно увидеть такие эмоции, как «гнев», «отвращение», «страх», «радость», «печаль» и «удивление» с течением времени. Например, на одном из графиков показаны пики гнева и отвращения в течение всего периода времени, относящегося к началу 2020 года.

Документ также включает в себя тематическое исследование того, как ONYX можно использовать в конкретной сети. В этом примере Fivecast исследовал движение Boogaloo, но Fivecast подчёркивает, что «наша цель здесь — не сосредоточиться на конкретной проблеме, а продемонстрировать, как быстро Fivecast ONYX может обнаруживать, собирать и анализировать риски из единой стартовой онлайн-точки».

Этот процесс начинается с ввода пользователем фразы Boogaloo, такой как «гражданская война 2». Затем пользователь выбирает обнаруженную учётную запись в социальной сети и задействует то, что Fivecast называет «полной» возможностью сбора информации", которая «собирает весь доступный контент на платформе социальных сетей для данной учетной записи». После этого инструмент также составляет карту сети связей цели, говорится в документе.



Лоусон Фергюсон (Lawson Ferguson), советник по техническим вопросам в компании Fivecast, ранее демонстрировал аудитории на саммите, как этот инструмент может быть использован против сетей торговли людьми или пропагандистских операций. «Это лишь примеры того, какие данные можно собрать с помощью такого инструмента OSINT, как наш», — сказал он. Джек Поулсон (Jack Poulson) из организации Tech Inquiry, занимающейся вопросами прозрачности, поделился аудиозаписью беседы с 404 Media.

По словам Фергюсона, пользователи «могут обучить систему распознавать определенные концепции и типы изображений». В качестве примера Фергюсон рассказал, что один из его коллег потратил «огромное количество времени» на обучение системы Fivecast распознаванию понятия наркотика оксиконтин. Это включало анализ «фотографий таблеток и фотографий таблеток в руках».

Компания Fivecast не ответила на просьбу о комментарии.

Согласно записям о государственных закупках и внутренним документам CBP, полученным 404 Media, контракты CBP на программное обеспечение Fivecast исчислялись миллионами долларов. В августе 2019 года CBP потратило почти 350 тыс. долларов, в сентябре 2020 года — более 650 тыс. долларов, в августе 2021 года — 260 тыс. долларов, в сентябре 2021 года — почти 950 тыс. долларов и, наконец, в сентябре 2022 года — почти 1,17 млн долларов.

В своем заявлении для 404 Media представители CBP сообщили: «Министерство внутренней безопасности обязуется защищать частную жизнь, гражданские права и гражданские свободы людей. Для выполнения своей миссии DHS использует различные технологии, включая инструменты для поддержки расследований, связанных с угрозами инфраструктуре, незаконной торговлей в „темной паутине“, трансграничной транснациональной преступностью и терроризмом. DHS использует эти технологии в соответствии со своими полномочиями и законодательством».

В контексте того, почему CBP необходимо приобрести программное обеспечение Fivecast, внутренние документы CBP указывают на несколько конкретных подразделений ведомства. Это Управление полевых операций (Office of Field Operations, OFO) — основная часть CBP, обеспечивающая безопасность границ; Национальный центр целевого назначения (National Targeting Center, NTC), расположенный в Вирджинии и занимающийся отловом путешественников и грузов, которые, по мнению ведомства, угрожают безопасности страны; Отдел по борьбе с сетями (Counter Network Division, CND), являющийся частью NTC; и, наконец, Группа общедоступной информации (PAIG), которая, согласно другим документам, полученным мной ранее, занимается такими данными, как информация о местоположении.

В 2021 году Yahoo News сообщила, что CND собирает информацию о ряде журналистов. Управление генерального инспектора возбудило уголовное дело в отношении сотрудника, работавшего с CND, в связи с его ролью в мониторинге, однако обвинения ему предъявлены не были. Один из руководителей этого подразделения ранее заявил следователям, что в CND «мы расширяем границы и поэтому нет никаких норм, нет никаких руководящих принципов, мы сами создаём эти принципы».

«Общественность слишком мало знает о подразделении CBP по борьбе с компьютерными сетями, но то, что мы знаем, рисует тревожную картину агентства, в котором практически нет правил и которое имеет доступ к океану конфиденциальных персональных данных об американцах», — добавил Туми из ACLU. «Потенциал для злоупотреблений огромен».

Если не принимать во внимание логистические трудности, связанные с оценкой ИИ человеческих эмоций, то теоретически это открыло бы правительству возможность отслеживать и цензурировать не только содержание речи, но и предполагаемые эмоции, стоящие за этой речью (что в перспективе может быть допущено в суде для обвинения обвиняемых в намерениях/мотивах).

Невозможно переоценить антиутопические возможности применения этой технологии, которую, по понятным причинам, стремятся внедрить правительства по всему миру.


Источники:

www.404media.co

pjmedia.com