Автоматизированный инструмент: Пентагон создаст программу обнаружения «онлайн-кампаний геополитического влияния»

/ НОВОСТИ В МИРЕ / Вторник, 10 ноября 2020 11:51

Министерство обороны США разрабатывает новую систему для выявления фейковых новостей и видеозаписей, созданных с помощью технологии deep fake

Автоматизированный инструмент: Пентагон создаст программу обнаружения «онлайн-кампаний геополитического влияния»

Предполагается, что алгоритмы смогут обнаруживать фейки в текстах и видеофайлах, распространяемых через СМИ и соцсети. Программа получила название «Семантическая криминалистика». Эксперты полагают, что Пентагон проявляет интерес к подобным исследованиям, чтобы занять доминирующее положение в информационной сфере и использовать эти инструменты для проведения атак. Управление перспективных исследовательских проектов Минобороны США DARPA займётся борьбой с фейковыми новостями и информационными атаками. Ведомство ищет подрядчиков для разработки специального программного оборудования, которое сможет выявлять фейки среди текстовых новостей, а также распознавать видеоматериалы, отредактированные с помощью технологии deep fake. Об этом сообщает агентство Bloomberg.

Для борьбы с такими материалами DARPA разработает систему алгоритмов, которая сможет распознавать фейки в СМИ и соцсетях до того, как они приобретут вирусную популярность, сообщает Bloomberg. Алгоритмы составят основу технологии SemaFor (Semantic Forensics) — программы «Семантическая криминалистика», а также MediFor — «Медиакриминалистика».

«Технологии, разработанные в рамках программы «Семантическая криминалистика», помогут выявлять, сдерживать и анализировать вражеские кампании по дезинформации», — говорится в концепции программы, опубликованной на сайте DARPA.

Bloomberg сообщает, что один из руководителей проекта Мэтт Турек 29 августа провёл встречу с потенциальными разработчиками в городе Арлингтон, где расположен Пентагон. Бюджет программы «Семантическая криминалистика» пока неизвестен.

Deep fake — это, как правило, видео- или аудиозапись, которая была отредактирована с помощью нейросетей или машинного обучения. Всеобщее внимание они привлекли к себе после появления в интернете нескольких видеороликов с кадрами из популярных голливудских фильмов, где вместо исполнителей главных ролей с помощью нейросетей были вмонтированы другие актёры. При этом общее качество роликов остаётся достаточно высоким, и порой неподготовленному пользователю бывает трудно отличить подделку от оригинала.

Всё больше экспертов по безопасности в США и странах Западной Европы отмечают, что распространение этих технологий приведёт к новому всплеску информационной войны, которая будет вестись с помощью отредактированных компрометирующих видеозаписей, главными действующими лицами которых будут политики или другие общественные деятели.

Пентагон намерен создать и запустить новую автоматизированную программу для обнаружения «онлайн-кампаний по расширению геополитического влияния», отмечается в документе ведомства, с текстом которого ознакомился RT. Для выявления таких кампаний американские специалисты планируют анализировать не только демографические данные пользователей, но и психографические — взгляды, убеждения, моральные устои и ценности. По мнению экспертов, использование подобной системы в случае её успешного создания приведёт к нарушениям прав человека. Они также отмечают, что Вашингтон может воспользоваться накопленной информацией для осуществления собственных операций в киберпространстве. Управление перспективных исследовательских проектов Министерства обороны США (DARPA) планирует запустить новую программу для обнаружения «онлайн-кампаний по расширению геополитического влияния». Для этой цели ведомство объявило о поиске инновационных подходов в разработке вычислительных методов и инструментов, которые приведут к«революционным достижениям» в наращивании технического потенциала.

«В рамках программы «Кампании по расширению влияния: осведомлённость и понимание (INCAS)» будут разработаны приёмы и средства, которые позволят аналитикам с количественно выраженной уверенностью выявлять, характеризовать и отслеживать кампании по расширению геополитического влияния», — говорится в описании проекта DARPA.

Как отмечают в Пентагоне, США вовлечены в «асимметричную непрерывную войну со своими противниками», в ходе которой применяются нарративы, используемые в качестве оружия и рассчитанные на расширение влияния. Такие кампании могут быть построены не только на фейковых новостях, но и вокруг реальных событий и фактов, подчёркивают в Минобороны. «Противники» Штатов распространяют в интернете с помощью блогов, твитов и другого контента как дезинформацию, так и достоверные сведения.

Поэтому в рамках данного проекта предложения, ориентированные исключительно на анализ соцсетей, обнаружение ботов и сфабрикованного цифрового контента, рассматриваться не будут.

«В то время как введение в заблуждение и дезинформация действительно играют определённую роль в кампаниях по расширению влияния, подходы, сосредоточенные исключительно на выявлении случаев введения в заблуждение и дезинформации (фейковых новостей), интереса не представляют, поскольку в основу версий, продвигаемых в рамках кампаний по расширению влияния, могут быть положены в том числе реальные события и факты», — поясняется в документе.

Американским специалистам требуются эффективные инструменты непрерывного анализа «обширной, перегруженной шумом, адаптивной» информационной среды, считают в Пентагоне. В настоящий момент, по данным DARPA, аналитики делают это неавтоматизированно и ситуативно. Они используют инструменты мониторинга социальных медиа для формулирования сложных запросов по ключевым словам, отслеживания хештегов, а также вычитывают тысячи документов, чтобы выявить, с какой темой связано «влияние».

Однако, как отмечают аналитики, отчёты не всегда получаются точными, так как с помощью существующих методов трудно соотнести сообщения по времени и между разными платформами.

«Аналитики оценивают уверенность ситуативно, вручную, субъективно; дают качественную оценку, на которую влияют их когнитивные искажения (например, склонность к подтверждению своей точки зрения)», — добавили в ведомстве.

Ожидается, что INCAS сможет обнаруживать кампании влияния автоматически. Программа определит явные и скрытые показатели геополитического влияния в сообщениях на разных языках, которые используются для передачи мнения автора, его опасений и эмоций.

Чтобы объяснить и предвидеть реакцию населения на подобную информацию, INCAS будет сегментировать респондентов и устанавливать их психографические признаки — взгляды и убеждения, моральные устои и сакральные ценности. Как отмечается в документе, эти особенности больше взаимосвязаны с реакцией на геополитическое влияние, в отличие от демографических параметров, используемых в маркетинге.

«Взгляды и убеждения человека выражаются в его видении и понимании мира, особенно в таких областях, как политика, философия и религия», — подчёркивают в Минобороны. Планируется, что INCAS выйдет за рамки коммерческого использования личностных характеристик и разработает новые методы извлечения психографических факторов населения, которые в числе прочего определяют, является ли человек приверженцем национализма или глобализма, индивидуализма или конформизма, эгалитаризма или иерархизма.

Новая программа будет работать с текстовыми сообщениями в общедоступных источниках — соцсетях, новостных и справочных сайтах. В ведомстве отмечают, что не планируют намеренно обрабатывать данные пользователей из США, и обещают удалить их в случае попадания в систему.

В Пентагоне предполагают, что противники могут использовать «кампании влияния» для ослабления поддержки со стороны местного населения в отношении 800 зарубежных военных баз США. Распространяемые сообщения могут изначально основываться на реальных событиях, таких как случаи преступности или загрязнения, связанные с некоторыми базами. Впоследствии условный противник способен искажать или преувеличивать эти события, например, приписывая злой умысел Соединённым Штатам или властям страны размещения, утверждают в Пентагоне, добавляют американские аналитики.

На этом примере военные специалисты объясняют принцип работы INCAS. Пользователь системы обозначит целевую группу населения страны, где находится база, введёт данные об объекте или теме, вокруг которой может строиться предполагаемая атака.

Далее, как указывается в документе, система определит «индикаторы влияния», то есть приоритеты потенциальной атаки и используемые для её реализации опасения и эмоции людей. Кроме того, программа проанализирует сообщения в сети по рассматриваемому вопросу и реакцию жителей, их отношение к проблеме. Всё это будет соотнесено с демографическими и психографическими факторами, чтобы спрогнозировать, на какие темы могут отреагировать в будущем различные группы граждан.

На основе собранных данных INCAS определит типы потенциальных «кампаний влияния», а также ранжирует их по степени угрозы, которую они создают, объясняют американские аналитики. При этом по мере поступления новой информации система будет совершенствовать свои возможности по определению «индикаторов влияния» и реакции населения, а также моделированию вероятных кампаний.

Мощный инструмент разведки:

Создание заявленной программы способно существенно усилить разведку Соединённых Штатов, считает эксперт в области информационной безопасности Александр Власов.

«Возможности появляются очень большие, потому что, как мы знаем, 80% информации черпается из открытых источников путём сопоставления. Это уже известно разведкам всего мира. А здесь анализировать будут не какие-то уникальные разведчики, а нейронная сеть, искусственный интеллект».

Власов считает, что подобную программу сложно назвать объективной, ведь она будет выявлять признаки влияния на основе тех данных, которые в неё заложат изначально. По его словам, разработка больше похожа на инструмент, значительно ускоряющий процесс сбора и обработки данных, которые затем могут быть использованы для осуществления собственных операций.

«Выявление зачатков информационных войн — сказка. Это неплохая разведывательная система, которая будет анализировать соцсети и все источники информации. Аналитики уже определяют интересы и ценности человека по тому, что он читает и пишет, что лайкает. Выявляются ключевые группы, на которые надо оказывать влияние в нужном для себя направлении. То, что раньше делали люди, становится автоматизированным. И это достаточно мощное оружие», — сказал эксперт.

По мнению IT-эксперта, генерального директора компании «Ашманов и партнёры» Игоря Ашманова, изучать поведение людей на основе их психографических признаков, а затем оказывать влияние американские специалисты начали уже давно.

«Такая программа промывания мозгов была запущена ещё в 1970-х годах. На основе того, что мы читаем и пишем, пытались определить, является ли человек кинестетиком, аудиалом, визуалом, а затем понять, как ему нечувствительно втюхать. Программа «Семантический дифференциал» была засекречена ещё до появления персональных компьютеров. Однако, на мой взгляд, эти басни не работают», — отметил он.

Ашманов добавил, что у США уже есть компьютеризированные системы слежки в соцсетях. К примеру, Palantir, созданный основателями PayPal. Программа имеет большой аналитический слой, куда загружаются персональные и финансовые данные.

В то же время Ашманов считает, что компьютерная программа по определению не может выявлять фальшивую информацию, как это планирует Пентагон. По его словам, установить факт дезинформации может только человек.

«Борьба с фейками на Западе сама по себе является фейком, и это просто способ ввести цензуру. Ситуация с реальными событиями ещё хуже. Американцы давно делают попытку вообще размыть понятие факта, превратить его в общественный консенсус о факте. Так, например, устроена «Википедия». Она предлагает знания, про которые в данной статье мы можем дать ссылки на газеты, публикации и так далее. То есть знания, по которым не было большого количества опровержений», — добавил аналитик.

Замдиректора Института истории и политики МПГУ Владимир Шаповалов, в свою очередь, выразил мнение, что новая американская программа, если она действительно будет реализована, будет нарушать права человека. По его мнению, США фактически смогут отслеживать взгляды, политическую позицию каждого интернет-пользователя и влиять на них. Изменится также подход к свободе слова, уверен политолог. «Мы сейчас уже видим, что любая альтернативная точка зрения принимается в США крайне негативно. Система будет выявлять как раз такую альтернативную позицию и препятствовать её распространению. Речь идёт не только о реальных внешнеполитических угрозах. При желании Вашингтон сможет перекрыть доступ к любой неугодной информации. Такой инструментарий может стать основанием для прекращения вещания СМИ, например российских, на территории других стран под предлогом того, что они якобы вмешиваются во внутренние дела. По сути, США вводят новую систему железного занавеса», — прокомментировал  Шаповалов.

Широкий киберподход:

INCAS — далеко не первый проект Пентагона, нацеленный на поиски «кампаний влияния» в сети. В июле Минобороны США намеревалось профинансировать исследования, которые помогли бы выявить попытки манипуляции информацией в целях воздействия на интернет-пользователей. В ведомстве подчеркнули, что информация превратилась в новую сферу военных действий.

Ещё один грант на исследовательские проекты был опубликован в 2019 году. Военных интересовали «инструменты национального влияния». В частности, одна из задач заключалась в изучении того, как государства «вводят в заблуждение» людей с помощью СМИ, социальных сетей, кибер- и экономических способов.

Стоит отметить, что Соединённые Штаты занимаются не только «изучением» киберпространства, но и активно используют его в своих операциях. В июле президент США Дональд Трамп признался в интервью для газеты The Washington Post, что санкционировал кибератаку на российское Агентство интернет-исследований в 2018 году. Американские власти уверяют, что организация якобы причастна к вмешательству в президентские выборы 2016 года, однако это так и не было доказано.

Кроме того, благодаря бывшему сотруднику Агентства национальной безопасности США Эдварду Сноудену стало известно о работе американских спецслужб в киберсфере. Согласно его разоблачениям, АНБ производила кибератаки, взламывала электронную почту, прослушивала граждан и даже высших должностных лиц.

Комментарии (0)

Оставьте свой комментарий

  1. Вы можете размесить комментарий в качестве гостя или зарегистрироваться и после авторизоваться
0 символа(ов) из 300
Вложения (0 / 3)
Share Your Location

Please publish modules in offcanvas position.