Утечка документов: планы по созданию сети фейковых сайтов для манипуляции ИИ и выдачей поисковиков

Что обнаружили в документах?

Утекшие файлы содержат проектные предложения и переписку, из которых следует, что одна из организаций, задействованных в дезинформационных кампаниях, планировала масштабную операцию по созданию сети справочных сайтов в стиле «Википедии», поддельных СМИ и фиктивных аналитических центров. Цель — продвигать заданные нарративы и влиять на работу больших языковых моделей и поисковых алгоритмов.

В планах — клонирование энциклопедий с фабрикованными материалами о политических деятелях, подготовка пропагандистских наборов для «обучения» ИИ‑платформ и распространение материалов, выгодных определённым политическим силам в отдельных странах.

Какие проекты упоминаются?

В числе описанных инициатив — проект по созданию клонов «энциклопедии» с фальшивыми страницами о событиях и политиках одной из соседних стран, а также крупная кампания, ориентированная на Германию: создание сотен тысяч веб‑страниц и регулярное редактирование статей с учётом требований поисковых систем.

Отдельно обсуждались способы «тренировки» нескольких ИИ‑платформ в месяц на отредактированных материалах и целенаправленное продвижение публикаций ультраправых и ультралевых авторов в других странах.

Методы и тактика

Схема предполагает наполнение интернета взаимосвязанным контентом с перекрёстными ссылками, что повышает видимость материалов в поисковой выдаче и увеличивает вероятность, что эти тексты попадут в выборки для обучения ИИ. В одном из проектов сообщалось о создании десятков тысяч страниц и регулярном редакторском обслуживании для «оптимизации» под поисковые алгоритмы.

В качестве примера выявлены несколько сайтов с копиями и переработанными статьями на русском языке. В документах также предлагалось вести некоторые проекты из третьих стран, чтобы скрыть прямую связь с инициатором кампании.

Фальшивые аналитические центры

В материалах описано создание фиктивных «центров исследований», публикующих переписанные обзоры авторитетных докладов с искажёнными выводами. Такие тексты могут служить источником «обоснований» для нужного нарратива и затем распространяться через подставные сайты.

Кто фигурирует в документах

В утечке названы ответственные лица и кураторы проектов, в том числе кадровые сотрудники государственных структур. Отмечалось, что руководящая роль находилась у высокопоставленных администраторов, а оперативное руководство вело подразделение, выполняющее информационные проекты.

Ранее ведомства зарубежных стран фиксировали участие этой организации в организованных кампаниях по внешнему влиянию, что усиливает обеспокоенность международного сообщества по поводу масштабов и целей описанных операций.

Последствия и риски

Массовое производство и взаимная увязка фейкового контента создают риск того, что подобные материалы попадут в обучающие выборки ИИ и начнут искажать ответы чат‑ботов и результаты поиска. Это подрывает доверие к источникам информации и повышает вероятность широкого распространения дезинформации.

Эксперты отмечают необходимость улучшения механизмов верификации источников, контроля качества данных для обучения моделей и более тщательной модерции поисковой выдачи, чтобы снизить влияние таких кампаний на общественное пространство.