17 февраля 2026 14:27:20

Учёные предупреждают о новой угрозе: ИИ-сети создают иллюзию консенсуса

Синтетический консенсус: как ИИ-агенты манипулируют общественным мнением

Учёные бьют тревогу из-за новой формы цифрового воздействия — скоординированных сетей искусственного интеллекта, которые могут создавать иллюзию широкой общественной поддержки. Эти системы, объединяющие продвинутые языковые модели и многоагентные архитектуры, способны имитировать поведение реальных пользователей, формируя так называемый «синтетический консенсус». В отличие от простых ботов, современные ИИ-агенты поддерживают устойчивые цифровые личности, запоминают взаимодействия и адаптируют стиль общения, что делает их влияние особенно незаметным и опасным. Об этом сообщает издание pepelac.news.

Исследователи предупреждают, что подобные механизмы представляют серьёзную угрозу для демократических процессов и общественного диалога. Один злоумышленник с помощью ИИ может выдать себя за тысячи голосов, влияя на тренды, оказывая давление на публичных лиц и распространяя дезинформацию. Более того, массовое производство искусственного контента способно искажать обучающие данные для других систем искусственного интеллекта, усиливая эффект манипуляции.

Традиционная модерация отдельных публикаций уже неэффективна против таких сетей, отмечают эксперты. Вместо этого необходимо выявлять статистически аномальную координацию, отслеживать происхождение контента и применять методы поведенческих наук для анализа коллективных действий ИИ-агентов. Среди предложенных мер — внедрение механизмов верификации с сохранением приватности, создание распределённой системы мониторинга ИИ-влияния и сокращение финансовых стимулов для недостоверной онлайн-активности.