Белорусский интернет под ботами: как их распознавать и что с ними делать
Социальные сети все больше заполняются контентом, созданным искусственным интеллектом, а дискуссии — комментариями ботов. Это не только усложняет поиск правдивой информации, но и меняет сам принцип функционирования интернета, способствуя поляризации общества и росту недоверия. Бывший политзаключенный Николай Дедок объясняет, как работают эти механизмы, почему авторитарные государства активно ими пользуются и какие возможные способы противодействия существуют.
Николай Дедок. Фото: «Вясна»
Для большей образности Дедок сравнивает современный интернет с ситуацией в кинотеатре, когда один человек встает, чтобы лучше видеть экран, и этим вынуждает сделать то же самое всех, кто сидит сзади. В результате фильма не видит никто, кроме тех, кто сидит перед первым человеком, который поднялся.
По мнению блогера, подобный механизм описывают несколько известных социальных концепций, в том числе «трагедия общих ресурсов»: которая утверждает, что при наличии какого-то общего для всех, бесплатного ресурса, люди склонны им злоупотреблять, используя его таким образом, что он быстро исчерпывается или становится бесполезным.
Подобные процессы, как доказывает Дедок, сейчас происходят и с распространением информации в социальных сетях. Когда интернет только появлялся, он был открытым пространством с относительно равными возможностями для всех. Однако с ростом числа пользователей и значения интернета для политики и бизнеса усилилась конкуренция за внимание аудитории.
После широкого распространения генеративного искусственного интеллекта многие авторы контента начали использовать его для быстрого создания большого количества текстов, видео и сообщений. Дедок ссылается на исследования, согласно которым до 50% контента в интернете сегодня сделано с использованием ИИ.
При таком подходе главным преимуществом становится уже не качество материалов, а их количество. Особенно большие возможности получают те, кто использует автоматизированные системы или ботофермы. Это вынуждает и других участников информационного пространства использовать те же методы, чтобы не проиграть в конкуренции.
Еще одной проблемой автор называет то, что отличить настоящий контент от созданного искусственным интеллектом становится все труднее. По его мнению, это одновременно облегчает распространение фальшивых материалов и дает возможность отрицать настоящие доказательства, утверждая, что они якобы были сгенерированы нейросетью.
К таким практикам автор относит и кликбейт — использование максимально броских заголовков, которые часто не соответствуют содержанию материала. По его мнению, это вынуждает других авторов также все больше обращаться к подобным приемам, что в результате подрывает доверие к медиа — пользователь вообще перестает верить заголовкам СМИ.
Дедок отмечает, что активными пользователями таких инструментов стали авторитарные государства, в том числе Россия, Китай и белорусские власти. Ботофермы создают видимость общественной поддержки нужных тезисов, накручивают просмотры и комментарии, а также продвигают необходимый контент.
Манипулятивные практики
Деятельность ботов, замечает блогер, не ограничивается увеличением количества лайков и комментариев. Он выделяет несколько основных тактик, используемых в информационной войне.
Во-первых, это психологическое давление на людей, которые открыто высказываются против власти.
Массовые оскорбления и личные нападки могут вынудить часть пользователей отказаться от участия в публичных дискуссиях.
Во-вторых, боты создают токсичную атмосферу своими комментариями.
«Когда открываешь секцию комментариев и видишь там сплошь оскорбления, грязь, мат, гифки с говном и жопами, возникает почти физическое желание быстрее закрыть и не окунаться самому в эту грязь. Это хорошо заметно по комментариям под постами Светланы Тихановской в фейсбуке (по очевидной причине там боты наиболее активны)», — пишет Дедок и показывает пример на скриншоте.
Еще одна задача — создание иллюзии широкой поддержки нужных нарративов. В качестве примера автор описывает наблюдения за литовским сегментом TikTok, где он наблюдал, как активность пророссийских аккаунтов искусственно увеличивала популярность радикальных высказываний.
«Открываю комментарии под видео, где литовские ультранационалисты маршируют с баннером «Lietuva Lietuvams» (Литва для литовцев). Мало того, что у самого видео чрезвычайно много лайков, комментарии типа «Молодцы, Латвия с вами!», «Польша с вами!» и прочее в духе «долой иностранцев» имеют по 100 и более лайков. А более рассудительные комментарии, более длинные и содержательные, чем лозунг, — по 2—3 лайка. Такая неестественная диспропорция явно указывает на искусственную накрутку, ведь каждый, кто давно ведет соцсети, знает, что в небольших аккаунтах это неестественная картина. Цель очевидна: обозлить местное литовское население против украинцев и политбеженцев из Беларуси и России», — пишет Дедок.
Отдельно Дедок останавливается на тактике Firehose of Falsehood («брандспойт лжи»), которую он считает наиболее опасной на долгосрочном треке.
Ее суть заключается в том, чтобы после резонансного события одновременно распространить большое число различных, часто противоречивых версий происшествия. Цель заключается не в том, чтобы люди поверили в какую-то одну версию, а в том, чтобы они перестали быть уверенными, что правду вообще можно установить. В качестве примера блогер называет информационную кампанию после отравления Алексея Навального в 2020 году.
«Власть РФ, от кремлеботов до ее полезных идиотов вроде Такера Карлсона, тогда начала стремительно вбрасывать целый ворох версий, фантастических по своей аморальности и абсурдности:
— Отравили свои же, оппозиционеры — хотели «оживить протестное движение!»
— Нарушение углеводного обмена.
— Отравление грибами.
— Отравление некачественной водкой.
— Инсценировка западных спецслужб.
В данном случае абсолютно не важно, что все версии опровергаются элементарным здравым смыслом, даже без специальных экспертных знаний. Но в концепции Firehose of Falsehood ее застрельщику не нужно, чтобы вы приняли официальную, провластную версию событий. Нужно, чтобы вы сказали: «не все так однозначно» и «всей правды мы не узнаем» в условиях, когда все как раз-таки однозначно», — отмечает Николай Дедок.
Еще одной тактикой автор называет поляризацию общества страны-соперницы или сообщества-соперника.
По его словам, российские информационные операции могут сочетать поддержку реальных радикальных групп с использованием ИИ-аккаунтов, имитирующих противоположные крайние позиции — от ультраправых националистов до радикальных феминисток или других идеологических групп.
Такие аккаунты активно участвуют в дискуссиях, используют агрессивную риторику, преувеличивают существующие проблемы и распространяют провокационные или фальшивые сообщения, стремясь усилить конфликты между различными группами населения.
«И те, и другие начинают создавать свои аккаунты, страницы и каналы, проявлять активность в комментариях с максимально агрессивной риторикой, стремясь, по возможности, радикализировать близкие к себе слои населения (феминистки — женщин, джихадисты — мусульман и т.д.), склоняя их взгляды в сторону большей агрессии лозунгами («мусульмане насилуют наших женщин!», «мужчины — это мусор!»), гиперболизации реально существующих проблем, а часто и через фейковые инфоповоды», — пишет Дедок.
По мнению автора, в результате радикальные взгляды получают в интернете значительно большую видимость, чем это соответствует их истинной поддержке в обществе. Такую тактику мы отчетливо наблюдаем и в белорусском интернете, белорусских сообществах.
Возможные последствия
По мнению Дедка, рост использования искусственного интеллекта и ботов в социальных сетях имеет несколько важных последствий.
Первым он называет рост поляризации общества, когда люди все меньше готовы к компромиссам и все чаще объединяются только вокруг своей группы.
Второй проблемой автор считает то, что в социальных сетях становится все труднее оценивать реальное общественное мнение. На это влияют как алгоритмы платформ, так и деятельность ботов, которые могут создавать впечатление массовой поддержки тех или иных позиций.
Кроме того, по его мнению, из-за токсичной атмосферы и засилья ИИ-контента люди, рассчитывающие на содержательные дискуссии и обмен аргументами, постепенно покидают социальные сети.
По его мнению, это приводит к тому, что в них становится относительно больше ботов и пользователей, склонных к агрессивной манере общения, а общее качество дискуссий продолжает ухудшаться.
Как противодействовать ботам
Автор предлагает несколько возможных путей противодействия этой тенденции.
Первый — активное выявление и удаление сетей фальшивых аккаунтов самими интернет-платформами. Он отмечает, что Meta уже сообщала о ликвидации ряда таких сетей, однако считает эти меры недостаточными.
Второй возможный вариант — обязательная идентификация пользователей по паспорту, с селфи и личными данными. Однако, замечает Дедок, такое решение создает серьезные риски для конфиденциальности и концентрации персональных данных в руках крупных корпораций.
Наиболее реалистичным он считает совершенствование алгоритмов, которые могли бы автоматически выявлять и блокировать ботов.
Кроме того, Дедок предлагает усилить правовую ответственность за создание и использование инструментов для информационных манипуляций. По его мнению, штрафы и блокировки должны распространяться как на организаторов ботоферм, так и на юридических лиц, чья продукция используется в таких целях.
Он также считает, что производители программного обеспечения и техники должны нести часть ответственности за то, чтобы их разработки не использовались для информационного загрязнения, а разработка специализированного программного обеспечения для таких целей должна влечь за собой правовую ответственность.
На индивидуальном уровне, как пишет блогер, каждый, кто подвергся атаке ботов в комментариях, сталкивается с дилеммой: забанить их — значит понизить свой пост в индексации: меньше комментариев (хотя и от ботов), меньше людей его увидит. А не банить — получишь помойку в комментариях.
Дедок отмечает, что сам отдает предпочтение выборочной блокировке наиболее агрессивных аккаунтов, стараясь при этом не способствовать еще большей деградации дискуссий.
Завершая статью, автор возвращается к аналогии с кинотеатром и высказывает мнение, что долгосрочное сохранение общих правил важнее краткосрочной выгоды, даже если это требует более сложных решений:
«Лично для себя я выбрал путь максимизации своих преимуществ в пределах правил. Я не хочу быть тем человеком, который встанет и заслонит просмотр фильма соседу. Однако попробую максимизировать свои конкурентные выгоды, не вредя самим институтам. Придерживаться честной конкуренции в краткосрочной перспективе может означать отставание, но в долгосрочной — помогает сохранить институты и правила, важные для всех.
Так что, оказавшись в ситуации с кинотеатром, о которой я говорил вначале, возможно, нужно не вскакивать сразу с места, повторяя за неразумным соседом, а попросить человека впереди присесть. Возможно, попытаться отклониться в сторону либо обратиться ко всем вокруг с призывом уважать друг друга и включить здравый смысл. Либо выйти в проход и смотреть кино оттуда.
И надеяться, что другие последуют твоему примеру. Ведь хороший пример, как показывает жизнь, точно так же заразителен, как и плохой», — пишет бывший белорусский политзаключенный.