Практикуют ли 48 стран троллинг, спонсируемый государством?


В последние годы возникла своего рода структура, специализирующаяся на таких маневрах: "фермы троллей". Это интервью было проведено 20 марта 2019 года в рамках симпозиума "Демократии в испытании инфоксами", совместно организованного ИНА и БНФ. Джейн Литвиненко - журналист BuzzFeed News, объясняет:

Что такое "ферма троллей"?

Джейн Литвиненко: Когда мы говорим о спонсируемых государством "фермах троллей", мы имеем в виду людей, которым страны платят за распространение дезинформации для воздействия на общественное мнение и которые используют Интернет в основном в пропагандистских целях. Их также называют кибервойсками.

Как давно существуют эти фермы?

Джейн Литвиненко: Насколько нам известно, первые фермы начали работать в 2014 году. Но со временем мы видим, что их появляется все больше и больше по всему миру. Так, например, в 2017 году Оксфордский институт интернета насчитал 28 спонсируемых государством ферм троллей по всему миру. Однако в последующем отчете, опубликованном в 2018 году, мы обнаружили резкое увеличение с 28 до 48 числа стран, которые занимаются спонсируемым государством троллингом. Это означает, что важность данной проблемы растет и что это явление, скорее всего, эффективно.

Существуют ли различные типы "ферм троллей"?

Джейн Литвиненко: Разные страны по-разному подходят к интернет-пропаганде. Россия, конечно, является самым известным примером, потому что ее методы наиболее обширны. Они действительно являются пионерами в этой области. Но сейчас мы видим, что некоторые из спонсируемых государством "ферм троллей" направлены внутрь страны. Одни пытаются влиять на мнение и распространять пропаганду более прямым способом, другие пытаются разжечь гнев по определенным вопросам, против определенных этнических групп или определенных конфликтов. Так что Интернет действительно может бесконечно использоваться фермами троллей, так же как и мы сами можем использовать Интернет по-разному.

Почему мы так заинтересованы в этих структурах?

Джейн Литвиненко: Нет простого ответа на вопрос, почему мы так много говорим о них, но я думаю, что короткий ответ таков: потому что это работает. Например, в 2014 году мы увидели первые признаки активности Facebook по влиянию на мнение в Мьянме в отношении мусульман-рохинья. В 2015 году мы видели, как русские пытались повлиять на мнение украинцев после революции. А в 2016 году ситуация действительно вышла из-под контроля, когда спонсируемые иностранными государствами "фермы троллей" экспортировались на Запад, переместившись в демократические страны и пытаясь повлиять на результаты демократических выборов. С этого момента, после обнаружения этих кампаний, мы действительно поняли, что это происходит по всему миру: не только на местном, но и на международном уровне. И теперь мы должны задавать вопросы: почему это эффективно? Как это работает? И что мы можем сделать, чтобы уменьшить влияние подобных кампаний?

Как объяснить силу этих "ферм троллей"?

Джейн Литвиненко: Подумайте о том, как вы взаимодействуете с социальными сетями - вы включаете телефон, открываете сайт и получаете доступ к информации. В Instagram это изображение, в Twitter - сообщение, в Facebook - пост. Вопрос в том, как выбираются эти изображения? Как мы узнаем, что и кто нам представляет? У нас нет ответа на этот вопрос, потому что алгоритмы, используемые социальными сетями, не разглашаются. Мы знаем, что они учитывают наши предпочтения, но мы также знаем, что эти системы не предназначены для новостей: они предназначены для того, чтобы делиться детскими фотографиями или фотографиями вашей собаки. Таким образом, по сути, мы имеем идеальный коктейль для распространения дезинформации. Мы не знаем, почему перед нами что-то выкладывают, но, как правило, мы реагируем на это, а не исследуем, почему мы видим то, что видим, и правильно ли нам преподносят информацию.

Как люди, мы вполне могли бы использовать, повторить технику "Фермы троллей", не так ли?

Джейн Литвиненко: Да, именно так. Одна из самых интересных вещей о фермах троллей, на мой взгляд, заключается в том, что они играют на наших эмоциях, заставляя нас реагировать и физически взаимодействовать с Интернетом. Так, например, разжигание гнева гораздо эффективнее, чем представление стерильного отчета об экономике или изменении климата. Именно это и делает их такими эффективными, потому что когда мы видим что-то, что вызывает у нас гнев, мы хотим кричать, спорить, как-то участвовать. Это то, что мы делаем как личности. Тролли понимают это и используют ту же технику.

Эти "фермы троллей" работают только в Facebook?

Джейн Литвиненко: Причина, по которой мы так много говорим о Facebook, заключается в том, что эта платформа якобы имеет два миллиарда пользователей, то есть больше людей, чем в любой стране мира. Это огромная аудитория. Но, конечно, Facebook - не единственное место, где возникают подобные проблемы. Например, мы знаем, что алгоритмы рекомендаций YouTube способствуют радикализации, причем не только политической, но и в таких областях, как борьба с вакцинацией. Твиттером очень легко манипулировать с помощью ботов и пропаганды через компьютерные системы. Такие каналы, как Instagram и Snapchat, очень визуальны и поэтому очень сложны для изучения исследователями, что означает, что некоторые из этих проблем трудно обнаружить. Мы также наблюдаем рост дезинформации в личных сообщениях - явление, которое обвиняют в провоцировании насилия в других частях мира. Журналистам и исследователям еще труднее выявить дезинформацию в сообщениях, поскольку она происходит в групповых обсуждениях.

Происходит так: кто-то, кто вам нравится или кому вы доверяете, передает что-то вам, а вы передаете это кому-то другому. Это обмен, ставший частным. Нам очень трудно понять масштабы этого, потому что если вы не являетесь частью этой группы, вы не можете этого видеть. Таким образом, эта экосистема работает, потому что каждая платформа предлагает новые и интересные способы угрозы нашей информационной среде.

Что именно входит в обязанности социальных сетей?

Джейн Литвиненко: В социальных сетях, я бы сказала, что одна из главных обязанностей - выявлять плохих игроков, причем проактивно, а не реактивно, и пытаться удалить их из сети. В США идут большие дебаты о свободе слова, но свобода слова не обязательно означает, что каждый имеет право выставлять свое сообщение на обозрение тысячам людей. Еще одна вещь, которую социальные сети могли бы сделать, но не делают, - это раскрыть, как работают их алгоритмы. Исследователи из Массачусетского технологического института обнаружили то, что они называют "этикеткой питания" для алгоритмов. Это то, что говорит нам о том, сколько и как много. Мы знаем, что многие из тех, кого Facebook классифицирует в политическом отношении как левых или правых, крайне левых или крайне правых, на самом деле не согласны с тем, как Facebook их идентифицирует. Но поскольку мы не знаем, как работает эта классификация, поскольку у нас нет возможности изменить ее или сказать Facebook: "Эй, мои политические взгляды немного изменились, не могли бы вы сделать обновление?", у нас нет возможности контролировать информационную среду, в которой мы оказались.

Считаете ли вы, что ситуация может измениться к лучшему?

Джейн Литвиненко: Хотя в Интернете есть и негатив, будь то дезинформация или нападки на уязвимые сообщества, он также дал людям право голоса и дал многим ранее игнорируемым сообществам возможность выразить себя. Я думаю, что сейчас мы находимся в переходном периоде, когда мы понимаем, что что-то не так. Мы понимаем, что этого зверя, которого мы создали, нужно приручить. И я думаю, что если мы действительно отнесемся к этому серьезно, если регуляторы, технологические компании и отдельные пользователи примут это очень серьезно и близко к сердцу, то да, я настроен оптимистично. Но если мы будем игнорировать проблему и надеяться, что она исчезнет, или если мы по отдельности решим, что "нет, меня это не касается, я умный, я не ввязываюсь в такие вещи", тогда эта проблема будет сохраняться и влиять на то, как работает наша демократия.