Кроме того, в 2019 году Facebook последовала распоряжению правительства и закрыла доступ к платформе четырем этническим организациям, объявленным «опасными». На сайтах этих организаций, хоть и действительно связанных с этническими сепаратистами – такими как «Армия Аракана», «Качинская армия освобождения» и «Национально-демократический альянс Мьянмы», – находились основные хранилища фотографий и других свидетельств об убийствах и иных зверствах, совершаемых армией и радикальными буддистскими монахами.
Еще год потребовался Facebook, чтобы наконец начать реагировать. Их решением было создать «стикеры», маркирующие потенциальный хейтспич. Стикеры не мешали пользователям публиковать сообщения, в которых обнаруживался вредоносный или сомнительный контент, однако предупреждали их: «Думайте, прежде чем поделиться» или «Не становитесь причиной насилия». Однако выяснилось, что алгоритм платформы, превыше всего озабоченный максимизацией вовлечения пользователей, сработал здесь как пресловутый ИИ со скрепками: вредоносные посты начал регистрировать как более популярные, поскольку пользователи, помечая их как вредоносные, тем самым с ними взаимодействовали. В результате алгоритм начал активнее рекомендовать этот контент в Мьянме, чем только усилил распространение языка вражды.
Уроки Мьянмы, по-видимому, Facebook так и не усвоила. В 2018 году аналогичные процессы начались на Шри-Ланке, где посты также разжигали ненависть против мусульман. Группы по защите прав человека сообщали об этой проблеме, но безрезультатно. По оценке одного исследователя и активиста: «Разжигается ненависть против целых народов, а Facebook заявляет, что это не нарушает стандарты сообщества!»
Два года спустя, в 2020 году, настал черед Индии. Теперь руководство Facebook отвергло призывы собственных сотрудников и отказалось удалять страницу индийского политика Т. Раджи Сингха, который утверждал, что иммигрантов-рохинджа следует «перестрелять», и призывал разрушать мечети. К сожалению, именно это и произошло в том же году в ходе антиисламских беспорядков в Дели, где были сожжены несколько мечетей и убиты более 50 человек.
Машина дезинформацииПроблемы языка вражды и дезинформации в Мьянме во многом параллельны тому, как фейсбук используется в США, и по той же причине: хейтспич, радикальные высказывания, дезинформация порождают сильные эмоции, а следовательно, повышают вовлеченность и время, проводимое на платформе. А это помогает компании продавать индивидуализированную цифровую рекламу.
К 2016 году социальные сети стали основным источником новостей для 14 % американцев, и 70 % сообщали, что как минимум время от времени узнают новости из фейсбука и иных соцсетей. В период выборов президента США, проходивших в том же году, в соцсетях заметно увеличилось количество постов с вводящей в заблуждение или даже откровенно лживой информацией.
И это была не просто пена на волнах оживленных политических дебатов. Исследователи дезинформации на платформе Facebook пришли к выводу, что «во всех категориях информации ложь распространялась быстрее, дальше, глубже и шире правды».
Многие откровенно лживые посты становились вирусными: их начинали распространять и пересылать друг другу. А алгоритмы платформы максимизировали показ этих сенсационных постов сравнительно и с другими постами, не связанными с политикой, и с новостями из проверенных медийных источников.
Во время президентских выборов 2016 года фейсбук превратился в основной канал распространения дезинформации, в первую очередь предназначенной для пользователей с правыми симпатиями. Зачастую именно через фейсбук симпатизанты Трампа попадали на сайты, распространяющие дезинформацию. Поток переходов из соцсети на сайты традиционных СМИ был ниже. Хуже того: как показало недавнее исследование, люди склонны верить дезинформации, поскольку плохо запоминают, где увидели ту или иную новость. Особенно верно это для соцсетей, где ненадежную или даже откровенно ложную информацию пользователи часто получают от своих друзей и знакомых-единомышленников. В таком окружении, напоминающем эхокамеру, они вряд ли станут прислушиваться к голосам, говорящим что-то другое.
