Читаем Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets онлайн бесплатно
Broken Code: Inside Facebook and the Fight to Expose Its Harmful Secrets
Деловая литература / Документальная литература / Самиздат, сетевая литература
Перевод этой книги подготовлен сообществом "Книжный импорт".
Каждые несколько дней в нём выходят любительские переводы новых зарубежных книг в жанре non-fiction, которые скорее всего никогда не будут официально изданы в России.
Все переводы распространяются бесплатно и в ознакомительных целях среди подписчиков сообщества.
Подпишитесь на нас в Telegram: https://t.me/importknig
Джефф Хорвиц «Сломанный код. ВнутриFacebookиборьбазараскрытиееговредныхсекретов»
Оглавление
Глава 1
Возвращение Артуро Бехара в кампус Facebook в Менло-Парке в 2019 году было похоже на возвращение домой. Кампус был больше, чем когда он уезжал в 2015 году - штат сотрудников Facebook удваивался каждые полтора года, - но атмосфера почти не изменилась. Инженеры ездили между зданиями на фирменных велосипедах, бегали круги по полумильной дорожке через сады на крышах и встречались в закутках кафе, которые придавали зевающим офисам Facebook человеческий масштаб.
Бежар вернулся, потому что подозревал, что что-то в Facebook зашло в тупик. В первые годы своего отсутствия в компании, когда плохая пресса обрушивалась на нее, а затем накапливалась, как вода в яме, он верил, что Facebook решает проблемы, связанные с ее продуктами, как может. Но он начал замечать вещи, которые казались неправильными, детали, которые создавали впечатление, что компании наплевать на то, что испытывают ее пользователи.
Бежар не мог поверить, что это правда. Подходя к пятидесяти, он считал шесть лет работы в Facebook кульминационным моментом в карьере технолога, которую можно было назвать только очаровательной. В середине 1980-х годов он был подростком из Мехико, писавшим компьютерные игры для себя, когда случайно познакомился с соучредителем Apple Стивом Возняком, который брал уроки испанского в Мексике.
После того как Возняк провел лето в компании звездного гида-подростка, он оставил Бежару компьютер Apple и билет на самолет, чтобы тот приехал в Кремниевую долину. Они поддерживали связь, и Возняк оплатил Бежару обучение в Лондоне по специальности "информатика".
"Просто делай что-то хорошее для людей, когда можешь", - сказал ему Возняк.
Успех последовал за ним. После работы над перспективным, но обреченным на провал киберсообществом в 1990-х годах Бежар провел более десяти лет в качестве "главного параноика" в некогда легендарном подразделении безопасности Yahoo. Марк Цукерберг нанял его в качестве директора по инженерным вопросам Facebook в 2009 году после собеседования, проведенного на кухне генерального директора.
Хотя Бежар специализировался на безопасности, он понял, что защита пользователей Facebook означает нечто большее, чем просто ограждение от преступников. В Facebook все еще оставались плохие парни, но инженерная работа, которую требовал Facebook, была в равной степени как социальной динамикой, так и кодом.
В начале своей работы Шерил Сэндберг, главный операционный директор Facebook, попросила Бежара разобраться с резко возросшим количеством сообщений пользователей об обнаженной натуре. Его команда проанализировала сообщения и убедилась, что они в подавляющем большинстве случаев были ложными. На самом деле пользователи сталкивались с нелестными фотографиями себя, размещенными друзьями, и пытались удалить их, сообщая, что это порнография. Простое указание пользователям вырезать это не помогло. Зато появилась возможность сообщить о том, что фотография не нравится, описать свои ощущения, а затем попросить поделиться этими ощущениями с другом в частном порядке.
По словам Бежара, количество сообщений о наготе сократилось примерно вдвое.
Несколько таких успехов привели Бежара к созданию команды под названием Protect and Care. Эта работа, ставшая испытательным полигоном для усилий по предотвращению неприятных ситуаций в Интернете, поощрению гражданского взаимодействия и помощи пользователям, подверженным риску самоубийства, казалась одновременно новаторской и важной. Единственной причиной ухода Бежара из компании в 2015 году стало то, что он находился в процессе развода и хотел проводить больше времени со своими детьми.
Хотя к тому времени, когда в компании начались скандалы после выборов 2016 года, он уже не работал в Facebook, за шесть лет работы там Бежар усвоил принцип, давно закрепленный в официальном кодексе поведения компании: "исходить из добрых намерений". Когда друзья спрашивали его о фальшивых новостях, иностранном вмешательстве в выборы или похищенных данных, Бежар заступался за своего бывшего работодателя. "Руководство совершало ошибки, , но, получив информацию, они всегда поступали правильно", - говорил он.
Но, по правде говоря, Бежар не так уж часто думал о проблемах Facebook. Придя в компанию за три года до IPO, деньги его не волновали, и Бежар был занят фотографией природы, серией совместных работ с композитором Филипом Глассом и реставрацией автомобилей вместе со своей дочерью Джоанной, которая в свои четырнадцать лет еще не была достаточно взрослой, чтобы водить машину. Она документировала их работу по восстановлению Porsche 914 - модели 1970-х годов, которую называли эстетикой коробки для пиццы, - в Instagram, который Facebook купил в 2012 году.
Аккаунт Джоанны стал в меру успешным, и вот тут-то все и пошло наперекосяк. Большинство ее подписчиков были в восторге от того, что девушка занимается восстановлением автомобилей, но некоторые проявляли откровенное женоненавистничество, как, например, парень, который сказал Джоанне, что она привлекает внимание "только потому, что у тебя сиськи".
"Пожалуйста, не говорите о моих несовершеннолетних сиськах", - ответила Джоанна Бежар и сообщила о комментарии в Instagram. Через несколько дней Instagram уведомил ее, что платформа рассмотрела комментарий мужчины. Он не нарушал стандартов сообщества.
Бежар, разработавший предшественницу системы информирования пользователей, которая только что отмахнулась от сексуальных домогательств его дочери, сказал ей, что это решение было случайным. Но несколько месяцев спустя Джоанна рассказала Бежару, что один парень из средней школы в соседнем городе прислал ей фотографию своего пениса через прямое сообщение в Instagram. Большинство друзей Джоанны уже получали подобные фотографии, сказала она отцу, и все они просто старались не обращать на них внимания.
Бежар был потрясен. Подростки, выставляющие себя напоказ незнакомым девушкам, были отморозками, но они, надо полагать, не вынимали свои члены, когда проходили мимо девушки на школьной парковке или в проходе круглосуточного магазина. Почему Instagram стал местом, где было принято, что эти парни иногда делают это - или что молодые женщины, такие как его дочь, должны были отмахнуться от этого?
Старая команда Бежара по защите и заботе была переименована и перетасована после его ухода, но он по-прежнему знал многих людей в Facebook. Когда он начал засыпать своих старых коллег вопросами об опыте молодых пользователей в Instagram, они ответили ему предложением о заключении консультационного соглашения. Возможно, он сможет помочь в решении некоторых вопросов, которые его волновали, подумал Бежар, или, по крайней мере, ответить на свои собственные вопросы.
Так Артуро Бежар оказался в кампусе Facebook. Жадный и очень оживленный - реакция Бехара на изучение чего-то нового и интересного представляет собой жест, призванный вызвать взрыв головы, - он получил необычный доступ благодаря легкому знакомству с самыми высокопоставленными руководителями Facebook. Назвав себя "вольным мексиканцем", он начал изучать внутренние исследования и назначать встречи, чтобы обсудить, как платформы компании могут лучше поддерживать своих пользователей.
За прошедшие четыре года настроение в компании, безусловно, испортилось. Однако, как обнаружил Бежар, все сотрудники Facebook были такими же умными, дружелюбными и трудолюбивыми, как и раньше, даже если никто больше не считал социальные сети чистой выгодой. Штаб-квартира компании с ее бесплатной прачечной, едой на заказ, тренажерным залом, местами отдыха и медицинскими учреждениями оставалась одним из лучших мест для работы в мире. Бежар чувствовал, что рад вернуться.
Эта ностальгия, вероятно, объясняет, почему ему потребовалось несколько месяцев, чтобы проверить то, что он считает своим самым значимым вкладом в Facebook, - переделку системы сообщений о неудачном опыте пользователей.
Это был тот же самый импульс, который заставил его не назначать встречи с некоторыми из своих старых коллег из команды "Защита и забота". "Думаю, я не хотел ничего знать", - сказал он.
Бежар был дома, когда наконец поднял старую систему своей команды. Тщательно выверенные подсказки, которые он и его коллеги составили - просили пользователей поделиться своими проблемами, понять правила Facebook и конструктивно урегулировать разногласия, - исчезли. Вместо этого Facebook теперь требовал, чтобы люди заявляли о конкретном нарушении правил платформы, проходя через целую цепь всплывающих окон. Пользователи, решившиеся пройти этот путь, попадали на последний экран, где им требовалось подтвердить свое желание отправить сообщение на . Если они просто нажимали кнопку "готово", которая по умолчанию отображалась ярко-синим цветом, система архивировала их жалобу, не отправляя ее на рассмотрение модератору.
Бежар не знал, что за шесть месяцев до этого команда переработала систему отчетов Facebook с конкретной целью сократить количество завершенных пользовательских отчетов, чтобы Facebook не пришлось с ними возиться, высвободив ресурсы, которые в противном случае можно было бы направить на обучение системы модерации контента, управляемой искусственным интеллектом. В служебной записке, посвященной усилиям по сдерживанию расходов на модерацию разжигания ненависти, один из руководителей признал, что Facebook, возможно, перестаралась в своих усилиях по пресечению потока пользовательских сообщений: "Возможно, мы завели иглу слишком далеко", - написал он, предположив, что, возможно, компания не хочет подавлять их так тщательно.
Позже компания заявила, что пыталась улучшить качество отчетов, а не подавить их. Но Бежару не нужно было видеть эту записку, чтобы распознать недобросовестность. Достаточно было увидеть веселую синюю кнопку. Он положил телефон, ошеломленный. Facebook должен был работать не так. Как может платформа заботиться о своих пользователях, если ей недостаточно внимания, чтобы прислушаться к тому, что их расстраивает?
В этом было высокомерие, предположение, что алгоритмам Facebook даже не нужно слышать о том, что испытывают пользователи, чтобы понять, чего они хотят. И даже если обычные пользователи не могли видеть это так, как Бежар, в конце концов они получили бы сообщение. Такие люди, как его дочь и ее друзья, несколько раз сообщали об ужасных вещах, прежде чем поняли, что Facebook это не интересует. Тогда они перестанут.
Когда Бежар в очередной раз вошел в кампус Facebook, его по-прежнему окружали умные, искренние люди. Он не мог представить, что кто-то из них решил переделать функции отчетности Facebook с целью обмануть пользователей и заставить их выбросить свои жалобы в мусорную корзину; но, очевидно, они это сделали.
"После этого мне потребовалось несколько месяцев, чтобы разобраться в правильном вопросе", - говорит Бежар. "Что сделало Facebook местом, где подобные усилия естественным образом смываются, а люди ломаются?"
-
Не зная Бежара, многие сотрудники Facebook задавались подобными вопросами. По мере того как социальная сеть все больше и больше подвергалась тщательному изучению извне и изнутри, в Facebook появился постоянно расширяющийся штат сотрудников, занимающихся изучением и устранением множества проблем, оказавшихся в центре внимания.
Эти усилия, в широком смысле называемые работой по обеспечению добросовестности, вышли далеко за рамки обычного модерирования контента. Для диагностики и устранения проблем социальных сетей требовались не только инженеры и специалисты по обработке данных, но и аналитики, экономисты и антропологи. Этот новый класс технических работников оказался в состоянии противостоять не только внешним противникам, решившим использовать социальные сети в своих целях, но и убежденности высшего руководства в том, что использование Facebook - это абсолютное благо. Когда в одноименной социальной сети компании происходили отвратительные вещи, эти руководители указывали пальцем на недостатки человечества.
У сотрудников, ответственных за решение проблем Facebook, не было такой роскоши. Их работа требовала понимания того, как Facebook может искажать поведение своих пользователей - и как оно иногда "оптимизируется" таким образом, чтобы предсказуемо нанести вред. Добросовестные сотрудники Facebook стали хранителями знаний, о существовании которых внешний мир не подозревал, а начальство отказывалось верить.
Пока небольшая армия исследователей с докторскими степенями в области науки о данных, поведенческой экономики и машинного обучения выясняла, как их работодатель изменяет человеческое взаимодействие, я был занят решением куда более простых вопросов о том, как работает Facebook. Я недавно переехал на Западное побережье, чтобы освещать деятельность Facebook в Wall Street Journal, и эта работа была связана с неприятной необходимостью притворяться, что я авторитетно пишу о компании, которую не понимаю.
И все же у меня была причина, по которой я хотел заниматься социальными сетями. После четырех лет журналистских расследований в Вашингтоне работа по обеспечению политической ответственности, которой я занимался, казалась мне бессмысленной. В новостной экосистеме теперь доминировали социальные сети, и истории не получали распространения, если они не апеллировали к онлайн-партизанам. Было так много плохой информации, распространяемой вирусами, но проверки фактов, которые я писал, казались не столько корректирующими мерами, сколько слабой попыткой оседлать хвост дерьма.
Освещение Facebook было, таким образом, капитуляцией. Система обмена информацией и достижения консенсуса, частью которой я являлся, была на последнем издыхании, поэтому я мог бы получать деньги за то, чтобы писать о том, что придет ей на смену.
