Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 3

разобраться даже в основах. Публичные объяснения Facebook алгоритма Ленты новостей - кода, который определял, какие посты появляются перед миллиардами пользователей, - опирались на фразы вроде "Мы соединяем вас с теми, кто и что важнее всего". (Позже я узнал, что у компании была причина, по которой она умолчала о деталях: фокус-группы пришли к выводу, что подробные объяснения "Ленты новостей" оставляют пользователей в замешательстве и тревоге - чем больше люди думали о передаче "кто и что важнее всего" Facebook, тем менее комфортно они себя чувствовали).

В знак признания своей огромной власти и влияния на общество в 2017 году компания создала блог Hard Questions, заявив в своем первом сообщении, что "серьезно относится к нашей ответственности и подотчетности за наше воздействие и влияние". Но Hard Questions никогда не вдавался в подробности, и после нескольких изнурительных лет общественного контроля от него тихо отказались.

К тому времени, когда я начал освещать деятельность Facebook, нежелание компании отвечать на вопросы репортеров тоже возросло. Пресс-служба Facebook - щедрая команда из почти четырехсот сотрудников - имела репутацию дружелюбной, профессиональной и нежелающей отвечать на вопросы. У меня было много знакомых пиарщиков, но никто не хотел рассказывать мне, как работают рекомендации Facebook "Люди, которых вы можете знать", какие сигналы отправляют спорные посты в вирусное распространение или что имела в виду компания, когда заявляла, что ввела чрезвычайные меры безопасности пользователей на фоне этнических чисток в Мьянме. Рекомендации по контенту платформы определяют, какие шутки, новости и сплетни становятся вирусными по всему миру. Как она могла стать таким "черным ящиком"?

Возникшее разочарование объясняет, как я стал поклонником всех, кто хоть немного знаком с механикой Facebook. Бывшие сотрудники, согласившиеся поговорить со мной, с самого начала говорили тревожные вещи. Автоматизированные системы принуждения Facebook были совершенно неспособны работать так, как было заявлено. Усилия, направленные на стимулирование роста, непреднамеренно вознаграждали политическую фанатичность. И компания знала гораздо больше о негативных последствиях использования социальных сетей, чем утверждала.

Это был дикий материал, гораздо более убедительный, чем постоянные обвинения в том, что платформа несправедливо цензурирует сообщения или благоволит президенту Трампу. Но мои источники из бывших сотрудников Facebook не могли предложить много доказательств. Уходя из компании, они оставляли свою работу за стенами Facebook.

Я сделал все возможное, чтобы привлечь нынешних сотрудников в качестве источников информации, отправив сотни записок, суть которых сводилась к двум вопросам: Как на самом деле работает компания, в руках которой находятся миллиарды людей? И почему так часто кажется, что это не так?

Другие репортеры, конечно, тоже делали подобные версии. И время от времени мы получали отрывочные документы, указывающие на то, что возможностей и проблем у Facebook больше, чем он сам о себе заявляет. Мне посчастливилось быть там, когда поток информации превратился в поток.

Через несколько недель после выборов 2020 года Фрэнсис Хауген, менеджер по продуктам среднего звена в команде Facebook по обеспечению гражданской целостности, ответила на одно из моих сообщений в LinkedIn. По ее словам, людям нужно было понять, что происходит в Facebook, и она сделала несколько заметок, которые, по ее мнению, могут быть полезны для объяснения.

Хауген нервничал, не решаясь сказать что-то еще через LinkedIn или по телефону, поэтому в тот уик-энд мы встретились на туристической тропе в холмах за Оклендом. После четвертьмильной прогулки по прибрежным красным лесам Калифорнии мы сошли с тропы, чтобы поговорить наедине.

Хауген с самого начала была необычным источником информации. Платформы Facebook подрывали веру в общественное здравоохранение, способствовали авторитарной демагогии и рассматривали пользователей как эксплуатируемый ресурс, заявила она на нашей первой встрече. Вместо того чтобы признать свои проблемы, Facebook продвигала свои продукты на отдаленные, бедные рынки, где, по ее мнению, они практически гарантированно принесут вред.

По ее словам, поскольку Facebook не справляется со своими недостатками, она решила, что ей придется сыграть свою роль в их обнародовании.

Ни один из нас не обладал достаточно грандиозным воображением, чтобы предположить, к чему приведут эти амбиции: десятки тысяч страниц конфиденциальных документов, показывающих глубину и масштаб вреда, причиняемого всем - от девочек-подростков до жертв мексиканских картелей . Это ввергло бы Facebook в многомесячный кризис: Конгресс, европейские регулирующие органы и рядовые пользователи задавались вопросом о роли Facebook в мире, который, казалось, погружался во все большую смуту.

Не все инсайдеры, с которыми я беседовал в течение следующих двух лет, разделяли точный диагноз Хауген о том, что именно пошло не так в Facebook, или ее рецепт, как это исправить. Но в большинстве своем они были согласны не только со своими товарищами по корпорации, но и с письменными оценками десятков сотрудников, которые никогда не выступали публично. Во внутренних документах, собранных Хауген, а также в сотнях других, предоставленных мне после ее ухода, сотрудники фиксировали демонов дизайна Facebook и разрабатывали планы по их сдерживанию. Затем, когда их работодатель бездействовал, они наблюдали, как один предсказуемый кризис разворачивается за другим.

Что бы ни говорилось в справочнике для сотрудников, предполагать добрые намерения становилось все труднее.

Глава

2

Это было позднее утро среды, на следующий день после выборов 2016 года, и старшие сотрудники Facebook по вопросам государственной политики и выборов собрались в конференц-зале своего старого офиса в Вашингтоне - непритязательном и тесном помещении, расположенном среди юридических и лоббистских фирм, сгрудившихся в городском квартале Penn Quarter. Все пытались понять, что победа Дональда Трампа означает для компании.

Эллиот Шраге, глава отдела публичной политики и коммуникаций Facebook, был тем, кто предложил это мрачное предсказание. Звоня из Калифорнии, он был уверен, что Facebook станет козлом отпущения в 2016 году.

Выборы были тяжелыми для страны и компании. Приход Трампа привнес новую ярость в американскую политику, а расистские свистки и грубые насмешки над оппонентами стали обычным явлением в новостях. Русские взламывали Демократический национальный комитет, а WikiLeaks публиковал электронные письма, украденные у руководителя предвыборной кампании Хиллари Клинтон. Не зря в сети циркулировал мем с изображением пылающего пожара в мусорном баке, когда речь заходила о политических дискуссиях.

Facebook уже столкнулся со своей долей критики. Сначала консерваторы обвинили его в цензуре новостных материалов правого толка; затем Трамп использовал платформу для нападок на мусульманских и мексиканских иммигрантов; и, наконец, стало известно, что македонские сайты-мистификаторы фабрикуют большую часть самых популярных новостей на платформе.

Компании предстояла расплата. Как и их начальница Шерил Сэндберг, которую, по слухам, давно рассматривают на должность министра финансов в администрации Хиллари Клинтон, большинство собравшихся руководителей были демократами.