Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 9

"Создавать вещи гораздо интереснее, чем обеспечивать их защиту и безопасность", - говорит он об отношении компании. "Пока не возникнут проблемы с регуляторами или прессой, вы не будете с этим разбираться".

Постоянный поток аварийных ситуаций и некачественно созданных функций породил мрачные шутки о том, что Facebook - старейший в мире стартап, а неряшливость - самая стойкая черта его культуры. В 2021 году, когда Майк Шрепфер, тогдашний директор по технологиям, спросил инженеров компании, что их больше всего расстраивает, ответ был ошеломляющим. "Нам постоянно нужно, чтобы что-то проваливалось - часто чертовски эффектно, - чтобы вызвать интерес к исправлению, потому что мы награждаем героев больше, чем людей, которые предотвращают необходимость героизма", - гласил главный ответ на Workplace, который собрал около тысячи положительных откликов и десятки комментариев, рассказывающих о катастрофических, но неизбежных инженерных неудачах.

Нигде в системе не было места контролю качества. Вместо того чтобы пытаться ограничить проблемный контент, Facebook, как правило, предпочитал персонализировать ленты пользователей тем, что, по его мнению, они хотели бы видеть. Хотя легкое отношение к модерации имело практические преимущества - продажа рекламы против контента, который вы не просматриваете, это отличный бизнес, - Facebook стал относиться к этому как к моральной добродетели. Компания не пыталась контролировать действия пользователей - она была нейтральна.

Хотя компания признала, что ей придется выполнять некоторые полицейские функции, руководители продолжали утверждать, что платформа в основном регулирует себя сама. В 2016 году, когда компания столкнулась с давлением, требующим более жесткой модерации вербовки террористов, Шерил Сэндберг заявила на Всемирном экономическом форуме, что платформа делает все возможное, но что долгосрочное решение проблемы ненависти в Facebook - это утопить ее в позитивных сообщениях.

" Лучшее противоядие от плохой речи - это хорошая речь", - заявила она, рассказывая аудитории о том, как немецкие активисты обрушили на страницу неонацистской политической партии в Facebook "лайки", завалив ее сообщениями о толерантности.

Определенно, "контрречь", которую описывала Сэндберг, в Facebook не работает. Какой бы вдохновляющей ни была концепция, взаимодействие с мерзким контентом привело бы к тому, что платформа распространила бы неприемлемый материал среди более широкой аудитории.

Несмотря на реалии механики платформы, такая вера в доброту Facebook часто использовалась для придания стремлению Facebook к росту блеска морального императива. Такая уверенность достигла своего пика во внутренней записке Эндрю "Боз" Босворта, который прошел путь от одного из помощников Марка Цукерберга в Гарварде до одного из его самых доверенных помощников и конфидентов в Facebook. Под названием "Уродливый" Босворт написал памятку в июне 2016 года, через два дня после того, как убийство жителя Чикаго было случайно показано на Facebook. Столкнувшись с призывами к компании пересмотреть свои продукты, Босворт сплотил войска.

"Мы часто говорим о хорошем и плохом в нашей работе. Я хочу поговорить о плохом", - говорилось в записке. По его словам, общение людей приносит очевидную пользу - но в масштабах Facebook оно может принести вред, будь то издевательства пользователей над сверстником до самоубийства или использование платформы для организации террористической атаки.

То, что Facebook неизбежно приведет к таким трагедиям, было прискорбно, но не это было главным. Безобразие, писал Боз, заключалось в том, что компания настолько глубоко верила в свою миссию общения людей, что готова была пожертвовать чем угодно ради ее выполнения.

"Вот почему вся работа, которую мы проводим в области роста, оправдана. Все сомнительные методы импорта контактов. Все тонкие формулировки, которые помогают людям оставаться в поиске друзей. Вся работа, которую мы делаем, чтобы привлечь больше общения. Работа, которую нам, вероятно, когда-нибудь придется выполнять в Китае. Все это", - написал Босворт.

Facebook и Босворт отреклись от своих аргументов, когда BuzzFeed News опубликовал меморандум два года спустя, но это не умалило его правоты. Facebook злоупотребляла списками контактов людей, чтобы стимулировать рост. Она писала свои правила конфиденциальности таким образом, что сбивала с толку пользователей, которые хотели сделать свои профили более приватными. И она работала над созданием инструментов цензуры в рамках своих усилий по получению доступа в Китай. Все это было отвратительно, и Facebook делала это сознательно. Меморандум Босворта не был мысленным экспериментом. Это был кодекс, по которому жила компания.

-

Не все функции продуктов Facebook были скопированы у других. В 2006 году в патентное бюро США поступила заявка на "автоматически генерируемый дисплей, содержащий релевантную для пользователя информацию о другом пользователе социальной сети". Вместо того чтобы заставлять людей искать интересующие их элементы в "разрозненном и неорганизованном" контенте, система будет стремиться генерировать список "релевантной" информации в "предпочтительном порядке".

В качестве авторов были указаны "Цукерберг и др.", а продуктом была лента новостей.

Идея показывать пользователям потоки активности была не совсем новой - сайт обмена фотографиями Flickr и другие пользователи уже экспериментировали с ней, но изменения были масштабными. Раньше пользователи Facebook взаимодействовали с сайтом в основном с помощью уведомлений, пинков или просмотра профилей друзей. С запуском ленты новостей пользователи получили постоянно обновляющийся поток постов и изменений статуса.

Это изменение стало шоком для 10 миллионов пользователей Facebook, которые не оценили, что за их действиями следят, а их некогда стабильные профили проверяют на наличие нового контента. В ответ на многочисленные жалобы Цукерберг написал пост, в котором заверил пользователей: "Ничто из того, что вы делаете, не транслируется; скорее, этим делятся люди, которым небезразлично, что вы делаете, - ваши друзья". Он озаглавил его: "Успокойтесь. Дышите. Мы вас слышим".

Выслушать жалобы пользователей было не то же самое, что прислушаться к ним. Как позже отметил Крис Кокс на одном из пресс-мероприятий, "Лента новостей" мгновенно добилась успеха в повышении активности на платформе и установлении контактов между пользователями. Вовлеченность быстро удвоилась, и уже через две недели после запуска более миллиона пользователей впервые связали себя единым интересом. Причина, объединившая стольких людей? Петиция, направленная на искоренение "сталкерской" ленты новостей.

Непрозрачная система, против которой восставали пользователи, была, оглядываясь назад, удивительно простой. Контент в основном появлялся в обратном хронологическом порядке, а ручная настройка позволяла людям видеть как популярные посты, так и разнообразные материалы. "Вначале ранжирование ленты новостей сводилось к повороту ручек, - говорит Кокс.

Некоторое время возиться с циферками было достаточно хорошо, но списки друзей росли, а Facebook внедрял новые функции, такие как реклама, страницы и группы