Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 38

-

В то время как команда ARC смотрела на остальной мир, Джеймс Барнс смотрел ближе к дому. После общения с кампанией Трампа он полгода работал в команде Facebook Advocacy, созданной в начале 2017 года, чтобы "использовать Facebook, чтобы рассказать историю Facebook". Поскольку вопросы о роли Facebook в выборах 2016 года тяготили ее репутацию, компания собиралась заняться мягким лоббированием.

Барнса назначили ответственным за "борьбу с мемами", то есть за борьбу с распространением вирусных мистификаций о Facebook на Facebook. Нет, компания не собиралась предъявлять постоянные права на все ваши фотографии, если вы не перепостите пост, предупреждающий об угрозе. И нет, Цукерберг не собирался раздавать деньги тем, кто повторно поделится постом, в котором об этом говорится. Подавление этих цифровых писем счастья имело очевидную выгоду; они запятнали репутацию Facebook и не служили никакой цели.

К сожалению, ограничение распространения этого мусора через News Feed оказалось недостаточным, чтобы его уничтожить. Посты также распространялись через Messenger, во многом потому, что платформа обмена сообщениями побуждала получателей сообщений пересылать их своим друзьям.

Команда Advocacy, в которой работал Барнс, входила в подразделение роста Facebook, и Барнс знал человека, который курировал пересылку сообщений в Messenger. Вооружившись данными о том, что текущая функция переадресации наводняет платформу антифейсбуковским дерьмом, он договорился о встрече.

Коллега Барнса выслушал его, а затем высказал возражение.

"Это действительно помогает нам в достижении наших целей", - сказал мужчина о функции пересылки, которая позволяла пользователям пересылать сообщение списку своих друзей одним нажатием. Перед сотрудниками отдела роста Messenger была поставлена задача увеличить количество "отправлений", которые происходят каждый день. Они разработали функцию пересылки, чтобы стимулировать именно тот импульсивный обмен сообщениями, который команда Барнса пыталась остановить.

Барнс не столько проиграл спор о пересылке сообщений, сколько не смог его начать. В то время, когда компания пыталась контролировать ущерб, нанесенный ее репутации, она также была намеренно безразлична к тому, клевещут ли на нее ее собственные пользователи. Важным было то, что они делились своей клеветой через продукт Facebook.

"Цель сама по себе была священной вещью, которую нельзя подвергать сомнению", - говорит Барнс. "Они специально создали этот поток, чтобы максимизировать количество отправляемых людьми сообщений. Это была Ferrari, машина, созданная для одного: бесконечной прокрутки".

-

Через несколько месяцев Барнс покинул эту команду и перешел в тихую часть рекламного бизнеса компании, в то время как ФБР и другие различные правительственные структуры продолжали задавать ему вопросы о его работе в кампании Трампа.

После бурных событий последних нескольких лет Барнс поставил себе ультиматум: он должен работать над улучшением Facebook в преддверии промежуточных выборов 2018 года или уволиться. Уже будучи в дружеских отношениях с Чакрабарти, Барнс спросил, может ли он присоединиться к команде Civic в качестве первого менеджера по продуктам. Чакрабарти принял его в команду.

-

Одним из ранних проектов Барнса было изучение того, как предотвратить распространение гражданских мистификаций. Подавление ссылок на известные, проверенные факты было простым делом, но почему-то контрмеры не работали. Аналитик из команды Барнса выяснил, почему: они распространялись через пересылки в Messenger, как и мистификации в Facebook. Вирусная дезинформация не нуждалась в помощи рекомендаций Facebook, чтобы взорваться. Все, что требовалось от Facebook, - это снизить планку для распространения информации настолько, чтобы неопытные пользователи стали спамить своих друзей.

Барнс предпринял вторую попытку уничтожить пересылку сообщений, на этот раз во имя хорошо информированной общественности. Он и Чакрабарти связались с Site Integrity, командой инженеров, которая боролась с порноаккаунтами и поддельной рекламой Ray-Ban, и утверждали, что пересылка сообщений способствует распространению спама, а к этой проблеме Site Integrity относилась несерьезно (группа Workplace, посвященная борьбе со спамом, называлась "Убей его огнем").

Хотя Site Integrity не могла отменить функцию Messenger, у них были полномочия ограничить интенсивность ее использования, чтобы ограничить вред, который могут нанести активные распространители фальшивых новостей. Инженеры двух команд совместно написали код, протестировали его, чтобы доказать, что он сокращает количество спама, и затем отправили его.

С командой Messenger Growth намеренно не советовались. "Мы изменили их продукт, не сказав им об этом", - вспоминает Барнс, ухмыляясь.

Через несколько дней сотрудники Messenger Growth позвали Барнса и Каушика Айера, главу Civic Engineering и коллегу Самидха Чакрабарти, в конференц-зал. Они поняли, что сделала Civic, и это вредило их показателям использования. Они потребовали, чтобы Civic отменила ограничения на отправку сообщений.

Айер, обладающий мягким характером, сказал, что понимает обеспокоенность команды Messenger. Но Civic пришла к выводу, что беспрепятственная пересылка сообщений создает как проблему спама, так и угрозу демократическому процессу, поэтому, к сожалению, ограничение скорости останется в силе.

"Если вы хотите, чтобы Цук проанализировал ситуацию, я выкрою время в его календаре", - сказал Айер, который после восьми лет работы в команде Facebook Engineering мог с полным правом утверждать, что назначил генеральному директору короткую встречу для решения спора.

Это было не столько предложение, сколько вызов. Если бы сотрудники Messenger заставили провести встречу, им пришлось бы приводить аргументы в пользу разрешения сообщений, которые команда Site Integrity уже определила как спам, что означало бы признание того, что команда поощряла мусорные сообщения, чтобы играть с целевыми показателями использования.

Команда разработчиков Messenger Growth закрылась. Им пришлось искать другой способ увеличить количество отправлений.

Этот смелый маневр стал той историей, над которой инженеры Facebook по всей компании могли бы посмеяться за кружкой пива. Сведение работы постоянно растущего числа команд по разработке продуктов и инженеров к одному приложению гарантировало множество склок с нулевой суммой, и Айер только что обошел своих оппонентов. Отличительной особенностью этой версии истории было то, что в конфликтах с Growth обычно побеждала не команда Civic. Победа во многом была обусловлена поддержкой Site Integrity, но это все равно была победа.

Глава 8

Кэти Харбат из команды Politics and Government готовилась к промежуточным выборам 2018 года, и у нее было много дел. Ее команда по выборам едва избежала расформирования после 2016 года, и теперь она уже не оказывала прежней поддержки кампаниям, которые заслужили похвалу и вину за победу Трампа. Теперь, при штате в шестьдесят человек, она отвечала за разработку, разъяснение и устранение неполадок в правилах платформы для кампаний.

Харбат проводила все больше времени, общаясь с Civic. Она проявляла особый интерес к CORGI - системе, которую команда и Core Data Science создавали со второй половины 2017 года для выявления аккаунтов, работающих в тесной координации или управляемых централизованно.

В