Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 26

"Когда инженер говорит вам: "Мы займемся этим", вы должны понимать, что он лжет", - отметил бывший директор, работавший над изменением MSI.

Компания, разумеется, не говорила об этих опасениях публично. В доказательство альтруистических мотивов платформы Цукерберг, комментируя результаты четвертого квартала 2017 года, заявил, что Facebook будет придерживаться MSI, даже несмотря на то, что она обходится платформе в 50 миллионов часов использования в день.

Компания старалась представить внедрение MSI как общественное благо не только для внешнего потребления. Всякий раз, когда сотрудники на собрании задавались вопросом, не ставит ли Facebook во главу угла благополучие своей платформы, а не благополучие своих пользователей, руководители указывали на значимые социальные взаимодействия. Как можно обвинять компанию в безответственности, когда Цукерберг пожертвовал столькими пользователями на алтарь сближения людей?

Аргумент в основном сработал - за исключением сотрудников Integrity и круга инженеров, которые знали, что MSI была создана, чтобы решить проблему вовлеченности, которая считалась гораздо более серьезной, чем увеличение затраченного времени.

Facebook по-прежнему утверждала, что MSI - это действительно благо для мира, а не спешка, и этот аргумент, по их словам, был подкреплен нераскрытыми результатами исследований. Но позже исследования показали, что как способ сближения людей MSI оказался бесполезным. Пользователи сообщали, что они менее удовлетворены "Лентой новостей" и менее склонны утверждать, что Facebook показывает им сообщения от важных для них людей. Однако "бизнес-метрические показатели" - насколько они увеличили количество пользователей и комментариев - были высоки, и переработанная лента новостей дала примерно 0,17 % прироста ежедневных пользователей.

Прошел год, прежде чем сторонние наблюдатели начали понимать, что в Meaningful Social Interactions есть нечто большее, чем кажется на первый взгляд. Анализ, проведенный компанией NewsWhip, показал, что внедрение MSI превратило редко используемый эмодзи "angry" в индикатор успеха политического контента . Fox News, Breitbart и страница редактора Daily Wire Бена Шапиро лидировали по количеству "гневных" сообщений, пишет аналитическая фирма, а либеральная Daily Kos и страница сенатора Берни Сандерса в Facebook также собирали их в изобилии. Другими темами, которые, как показалось, превзошли все ожидания после сдвига, стали похищенные дети и аборты. Slate отметил, что самым популярным постом на платформе в начале 2019 года была новостная заметка из 119 слов с менее чем информативным названием "Suspected Human Trafficker, Child Predator May Be in Our Area".

Проведенное Facebook исследование влияния MSI лишь подтвердило эти выводы. По данным компании, клики получали те истории, которые вызывали "негативные настроения пользователей".

Конечно, это была не только вина MSI. Журналистика всегда процветала за счет конфликтов - "если кровь льется, то она и ведет", гласит старая журналистская поговорка. Не было причин ожидать, что в социальных сетях все будет иначе (в докладе NewsWhip, подготовленном до MSI, отмечалось, что истории о жестоком обращении с животными отлично расходятся в решеринге). Но стимулы на платформе кардинально изменились, и не только для издателей новостей.

Эффект был больше, чем просто провоцирование споров между друзьями и родственниками. Как позже сообщит коллегам исследователь Civic Integrity, внедрение MSI в Facebook, похоже, зашло так далеко, что изменило европейскую политику. "Вовлеченность в позитивные и политические посты сильно снизилась, в результате чего партии все больше полагаются на подстрекательские посты и прямые нападки на своих конкурентов", - написал социолог Facebook после опроса политических стратегов о том, как они используют платформу. В Польше партии описывают политический дискурс в Интернете как "социально-гражданскую войну". По оценкам руководства социальных сетей одной из партий, доля их постов изменилась с 50/50 позитивных/негативных до 80 % негативных и 20 % позитивных, что явно связано с изменением алгоритма. Крупные партии обвинили социальные сети в углублении политической поляризации, назвав ситуацию "неустойчивой".

То же самое можно сказать и о партиях в Испании. " Они поняли, что резкие нападки на своих оппонентов приносят наибольшую вовлеченность", - пишет исследователь. "С их точки зрения, они попали в ловушку неизбежного цикла негативной агитации, обусловленного структурой стимулов платформы".

Если Facebook и делал политику более боевой, то не все были этим расстроены. Экстремистские партии с гордостью сообщили исследователю, что они проводят "провокационные стратегии", в рамках которых они "создают конфликтное взаимодействие по вопросам, вызывающим разногласия, таким как иммиграция и национализм".

Чтобы конкурировать, умеренные партии не просто вели более конфронтационную политику. Они занимали и более экстремальные политические позиции. Это был вопрос выживания. "Хотя они признают, что вносят свой вклад в поляризацию, они чувствуют, что у них нет выбора, и просят о помощи", - пишет исследователь.

По словам представителей умеренных партий, Facebook может ослабить давление, оказываемое на пользователей, производящих взрывной контент, отменив изменения в рейтинге, или, по крайней мере, вернув страницы, ориентированные на политику, к старой системе.

Для исследователя это звучало и разумно, и насущно. Он сравнил MSI с подачей пользователям нездоровой пищи: "Ее краткосрочная ценность не стоит долгосрочных затрат. Поэтому мы должны уменьшить стимул для издателей вызывать возмущение у своей аудитории, поскольку это правильно как для нашей миссии, так и для нашего долгосрочного роста". Комментируя эти выводы несколько лет спустя, Facebook заявила, что не считает работу исследователя убедительной.

Более поздние исследования, проведенные в Азии, привели к аналогичному выводу о пагубном влиянии MSI, но ни первоначальная, ни последующие работы не вызвали немедленного расплаты, к которой призывал исследователь. Лишь много позже топ-менеджеры, такие как Гай Розен, ныне руководитель службы безопасности Facebook, внутренне признали, что, хотя распространение контента с целью максимизации MSI было "круто для кошачьих видео", оно было плохим показателем ценности более серьезных тем.

За некоторыми ранними идеями MSI стояли благие намерения, даже честное желание ответить на критику со стороны, что время, проведенное в Facebook, не было потрачено с пользой. Но фактическая метрика, которую создала компания, смешивала благо своих пользователей с бизнес-императивом. Благополучие, которое продвигала Facebook, было ее собственным.

Глава 6

Если Джефф Аллен интуитивно понимал троллей и оппортунистов, которые разлагали новостную ленту Facebook, то это потому, что он сам когда-то был таким наемником.

Аллен вырос в Олате (штат Канзас), элитном пригороде Канзас-Сити, в семье компьютерного инженера, работавшего в технологической среде "Силиконовой прерии" на Среднем Западе. Первый компьютер появился у него в возрасте семи лет. Аллену нравились компьютеры, но он предпочитал играть в видеоигры. Однако родители не так охотно субсидировали это занятие, ограничивая его возможности парой десятков картриджей Nintendo, которые он покупал на деньги, заработанные в качестве кассира в магазине Price Chopper. Он