Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 33

Со временем знаменитости и авторитеты стали уходить с платформы, как правило, в родственную компанию Instagram. "Я не думаю, что люди когда-либо соединяли точки", - говорит Боланд.

Глава 7

В условиях, когда Facebook все еще вовлечен в скандалы, даже когда промежуточные выборы 2018 года вступают в свои права, компания знала, что ей необходимо публично доказать, что она способна поддерживать порядок на своей платформе. Одним из компонентов этих усилий была демонстрация того, что компания может находить и уничтожать иностранные фермы троллей. Другой - демонстрация работы команды Civic Integrity.

Civic был, в некотором роде, странным выбором для демонстрации мастерства Facebook в защите выборов. В течение первых двух лет своего существования команда в основном фокусировалась на том, чтобы сделать Facebook лучше для демократии, а не на том, чтобы не дать платформе подорвать ее. Они создали такие вещи, как "значки избирателей", которые позволяли членам Конгресса видеть, является ли пользователь, общающийся с ними, жителем их округа. (Какова бы ни была польза для законодателей, значок изменил поведение пользователей. Комментарии, оставленные пользователями со значком, как правило, были более содержательными, а женщины, которые общались со своими представителями значительно реже, чем мужчины, неожиданно стали оставлять больше комментариев).

Самидх Чакрабарти, руководивший разработкой продукта, пришел в Facebook в 2015 году после работы в Google, где он руководил работой компании по предоставлению пользователям информации о голосовании, возможности регистрации и напоминаний об избирательных участках.

Чакрабарти с энтузиазмом смотрел на будущее демократии и интернета. После запуска значка избирателя он сказал репортерам и сотрудникам: "Меня всегда восхищало то, как интернет помогает гражданам иметь голос, как никогда раньше". Он сказал коллегам, что пришел в Facebook из-за приверженности компании как к работе с гражданским обществом , так и к самообразованию. Если Google не желала выходить за рамки регистрации избирателей и напоминания о том, что сегодня день выборов, то Facebook хотела показать, что ее "подталкивания" к голосованию оказывают статистически значимое влияние на явку, а затем найти новые способы продемонстрировать растущую роль компании в политике.

На этом фронте было много работы. Программу регистрации избирателей Facebook можно было усовершенствовать. Компания размышляла над возможными форматами проведения онлайн-омбудсменов и хотела создать больше функций для организации гражданского общества. В преддверии следующих выборов команда выпустила тщательно протестированную функцию "Предварительный просмотр бюллетеня", которая на 6 % повысила осведомленность избирателей о кампаниях и избирательных инициативах.

Чтобы направить работу, Чакрабарти и его команда составили список из шести принципов - неформальную "гражданскую клятву". Он гласил: "Будь бескорыстным, будь защитным, будь справедливым, будь представительным, будь конструктивным, будь сознательным". Эти призывы могли бы напомнить директивы из строительной бумаги, прикрепленные к стене в начальной школе, но даже в те оптимистичные дни они были сформулированы с некоторым укором.

"Быть бескорыстными" означало, что команда должна "в первую очередь служить интересам людей, а не интересам Facebook". "Быть конструктивными" означало, что команда должна развивать эмпатию и минимизировать остроту в общественной сфере. А "Быть сознательным" - это призыв документировать, как Facebook делает мир лучше и хуже.

Те, кто присоединялся к Civic, как правило, были либералами. Это не было демографически удивительным для компании в целом. От штаб-квартиры Facebook в Менло-Парке до ближайшего округа, проголосовавшего за Трампа, два часа езды, а федеральные отчеты о сборе средств показывают, что сотрудники компании отдают предпочтение демократам семь к одному. Но, скорее всего, перекос был еще больше среди тех, кого привлекала работа над темами, связанными с дезинформацией, иностранным вмешательством и политикой. Это было, безусловно, неловко, учитывая, что компания обязалась быть беспартийной. Команда состояла из либералов, которые были обязаны быть нейтральными.

На встречах каждые полгода Чакрабарти вручал награды, прозванные "Civvies", сотрудникам, чья работа служила примером самопровозглашенной миссии команды. Среди искренних ботаников от политики, привлеченных в команду, награды были в меру значимым событием, почти наравне с обзорами "Цикла подведения итогов работы", которые определяли премии сотрудников Facebook. За пределами команды это никого не волновало.

Хотя ценности Civic признавали возможность того, что Facebook может стать силой зла, в начале своей деятельности команда была сосредоточена на плюсах. Чтобы помочь людям более эффективно использовать платформу для политической активности, нужно было понять, как они ее уже используют, и в начале 2016 года несколько сотрудников начали изучать успешные страницы и группы активистов, чтобы понять, какой подход является выигрышным.

Результаты оказались не слишком приятными. Самые популярные американские политические группы на Facebook не были американскими, и они точно не были мотивированы страстью к демократии. Civic нашел македонцев задолго до того, как иностранные фермы троллей стали предметом общественного беспокойства.

В апреле 2016 года один из тех же сотрудников проделал еще одну работу, проанализировав наиболее успешные немецкие политические группы на платформе. Она обнаружила, что треть из них регулярно размещала контент расистского и конспирологического характера, а также, как ни странно, пророссийского. Это было плохо, но еще хуже было то, что рост этих групп в значительной степени зависел от предложений Facebook "Группы, в которые вам стоит вступить" и "Откройте для себя". И македонские страницы, и немецкие экстремистские группы были не только велики на платформе; своим ростом они были обязаны собственной механике Facebook.

"Шестьдесят четыре процента всех вступлений в экстремистские группы происходят благодаря нашим рекомендательным инструментам", - написала исследовательница в примечании к своим выводам. "Наши рекомендательные системы порождают проблему".

Подобные вещи не должны были волновать Civic. Команда существовала для того, чтобы поощрять гражданское участие, а не заниматься его охраной. Тем не менее, давний девиз компании гласил: "Ничто не является проблемой кого-то другого". Чакрабарти и команда исследователей передали результаты исследования в группу Protect and Care компании, которая занималась такими вопросами, как предотвращение самоубийств и издевательств, и на тот момент была ближе всего к команде Facebook, занимающейся общественными проблемами.

Организация Protect and Care сообщила Civic, что ничего не может сделать. Аккаунты , создававшие контент, были реальными людьми, а в Facebook намеренно не было правил, предписывающих правдивость, сбалансированность или добросовестность. Это была не чья-то проблема - это была ничья проблема.

Как только прошли выборы 2016 года и все эти вопросы вышли на поверхность, Чакрабарти назначил встречу с Коксом. Его небольшая команда вытряхнула пыль из своего исследования по македонцам и представила обновленную информацию, обнаружив, что за семь или