Сломанный код. Внутри Facebook и борьба за раскрытие его вредных секретов - Джефф Хорвиц Страница 28

Аллен был уверен, что это проблема, но его начальство поставило эту оценку под сомнение. Если пользователи хотели найти именно те виды местных предприятий, о которых говорил Аллен, то почему эти поисковые запросы не отображались в пользовательских данных компании? По мнению Аллена, налицо был явный подвох. Результаты локального поиска Facebook были отстойными, и они не улучшатся, пока у компании не будет поведенческих данных для их улучшения. Но пользователи не генерировали эти данные, потому что результаты локального поиска Facebook были отстойными.

Решить проблему было бы сложно при любых обстоятельствах, но с учетом скептицизма вышестоящего руководства это было невозможно. Аллен натолкнулся на слепое пятно Facebook - на глубокую уверенность компании в том, что горы поведенческих данных показывают, чего хотят пользователи от ее платформы, а не просто их реакцию на ограниченный выбор, который им предоставлялся.

К 2018 году Аллену стало скучно, и он перешел в команду Facebook по ранжированию страниц. Предполагалось, что он не будет заниматься честностью как таковой, но Аллен сразу увидел проблему: самыми успешными издателями политического контента в Facebook были иностранные контент-фермы, размещавшие абсолютный мусор, по сравнению с которым старый SEO-шник About.com выглядел так, будто ему место в New Yorker.

Аллен был не первым сотрудником, заметившим проблему качества. Эти страницы были порождением издателей фальшивых новостей, с которыми Facebook боролся после выборов 2016 года. В то время как проверки фактов и другие меры по борьбе с ними значительно затруднили распространение откровенных мистификаций, издатели перегруппировались. Некоторые из тех, о ком BuzzFeed писал в 2016 году, - подростки из небольшого македонского горного городка Велес - снова были в игре. Как дети из страны с ВВП на душу населения в 5800 долларов манипулировали системой распространения новостей Facebook?

У Аллена был готовый ответ на этот вопрос. Ему не нужно было садиться на рейс, чтобы точно знать, кто сидит за компьютерами: славянин Джефф Аллен школьного возраста.

Все выстроилось в ряд. Двумя десятилетиями ранее Yahoo и ей подобные не смогли понять, как такие отщепенцы, как Аллен, методом проб и ошибок доберутся до приблизительного понимания алгоритмов, а затем используют эти знания, чтобы сломать их ради прибыли. Поисковые системы так и не смогли оправиться.

Facebook совершила ту же ошибку, недооценив угрозу со стороны нигилистически настроенных, но технически подкованных подростков вдали от Кремниевой долины. Аллен почти восхищался ими.

"Когда я увидел фермы троллей, я не стал их винить", - говорит Аллен. "Я сказал: "Да, братцы, зарабатывайте! Если бы мне было семнадцать, я бы был с вами на все 100 процентов". "

Но Аллену уже не было семнадцати. У него был более развитый моральный компас. И, при всем уважении к закону об авторском праве, вред от коммерциализации социальной и политической дезинформации в массовом масштабе был гораздо больше, чем от того, что он разозлил юристов Nintendo.

Опыт Аллена подсказывал ему, что дальше будет только хуже. Людям вроде него потребовалось время, чтобы понять, как играть с поисковыми системами, но как только секреты были раскрыты, эти знания распространились как вирус. Не нужно было быть элитным кибернетическим оперативником или вундеркиндом в социальных сетях. Как только коды были взломаны, любой мог их скопировать.

К тому времени, когда Аллен перешел в команду Pages Facebook, сотрудники, занимавшиеся рейтингом ленты новостей и расследовавшие российскую пропаганду после выборов, определили частую тактику ее роста: реклама.

Рекламная система Facebook позволяла компаниям выбирать, чего они хотят добиться. Coca-Cola может хотеть, чтобы ее бренд увидела огромная аудитория, и не более того. Группа может захотеть, чтобы пользователи посещали ее сайт и подписывались на электронные письма о предстоящих концертах. Компания по производству матрасов может захотеть заплатить Facebook только за внимание пользователей, которые в итоге совершили покупку. Чтобы помочь компаниям достичь этих разных целей, Facebook позволил рекламодателям выбирать, за что они будут платить: за показы, за клики или за подтвержденные продажи.

Кроме того, существовала реклама Page Like - та, которую русские использовали с большим успехом. Их инвестиции в размере 100 000 долларов, приобретенные так называемым Агентством интернет-исследований, позволили им развивать свои страницы такими темпами, с которыми органический рост никогда не смог бы сравниться. "ИРА использовало Facebook так, как оно и должно было использоваться", - вспоминает один из сотрудников Facebook, занимавшийся послевыборной экспертизой. Покупка рекламы решила проблему "холодного старта", дав русским начальную аудиторию, которую они могли взрастить до гигантских размеров.

Объявления типа "Страница" вряд ли были краеугольным камнем бизнеса Facebook - на них приходился ничтожный процент выручки компании. Но они стали основополагающим инструментом для запуска не только российского вмешательства в выборы, но и бесчисленных других схем манипулирования.

Так почему бы, задался вопросом Аллен, не перестать продавать бензин поджигателям?

Его команда попыталась сделать это годом ранее, предложив либо ограничить показ рекламы, либо полностью отказаться от нее. Предсказуемо, что против этой идеи выступили две основные группы - команда, которой платили за продажу рекламы, и команда, которой платили за то, чтобы страницы росли. Идея так и не получила серьезного рассмотрения и к моменту прихода Аллена в команду в 2018 году была снята с рассмотрения.

Аллен достиг того, что стало ритуалом перехода для добросовестных сотрудников: осознания того, что под давлением бизнеса самое простое и прямое решение проблемы оказалось не у дел. Некоторые из его более искренних коллег с трудом преодолевали это деморализующее препятствие, но вся карьера Аллена была построена на поиске путей обхода созданных ограничений. Не имея возможности атаковать недобросовестные страницы на ранних стадиях роста, он начал изучать другие способы, с помощью которых они обыгрывали Facebook.

Аллену нужно было учиться у мастеров - издателей, которые ничего не знали об американской аудитории, ничего не тратили на контент и тем не менее преуспели на Facebook. Другими словами, ему нужно было учиться у македонцев.

Просматривая страницы ферм троллей, он заметил, что их посты обычно становятся вирусными. Это было странно. Конкуренция за место в ленте новостей пользователей означала, что большинство страниц не могли надежно донести свои сообщения даже до тех людей, которые сознательно решили за ними следить. Но с помощью репостов и алгоритмов "Ленты новостей" македонские тролль-фермы регулярно