Джон Маркофф - Homo Roboticus? Люди и машины в поисках взаимопонимания

Джон Маркофф

Homo Roboticus? Люди и машины в поисках взаимопонимания

Переводчики Вячеслав Ионов, Сергей Махарадзе

Редактор Вячеслав Ионов

Руководитель проекта И. Серёгина

Корректор С. Чупахина

Компьютерная верстка А. Фоминов

Дизайнер обложки Ю. Буга

Иллюстрация на обложке ShutterStock

© John Markoff, 2015

All rights reserved.

© Издание на русском языке, перевод, оформление. ООО «Альпина нон-фикшн», 2017

Все права защищены. Произведение предназначено исключительно для частного использования. Никакая часть электронного экземпляра данной книги не может быть воспроизведена в какой бы то ни было форме и какими бы то ни было средствами, включая размещение в сети Интернет и в корпоративных сетях, для публичного или коллективного использования без письменного разрешения владельца авторских прав. За нарушение авторских прав законодательством предусмотрена выплата компенсации правообладателя в размере до 5 млн. рублей (ст. 49 ЗОАП), а также уголовная ответственность в виде лишения свободы на срок до 6 лет (ст. 146 УК РФ).

Политехнический музей – национальный музей науки и техники, один из крупнейших научно-технических музеев мира. Миссия музея – просвещение и популяризация научных и технических знаний:

• Мы верим, что миром движут любопытство и созидание.

• Мы открываем людям прошлое, настоящее и будущее науки.

• Мы создаем территорию просвещения, свободной мысли и смелого эксперимента.

Среди просветительских проектов музея – многочисленные выставки, знаменитый Лекторий, Научные лаборатории для детей, Фестиваль актуального научного кино, а также Издательская программа, цель которой – поддержка самых качественных научно-популярных книг, отобранных экспертами музея и выпущенных в сотрудничестве с лучшими издательствами страны.

Вы держите в руках одну из этих книг.

Подробнее о музее и его проектах – на сайте www.polymus.ru

Мне нравится мечтать

о кибербудущем,

где мы, свободные от трудов,

вернемся к матушке-природе

и нашим братьям меньшим

и за всеми нами будут присматривать

машины благодати и любви.

Предисловие

Как-то весной 2014 г. я припарковался у небольшого кафе возле поля для гольфа в Стэнфорде. Рядом остановилась Tesla, и женщина, сидевшая за рулем, достала сумку для клюшек. Потом она повернулась и пошла к полю для гольфа, а сумка последовала за ней – сама. Я был поражен, но запрос «роботы – сумки для клюшек» в Google показал, что в таком помощнике нет ничего необычного. Робот – сумка для клюшек CaddyTrek стоимостью $1795 – всего лишь один из множества предметов роскоши, которые можно увидеть в наше время на поле для гольфа в Кремниевой долине.

Роботы все прочнее входят в нашу повседневную жизнь. Дешевые датчики, мощные компьютеры, программы искусственного интеллекта делают их все более самостоятельными. Они помогают нам, они заменяют нас. Они преобразуют здравоохранение и уход за пожилыми точно так же, как это произошло с характером боевых действий. Вместе с тем, хотя роботы не один десяток лет фигурируют в литературе и кинематографе, мы не готовы к появлению нового мира.

Идея этой книги зародилась в 1999–2001 гг., когда я брал интервью, превратившиеся в конце концов в книгу «Что сказал Соня: Как контркультура шестидесятых сформировала индустрию персональных компьютеров» (What the Dormouse Said: How the Sixties Counterculture Shaped the Personal Computer Industry). Мое первоначальное исследование походило на упражнение по изложению «автобиографии в обратном порядке». Я рос в Пало-Альто – городе, который стал впоследствии сердцем Кремниевой долины – в 1950-х гг. и первой половине 1960-х гг., но уехал в решающее десятилетие, когда соединение компьютерных и коммуникационных технологий заложило фундамент индустрии персональных компьютеров и современного интернета. Вернулся я в момент зарождения компьютерной эры, которая вскоре захватила мир, преобразуя все, что она затрагивала. Годы спустя, собирая материалы для «Сони», я обратил внимание на поразительное расхождение намерений разработчиков первых интерактивных компьютерных систем. В начале века информации будущее компьютерной индустрии находилось в руках двух независимых исследователей. Их лаборатории располагались примерно на одном расстоянии от кампуса Стэнфордского университета. В 1964 г. математик и специалист по информатике Джон Маккарти, придумавший термин «искусственный интеллект», начал разрабатывать технологии для воссоздания человеческих способностей. Он полагал, что этот проект можно завершить всего лишь за десятилетие. В это же время по другую сторону от кампуса Дуглас Энгельбарт, мечтавший усовершенствовать мир, считал, что компьютеры следует использовать для «усиления» или расширения способностей человека, а не для его копирования или замены. Он занялся созданием системы, которая позволяла бы небольшим группам работников умственного труда быстро увеличивать интеллектуальные возможности и трудиться совместно. Если один исследователь пытался заменить человека умными машинами, то другой стремился расширить возможности человека. Конечно, в целом такое расхождение характеризуется и двойственностью, и парадоксальностью. Парадокс заключается в том, что технологии, которые расширяют интеллектуальные возможности человека, могут и заменять его.

В этой книге я попытался показать подходы ученых, инженеров и программистов к решению вопросов углубления взаимосвязи человека и машины. Иногда разработчики стараются не задумываться о парадоксальности связи между искусственным интеллектом и усилением интеллекта. Нередко все сводится к экономическим аспектам. Сейчас быстро растет спрос на роботов с возможностями, значительно превосходящими возможности промышленных роботов прошедшего полувека. Даже в таких уже в высокой степени автоматизированных отраслях, как сельское хозяйство, новое поколение сельскохозяйственных роботов управляет тракторами и уборочными машинами, занимается орошением, уничтожением сорняков, ведет наблюдение с воздуха и в целом увеличивает продуктивность ферм.

Немало случаев, когда ученые всерьез задумываются об этом парадоксе, и многие из них решительно встают на сторону Энгельбарта. Например, исследователь из компании Microsoft Эрик Хорвиц, доктор медицины и в прошлом президент Ассоциации развития искусственного интеллекта, который не один десяток лет работает над системами для расширения возможностей человека при работе в офисе. Он создал роботов с функциями секретарей, выполняющих такие задачи, как отслеживание календарных графиков, встреча посетителей и контроль соблюдения режима работы. Он создает машины, которые одновременно расширяют возможности человека и заменяют его.

Другие, подобно уроженцу Германии Себастьяну Труну, исследователю искусственного интеллекта и специалисту в области робототехники (а также соучредителю компании дистанционного образования Udacity), выстраивают мир, наполненный автономными машинами. Как основатель проекта Google car, Трун возглавлял разработку технологии беспилотного транспорта, который когда-нибудь заменит миллионы водителей. В обоснование необходимости таких нововведений он указывает, сколько жизней будет спасено и как снизится травматизм.

Центральная тема этой книги – двойственность и парадоксальность, присущие деятельности разработчиков, которые то расширяют возможности человека, то заменяют людей с помощью создаваемых систем. Нагляднее всего это проявляется в контрастирующих философиях Энди Рубина и Тома Грубера. Рубин был первым архитектором империи роботов Google, а Грубер – ключевой разработчик Siri, интеллектуального помощника Apple. Оба они входят в число самых ярких представителей Кремниевой долины, и их проекты основываются на работе предшественников: Рубин – отражение Джона Маккарти – стремится к замене людей, а Грубер – последователь Дуга Энгельбарта, старающийся расширить возможности человека.

Сегодня и робототехника, и программы для искусственного интеллекта все более и более вызывают воспоминания о начале эры персональных компьютеров. Как и увлеченные своим делом люди, создавшие в свое время индустрию персональных компьютеров, разработчики искусственного интеллекта и робототехники одержимы техническим прогрессом, новыми продуктами и передовыми компаниями. Вместе с тем многие из разработчиков программного обеспечения и инженеров-робототехников чувствуют себя неловко, когда встает вопрос о потенциальных последствиях их изобретений, и нередко просто отшучиваются. Этот вопрос, однако, очень важен. Не существует «слепого часовщика»[1], определяющего эволюцию машин. Куда мы пойдем – в сторону расширения возможностей человека или замены его автоматами – зависит от решений конкретных разработчиков.