Джон Маркофф - Homo Roboticus? Люди и машины в поисках взаимопонимания Страница 8

Пассажиры выбрались из машины, а Трун залез на крышу, чтобы выставить заново датчики, расположение которых сбилось из-за аварии. Затем все вновь забрались в Stanley, и Монтемерло удалил виновный в аварии блок программного кода, который должен был сделать путешествие более комфортным для пассажиров. Трун включил автопилот, и машина вновь направилась вглубь Аризонской пустыни. Были и другие происшествия. Контроллер системы искусственного интеллекта не учитывал последствия попадания в илистые лужи, и позже в тот же день Stanley застрял в одной из них посреди дороги. К счастью, неподалеку находилось несколько обычных автомобилей сопровождения, и, когда колеса беспилотника начали беспомощно вращаться, команда помощников вытолкнула его из вязкой жижи.

Но это были мелочи для команды Труна (нескольких преподавателей Стэнфордского университета, инженеров компании VW и студентов-программистов), которая состязалась более чем с десятком других команд за приз в несколько миллионов долларов. Этот день был самым неудачным, потом дела резко пошли в гору. Как ни крути, а соревнования DARPA оказались водоразделом между миром, где роботы рассматривались как игрушки или диковинки для исследователей, и миром, в котором люди начали допускать, что роботы могут действовать самостоятельно.

Тест-драйв Stanley был предвестником будущей технологии. В произведениях писателей-фантастов уже не одно десятилетие фигурирует машинный интеллект, но, когда технологии начали реально появляться, они показались разочаровывающими. В конце 1980-х гг. любой попавший на Центральный вокзал Нью-Йорка видел почти у трети утренних пассажиров наушники Sony Walkman. Сегодня, конечно, Walkman уступили место белым наушниками iPhone компании Apple, и некоторые считают, что технология «от-кутюр» неизбежно приведет к будущей версии Google Glass, первой попытке разработчика поисковой машины расширить реальность, или, может быть, к еще более амбициозным или создающим эффект присутствия системам. Подобно лягушке в кастрюле на плите, не замечающей повышения температуры, мы не видим изменений, вызываемых быстрым ростом возможностей и распространением информационных технологий.

Walkman, iPhone и Google Glass – все это прообразы мира, где граница между человеком и машиной начинает размываться. В книге Уильяма Гибсона «Нейромант» (Neuromancer), научно-фантастическом романе, популяризирующим идею киберпространства, нарисована картина новой кибернетической территории из компьютеров и сетей. В ней описано будущее, в котором компьютеры не отдельные ящики, а единая плотная ткань, которая все больше окутывает людей, «расширяя» их чувства.

От утренних пассажиров с наушниками Sony Walkman и пользователей iPhone, погрузившихся в персональное звуковое пространство, не так уж далеко до носящих Google Glass городских хипстеров, уткнувшихся в отображающие окружающий мир крохотные дисплеи. Они пока что не «включены в сеть», как предсказывал Гибсон, однако ясно, что компьютерные и коммуникационные технологии быстро движутся в этом направлении.

Гибсон одним из первых предложил научно-фантастический взгляд на то, что было названо «усилением интеллекта». Он описывал компьютеризованные элементы, названные им «майкрософтами» с маленькой буквы «м», которые можно вставлять в основание черепа человека, чтобы мгновенно добавлять ему какое-либо умение, например новый язык. В то время, несколько десятилетий назад, эта технология была всего лишь научной фантастикой. Сегодня его представление о киборгах уже не кажется таким экстравагантным.

В 2013 г. президент Обама раскрыл информацию об инициативе BRAIN – попытке одновременно записать активность одного миллиона нейронов человеческого мозга. Одним из основных спонсоров инициативы BRAIN является DARPA, а это агентство заинтересовано не только в чтении из мозга. Работающие над проектом BRAIN ученые терпеливо разъясняют, что одна из целей плана – создание двухстороннего интерфейса для мозга человека и компьютера. Внешне подобная идея кажется крайне зловещей, вызывая образы верховного Старшего Брата и контроля мыслей. В то же время это утопический подтекст, присущий технологии. Потенциальное будущее представляет собой неизбежную траекторию создания интерфейса взаимодействия человека с компьютером, подразумеваемого в манифесте Ликлайдера 1960 г. «Человеко-машинный симбиоз» (Man-Computer Symbiosis), где он предсказал более тесное взаимодействие людей и машин.

Если мир «Нейроманта» был прекрасной научной фантастикой, то реальное вхождение в изображенный Гибсоном мир представляется туманным. Появление киборгов ставит вопрос о том, что значит быть человеком. Сама по себе это не новая проблема. Хотя сегодня технологии развиваются быстрее, чем когда-либо, они трансформировали людей и прежде, еще во времена укрощения огня или изобретения колеса (и его использования для перевозок в XX в.). С начала индустриальной эры машины вытесняли физический труд человека. С появлением компьютеров и компьютерных сетей впервые машины вытесняют «интеллектуальный» труд. Изобретение компьютера с самого начала вызывало дебаты о последствиях создания обладающих интеллектом машин. Новая волна технологий искусственного интеллекта возродила споры с удвоенной силой.

Экономисты-традиционалисты утверждают, что со временем численность рабочей силы растет, несмотря на изменяющийся характер работы, обусловленный технологиями и инновациями. В XIX в. более половины работающих были заняты в сельскохозяйственном производстве. Сегодня их доля сократилась почти до 2 %, но в других сферах экономики количество работающих значительно выросло. В самом деле, несмотря на две рецессии, между 1990 и 2010 гг. общая численность занятых в Соединенных Штатах увеличилась на 21 %. Если эти экономисты правы, вследствие автоматизации в ближайшем будущем экономических катаклизмов на социальном уровне не будет.

Вместе с тем сейчас мы вступаем в эру, когда людей все легче включить в «контур управления» или исключить из него даже в высокооплачиваемых и статусных профессиональных областях. На одном конце спектра небольшие роботы могут заниматься погрузочно-разгрузочными работами, а на другом программные «роботы» могут заменять работников колл-центров и офисных клерков, а также видоизменять такие требующие высокой квалификации профессии, как врач-рентгенолог. Где в будущем будет проходить граница между человеком и машиной и кто проведет ее?

Несмотря на активизацию дискуссии о последствиях автоматизации следующего поколения, почти не слышно споров о разработчиках и их системе ценностей. Когда отвертеться не удается, специалисты по компьютерам, робототехнике и технологиям излагают противоречивые взгляды. Одни хотят заменить людей машинами, другие смиряются перед неизбежным (выражение «Что касается меня, я приветствую наших господ – насекомых», позднее «господ – роботов», было мемом, который получил популярность из-за сериала «Симпсоны»), а третьи столь же страстно хотят создавать машины, расширяющие возможности человека. Вопрос о том, появится ли настоящий искусственный интеллект (концепция, известная как сильный искусственный интеллект или универсальный искусственный интеллект) и смогут ли машины делать что-то большее, чем просто подражать людям, также обсуждается не одно десятилетие. Сегодня все громче раздаются голоса ученых и технологов, высказывающих новые опасения относительно возможности появления обладающих самосознанием машин. Дискуссии о текущем состоянии технологии искусственного интеллекта скатываются в царство научной фантастики, а то и религии. Однако автономия машин уже не философский или гипотетический вопрос. Мы достигли точки, когда машины способны выполнять множество функций человека, которые требуют и интеллекта, и силы: они могут работать на фабриках, водить автомобили, диагностировать болезни и понимать документы и совершенно определенно могут управлять оружием и убивать с беспощадной точностью.

Противостояние искусственный интеллект – усиление интеллекта нигде не проявляется более отчетливо, чем в новом поколении систем вооружений, уже появившемся на горизонте. Разработчики из DARPA близки к тому, чтобы пересечь новый технологический порог при замене нынешних крылатых ракет новой противокорабельной ракетой большого радиуса действия (LRASM). Она должна поступить в Военно-морские силы США в 2018 г. В отличие от предшественников, этот новый вид оружия способен автономно принимать решения о выборе цели. LRASM должна достигать противника без контакта с диспетчером, а затем самостоятельно принимать решение, какую цель поразить.

Возникает новая этическая дилемма – позволят ли люди этому оружию спускать крючок по своему усмотрению, без контроля со стороны человека? Вариант этой же проблемы присущ быстрой компьютеризации автомобиля. В самом деле, транспортная сфера в целом очень показательна с точки зрения последствий появления новой волны умных машин. Искусственный интеллект должен оказать более сильное воздействие на общество, чем персональные компьютеры и интернет в начале 1990-х гг. Символично, что направление этой трансформации определяет технологическая элита.