Охота на электроовец. Большая книга искусственного интеллекта - Сергей Сергеевич Марков Страница 4

a mind], от системы, которая «на самом деле» обладает разумом [can think and have a mind][16]. В современных работах понятия «сильный ИИ» и «гипотеза сильного ИИ» иногда используют в оригинальном, сёрлевском смысле, но ряд исследователей, к которым относится, например, уже упоминавшийся Реймонд Курцвейл, считают, что термин «сильный ИИ» описывает любую систему ИИ, которая действует так, как будто обладает разумом, вне зависимости от того, способны ли философы определить, «в самом ли деле» она им обладает[17].

Для того чтобы не допускать путаницы и разночтений, многие исследователи предпочитают использовать термин artificial general intelligence (общий/универсальный искусственный интеллект), обычно его употребляют в виде аббревиатуры — AGI.

Занятно, что впервые термин появился в работе Марка Губруда «Нанотехнологии и международная безопасность», посвящённой военным применениям технологий будущего. Автор даёт AGI следующее определение: «Под продвинутым универсальным ИИ я понимаю системы ИИ, способные соперничать с человеческим мозгом или превосходить его в сложности и скорости, которые способны получать общие сведения, манипулировать ими и выстраивать рассуждения и которые могут использоваться, по сути, в любой фазе индустриальных или военных операций, в которой был бы необходим человеческий интеллект. Эти системы могут быть основаны на моделировании человеческого мозга, но это не является необходимым требованием, они не должны также обязательно обладать „сознанием“ или любой другой компетенцией, не имеющей прямого отношения к их применению. Что важно, так это то, что эти системы могут быть использованы для замены человеческих мозгов в задачах, начиная от организации и запуска шахты или фабрики и заканчивая пилотированием самолёта, анализом разведданных или планированием боевых действий»[18]. Сейчас AGI определяют обычно несколько проще: «AGI — искусственный интеллект, способный успешно выполнить любую интеллектуальную задачу, посильную для человека»[19].

1.2 Тест Тьюринга, китайская комната Сёрля

В конце 30-х гг. прошлого века, ещё до того, как были созданы первые электронные вычислительные машины, вопросами потенциальной «разумности» машин стали задаваться люди, формально далёкие от компьютерных наук. Если нечто выглядит как кошка, мяукает как кошка, ведёт себя как кошка, в любом эксперименте проявляет себя как кошка, то, наверное, это кошка. Этот подход использовал Альфред Айер — английский философ-неопозитивист, представитель аналитической философии. В книге «Язык, истина и логика» (Language, Truth and Logic, 1936) он предложил алгоритм распознавания разумного человека и неразумной машины: «Единственным основанием, на котором я могу утверждать, что объект, который кажется разумным, на самом деле не разумное существо, а просто глупая машина, является то, что он не может пройти один из эмпирических тестов, согласно которым определяется наличие или отсутствие сознания»[20]. Впрочем, Айер, будучи философом, наверняка был в курсе остроумного замечания Дидро: «Если удастся найти попугая, способного ответить на любой вопрос, я не раздумывая признаю его разумным»[21].

Доподлинно неизвестно, был ли Алан Тьюринг знаком с трудами Айера или Дидро, но именно он вошёл в историю в качестве автора конкретной процедуры для определения способности машины мыслить. Сегодня она известна нам под названием «тест Тьюринга».

В работе «Вычислительные машины и разум» (1950) Тьюринг пишет:

Эта новая форма проблемы может быть описана с помощью игры, которую мы назовём «игрой в имитацию». В этой игре участвуют три человека: мужчина (A), женщина (В) и кто-нибудь, задающий вопросы (С), которым может быть лицо любого пола. Задающий вопросы отделён от двух других участников игры стенами комнаты, в которой он находится. Цель игры для задающего вопросы состоит в том, чтобы определить, кто из двух других участников игры является мужчиной (A), а кто — женщиной (В). Он знает их под обозначениями X и Y и в конце игры говорит либо: «X есть А, и Y есть В», либо: «X есть В, и Y есть А». Ему разрешается задавать вопросы такого, например, рода: С: «Попрошу X сообщить мне длину его (или её) волос». Допустим теперь, что в действительности X есть А. В таком случае А и должен давать ответ. Для А цель игры состоит в том, чтобы побудить С прийти к неверному заключению. Поэтому его ответ может быть, например, таким: «Мои волосы коротко острижены, а самые длинные пряди имеют около девяти дюймов в длину». Чтобы задающий вопросы не мог определить по голосу, кто из двух других участников игры мужчина, а кто — женщина, ответы на вопросы следовало бы давать в письменном виде или, ещё лучше, печатать на машинке. Идеальным случаем было бы телеграфное сообщение между комнатами, где находятся участники игры. Если же этого сделать нельзя, то ответы и вопросы может передавать какой-нибудь посредник. Цель игры для третьего игрока — женщины (В) — состоит в том, чтобы помочь задающему вопросы. Для неё, вероятно, лучшая стратегия — давать правдивые ответы. Она также может делать такие замечания, как: «Женщина — я, не слушайте его!», но этим она ничего не достигнет, так как мужчина тоже может делать подобные замечания. Поставим теперь вопрос: «Что произойдёт, если в этой игре вместо А будет участвовать машина?» Будет ли в этом случае задающий вопросы ошибаться столь же часто, как и в игре, где участниками являются только люди? Эти вопросы и заменят наш первоначальный вопрос «могут ли машины мыслить?»[22].

В некоторых источниках сообщается, что в основу процедуры, предложенной Тьюрингом, легла салонная «игра в имитацию», популярная в Викторианскую эпоху[23] и известная Тьюрингу с юности[24] (оставим здесь за скобками тот факт, что юность Тьюринга более чем на два десятилетия отстояла от Викторианской эпохи, — в конце концов, почему бы юношам в 1920-е не играть в некоторые викторианские игры?). В других источниках «игра в имитацию» упоминается просто как популярное времяпрепровождение на вечеринках[25]. Мне, однако, не удалось обнаружить ни одного упоминания подобной игры вне связи с тестом Тьюринга. Молодёжь Викторианской эпохи, конечно, знала толк в изощрённых забавах, иногда требовавших продемонстрировать искусство имитации. Например, при игре в «Придворные» (The Courtiers) один из гостей, выбранный королём или королевой, садился в центре комнаты, а остальные, исполнявшие роли придворных, должны были имитировать все его действия, сохраняя серьёзные лица. Если придворный улыбался или начинал смеяться, он выбывал из игры и должен был выполнить фант. Последний из гостей, продемонстрировавший наибольшую выдержку, становился новым монархом. Использование подобной процедуры в научных исследованиях, конечно, могло бы серьёзно разнообразить работу учёных, но, боюсь, надежд на это пока что немного.

Итак, Тьюринг предлагает игру