Искусственный интеллект – надежды и опасения - Джон Брокман Страница 2

«Мы должны перестать лобызать плетку, которой нас хлещут»

Через два года после выхода «Кибернетики», в 1950 году, Норберт Винер опубликовал работу «Человеческое применение человеческих существ», безусловно более философскую, в которой выразил свою обеспокоенность относительно безудержной коммерческой эксплуатации и других непредвиденных последствий новых технологий управления. Я не читал «Человеческое применение человеческих существ» до весны 2016 года, когда взял в руки экземпляр ее первого издания, стоявший в моей библиотеке рядом с «Кибернетикой». Меня откровенно шокировало осознание того, насколько прозорлив оказался Винер в 1950 году по поводу наших дней. Первое издание этой работы стало бестселлером – более того, положило начало широкому общественному обсуждению этих проблем, – но под давлением коллег Винер выпустил в 1954 году пересмотренное и «смягченное» издание, из которого исчезла заключительная глава «Голоса ригидности».

Историк науки Джордж Дайсон отмечает, что в давно забытом первом издании работы Винер предсказывал возможность «возникновения нового грозного фашизма, который будет опираться на machine a gouverner[3]»:

Ни одна элита не избежала его критики, от марксистов и иезуитов («весь католицизм по сути представляет собой тоталитарную религию») до ФБР («наши магнаты изучили пропагандистские техники русских и обнаружили, что это хорошо и полезно») и финансистов, которые стремятся «сделать американский капитализм и пятую свободу бизнесмена высшими ценностями во всем мире». Ученые… удостоились столь же пристального внимания и сравнения с церковью: «Действительно, руководители больших лабораторий очень схожи с епископами, обладают обширными связями с могущественными людьми во всех сферах жизни и, к сожалению, одержимы смертным грехом гордыни и жаждой власти.

Эта иеремиада[4] дорого обошлась Винеру. Как пишет Дайсон:

«Этот набат предпочли проигнорировать, и не потому, что Винер ошибался относительно цифровых вычислений, а потому, что период завершения рукописи осенью 1949 года совпал с появлением более серьезных угроз. Винер не имел ничего против цифровых вычислений, зато категорически выступал против ядерного оружия и отказался присоединиться к тем, кто создавал цифровые компьютеры ради конструирования в тысячу раз более мощной водородной бомбы».

Поскольку «Человеческое применение человеческих существ» уже давно не переиздавалось, мы остаемся в неведении по поводу винеровского cri de coeur[5], еще более актуального сегодня, чем шестьдесят восемь лет назад: «Мы должны перестать лобызать плетку, которой нас хлещут».

Разум, мышление, интеллект

Среди причин, по которым мы сегодня мало что слышим о «Кибернетике», выделяются две основные: во‐первых, хотя «Человеческое применение человеческих существ» в свое время считалось важной работой, оно противоречило чаяниям многих коллег Винера, в том числе Джона фон Неймана и Клода Шеннона, которые были заинтересованы в коммерциализации новых технологий. Во-вторых, пионер компьютерных исследований Джон Маккарти не одобрял взгляды Винера и отказывался использовать винеровский термин «кибернетика». Он придумал термин «искусственный интеллект» – и стал, скажем так, отцом-основателем этой области науки.

Как объяснил мне Джуда Перл, который в 1980-е годы разработал новый подход к искусственному интеллекту под названием «байесовская сеть»:

Винер на самом деле породил воодушевляющие надежды на то, что однажды мы сможем сконструировать разумную машину. Он не был специалистом по компьютерам. Он рассуждал об обратной связи, о коммуникации, об аналоговых механизмах. Рабочей метафорой была для него схема обратной связи, область, в которой он являлся экспертом. На заре цифровой эпохи, в начале 1960-х годов, люди желали обсуждать программирование, говорить о кодах, вычислительных функциях, кратковременной памяти и долговременной памяти – таковы были тогдашние значимые компьютерные метафоры. Винер не принадлежал к этому кругу идей, он оказался невостребованным новым поколением, несмотря то, что оно выросло на его идеях. Его метафоры были чересчур старомодными, слишком passe[6]. Между тем уже появились новые инструменты, способные захватить человеческое воображение. К 1970 году о Винере благополучно забыли.

Критически важным фактором, отсутствующим в картине мира по Винеру, был когнитивный элемент: разум, мышление, интеллект. Уже в 1942 году, на первом семинаре в ряду основополагающих междисциплинарных собраний, посвященных управлению сложными системами (впоследствии ставших известными как конференции Мэйси[7]), ведущие исследователи выступили за включение когнитивного элемента в дискуссию. Фон Неймана, Шеннона и Винера интересовали прежде всего системы управления и коммуникация наблюдаемых систем, а вот Уоррен Маккаллок[8] желал изучать разум. Он обратился к антропологам Грегори Бейтсону[9] и Маргарет Мид, стремясь наладить контакт с социальными науками и обеспечить обоснование с их стороны. В частности, Бейтсон активно изучал формы и процессы взаимодействия, «модели взаимосвязи». Он призывал к созданию системной экологии нового типа, где организмы и окружающая среда, в которой они живут, одинаковы и потому должны рассматриваться в совокупности, как единая модель. К началу 1970-х годов кибернетика наблюдаемых систем – кибернетика 1-го порядка – развилась в кибернетику систем наблюдения – кибернетику 2-го порядка, или «кибернетику кибернетики», как остроумно выразился Хайнц фон Ферстер[10], который присоединился к конференциям Мэйси в середине 1950-х годов и возглавил новое движение.

Кибернетика не исчезла, но трансформировалась, если угодно, во всё на свете, поэтому мы больше не считаем ее отдельной, самостоятельной дисциплиной. Таковой она остается по сей день, прячась, как говорится, на виду.

«О всяких штейнах»[11]

Лично меня, как автора статей о науке, привлекали в ту пору кибернетики 2-го порядка, включая Хайнца фон Ферстера, а также Джона Лилли и Алана Уоттса[12], которые выступили организаторами мероприятия под названием «Конференция АУМ» («Американский университет мастерства»), состоявшегося в Биг-Суре в 1973 году; философы, психологи и представители естественных наук собрались вместе, чтобы поделиться результатами собственных исследований с точки зрения их отношений к идеям британского математика Дж. Спенсера Брауна[13], изложенным в книге «Законы формы».

Я был слегка озадачен, когда получил приглашение участвовать в мероприятии – едва ли не в последний момент; как объяснили организаторы, они направили мне приглашение, ознакомившись с моей книгой под названием «Послесловия», где формулировались идеи, чрезвычайно близкие к их собственным. Я ухватился за эту возможность в первую очередь потому, что основным докладчиком конференции значился не кто иной, как Ричард Фейнман. Мне нравится общаться с физиками, поскольку они мыслят о Вселенной, то есть обо всем. Никакой другой физик не мог соперничать в ту пору в известности с Фейнманом. Я не мог дождаться встречи с ним и, разумеется, принял приглашение. Но следует помнить, что я не ученый и никогда не помышлял взойти на кафедру и выступить с какой-либо «лекцией», менее всего – с комментариями по запутанной математической теории, да еще перед группой, состоящей из передовых мировых мыслителей. Только по прибытии в Биг-Сур я узнал истинную причину моего запоздалого приглашения. «Когда выступает Фейнман?» – спросил я на регистрации. «О, – ответили мне, – разве Алан Уоттс вам не сказал? Ричард заболел,