Но, казалось, Деннетт сомневается, смогут ли даже суперумные машины полностью понять сами себя.
Пытаясь понять себя, машинам придется стать еще более сложными. Они будут все сложнее и сложнее и таким образом будут вечно бегать за собственным хвостом.
Весной 1994 года я стал свидетелем удивительного столкновения философских и научных взглядов на мир на конференции под названием «К научной основе сознания», проводившейся в Университете Аризоны[127]. В первый день австралийский философ Дэвид Чалмерс (David Chalmers) , длинноволосый, поразительно похожий на образ с известного полотна Томаса Гейнсборо «Голубой мальчик», представил мистическую точку зрения убедительными доказательствами. Изучение нейронов, объявил он, не может открыть, почему удары звуковых волн о наши уши порождают наш субъективный опыт Пятой симфонии Бетховена. Все физические теории, сказал Чалмерс, описывают только функции — такие как память, внимание, намерение, самоанализ, — относящиеся к специфическому процессу в мозгу. Но ни одна из этих теорий не может объяснить, почему эти функции сопровождаются субъективным опытом. В конце концов, конечно, можно представить мир андроидов, которые во всех отношениях напоминают людей — кроме того, что у них нет сознательного опыта мира. По Чалмерсу, независимо от того, сколько они узнают о мозге, неврологи не смогут перекинуть мост через «объяснительный проем» между физическим и субъективным космами при помощи чисто физической теории.
До этого момента Чалмерс выражал основную мистическую точку зрения, ту, что ассоциируется с Томасом Нагелем и Колином Мак-Джинном. Но затем Чалмерс провозгласил, что хотя наука не может решить проблему разум — тело, философия еще может. Чалмерс думал, что нашел возможное решение: ученым следует предположить, что информация — это такое же необходимое свойство реальности, как материя и энергия. Теория Чалмерса похожа на концепцию «это из частицы» Джона Уилера. Фактически Чалмерс признавал свой долг перед Уилером — и страдал тем же фатальным недостатком. Концепция информации не имеет смысла, пока нет информационного процессора — будь то амеба или физик, занимающийся физикой частиц, — который собирает информацию и действует в соответствии с ней. Материя и энергия присутствовали при начале создания, а жизнь нет, насколько нам известно. Тогда как информация может быть такой же фундаментальной, как материя и энергия? Тем не менее идеи Чалмерса затронули аудиторию. После выступления слушатели окружили его, говоря, какое удовольствие они получили[128].
Но один человек был недоволен: Кристоф Кох, соратник Фрэнсиса Крика. В тот вечер Кох, высокий, длинноногий мужчина в красных ковбойских сапогах, нашел Чалмерса во время коктейля, организованного для участников конференции, и подверг его суровой критике за выступление. Именно потому, что философские подходы к сознанию все провалились, ученые и должны сфокусироваться на мозге, объявил Кох своим строчащим как пулемет голосом с немецким акцентом, когда собрались любопытствующие. Основанная на информации теория сознания Чалмерса, продолжал Кох, как и все философские идеи, не может быть протестирована, а поэтому является бесполезной.
— Почему вы просто не скажете, что, когда у вас есть мозг, Святой Дух нисходит и делает вас сознательным! — воскликнул Кох.
Такая теория была бы излишне сложной, сухо ответил Чалмерс, и не соответствовала бы его собственному субъективному опыту.
— Но откуда я могу знать, что у вас такой же субъективный опыт, как и у меня? — выпалил Кох. — Откуда мне знать, что у вас вообще есть сознание?
Кох поднял приводящую в смущение проблему солипсизма, которая лежит в основе мистической позиции. Ни один человек на самом деле не знает, что любое другое существо, человеческое или нечеловеческое, имеет субъективный опыт мира. Упомянув эту древнюю философскую мысль, Кох, как и Деннетт, показал себя мистиком. Кох признался мне в этом позднее. Все, что может сделать наука, утверждал он, это обеспечить детальную карту физических процессов, совместимых с различными субъективными состояниями. Но наука не может на самом деле решить проблему разум — тело. Никакая эмпирическая, то есть неврологическая, теория не может объяснить, почему ментальные функции сопровождаются специфическими субъективными состояниями.
— Я не вижу, как какая-то наука могла бы это объяснить, — сказал Кох.
По той же причине Кох сомневался, что наука когда-либо обеспечит определенный ответ на вопрос, смогут ли машины когда-нибудь стать сознательными и иметь субъективный опыт.
— Спор может никогда не быть разрешен, — сказал он мне, добавив некстати: — А откуда мне знать, есть ли у вас сознание?
Даже Фрэнсис Крик, хотя он был более оптимистичен, чем Кох, должен был признать, что решение этой проблемы не может быть понято сознанием интуитивно.
— Я не думаю, что ответ, который мы получим, когда поймем мозг, будет в рамках здравого смысла, — сказал Крик. — В конце концов, естественный отбор идет не в соответствии с каким-то логическим планом, а действует вслепую.
Далее Крик предположил, что тайны разума могут не открыться с такой готовностью, как тайны наследственности. Разум — это «гораздо более сложная система», чем геном, заметил он, и теории разума, вероятно, будут более ограниченны.
Держа ручку, Крик объяснил, что ученые должны быть способны определить, какая нервная активность соответствует моему восприятию ручки.
— Но если бы вы спросили: «Видите ли вы красное и синее так же, как я вижу красное и синее?», то это было бы тем, что вы не можете передать мне. Так что я не думаю, что мы сможем объяснить все, что мы видим и осознаем.
Только потому, что разум исходит из детерминистических процессов, продолжал Крик, не означает, что ученые смогут предсказать, куда он направится; это может быть хаотическим и, таким образом, непредсказуемым.
— В мозгу могут быть и другие ограничения. Кто знает? Я не думаю, что можно заглянуть слишком далеко вперед.
Крик сомневался, что квантовые феномены сыграли критическую роль в сознании, как предполагал Роджер Пенроуз. С другой стороны, добавил Крик, некий нервный эквивалент принципа неопределенности Гейзенберга может ограничить нашу способность проследить активность мозга в мельчайших деталях, а процессы, лежащие в основе сознания, могут быть такими же парадоксальными и трудными для нашего понимания, как квантовая механика.
— Помните, — сказал Крик, — наши мозги возникли, чтобы иметь дело с каждодневными делами, когда мы были охотниками и собирателями, а перед этим мы были обезьянами.
Да, это было заключение Колина Мак-Джинна, Хомского и Стента.
Самый оригинальный мистик из всех — это Марвин Минский (Marvin Minsky) . Минский был одним из основателей искусственного интеллекта; он утверждает, что мозг — это не что иное, как сложная машина, свойства которой могут быть скопированы компьютерами. Перед моей встречей с ним в Массачусетском технологическом институте коллеги предупредили меня, что он может быть капризным, даже враждебным. Если я не хочу, чтобы интервью было сорвано, не следует прямо спрашивать его о сокращении успехов в области создания искусственного интеллекта или его собственных частных теориях разума. Один его бывший соратник просил меня не обращать внимания на любовь Минского к оскорбительным высказываниям. «Спросите его, что именно он имеет в виду, и если он не повторит одно и то же три раза, то вам не следует это использовать», — убеждал меня бывший коллега Минского.
Когда я встретился с Минским, он был довольно раздраженным, но это состояние, казалось, было присуще ему постоянно. Он неустанно ерзал, моргал, подрыгивал ногой, передвигал вещи на своем столе. В отличие от многих известных ученых он создавал впечатление, будто рождает идеи из ничего, а не черпает их целиком из памяти. Довольно часто он язвил.
— Я тут болтаю о пустяках, — пробормотал он после быстрого выступления о том, как подтвердить модели разума. Его речь состояла из отдельных коротких предложений[129].
Даже его внешность была странноватой. Большая, круглая голова казалась полностью лысой, но на самом деле на уши и затылок спадали светлые и прозрачные, как оптическое волокно, волосы. Он был подпоясан плетеным ремнем, который не только поддерживал брюки, но еще и сумку, и небольшой футляр для кусачек с заменяемыми насадками. С животиком и слегка азиатскими чертами лица он напоминал Будду, реинкарнированного в гиперактивного хакера.
Казалось, что Минский не может или просто не хочет долго находиться в одном и том же эмоциональном состоянии. Вначале, как и предсказывали, он оправдал свою репутацию ворчуна и архиредукциониста. Он выразил презрение к тем, кто сомневался, что компьютеры могут обладать сознанием. Сознание — это тривиальный вопрос, сказал он.
— Я решил его, и я не понимаю, почему люди меня не слушают.
Сознание — это просто тип короткой памяти, «низкосортная система для ведения счетов». Компьютерные программы, такие как LISP, которые имеют свойства, помогающие восстановить их этапы обработки данных, «очень сознательны», более, чем люди с их жалко мелкими банками памяти.
Минский назвал Роджера Пенроуза трусом, который не может принять, что реальность в целом может быть объяснена законами физики, и поднял на смех гипотезу Джералда Эдельмана как теорию обратной связи. Минский пренебрежительно отозвался даже о Лаборатории искусственного интеллекта Массачусетского технологического института, которую сам основал и в которой мы с ним встречались.
— В настоящее время я не считаю ее серьезным исследовательским учреждением, — объявил он.
Однако когда мы бродили по лаборатории в поисках места проведения лекции об играющем в шахматы компьютере, произошла метаморфоза.
— Разве здесь не должна проводиться лекция о шахматах? — спросил Минский у группы исследователей, болтавших в комнате отдыха.
— Она была вчера, — ответил кто-то.
Задав несколько вопросов о лекции, Минский рассказал об истории играющих в шахматы программ. Минилекция превратилась в воспоминания о друге Минского Айзеке Азимове, который только что умер. Минский рассказал, как Азимов, введший в широкое употребление термин «робот» и исследовавший метафизические осложнения в своей научной фантастике, всегда отклонял приглашения Минского посмотреть на роботов, создаваемых в Массачусетском технологическом институте, из страха, что на его воображение «будет давить скучная реальность».
Один из исследователей, находившихся в комнате отдыха, заметив, что у него с Минским одинаковые кусачки, вынул свой инструмент из футляра и в мгновение ока поставил насадку на место.
— Защищайтесь! — воскликнул он.
Минский, улыбаясь, достал свое оружие. Он и тот, кто бросил ему вызов, несколько раз сделали выпады в сторону друг друга со своими кусачками, напоминая панков, практикующихся с выкидными ножами. Минский комментировал и разносторонность, и — важный для него момент — ограниченность кусачек: его собственные несколько раз зажали его во время маневров.
— А сами собой они могут разобраться? — спросил кто-то.
Минский и его коллега обменялись улыбкой понимающих друг друга людей при этой отсылке к фундаментальной проблеме роботехники.
Позднее, возвращаясь в кабинет Минского, мы встретили молодую кореянку на большом сроке беременности. Она писала диссертацию и должна была на следующей день сдавать устный экзамен.
— Нервничаете? — спросил Минский.
— Немного, — ответила она.
— Не следует, — сказал он и нежно приложился лбом к ее лбу, словно пытался передать ей часть своей силы.
Наблюдая за этой сценой, я понял, что существует несколько Минских.
Так оно и должно быть. Разнообразие является центральным во взгляде Минского на разум. В книге «Общество разума» (The Society of Mind, 1985) он утверждает, что мозг содержит много разных, высокоспециализированных структур, которые возникли, чтобы решать различные проблемы[130].
— У нас есть много видов обучающих машин, — объяснял он мне, — каждая из которых возникла для исправления технических недостатков или для адаптации других машин к проблемам мышления.
Поэтому маловероятно, что мозг может быть сведен к определенному набору принципов или аксиом, «потому что мы имеем дело с реальным миром вместо математического, который определяется аксиомами».
Если искусственный интеллект не оправдал ранние прогнозы, сказал Минский, то это произошло потому, что современные исследователи уступили «зависти физики» — желанию свести сложности мозга к простым формулам. Такие исследователи, к неудовольствию Минского, не смогли внять его посланию о том, что разум имеет множество разных методов, помогающих справляться даже с единичной, относительно простой проблемой. Например, кто-то, у кого сломался телевизор, вначале, вероятно, рассмотрит проблему как чисто физическую. Он проверит, та ли программа включена или вставлена ли вилка в розетку. Если это не сработает, человек может попытаться отдать телевизор в ремонт, таким образом превратив проблему из физической в социальную — как найти кого-то, кто может починить телевизор быстро и дешево.