- Лично я воспринимаю тот факт, что роботы учат людей не рисковать попусту, как веский аргумент в их пользу, - вступил в разговор Дональд. Но даже в Первом Законе содержится императив, направленный против бездействия. Робот не может пассивно стоять в стороне, когда человеку грозит опасность. Я должен действовать, чтобы помешать причинению вреда человеку.
Крэш с улыбкой посмотрел на робота.
- Ты хочешь сказать, что робот, окажись он перед подобным выбором, предпочел бы сбросить на Инферно комету? Лично _ты_ поступил бы так?
Воздев руки и отчаянно тряся головой из стороны в сторону, Дональд быстро заговорил:
- Ни в коем случае, Правитель! Я в буквальном смысле не способен принять такое решение. Я просто физически не смогу сделать этого, а подобная попытка оказалась бы для меня самоубийственной. То же относится не только ко мне, но и ко всем роботам с Тремя Законами.
- Почему?
- Первый Закон запрещает нам причинять человеку вред и бездействовать, когда ему грозит опасность. - Казалось, что слова начинают даваться Дональду все с большим трудом. Было видно, что ему трудно даже говорить об этом, пусть и чисто гипотетически. - В данном случае и действие, и бездействие могут как стать причиной угрозы для людей, так и устранить ее. Попытка разрешить такую сложную дилемму, от которой зависит жизнь столь большого числа людей, приведет к конфликту между Первым Законом и выз... вызовет неустранимые сбоибоибои в любббом позитронном мозгу-у-у-у...
Глаза Дональда потускнели, и руки безвольно упали вдоль тела.
- Все в порядке, Дональд, - ободряюще сказал Крэш, постаравшись, чтобы его голос звучал как можно тверже и убедительнее. Он пересек гостиную и, подойдя к роботу, положил руку на его покатое плечо. - Успокойся. Тебе не придется принимать такое решение. Я _приказываю_ тебе не думать об этом.
Бывали случаи, когда только прямой приказ со стороны хозяина мог вывести робота из подобного состояния.
На мгновение глаза робота почти совсем погасли, но тут же снова вспыхнули и засветились своей обычной яркостью. В течение нескольких секунд они смотрели в никуда, но затем переместили свой взгляд на Крэша и сфокусировались на нем.
- Спасибо... Спасибо, сэр. С моей стороны было неумно рассматривать данную проблему слишком пристально, пусть даже по вашему приказу.
Признавая свою вину, Крэш рассеянно кивнул. Он сам спросил робота, как бы тот поступил в подобной ситуации, а для Дональда такая просьба была равнозначна, приказу. Чувствительность и щепетильность роботов требовали проявлять в общении с ними огромную деликатность и осторожность. Иногда это безумно утомляло Крэша - до такой степени, что он был почти готов признать правоту поселенцев, поставивших роботов вне закона. Не исключено, что жизнь без них в какой-то степени была бы легче.
Взять, к примеру, теперешнюю ситуацию. Но если на роботов нельзя положиться в этом деле, то... Крэш снова повернулся к Дональду:
- Дональд, я приказываю тебе отключить всю свою аудиоаппаратуру. Стой в этом положении до тех пор, пока я или моя жена не махнем тебе рукой. Ты понял меня?
- Да, конечно, сэр. Отключаю аудиорецепторы.
- Хорошо, - сказал Правитель. Снова дурацкие предосторожности, но ничего не поделаешь. Теперь, по крайней мере, Дональд не сможет ни слушать, ни подслушивать. Теперь они с женой могут говорить, не опасаясь сказать в присутствии робота что-то неподходящее и снова спровоцировать в его мозгу кризис чертова Первого Закона.
Крэш повернулся к жене.
- Что там со Всепланетным контрольным центром роботехники? - спросил он. - Прежде чем принять какое-то решение, я хотел проконсультироваться с ним и со Всепланетным контрольным вычислительным центром.
- А что с ними такое? - недоуменно спросила "Фреда.
Два эти контрольных центра являлись сердцем всей деятельности по преобразованию климата. Перед тем как запустить какой-нибудь новый проект в этой сфере, эксперты этих центров тщательно просчитывали его и подвергали всестороннему анализу.
Поначалу планировалось построить единый контрольный центр, и существовало два проекта, из которых предстояло выбирать. Один предполагал создание вычислительного центра, какие существовали у поселенцев, на базе мощного, но не наделенного разумом компьютера. Второй проект предусматривал создание центра в духе колонистов - на базе гигантского позитронного мозга, подобного тому, которым оснащаются роботы, только в тысячи раз сильнее, и также подчиняющегося Трем Законам. По сути это должен был быть мозг гигантского робота, разве что без тела.
В итоге возникла практически неразрешимая дилемма: вверить судьбу планеты либо неразумной машине, либо мозгу робота, который, несомненно, будет избегать любых рискованных решений. Было бы вполне логичным ожидать, что мозг робота ни за что не пропустит важнейший для всей планеты проект, если его осуществление будет угрожать хотя бы одной человеческой жизни. Эксперты в области роботехники обещали, что ничего подобного не случится, но они не раз ошибались и раньше.
Правитель Грег погиб раньше, чем успел остановиться на каком-то одном из двух проектов, и одним из первых актов Альвара Крэша на посту правителя явился указ о строительстве их обоих. Оба центра должны работать параллельно и согласованно друг с другом, а если бы по тому или иному вопросу они не могли прийти к консенсусу, в качестве третейского судьи привлекался человек, который и принимал окончательное решение. Как показала практика, два эти центра приходили к взаимному согласию гораздо чаще, чем ожидалось первоначально. До сих пор людям приходилось вмешиваться в их работу лишь с полдюжины раз, да и то по довольно незначительным вопросам.
Огромная планетарная сеть всевозможных зондов, датчиков, мобильных подразделений, полевых исследователей - как людей, так и роботов обеспечивала оба центра непрерывным потоком информации, а из них, в свою очередь, шел обратный поток инструкций и команд - людям, роботам и автоматическим приборам, разбросанным по всей планете.
Два взаимосвязанных контрольных центра были единственными учреждениями на Инферно, способными управиться с такими гигантскими встречными потоками информации и указаний. Было совершенно очевидно, что план использовать комету для создания Полярного моря необходимо обязательно согласовать с двумя этими учреждениями, но Крэш не хотел рисковать рассудком позитронного мозга.
- Ты видела, что произошло с Дональдом, - обратился он к жене. - Как ты полагаешь, я не спалю мозг контрольного центра, если задам ему вопросы, на которые хочу получить ответы?
Фреда ободряюще улыбнулась.
- Контрольный центр, не способный рассматривать возможные опасности для планеты без угрозы для самого себя, лишен всякого смысла. Нам пришлось немало потрудиться, но все же мы установили особые... предохранители, что ли, которые защищают его от серьезных конфликтов, вызываемых Первым Законом.
- Хорошо. Хорошо... - немного рассеянно ответил Крэш. - Хотя бы одной заботой меньше. Хотя бы здесь не о чем тревожиться.
- Ты в этом уверен? - спросила Фреда. - А вот я сомневаюсь. Начала сомневаться, когда Лентралл спросил меня относительно имени Дональда и какое отношение оно имеет к Шекспиру.
- В чем ты начала сомневаться?
- Я была совершенно уверена, что персонажа Шекспира звали именно так. Я не испытывала никаких сомнений и даже не потрудилась перепроверить. Я была уверена в своей правоте и ошиблась.
- Мы все ошибаемся, - парировал Крэш.
- Да, бесспорно, - нетерпеливо отозвалась Фреда, - но дело в другом. То, о чем я упомянула, это мелкая ошибка, но она взялась из базы данных, которая считалась совершенно надежной. Кто знает, как давно в нее закралась эта ошибка и сколько в ней других? Сколько еще может быть вещей, в правильности которых мы совершенно уверены, а на самом деле ошибаемся?
В комнате воцарилось долгое и неловкое молчание.
- Мы никогда не сумеем ответить на эти вопросы, - сказал наконец Крэш. Немного подумав, он добавил: - Ты мыслишь как ученый, а я до последнего времени рассуждал как политик. Возможно, теперь пришло время думать как офицер полиции.
- Признаться, я не понимаю, каким образом полицейское мышление может помочь выйти из положения. - Фреда вздохнула.
- А вот каким. Когда я был полицейским, я всегда исходил из того, что я ничего _не знаю_ и ни в чем _не уверен_, - пояснил Крэш. - Принимаясь за каждое новое расследование, я понимал, что некая часть информации скрыта от меня и я никогда не смогу получить ее в полном объеме. Но действовать, несмотря на это, было необходимо. Надо было принимать решения. Нужно было брать факты, которые имелись в моем распоряжении, и пытаться достичь с их помощью максимальных результатов. - Он махнул Дональду. - Все в порядке, Дональд. Теперь можешь слушать.
- Благодарю вас, сэр, - ответил робот.
Крэш улыбнулся роботу, постоял пару секунд и вышел на середину комнаты. Он перевел взгляд с Дональда на Фреду, а потом посмотрел в окно, за которым по-прежнему бушевала гроза и ничего не было видно.
- К тому времени, когда я узнаю все, что мне необходимо знать для принятия решений, что-либо решать будет уже поздно. Поэтому мы будем действовать, исходя из того, что мы будем перенацеливать комету Грега на Инферно. Все приготовления будут производиться, как если бы такое решение принято и мы действительно собираемся это сделать.
- То есть мы будем притворяться? - спросила Фреда.
- В большей или меньшей степени. Это позволит нам выиграть время. Я хочу принять окончательное решение, когда наступит время изменить курс кометы.
- Опасный ход, - проговорила женщина. - Потратить столько времени, усилий, денег, чтобы в последний момент дать задний ход...
- Да, не лучший выход из положения, - согласился Правитель, - но это хотя бы позволит нам получше определиться. А ты? Можешь ли ты предложить что-нибудь другое?
- Нет, - искренне призналась Фреда, - не могу.
- Тогда поступим так, как предложил я.
- Работы нам предстоит непочатый край, - задумчиво проговорила Фреда. Детально разработать план перехвата кометы в открытом космосе и изменения ее траектории, исследование района, в котором произойдет столкновение, эвакуация людей и оборудования, проведение экстренных мер по защите городов, создание запасов провизии и...