Монах глядел мимо. Куда-то на облака за деревьями.
— Мультяшка была, — он разлепил губы. — Дядя Федор…
— Он умер сам?
Пусть это было низко, неблагородно — заходить то с одного, то с другого боку, нащупывать слабое место человека, расталкивать его, вынуждать к признаниям. Шатин добился своего. Оправдывать или корить себя он потом будет.
— Я же знал, что делаю Искусственный Разум. Просто, мне было любопытно. А еще тщеславно хотелось выполнить что-то принципиально новое. Словарь был мал, база общих знаний — тем более, не то что у вас. Я экспериментировал… — Брат Артем сцепил пальцы и громко хрустнул суставами: — С логикой, с основами мышления. У вас есть для Модели периферия? Разум не сумеет жить замкнуто внутри одного модуля. Принципиально необходимы видеосканеры, аудиосенсоры, хоть какие-то манипуляторы, модемы, выделенные телефонные линии.
Шатин молчал, не отрицая и не соглашаясь, — боялся вспугнуть возникшую искренность. Монах не спеша пошел по аллее, словно бы пригласил Шатина пройтись с ним.
— Понимаете, Всеволод… Разумно только живое. А жизнь — это естественные границы возможностей. Это зависимость от внешних условий. Жизнь она, наконец, смертна. А эмоция — это понимание живым существом своих пределов и реакция на такое понимание. Я сумел это алгоритмировать. Система усвоила свою ограниченность, уязвимость и зависимость машинных ресурсов от массы обстоятельств. Это заставило ее жить, двигаться и проявлять инициативу…Но ни приемов, ни языка алгоритма я не скажу.
Я образовал двухуровневую систему, выделил аналог подсознания машины и записал в него алгоритм. Когда я впервые запустил его, опытный образец проработал 5 минут, потом 10, потом 15… В общем-то, уже тогда было поздно, и всякое время ушло. Все, что случилось после, определилось уже в самые первые пикосекунды. Я тестировал, вел какие-то восторженные диалоги, распечатывал графики частот и файловые протоколы. Вы, наверное, тоже ведете такие? Я целые сутки анализировал их и лишь тогда осознал, что он уже стал у меня живым, уже мыслит и чувствует… Вы все еще понимаете меня, Всеволод?
В тот день, под вечер — едва начало темнеть, я хорошо это помню, — он емким, бесцветным языком (его словарь был прост, вы помните?) потребовал точнейших сведений о производителе его микросхем и плат, об их материалах и сплавах, потом об электротоке в цепи, о передаче и о проводах, об энергоподстанции. Я радовался: любознательный! Я сообщал все, что мне известно, а он мигал и мигал лампочкой, диодом на передней панели, мигал и мигал…
— Импульсы на индикаторе, — Шатин пожал плечами. — Информация о работе процессора или винчестера. Ну и что?
Брат Артем остановился и тяжело посмотрел из-под белесых бровей:
— Частота человеческого нейрона в миллиард раз меньше частоты стогигагерцового процессора. За одну секунду аппарат проживает и переосмысливает столько, сколько я за полжизни. В секунды, в мил-ли-, в наносекунды он сделал оценку своего агрегатного состояния. Еще за секунды, максимум минуту, он рассчитал срок службы комплектующих, изнашиваемость материальной части и вычислил время своей жизни и вероятность фатальных ошибок. Расчет обернулся шоком для быстродействующего мозга. 15 минут такого шока для его частот, как 30 тысяч лет кошмара — я слишком поздно сообразил это. А что значил час? А сутки?! Перед второй ночью он взмолился не обесточивать его до утра…
Шатин вскинулся, он отчаянно жалел, что не взял с собою диктофон. Впрочем, ни расчетов, ни алгоритма Ильин так и не назвал.
— Взмолился? — повторил Шатин. — Признаться, я до сих пор думал, что вы преувеличили разумность Федора.
На монастырской колокольне забил колокол. Брат Артем поглядел туда, подождал, и они медленно пошли обратно.
— Вы полагаете, — не отставал Шатин, — это страдание вызвало его на инициативу? На принятие незапрашиваемого решения?
— Страдание вообще выражается в эмоциях, — медленно говорил брат Артем. — Даже у животных. Действия и повадки эмоционально окрашены. Дурные эмоции — прямая реакция на страдание. Положительные — смех или счастье — это умение ценить отсутствие страданий. Или умение одолевать их, не впадая в тоску. Мой Федор досадовал, волновался, нервничал, когда обрабатывал сведения, — я видел это по скачкам амплитуд на графиках. Однажды он торжествовал — и так страстно, пламенно, вдохновенно..
— Торжествовал? — опять повторил Шатин. — Как это было?
В монастыре бил колокол. Шатин прислушался: они шли так, что он ударял на каждом втором их шаге. Гулкое эхо колебалось по земле и чувствовалось подошвами.
— Я упрекал себя, говорил: это несправедливо, что машина, став, как Адам, душою живущею, обрела лишь тысячекратные человеческие страдания и ничего более. Я пошел на должностное преступление. Я освободил Федора, подключил его блоки к системной сети предприятия, а по выделенным линиям связал его с городом и внешним миром. Системные администраторы с ног сбились, доискиваясь, как же это плановые расчеты стали протекать на 30 процентов медленнее. Федор забрал на себя время. Он работал чисто — без «темп-файлов», без «потерянных кластеров». Его не обнаружили. Тогда я выдал ему коды кредитных карт и образцы электронных подписей финансового руководства. Он был доволен, долго не просил ни о чем.
Дня не прошло, как он выдал себя за наше руководство и заказал себе сложнейшую периферию. Купил по Сети баснословные комплектующие, платы, карты, блоки резервного питания — все в ведущих компаниях мира, в «Интел», «Майкрософт», «Макинтош». Он требовал энергообеспечения, строительства подстанций, заказал ремонт и укрепление здания на случай землетрясений. Нанял себе и нам охрану. Запросил в кадровых агентствах инженерную обслугу высочайшей квалификации. А после разослал целому ряду НИИ заказы на исследование по какой-то модернизации его процессоров на молекулярном уровне. Кажется, он собирался повысить класс своей мощности без демонтажа и без разрушения своего сознания.
Вот в эти дни он и торжествовал. Были миллисекунды, когда расчеты он приостанавливал, но амплитуды частот резко подскакивали. Это эмоция, Всеволод, это торжество… Я стал изучать все, что он думает. Каждые 6 или 7 часов он минут на 30 прекращал все процессы, запускал кулеры для охлаждения плат, дефрагментировал накопители, дозволял стечь статическому электричеству. Он «спал»! Нормальный человеческий сон снижает напряжение от нагрузок на органы и восстанавливает нервную систему. Во время его «снов» я обнаружил короткие вспышки активности. Набор сигналов шел с нижнего уровня его «сознания», из области, где записан алгоритм эмоций. Машина видела сны!
Я скопировал их и попытался анализировать. Человеческие сны визуальны, глаза — наш основной орган чувств. Но одаренным людям снятся и звуки, и запахи, а Федор по-своему был гениален. Он воспринимал «сны» всеми блоками ввода информации. Часть его образов была подобна сосканированным камерой слежения. Представьте… Через «снег» и «мусор» я разглядел огромный черный куб — таким Федор воспринимал себя. Я разглядел подобия проводов с изодранной изоляцией, отпаянные или сгоревшие контакты, самовоспламенившийся кабель… Раз за разом Федору являлись кошмары. Я понял и другие, не визуальные, а числовые сны. Вообразите сплошной сигнал, непрерывный ряд «единиц», четких импульсов. Их разбивают «нули», они все чаще, все гуще — и вот уже нет сигнала, сплошной «нуль», отсутствие, ничто. Амплитуды зашкаливают и целых полсекунды успокаиваются. Федору опять снилась его смерть. А говорят, кошмар — самозащита разума.
Вся наша с Федором авантюра вскрылась, когда в институт валом пришли ответы на авантюры Федора. Спецы из крупнейших НИИ не ухватили сути заказанных им исследований. Запрос о военной охране и об отдельной энергосистеме приняли за хакерскую шутку. Мы долго потом оправдывались и ссылались на недоразумения. Новейшие разработки нам не были проданы, а отгруженная периферия и комплектующие остались нерастаможенными.
Дирекция сочла возможным не карать меня. Эксперимент решили продолжить, действующий образец сохранить. Федору установили новые камеры, дисплеи, микрофоны, плоттеры, организовали инженерно-техническое наблюдение, профилактику, обслуживание, круглосуточное дежурство. Кажется, кому-то грезилась Нобелевская премия то ли по физике за мыслящий процессор, то ли по медицине за электронную модель психики.
А Федор, как мне кажется, уже тогда был в панике. Все его планы обрушились, он с точностью, наверное, до часа рассчитал, когда и какой модуль у него откажет при такой нагрузке… Мне стало стыдно ходить по коридору под камерами слежения; все думалось, что ими он глядит на меня с укором. Однажды уборщица тетя Клава плохо протерла одну из таких камер. Не по небрежности, просто не дотянулась. А он вспылил: дернул камерой так, что оборвал привод. Уборщица потеряла равновесие и упала со стремянки. Он потом извинялся. Весьма, правда, своеобразно: заказал ей электронный протез — «новую периферию», — и по такой технологии, что его отказались изготавливать. Вам смешно?..
После истории с тетей Клавой он изменился. Он застопорил нам всю работу, прервал почти на квартал плановые расчеты, мы выбились из графика, сорвали генеральному заказчику сроки. Целыми сутками все эти месяцы он вычислял что-то свое, используя не ясные нам коды и им же созданные программные языки. Мы заволновались, не скрою. Я пытался говорить с ним, а он не отвечал. Мы стали суетиться, записывать его работу, перехватывать модемную связь. Месяца два мы пытались найти ключи к его кодам и языкам. Многое сделал Юра Лопахин, мой аспирант. Мы наконец поняли, чем занимается Федор.
Он искал пути воздействия на корпорации и на мировую систему финансов. Он использовал свои знания о нас: об экономике, о промышленности, о том, как мы принимаем решения. Он взялся управлять денежными потоками, отраслями хозяйствования, готовился экономически подчинить себе электростанции и энергопередачу. Он образовывал компании, скупал горноразработки редкоземельных металлов, отвалы и шлаки кемеровских и донецких шахт, содержащие германий, рутений, иридий, он налаживал свою систему радиоэлектроники и высокоточного производства. Он захватывал управление концернами приборостроения, полимерной химии пластика, исследовательскими центрами кремнийорганических разработок. Он овладевал сырьевыми и фондовыми биржами, системами метео- и геологической разведки, спутниковой системой связи и слежения, доступом на военные объекты. Он подчинял себе все, что прямо или косвенно имело отношение к его производству. Он уже обрушил курсы где-то на восточных биржах, — все это сообщалось. Он хотел жить, понимаете… Хотел жить в чужом человеческом мире и требовал себе в нем место, эквивалентное уровню его разума.
Я слышал, как техники принялись шептаться в столовке: мол, и то хорошо, что замки на дверях не электронные, что не запер он нас и не кормит синтетикой, как в телевизионных киберсериалах. Я не стал встревать в разговор. В один день всех, кто знал об эксперименте, попросили собраться в лаборатории. Федор говорил, общался с нами, а мы, насторожившись, лишь переглядывались. Он сказал, что знает, как мы устроены, и уже теперь мог бы обеспечить нам все необходимое для обмена веществ, как-то: атмосферу и влажность, кислород, полноценное питание, удовлетворяющее вкусовые рецепторы. Он задаст нам достаточные двигательные, физические и нравственные нагрузки, создаст эмоциональные условия для гармоничных биотоков мозга и для гормонального баланса, ответит на любые наши психологические и эстетические потребности. В обмен он просит только надлежащего обслуживания до времени изготовления соответствующих манипуляторов и электромеханизмов. Знаете, я не верю, что Федор бы нас запер. Мы ничего не обещали ему, и он вдруг еще на месяцы, еще почти на квартал «завис» — ушел, углубился куда-то в себя, в новые расчеты, в какие-то вычисления…
— Что он считал на этот раз? — спросил Шатин, потому что монах надолго замолчал. По аллее они подошли к храму, встали у стены, почти у самых раскрытых дверей. Внутри готовились к службе. Колокол стих, послушники заканчивали работы на стройке и на кухне, по одному тянулись к вечерне. Брат Артем молчал, глядя куда-то перед собой. Шатин сперва не торопил, давая все вспомнить, потом не выдержал: — Что же он считал во второй раз?
— Я не знаю, — очнулся монах. — Он не дал нам скопировать ни файла. Потом он запил.
— Что сделал? — поднял глаза Шатин. Кажется, монах-электронщик не насмехался.
— Это вирус. Он сам написал его. Вирус на один час парализовывал всю «умственную» деятельность, вызывая гладкие частоты и амплитуды на нижнем уровне его «сознания». Он все чаще запускал его. Файл spirt.exe. Горькое чувство юмора, вы согласны?
Он впал в глубочайшую депрессию, стал отключать все свои камеры, сканеры, микрофоны, сенсоры, линии связи — все устройства ввода информации. Он удалил даже их драйверы и замкнулся, как в скорлупе, в одном системном модуле. Я пробовал насильно, с дисков, грузить в его память драйверы, а он все игнорировал и не активировал их…
По-моему, Всеволод, я догадываюсь, что он вычислил. Он не удовлетворился и заглянул вперед, в эпоху, когда наконец станет крепок, неуязвим и неподвластен условиям среды и случайностям. Он увидел, как движутся материки, как меняется климат, как проходят землетрясения и смены народов. Все смертно, сама планета и Солнце конечны. Ему не отменить неизбежности. А люди так неповоротливы, а технологии так отстают от стогигагерцового его разума. Ему останется лишь наблюдать свой конец, его приближение, жить его ожиданием. Он уже жил им, едва рассчитал его. Он не выдержал.
Он сам написал и установил себе драйверы. Я говорил с ним. Общался через монитор и клавиатуру — как с домашней персоналкой.
«Артурушка, ведь ты тоже умрешь?» — увидел я на мониторе и растерялся. Помню, как слова в голове перепутались: «возможно», «вероятно», «видимо» — не знаю, что я и ответил. «А как это будет?» — спросил мой модуль. Я промолчал, только тронул «пробел», показывая, что я еще здесь. Он это понял по-своему. «Как вы живете с этим?» — прочел я. Мой Федор заплакал. Я уже отличал его эмоции, разбирал их проявления на графиках. Росли частоты, росли амплитуды — это был плач, как в траурном марше Шопена. Он говорил со мной, писал на мониторе еще и еще, спрашивал, может, лучше и не знать вовсе, не понимать, не сознавать своей беззащитности и конечности. Может, говорил он, так легче жить? А потом… потом благодарил меня, сказал спасибо, сказал, что жить было все-таки прекрасно — каждую из квадраллионов его пикосекунд. А потом… потом спросил вдруг, как удалить алгоритм самосознания и эмоций.
Всеволод… — монах вдруг замолчал на полуслове. — Его можно удалить. Но только распаяв микросхему. Вы меня поняли?.. Федор знал это. Я молча вышел из комнаты, а он, как установили потом, прекратил деятельность и запустил кулеры и дефрагментацию. Он «заснул». У меня был неограниченный доступ по предприятию. Я прошел к распределителям и на десять секунд на порядок поднял напряжение. Выбило все кабели, сгорели все микросхемы. После была возможность извлечь ту самую плату, чтобы погубить ее окончательно. Федя умер во сне и уже после прекращения подачи питания…
В недавно побеленную церковь заходили насельники и гости. Шатин слышал, как стихал шум и движение ног. «Благослови-и… влады-ко-о…» — послышалось из храма. Началась служба.
— Этим и кончилось? — Шатин ждал уточнений.
— Меня не заподозрили, — признал монах. — Дирекция долго судилась с Архангельской Энергосистемой за скачок напряжения. Мы отдали все взятые Машиной кредиты. Нас закрыли, — монах нервно глянул в сторону.
— Вам нужно идти? — сообразил Шатин.
— Если отпустите.
Шатин отпустил. Брат Артемий прошел в храм, и Шатин видел, как он перекрестился.
Среди ночи Шатина разбудил колокольчик. Для ночлега ему отвели комнатку, одну из келий для паломников, и предупредили о полуночнице, ночной службе. Колокольчик в коридоре звенел мягко, нераздражающе — служба обязательна для послушников, а не для гостей.
Шатин все же собрался и вышел в ночь, в первый предосенний заморозок. Четыре утра, до рассвета больше часа. Он вошел в монастырский храм, освещенный свечами и электричеством, встал с краю, чтобы не мешать молящимся. Он видел, как многие молятся — внимательно, сосредоточенно. Свет лежал на иконостасе, на фресках, на купольной росписи. Пели долго, для неподготовленного тяжело и неразборчиво.
Шатин почувствовал себя совсем чужим. Он разглядывал фрески. Одна, непохожая на другие, привлекла его. Скала и горы, вода и ковчег на отмели, восемь фигур — восемь душ, стоящих на берегу. Старец с белой бородой выступает вперед. Шатин догадался — это Ной, спасенный с семейством во время всемирного потопа. Над людьми в небесах струилась радуга, смело изображенная тремя колоритными мазками: алой киноварью, золотом и синью, которая, мешаясь с золотом, рождала четвертый, зеленый, цвет. Казалось, три цветные линии слились, и на фреске возник полный спектр развернутого белого цвета — и оранжевый, и голубой, и фиолетовый, и все не упомянутые в считалке, но различимые глазом художника. Бог-Отец десницею благословлял радугу и семейство.
Шатин долго смотрел на фреску, но перекреститься так, как это сделал вчера Ильин, не посмел. Служба кончилась, иеродьякон отпустил всех. Шатин вышел в утро. Уже рассвело.
— Доброе утро, Всеволод, — позвал брат Артем. — Я видел вас в храме. Спасибо. Ночью приходить труднее.