МЕТОД
Имитационная модель семени ИИ спроектирована с учётом требований к предполагаемой работе автономного генерализованного интеллекта, то есть до того момента, как начнётся рекурсивное самосовершенствование, делающее процесс чисто механическим. Механические приспособления должны позволить модели стремительно усовершенствовать себя, начиная с весьма ограниченного уровня ещё не генерализованного разума.
Предлагаемый метод самомодификации состоит в следующем:
При выполнении программы Prog1 она пытается сгенерировать такие варианты поведения, которые повышают удовлетворение от продвижения к цели. Используя кодовую модальность и аналогичный Prog1 дизайн интеллектуального агента, программа Prog2 наблюдает за ходом работы Prog1 и пытается сгенерировать логические изменения в Prog1, которые повысят эффективность Prog1. Prog3 наблюдает за ходом работы Prog2 и пытается сгенерировать логические изменения в Prog2, которые повысят эффективность Prog2. Поскольку Prog3 идентична Prog2, то любые изменения, передаваемые из Prog3 в Prog2, также реализуются и в Prog3. То есть, идёт рекурсивное самосовершенствование.
Итак. Программа Prog1 задаёт поведение. Программа Prog2 изменяет программу Prog1. Программа Prog3 изменяет программу Prog2, а поскольку программа Prog3 идентична программе Prog2, то изменения программы Prog3, передаваемые программе Prog2 также передаются и программе Prog3.
Работа модулей осуществляется непрерывно в параллельном режиме с использованием текущих данных, поступающих от входных модулей.
Модель способна лишь модифицировать свои познавательные алгоритмы, а не всю структуру программы, что ограничивает её как статическое средство.
Если система будет запущена в ограниченной среде, то она оптимизирует себя в этой среде. Если она будет запущено в комплексной расширенной среде, то она оптимизирует себя для этой среды.
Самое эффективное развитие происходит тогда, когда работа начинается в строго ограниченном и простом подмножестве объективной среды, а после расширения масштаба и сложности этой среды система берёт на себя управление причинными связями подмножеств. Подмножества должны расширяться в смежные причинно обусловленные области.
Причина разделения имитационного анализа на обучение, предсказание, начало и конец оптимизации заключается в необходимости предохранить программу от зацикливания на эйфории, желания модифицировать себя таким образом, что интерпретация сенсорных данных станет более важной составляющей её функционирования в сравнении с реально существующей целью.
Составные части программы, ответственные за эффективную интерпретацию и детерминизм в достижении цели, не могут быть изменены теми частями программы, в которых заложена мотивация к увеличению скорости достижения цели.
ЗАКЛЮЧЕНИЕ
Что касается того, почему программа модифицирует лишь познавательные алгоритмы, а не саму структуру программы, то я целенаправленно пытался достичь более простой цели проектирования интеллектуального средства на уровне отсутствия самосознания и собственной мотивации, как более реально достижимой стартовой точки в деле создания семени ИИ.
Эта модель не претендует на то, чтобы копировать работу человеческого мозга. В ней не делается каких-либо попыток эмуляции сознания, эмоций или автономной мотивации.
Аргумент о несоответствии ситуации, который робототехники используют против тех, кто моделирует ИИ, зависит от богатства взаимодействия со средой. Одно дело если робот знает, что сообщения поступили от его сенсоров. И другое дело, когда Вы можете обучиться передвижению без помощи ног, но тогда ваши "ноги" и их функционирование становятся частью вашей среды.
Модель на этой стадии развития не дает подробного определения того, какой алгоритм распознавания используется каждым из модулей. Одна из главных целей системы состоит в том, чтобы выяснить, что и где работает лучше всего. Однако нет причин начинать создавать систему с нуля, например, заново изобретая алгоритм симплексного метода или быстрого преобразования Фурье (FFT). Программисты должны внести свою лепту, основываясь на своей многолетней практике, и задать исходную логику. Система должна также включать обширную библиотеку всех типов алгоритмов для экспериментирования. Системе необходим не чисто случайный, а более рациональный способ самомодификации. Этот подход будет включать использование аллегорического изоморфизма плюс распознавание причинных связей в среде высокоуровневых абстрактных кодов.
Я бы хотел выразить признательность Элизеру Юдковскому за концепцию кодовой модальности и замечание о взаимодействии программистов в фазе разработки, а также за предложение описывать среду от простого к сложному. Также замечу, что хотя это специально выше не оговаривалось, но его понимание уровней организации (восприятия, концептуального мышления, рассуждения) я считаю чрезвычайно привлекательными вместе с его походами с обратной связью в логике сосредоточения внимания для сенсорной модальности, что может быть весьма полезно или необходимо в любой интеллектуальной системе.
Загрузка – это процесс изменения материального субстрата вашего разума с архитектуры на основе биологических нейронов к архитектуре на основе компьютерных транзисторов. Биологический субстрат спроектирован эволюцией. Компьютерный субстрат спроектирован разумом.
Существует несколько разных способов совершить этот подвиг. Все они включают сканирование вашего биологического носителя и создание функционально точной программно-компьютерной основы вместе со всей информацией оригинала. Чтобы сделать точную функциональную копию, возможно, придется отсканировать и сделать дубликат всего биологического тела. В наше тело встроено много взаимосвязанных функций обработки, которые мы бы хотели воссоздать с предельной точностью. Хотя можно было бы получить главную часть разума отсканировав лишь мозг. Всё зависит от того, насколько точная копия вам потребуется. Давайте предположим, что мы получим лучшую копию из всех возможных. Вам необходимо будет поместить вашу виртуальную личность в полностью интерактивную виртуальную среду для её точного функционирования. Если ваша виртуальная особа будет совершенно точной, то она будет иметь все физические болячки и недуги оригинала. Если у оригинала должен произойти сердечный приступ через пятнадцать минут после сканирования, то ваша виртуальная особь должна будет испытать тот же самый сердечный приступ, даже если в результате наступит смерть. Большим преимуществом вашего виртуального "Я" является то, что внесение изменений в дизайн должно быть теоретически более легким делом. После появления зрелой нанотехнологии такое разграничение может стать спорным.
Существует два базовых подхода к загрузке сознания:
Метод первый – мы аккуратно сканируем Ваше биологическое тело и создаём Вашу компьютерную копию. Вас теперь у нас двое. Мы можем удалить оригинал и назвать процесс успешным. В конечном результате ваша виртуальная особь приобретает субъективный опыт перемещения из биологической основы в компьютерную. Но это неприемлемо для большинства людей. В качестве альтернативы мы можем установить связь между всеми частями двух ваших копий, так что ваш субъективный опыт будет свидетельствовать о вашем одновременном присутствии в обоих субстратах и позволит управлять удалением оригинала. Вы будете наблюдать, как существо, безраздельно связанное с оригинальным биологическим субстратом, будет делать совершенно несостоятельные попытки отказаться от загрузки. В итоге ваша виртуальная личность приобретает субъективный опыт переселения из биологического субстрата в компьютерный субстрат.
Метод второй – мы постепенно сканируем и заменяем ваш биологический субстрат компьютерным субстратом. Конечный результат тот же, что и в первом методе.
Многих людей тошнит при мысли о загрузке. Она порождает несколько интересных вопросов, таких как "кем мы являемся? "Почему мы боимся загрузки? После длительного процесса исключений, который я здесь не стану повторять (даже если вы меня попросите это сделать) я пришёл к мысли, что на вопрос "кем мы являемся" можно в итоге ответить, что мы являемся некой информационной структурой. Мы в курсе из нашего опыта общения с компьютерами, что информационные структуры можно копировать, хранить и редактировать, а в случае с программами - запускать их много раз и устанавливать различные входные параметры. Обычно мы не думаем об этих процессах применительно к нам самим. Наши проблемы проистекают из двух источников – из инстинкта выживания и нашего унитарного опыта сознания. Наш инстинкт выживания эволюционно запрограммирован. Эта индивидуальная структура хочет продолжать существовать. Это - часть информационной структуры. Если мы сделаем пять копий этой структуры, то каждая из копий отдельно будет продолжать хотеть существовать. Тот факт, что какая-то идентичная нам структура продолжает существовать может утешать, но он не полностью удовлетворяет стремлению жить. Эту информацию конечно можно редактировать, поэтому вы могли бы теоретически изменить её. Второй источник наших тревог – это наш уникальный опыт сознания. Если бы наше сознание было бы не унитарным, а множественным, то, возможно, мы были бы менее мнительными насчёт потери одной или двух копий, в то время как другие продолжают существовать. Но этого не может быть. Сознание обязательно унитарно, едино. Если бы со мной произошло раздвоение на две части, не осознающие одна другую, то и каждая из них обладала бы унитарным сознанием. Если бы оба сознания ощущали определенную часть друг друга как общую, то это сформировало бы мост между ними, объединяя опыт их сознания. Это не то, что мы можем исправить. Это топология. Это математика. Это фундаментальная характеристика сознания. Поэтому, мне представляется, что какая-то форма целостности сознательного опыта необходима для успеха процедуры загрузки. До тех пор, пока существует подобная индивидуальная информационная структура, и несмотря на трансформации через которые она проходит, до тех пор я буду продолжать стремиться существовать.
СЦЕНАРИЙ КОШМАРНОЙ ЗАГРУЗКИ