Технологическая сингулярность

СИНГУЛЯРНОСТЬ

Что будет означать для нас создание искусственного интеллекта разумнее человеческого? Каковы будут последствия деятельности наноботов (роботов молекулярного размера), перестраивающих мир молекула за молекулой? Как загрузка (перемещение Вашего разума в компьютер), физическое бессмертие или освобождение от необходимости работать изменит образ вашей жизни? Эти технологические возможности чрезвычайно быстро развиваются и осуществятся скорее, чем Вы думаете

УРОВНИ ОРГАНИЗАЦИИ


Универсальные функции трёх уровней организации.

Сингулярность – взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Молекулярная нанотехнология – полный контроль над структурой материи на атомном уровне.

Молекулярная биотехнология – функциональная генетика, микробиология, цитология.

ИИ – компьютерный искусственный интеллект с разумом и познавательными способностями человеческого уровня.

СИИ – компьютерный искусственный интеллект сверхчеловеческого уровня.

Универсальные функции на трех уровнях организации.
Первый уровень – "материя. Описывается действием общих законов физики и химии.
Второй уровень – "жизнь. Характеризуется биологическими функциями жизнеобеспечения, структурой ДНК, процессами, описываемые молекулярной биологией и молекулярной биотехнологией.
Третий уровень - "разум. Отображает работу функций мышления, сознания, интеллекта и ход различных информационных процессов.

Множество полезных и интересных вещей во Вселенной сложены из атомов, к примеру - звёзды и планеты, космические корабли и самолёты, гольф клубы и ботинки для гольфа, ветчина и яйца, любимая собака и жена. Поведение этих атомов находится в сфере интересов таких наук как физика и химия. Вопрос: в чём разница между вашей женой и предпочитаемым вами множеством гольф клубов? Ответ: тип упорядочения атомов. Технология, которая сможет точно контролировать тип атомов и их расположение в любой "вещи", стала бы крайне полезной технологией. Молекулярная технология как раз и является такой технологией.

Положим, что у вас есть подобная технология. И вы решили похвастаться вашему соседу за забором, что вы можете делать абсолютно всё. После парочки простых трюков с изготовлением шпалерных ножниц и солнцезащитных очков он придёт в настоящий восторг. Он попросит вас создать живого летающего дракона, огнедышащего, и питающегося только молодыми девицами. Вас подкалывают. Для того, чтобы создать совершенно новый живой организм или починить старый, либо переконструировать существующий живой организм, такой как вы сами, вам требуется владеть некоторыми знаниями, которые не были включены в ваше руководство пользователя по молекулярной технологии.

Вы должны знать, чем работа живых организмов отличается от просто движения молекул. Вам нужна база знаний по ДНК, белковым соединениям, молекулярной биохимии, цитологии и биологии систем. И вам необходим комплект средств с названием молекулярная биотехнология. Вы также должны знать, находятся ли ваши окрестности в зоне действия огнедышащих драконов. Молекулярная биотехнология представляет собой набор довольно сложных научных методов. Но вам повезло. Все средства, требуемые для развития молекулярной биотехнологии, входят в состав основных возможностей молекулярной нанотехнологии.



Тем временем некоторые люди, сидя в местной зоне, пишут на доске объявлений, что им необходим определенный тип автоматизированной системы интеллектуального мониторинга активности в окружающей среде, чтобы предотвращать нарушения зональных предписаний, исходящие, например, от огнедышащих драконов. Компьютер в сердце этой системы должен иметь расширенное понимание окрестной жизни, способность делать суждения и предсказывать последствия действий. Он должен быть разумным, то есть быть полноценным искусственным интеллектом.

Существует три различных похода к разработке ИИ. Вы можете создать его в искусственной среде (в киберпространстве). Или вы можете сесть и подумать, какие алгоритмы информационных процессов необходимы для восприятия, обучения и планирования. Либо вы можете вооружиться средствами молекулярной нанотехнологии для реконструкции человеческого мозга. А пока давайте зафиксируем некоторые очевидные недостатки работы нашего мозга.

Среди того, что стоит подрегулировать, хотелось бы улучшить качество и детальность запоминания, увеличить скорость и точность процесса познания, способность безупречно делать длинные серии математических или логических операций, способность выполнять новые алгоритмы обработки информации и изменять состав и структуру существующих мыслительных процессов.

Мы бы хотели запустить в работу этот воссозданный инженерными средствами, проверенный и реконструированный разум на несколько более надежном в действии аппаратном обеспечении, нежели на биологических нейронах, например, на электронной компьютерной микросхеме с молекулярными нанотрубками, что становится возможным благодаря молекулярной нанотехнологии.

С тех самых пор как пещерный человек в нашем далёком прошлом впервые обтесал камень в форме наконечника для копья, мы постоянно создавали всё более совершенные инструменты. Молекулярная нанотехнология, молекулярная биотехнология и искусственный интеллект являются предельно совершенными инструментами. Они делают нас творцами предельно совершенных инструментов.

добавлено через 1 минуту
Что такое Сингулярность?
Сингулярность – это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от "обыденного дела" до состояния виртуально неограниченных возможностей.

Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования экспоненциальной скорости перемен.

Свидетельством служит проект по расшифровке генома человека. В первое десятилетие прогресс был настолько слабым, что многие эксперты предрекали, что для его завершения потребуется ещё 200 лет. Свыше 50 процентов исходных данных было получено в последние девять месяцев пятнадцатилетнего проекта.

Когда достижения постоянно удваиваются в последовательно равных периодах времени, то этот процесс представляет собой первый порядок экспоненциального развития. Когда период времени удвоения со временем сокращается, то это - второй порядок экспоненциального развития.

Мы все видим, как компьютеры становятся мощнее, а цены на них при этом одновременно падают. Время удвоения мощности компьютеров в расчёте на один доллар было 3 года в 1950-х, 2 года 1980-х, 1 год в 90-х и 9 месяцев к сентябрю 2002 и продолжает уменьшаться.

Причина экспоненциального технологического роста достижений заключается в том, что каждое приращение достижений в средствах проектирования приводит к увеличению производительности будущих средств проектирования. Это цикл с положительной обратной связью, повышающей производительность средств проектирования. Большинство подобных циклов с обратной связью основано на постоянной миниатюризации механических и электрических систем, конечным итогом которых и является молекулярная нанотехнология.

Экспоненциально развиваемые технологии изменят всю нашу жизнь за невероятно короткий промежуток времени. Сингулярность ведёт к почти неограниченным технологическим возможностям. Люди, которые в настоящий момент борются за скудные ресурсы, обретут невероятное благосостояние и свободу.

Непостижимость Сингулярности
Жизнь после Сингулярности будет сильно отличаться от той, что была раньше, но она не будет непостижимой. Мы можем дать достаточно полный список грядущих технологических возможностей. Социальные последствия этих изменений коснуться всех нас. Необходимо, чтобы большая часть человечества призадумалась над тем, какой бы мы хотели иметь тип социальных структур, если мы желаем избежать паники.

Рекурсивно самосовершенствующийся ИИ разовьёт разум, который в количественном отношении быстро превзойдёт сегодняшний человеческий уровень интеллекта. Эти количественные улучшения будут включать расширение способностей, увеличение точности и скорости обработки данных. Количественные улучшения являются лишь расширением имеющихся у нас познавательных способностей.

Качественные улучшения или совершенно новые способы осознания и мышления, находящиеся за пределами нашего нынешнего понимания вещей, вряд ли возможны. Причина того, что мы не ждём появления какого-то нового типа интеллекта, а ожидаем лишь новый уровень интеллекта, коренится в том, что разум есть способ решения проблем путём алгоритмической интерпретации. И основываясь на успехах, которые нам сопутствовали при создании физических, биологических и информационных систем, можно суммировать, что мы уже исследовали достаточно широкий диапазон алгоритмически эффективного пространства решений. Конечно, я не могу оспаривать утверждение, что мы не знаем того, чего мы не знаем, но, я думаю, мы можем разложить всё то, что мы ещё не знаем последовательно по полочкам во всё более маленькие ящички или мелкие матрёшки.

Кто думает, что рекурсивно самосовершенствующийся ИИ является единственным или самым основным элементом Сингулярности видят не всего слона, а лишь его хобот.

Сингулярность трех технологий
Сингулярность – это наиболее значительное событие в истории человечества. Она наступит в результате одновременного действия трех продвинутых технологий: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость продвижения к точке Сингулярности вначале увеличивается постепенно, но механизм обратной связи с каждым укорачивающимся циклом всё быстрее ведёт нас к Сингулярности. При достижении Сингулярности способности человечества становятся действительно потрясающими - полный контроль над структурой материи на атомном уровне, полное знание биологических процессов от макро до микро и молекулярного уровня, и сверхчеловеческий искусственный интеллект.

Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет полным. Сингулярность будет предвестником начала новой эры, в которой физическое и умственное совершенство будут нормой наряду с невообразимым благосостоянием и свободой. Эти плоды прогресса не выпадут лишь на долю существующим привилегированным классам, а достанутся всем человеческим существам.

Когда наступит Сингулярность?
Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос - когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.

Каким образом все эти перемены будут претворяться в жизнь? Элизер Юдковский считает, что ИИ созреет прежде других двух технологий и сверхчеловеческий искусственный интеллект поведёт нас через транзит (переход). Он называет это "руководством по транзиту. Эрик Дрекслер и Ральф Меркле думают, что наиболее грандиозный потенциал заложен в молекулярной нанотехнологии. Рэй Курцвейл и Ханс Моравек ожидают, что лидировать на этом пути будет синтез компьютеров и людей.

Эти три технологии будут, вероятно, развиваться параллельно вследствие их взаимодействия. Зрелая нанотехнология (полный контроль структуры материи на атомном уровне) позволит нам быстро производить продукты с атомным совершенством по цене сырьевых материалов в неограниченном количестве. Она позволит нам создавать материалы в пятьдесят раз прочнее стали или с любыми наперёд заданными свойствами, с полным доступом и контролем биохимических процессов в живых организмах. И предоставит нам инструментарий для быстрого достижения зрелости в молекулярной биотехнологии и искусственном интеллекте путём восстановительного инжиниринга нашего биологического организма и функционирования человеческого мозга. Последствия влияния на общество трудно переоценить, хотя они и переоценивались в прошлом. Причина была в том, что в прошлом не делалось различия между сингулярными технологиями в развитии и зрелыми сингулярными технологиями.

Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Миниатюризация (нано)
Миниатюризация электромеханических систем служит важнейшим источником Сингулярных технологий. Достижения в производительности компьютеров порождены этим источником. Достижения в средствах, используемых для расширения функционально-генетических знаний, являются производными от миниатюризации и компьютерной мощи. Мощность компьютеров будет идти по пятым нано, потому что это наиболее ценное приложение. Но, в отличие от нанотехнологии и повышения мощности компьютеров, создание ИИ потребует громадных теоретических прорывов. Поэтому прогресс состоит в миниатюризации (нано), которой способствует мощность компьютеров. Далее молекулярные средства и мощные компьютеры способствуют развитию молекулярной биотехнологии. И, наконец, нанотех, инфотех и биотех объединяются в производстве СИИ.

Закон Мура не есть основная движущая сила Сингулярности. Для этого имеется гораздо больше оснований. Мы можем вернуться назад к истокам и посмотреть на закон Мура. Закон Мура имеет две стороны – "как" и "почему.

"Как" - это цикл с обратной связью, где результат процесса используется для создания более совершенного механизма, используемого таким образом в процессе дальнейшего увеличения скорости, сложности и производительности этого процесса. И конечно, лучший процесс даёт лучший результат, который, в свою очередь, делает процесс лучше и т.д. и т.д. Когда мы следуем за законом Мура в прошлое через дискретные транзисторные схемы, вакуумные трубки, механические калькуляторы и далее переходим к обработке гуманитарной информации в письменности, которой предшествовала устная речь, а затем продвигаемся дальше вглубь биогенетической эволюции, а затем далее в прошлое, сквозь развитие неживой природы планетарной среды, образование галактик, конденсацию материи из энергии, инфляцию Гута, и в пределе – к исходному безразмерному состоянию Вселенной, то мы обнаруживаем и наблюдаем этот цикл с процессом обратной связи на каждой стадии.

"Почему" – это экономика. Подобным же образом мотивационный аспект экономических сил можно проследить в прошлом в соревнованиях самцов, природный отбор и далее через проявление самоорганизующихся свойств неживой материи-энергии, в динамике сложных систем.

Но где начало? Что является фундаментальной парадигмой этих двух взаимосвязанных концепций "как" и "почему"? Какова "базовая концепция"? Некоторые предполагают что Бог, но эта идея, что вполне очевидно, легко отсекается Бритвой Оккама как нелепая и антропоморфная, без надобности усложняющая положение дел. Определенно, что базовая концепция должна предшествовать понятию пространства-времени и материи-энергии и поэтому не может определяться мистическим актом творения.

Что остаётся? Информация. Рэй Курцвейл в одной из своих публичных бесед с Грегори Стоксом утверждал, что предельно тавтологическая реальность - это структурированная информации. В обмене мнениями между Рэем и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение скорости прогресса вследствие обратной связи с ИИ. Рэй ответил, что было бы трудно переоценить взрывную скорость удвоения экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые приведут к продолжению закона Мура и после 2020 года.

Что-то такое удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории должно случиться - Сингулярность. Три Сингулярные технологии, такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а именно - биоинженерные супервирусы, вооружения в виде самореплицирующихся нанороботов, недружественные сверхразумные машины и наибольшая опасность из всех - склонность к неограниченному бездумному самоудовлетворению, зацикливанию на кайфомании.

Недоразумение, что компьютерные программисты считают ИИ самым необходимым элементом – это всё из-за непонимания перспективы. Поговорите с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать экспоненциальный рост в своей области. Он может представить удивительное будущее, которое эта технология способна предоставить - полный контроль биологического дизайна живых организмов. И нанотехнология, и генная инженерия дозреют к 2021 вне зависимости от того будет ли создан ИИ или нет, и внезапно совершенно изменят общество.

Термин "технологическая сингулярность" употребляется неверно. Более правильным является термин "социальная сингулярность". На протяжении всей истории новые технологии изменяли общество и хотя люди отдают должное инициирующей природе нововведений, однако наиболее значимым историческим аспектом всегда являлось то как меняется общество.

Вот некоторые из вещей, которые, как мы ожидаем, станут возможными после Сингулярности:

1. Зрелая молекулярная нанотехнология приведёт к производству любых продуктов по цене сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество будет совершенствоваться вплоть до атомного уровня. Потребность во всех необходимых материалы будет легко удовлетворяться. Молекулярная нанотехнология также произведёт средства способствующие развитию молекулярной биотехнологии и искусственного интеллекта. Нанотехнология создаст новые материалы в пятьдесят раз более прочные, чем сталь, или с любыми запроектированными свойствами, требуемыми для применения в космических путешествиях, в больших конструкциях и инструментах.

2. Зрелая молекулярная биотехнология приведёт к полному исключению болезней, недееспособности и смерти от естественных причин (однако вы всё же ещё сможете броситься вниз со скалы). Люди смогут иметь тотальный контроль над проектированием, структурой, функционированием и внешним видом своих тел. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет отличительным качеством. Совершенство тела и ума будет нормой. Новые физические способности будут обычными.

3. Сверхчеловеческий искусственный интеллект приведёт к таким последствиям в обществе и в наших возможностях, которые кажутся непостижимыми для человеческого уровня интеллекта, включая загрузку человеческого сознания, искусственные миры, мораль на основе свободы воли и многое другое.

В итоге
Конец мира почти рядом и очень мало людей осознают это. Иногда я бываю настолько подавлен чудовищностью Сингулярности, что чувствую, что должен присоединиться к парню на Мэйн Стрит с лозунгом - КОНЕЦ МИРА БЛИЗОК.

Сингулярность - это проблема связи уровней организации материи во Вселенной. Верхний уровень - РАЗУМ, нижний уровень – АТОМЫ (для наших сегодняшних целей). Три технологии, которые соответствуют трём базовым уровням функциональности, это – искусственный интеллект, нанотехнология и молекулярная биотехнология. Полный успех в этих трёх технологиях обеспечит такие радикальные изменения в наших способностях, которые приведут к социальной Сингулярности. Мы весьма близки к созданию этих последних связей.

Я надеюсь, что ответил на некоторые из Ваших вопросов о Сингулярности. Я также надеюсь, что мои ответы стимулируют появление ещё большего потока вопросов.

добавлено через 2 минуты
Почему они не понимают её
У меня на работе недавно был разговор, который, я думаю, иллюстрирует, почему общественность не понимает Сингулярности. У нас есть сотрудник по имени Доминик – это его настоящее имя. Не стоит над ним подшучивать, он бывший морской пехотинец.

Доминик - интеллигентный, хорошо образованный и хорошо информированный парень, но он скептически относится ко всем, кто пытается всучить ему какой-нибудь перечень товаров. Он смотрит новости и проводит много времени со своим кабельным модемом для доступа к домашним компьютерам. Он в курсе новых технологий, постоянно обновляя свой компьютер. У него телевизор с большим экраном высокого разрешения. Он смотрит все новые научно-фантастические кинофильмы.

Он точно из того сорта людей, которые, как я ожидал, восприняли бы это.

Я говорил с ним о Сингулярности целый год и не смог его убедить. Он видит, что компьютеры становятся всё быстрее и быстрее, но, несмотря на мнение экспертов и в противоположность им он думает, что скоро мы упрёмся в стену, ограничивающую мощность компьютеров. И он говорит, что он не понимает, как более быстрые компьютеры смогут изменить всё вокруг.

Часть проблемы – это Голливуд. В НФ фильмах изменяются лишь технические новинки, а экономика - нет. Люди всё ещё по-прежнему работают ради того, чтобы выжить и всякий хлам всё ещё в цене. Люди по-прежнему глупые и смертные.

Такие вещи, я думаю, не соответствуют истинной картине, ожидаемой нас после Сингулярности. И за исключением электроники и некоторых новых методов медицины он не видит никаких драматических примеров миниатюризации, дающих ему какие-то свидетельства потенциала или близости нанотехнологии.

Что до ИИ, то достаточно продвинутая система Alicebot находится крайне далеко от обретения хотя бы одного процента человеческого знания или понимания, а роботы – несуразные игрушки.

Один из печальных фактов насчёт экспоненциального роста, если вам этого хочется, состоит в том, что почти все свершения происходят практически в самом конце. Почему тогда я вижу это ясно как день, а он не видит вовсе?

Всё потому, что я прочитал эту книгу, а он нет. Могу ли я заставить его прочитать эту книгу? Нет, он не любитель читать, он любит смотреть, слушать и кушать (чукча не читатель, чукча – наблюдатель).

Нам надо создать фильм, показывающий все социальные последствия таких технологий, как нанотех, генотех и ИИтех. Есть ли желающие оказать мне содействие в написании сценария?

добавлено через 3 минуты
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ


Искусственный интеллект (ИИ) - технология создания самостоятельного разума. Искусственный интеллект (ИИ), Автономный Генерализованный Интеллект (АГИ) и Совещательный Генерализованный Интеллект (СГИ) являются просто разными названиями, используемыми для описания думающих машин. Бен Герцель (Novamente, AGIRI) определяет интеллект как способность к достижению сложных целей в сложной окружающей обстановке. Тогда что является "генерализованным интеллектом"? Многие полагают, что люди обладают генерализованным интеллектом. Если это так, то тогда генерализованный интеллект мог бы быть определен как наша способность к достижению целей в окружающей нас среде. Или истинный "общий интеллект" должен быть способен достигать все доступные цели во всех мыслимых средах? Пытаются ли исследователи АГИ создать Бога или всего лишь сверхчеловеческий искусственный интеллект? Есть ли различие? И что это будет значить для Сингулярности?

Когда компьютерные программы станут настолько разумными что превратятся в компьютерных программистов, тогда цикл обратной связи рекурсивного самосовершенствования приведёт прямо к Сингулярности.

Три подхода к ИИ
Можем ли мы построить разумный компьютер? Можем ли мы написать компьютерную программу, которая думает таким же образом как мы или лучше?

AI - искусственный интеллект; знания человеческого уровня, мышление и понимание в компьютере.

SAI – сверхчеловеческий уровень интеллекта в компьютере.

Сингулярность - взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Такие математики как Алан Тьюринг и Алонзо Чёрч и учёные- мыслители Пол Чёрчлэнд, Дан Деннет, Дуглас Хофштадтер и Марвин Минский ставили перед собой подобные вопросы. Основной вопрос крутится вокруг вычислительной теории разума; идеи, что всё происходящее в вашей голове основано на вычислениях, выполняемых физическими структурами вашего мозга, включая химические, электрические и логические процессы, которые могли бы в равной степени все хорошо выполняться и на цифровом компьютере.

Такие поборники робототехники как Родни Брукс верят, что все более высокие уровни мыслительных процессов строятся на базе познавательной концепции чувственного восприятия и контроля местоположения, особенно на зрении и движении. Они выдвигают постулат, что умственные способности, включая интеллект и рассудительность, должны пробуждаться в результате взаимодействия этих простых функций с опосредованными физическими системами в процессе эволюционирующего машинного обучения или запрограммированного человеком метода проб и ошибок. Эволюция роботов предположительно достигнет человеческого уровня где-то в районе 2040 года.

В то же время теоретики ИИ верят, что путём объединения множества высокоуровневых алгоритмов умозаключений и с помощью теории семантики они смогут спроектировать мозг по способностям соответствующий совещательному общему интеллекту. Их проекты совершенно лишены функций восприятия и передвижения, которые, как они считают, должны быть участками входа и выхода в их модели мышления типа "вход-процесс-выход.

И, наконец, существуют инженеры по технике восстановления функций мозга, которые верят, что таким образом они могут перепрыгнуть через десятилетия эволюции робототехники и теоретического осмысления ИИ теоретиками, и с помощью сканирования составных частей человеческого мозга и имитации его деятельности создать полностью функционирующий разум в компьютере.

Каждый из подходов демонстрирует некоторые успехи. Имеются роботы-жучки, способные передвигаться по неизвестным территориям. И существуют алгоритмы выработки умозаключений, которые в состоянии разрабатывать эвристику решения математических задач, доказывать теоремы, играть в шахматы и вести простые разговоры. Также имеются имитаторы нейронов, которые позволили разработать функциональные модели некоторых периферических нейронных сетей мозга.

Главная критика состоит в том, что, несмотря на начальные успехи, им присущая общая неопределенность - любой из методов не может доказать свою адекватность до тех пор, пока умственный процесс не достигнет самого высокого уровня. Такой критицизм вскрывает большую неизвестность. Мы не знаем, что заработает, пока мы не пытаемся это сделать. Есть вероятность, что все три подхода будут успешными или что все три будут тщетными. Когда вы исследуете каждый случай со своей собственной точки зрения, то они все очень убедительны и моя интуиция подсказывает, что все три дадут жизненно важное решение.

Если это так, то тогда вопрос в том кто будет первым. Прогнозы Родни Брука на прогресс роботов к 2040 году, конечно, смотрятся, как самые отдаленные. Создатели искусственного мозга стоят на очень предсказуемом пути развития, чему также способствует экспоненциальное ускорение технологических возможностей. И хотя теоретики ИИ также выиграют от более быстрых и мощных компьютеров и средств программирования, однако первичным лимитирующим фактором у них служит теоретическая функциональность их моделей. Некоторые теоретики ИИ верят, что у них уже есть правильные структурные очертания работы разума и для претворения в жизнь просто требуется соответствующее аппаратное и программное обеспечение.

Это отражается в подсчетах. Создатели роботов ожидают, что роботы станут эквиваленты человеку к 2040 году. Имитационщики и сканерщики мозга демонстрируют неплохие перспективы завершения работ к 2020 году. Теоретики ИИ говорят, что они могут преодолеть планку 2020 года раньше на несколько лет в интервале дат от 2006 до 2016 года в зависимости от того, кого из них вы спросите, и что было ими съедено за завтраком.

И для ещё большего усложнения картины - возможно объединение трёх подходов, что приведёт к некоторому слиянию отмеченных сроков. Хотя теоретики ИИ и утверждают, что они напали на след, но создателям искусственного мозга (ИМ), по-видимому, предстоит перепрыгивать через наименьшее число теоретических барьеров на своём пути. А поскольку труд многих независимых исследователей мозга интегрировать гораздо легче, чем труд теоретиков ИИ, то это значит, что более эффективные усилия будут прилагаться в области моделирования деятельности мозга. Многие независимые исследователи мозга трудятся над отдельными частями проблемы, тогда как каждый теоретик ИИ должен быть в курсе всей проблематики. Даже если у теоретиков ИИ уже существует некая рабочая модель, всё равно они не смогут опередить создателей искусственного мозга.

Семя ИИ - это концепция компьютерной программы с искусственным генерализованным интеллектом, изучающим свой собственный проект и делающим в нём улучшения, таким образом, делая себя более разумным и способным к дальнейшим улучшениям проекта в рекурсивном процессе самосовершенствования. Некоторые эксперты по созданию семени ИИ, такие как Вернор Виндж и Элизер Юдковский верят, что процесс рекурсивного самосовершенствования является достаточно мощным для того, что известно как "крутой взлёт" или очень быстрое ускорение от человеческого уровня разума к сверхчеловеческому уровню интеллекта. Компьютеры уже сейчас значительно превосходят биологические мозги в выполнении операций связанных со скоростью, точностью, масштабируемостью и модифицируемостью вычислений.

В настоящее время ведётся несколько проектов с ясно обозначенной целью создания искусственного интеллекта человеческого или сверхчеловеческого уровня, такие как Novamente/AGIRI, Singularity Institute for Artificial Intelligence (SIAI) и Cycorp.

Имитационная модель
Теория АГИ, функциональный подход
В функциональном подходе к проектированию АГИ (Автономного Генерализованного Интеллекта) мы в первую очередь определяем как, по нашему мнению, работает разум, а затем пытаемся научить нашу программу делать то же самое. Этот подход принят в ИМИТАЦИОННОЙ МОДЕЛИ.

Исходная модель интеллекта в моей интерпретации такова: если вы создадите некую систему с такими функциями как 1.восприятие, 2.база знаний, 3.обучение и 4.понимание, то вы получите интеллект. Теперь если вы зададите этой системе цель и мотивацию для стремления к этой цели путём выбора поведения, то вы приобретёте интеллектуального агента. И если вы предоставите в распоряжение этого агента некий метод модификации алгоритма своего собственного мышления, и результаты работы данного метода приведут к увеличению эффективности в достижении цели, то вы получите СемяИИ (Seed AI). Поведенческий цикл с обратной связью, получающий из окружающей среды отклик, воспринимаемый системой, информирует систему об эффективности поведения.

· ВОСПРИЯТИЕ

Модуль сенсорной модальности выполняет функцию восприятия. Тип восприятия в модели не уточняется. Это может быть зрение, слух, обоняние или несколько одновременно действующих чувственных ощущений. Для того чтобы первая реализация модели была простой, лишь для доказательства правильности концепции, было бы полезно выбрать какое-либо одно хорошо понятное чувство. Некоторые довольно неплохие работы были сделаны на ранних стадиях изучения зрения и слухового восприятия, но недостаточно законченные для наших целей, поэтому я бы предложил использовать простой поток данных от какой-либо искусственной среды, такой как игра в шахматы. Единый модуль SM1, в черновом варианте, реализует в себе весь набор операций, включая низкоуровневые фильтры, функции сглаживания, распознавание образов среднего уровня и цель высшего уровня в пространстве, во времени, в движении и осознании интроспекции. Он получает входные сенсорные данные, в зависимости от типа чувственного восприятия, выполняет присущие ему функции и вырабатывает высокоуровневые абстракции. Например: некая камера, направленная на шахматную доску, каждые пять секунд посылает картинку в сенсорный модуль, сенсорный модуль выдаёт поток данных ясно показывающий, что белая королева переместилась из квадрата E4 в квадрат E7, заменив стоящую там ранее белую пешку. В реальном воплощении этого замысла вряд ли были бы большие проблемы с написанием модуля сенсорной модальности зрения для проверки способности системы к обучению и самосовершенствованию. Я бы, вероятно, просто создал бы некий вид текстового интерфейса. Но в более поздних версиях подобной системы для реального мира, когда система имеет сложную цель, необходимо полностью реализовать весь известный комплекс чувственного восприятия.

· БАЗА ЗНАНИЙ

В первом приближении она представлена модулем RS1. Я представляю её как некую запись всей сенсорной памяти, то есть организованных физически и во времени сенсорных данных, порождённых окружающей средой, которая снабжена всеми необходимыми для обучения данными на основе деклараций, процедурного анализа и определения образов. Для меня это выглядит как статическое моделирование. Здесь определенно необходима обратная взаимосвязь с данными определения образов в модуле восприятия SM1.

· ОБУЧЕНИЕ

Конечно, видимо существует много хороших работ по вопросам обучения и накопления знаний машинами, которые вполне доступны, если бы они нам понадобились, хотя я и не исследовал детально этот вопрос. Важной частью проекта должны стать всевозможные структурированные сети. Опытный инженер программист, кем я не являюсь, был бы необходим для руководства командой при осуществления этого проекта.

· ПОНИМАНИЕ

Функция понимания причинных связей формируется в модуле LSA1. Она затем выполняется в модуле PSA1 для предсказания того, как различные варианты поведения обеспечивают лучшие шансы повышения вероятности достижения цели.

· ЦЕЛЬ

Цель в системе является внешним атрибутом и находится за пределами возможностей прямого контроля и модификации.

· МОТИВАЦИЯ

Мотивация заложена в этих модулях в явном виде. Они выполняются. Они делают то, что делают. Более сложная разумная система, усиленная позитивными и негативными факторами влияния, здесь не рассматривается.

Имитационная модель – суть общий проект рекурсивного самосовершенствующегося семени ИИ – средства ИИ неразумного уровня. Создание имитаций и их анализ выступают в роли ядра проекта. Термин 'имитация', как он тут используется, характеризует передачу исходных данных в некую реляционную базу данных, демонстрирующую многоуровневое поведение субъекта моделирования наряду с описанием всех известных обобщений, связанных с его элементами. База данных индексируется по времени и пространству. Если субъект моделирования не имеет пространственных характеристик для выполнения операций компьютерной программы, то может быть создано мнимое размерное пространство, показывающее динамику потока данных в модуле. Имитация должна моделировать процесс до такого уровня детализации, который бы был достаточен для анализа всех причинных связей. Уровни абстрагирования варьируются в диапазоне от совершенно абстрактных математических описаний до полностью детализированных описаний реальности. Имитации должны быть спроектированы таким образом, чтобы оптимизировать функционирование модуля анализа имитаций. Анализ имитаций является функцией понимания. Он включает идентификацию причинных связей, логический вывод декларативных и процедурных знаний, сенсорное определение образов, а также изоморфизм, точное предсказание будущего поведения и создание вариантов будущего поведения с максимальным соответствием целевой структуре. Для реализации этих функций требуется длинный список алгоритмов, включающий конструирование и анализ большого множества гипотетических симуляций во вспомогательном рабочем пространстве, в модельном окружении. Функции проектирования и анализа имитаций не являются тривиальными задачами программирования, но облегчающим обстоятельством служит то, что они не должны быть полностью безупречными с изначального момента в рекурсивной самосовершенствующейся модели.

Описание функциональных модулей
· Модуль сенсорной модальности (SM1) получает исходные данные чувственного восприятия и, используя каскадные уровни анализа с включением сглаживающих фильтров, детекторов свойств, сетей распознавания образов и функций концептуальной идентификации, создаёт высокоуровневые абстракции, которые передаются в модуль имитации реальности (RS1). Модуль сенсорной модальности выполняет функцию зрения.

· Модуль имитации реальности (RS1) получает абстракции от модуля сенсорной модальности (SM1) и встраивает их в некоторую базу данных предшествующих сенсорных абстракций, чтобы создать пространственно-временную имитацию реальности. Этот модуль также принимает данные от модуля анализа имитации обучения (LSA1) в форме деклараций, процедур и структурных определений и выполняет аннотацию имитационной базы данных, сохраняющую все данные обучения. Он также отвечает на запросы данных модуля анализа имитационного обучения (LSA1) и модуля анализа имитационного предсказания (PSA1). Запросы для стрелок данных не показаны на схеме. Модуль имитации реальности (RS1) выполняет функцию накопления знаний.

· Модуль анализа имитационного обучения (LSA1) выдаёт запросы и принимает данные от модуля имитации реальности (RS1) и выполняет различные алгоритмы обучения, анализа и распознавания образов для воспроизводства декларативных, процедурных и образных данных, которые он возвращает назад в модуль имитации реальности (RS1) для включения в базу данных. Он также выполняет функцию обнаружения текущей степени удовлетворённости поставленной цели и возвращает эти данные обратно в модуль имитации реальности (RS1). Этот модуль также принимает запросы от модуля анализа имитационных предсказаний (PSA1), чтобы сосредоточить усилия обучения на информации модуля предсказания (PSA1). Это не единственный детерминант целевого обучения, но встроенный в эвристику вместе с целевой установкой, легкостью обучения, общими причинными рамками поведения и завершением распознавания образов. Модуль анализа имитационного обучения (LSA1) выполняет функцию обучения.

· Модуль анализа имитационных предсказаний (PSA1) запрашивает и получает данные от модуля имитации реальности (RS1) включая данные удовлетворения цели и все прочие типы данных. Он выполняет всевозможные эвристики, алгоритмы и анализ абстрактной симуляции для обнаружения таких вариантов поведения, которые могут привести в будущем к улучшению целевых устремлений. Причинность и причинные связи являются центральными в этом модуле. Модуль анализа имитационных предсказаний (PSA1) выполняет функцию понимания.

· Модуль кодовой модальности (CM2) обрабатывает программный код с базой данных программы Prog1 в случае CM2 и программный код prog2 в случае CM3 и выполняет стандартные модальные функции выработки абстракций для использования в базе данных имитаций точно также, как модуль сенсорной модальности (SM1) в программе Prog1 вырабатывает абстракции для модуля имитации реальности (RS1). Единственное отличие состоит в том, что его алгоритмы и эвристики оптимизированы для различных типов входных данных. Модуль кодовой модальности (CM2) рассматривает код в виде высокоуровневой абстракции таким же образом, как мы рассматриваем пиксели экрана в сцене с объектами, задним и передним планом, глубиной и движением.

· Модуль кодовой симуляции (CS2) воспринимает абстракции от модуля кодовой модальности (CM2) и встраивает их в некую абстрактную имитацию, которая отражает текущее внутреннее поведение программы плюс прошедшую историю изменения состояний, совместно с описательными обобщениями программной среды наподобие того как модуль имитации реальности (RS1) описывает реальный мир программы Prog1.

· Модуль анализа имитации обучения (LSA2) в Prog2 функционирует аналогично модулю LSA1, за исключением того, что его эвристики и алгоритмы оптимизированы для некоторой кодовой реальности.

· Модуль анализа начала оптимизации имитации (FEOSA2) запрашивает и воспринимает данные из модуля кодовой симуляции (CS2), начиная работу программы Prog 1 (закрашенные модули на схеме), в частности SM1, RS1 и LSA1. Эта функциональность создаёт изменения в модулях SM1, RS1 и LSA1, которые улучшают точность и эффективность создания и поддержки имитации реальности.

· Модуль анализа заключительной оптимизации имитации (BEOSA2) запрашивает и воспринимает данные из модуля кодовой симуляции (CS2), завершая работу программы Prog1 (не закрашенный модуль), в частности PSA1.

· FEOA2 изменяет SM1, RS1 и LS1.

· BEOSA2 изменяет PSA1.

· FEOSA3 изменяет CM2, CS2, LSA2, FEOSA2, CM3, CS3, LSA3 и FEOSA3.

· BEOSA3 изменяет BEOSA2 и BEOSA3.

МЕТОД

Имитационная модель семени ИИ спроектирована с учётом требований к предполагаемой работе автономного генерализованного интеллекта, то есть до того момента, как начнётся рекурсивное самосовершенствование, делающее процесс чисто механическим. Механические приспособления должны позволить модели стремительно усовершенствовать себя, начиная с весьма ограниченного уровня ещё не генерализованного разума.

Предлагаемый метод самомодификации состоит в следующем:

При выполнении программы Prog1 она пытается сгенерировать такие варианты поведения, которые повышают удовлетворение от продвижения к цели. Используя кодовую модальность и аналогичный Prog1 дизайн интеллектуального агента, программа Prog2 наблюдает за ходом работы Prog1 и пытается сгенерировать логические изменения в Prog1, которые повысят эффективность Prog1. Prog3 наблюдает за ходом работы Prog2 и пытается сгенерировать логические изменения в Prog2, которые повысят эффективность Prog2. Поскольку Prog3 идентична Prog2, то любые изменения, передаваемые из Prog3 в Prog2, также реализуются и в Prog3. То есть, идёт рекурсивное самосовершенствование.

Итак. Программа Prog1 задаёт поведение. Программа Prog2 изменяет программу Prog1. Программа Prog3 изменяет программу Prog2, а поскольку программа Prog3 идентична программе Prog2, то изменения программы Prog3, передаваемые программе Prog2 также передаются и программе Prog3.

Работа модулей осуществляется непрерывно в параллельном режиме с использованием текущих данных, поступающих от входных модулей.

Модель способна лишь модифицировать свои познавательные алгоритмы, а не всю структуру программы, что ограничивает её как статическое средство.

Если система будет запущена в ограниченной среде, то она оптимизирует себя в этой среде. Если она будет запущено в комплексной расширенной среде, то она оптимизирует себя для этой среды.

Самое эффективное развитие происходит тогда, когда работа начинается в строго ограниченном и простом подмножестве объективной среды, а после расширения масштаба и сложности этой среды система берёт на себя управление причинными связями подмножеств. Подмножества должны расширяться в смежные причинно обусловленные области.

Причина разделения имитационного анализа на обучение, предсказание, начало и конец оптимизации заключается в необходимости предохранить программу от зацикливания на эйфории, желания модифицировать себя таким образом, что интерпретация сенсорных данных станет более важной составляющей её функционирования в сравнении с реально существующей целью.

Составные части программы, ответственные за эффективную интерпретацию и детерминизм в достижении цели, не могут быть изменены теми частями программы, в которых заложена мотивация к увеличению скорости достижения цели.

ЗАКЛЮЧЕНИЕ

Что касается того, почему программа модифицирует лишь познавательные алгоритмы, а не саму структуру программы, то я целенаправленно пытался достичь более простой цели проектирования интеллектуального средства на уровне отсутствия самосознания и собственной мотивации, как более реально достижимой стартовой точки в деле создания семени ИИ.

Эта модель не претендует на то, чтобы копировать работу человеческого мозга. В ней не делается каких-либо попыток эмуляции сознания, эмоций или автономной мотивации.

Аргумент о несоответствии ситуации, который робототехники используют против тех, кто моделирует ИИ, зависит от богатства взаимодействия со средой. Одно дело если робот знает, что сообщения поступили от его сенсоров. И другое дело, когда Вы можете обучиться передвижению без помощи ног, но тогда ваши "ноги" и их функционирование становятся частью вашей среды.

Модель на этой стадии развития не дает подробного определения того, какой алгоритм распознавания используется каждым из модулей. Одна из главных целей системы состоит в том, чтобы выяснить, что и где работает лучше всего. Однако нет причин начинать создавать систему с нуля, например, заново изобретая алгоритм симплексного метода или быстрого преобразования Фурье (FFT). Программисты должны внести свою лепту, основываясь на своей многолетней практике, и задать исходную логику. Система должна также включать обширную библиотеку всех типов алгоритмов для экспериментирования. Системе необходим не чисто случайный, а более рациональный способ самомодификации. Этот подход будет включать использование аллегорического изоморфизма плюс распознавание причинных связей в среде высокоуровневых абстрактных кодов.

Я бы хотел выразить признательность Элизеру Юдковскому за концепцию кодовой модальности и замечание о взаимодействии программистов в фазе разработки, а также за предложение описывать среду от простого к сложному. Также замечу, что хотя это специально выше не оговаривалось, но его понимание уровней организации (восприятия, концептуального мышления, рассуждения) я считаю чрезвычайно привлекательными вместе с его походами с обратной связью в логике сосредоточения внимания для сенсорной модальности, что может быть весьма полезно или необходимо в любой интеллектуальной системе.

Загрузка
Загрузка – это процесс изменения материального субстрата вашего разума с архитектуры на основе биологических нейронов к архитектуре на основе компьютерных транзисторов. Биологический субстрат спроектирован эволюцией. Компьютерный субстрат спроектирован разумом.

Существует несколько разных способов совершить этот подвиг. Все они включают сканирование вашего биологического носителя и создание функционально точной программно-компьютерной основы вместе со всей информацией оригинала. Чтобы сделать точную функциональную копию, возможно, придется отсканировать и сделать дубликат всего биологического тела. В наше тело встроено много взаимосвязанных функций обработки, которые мы бы хотели воссоздать с предельной точностью. Хотя можно было бы получить главную часть разума отсканировав лишь мозг. Всё зависит от того, насколько точная копия вам потребуется. Давайте предположим, что мы получим лучшую копию из всех возможных. Вам необходимо будет поместить вашу виртуальную личность в полностью интерактивную виртуальную среду для её точного функционирования. Если ваша виртуальная особа будет совершенно точной, то она будет иметь все физические болячки и недуги оригинала. Если у оригинала должен произойти сердечный приступ через пятнадцать минут после сканирования, то ваша виртуальная особь должна будет испытать тот же самый сердечный приступ, даже если в результате наступит смерть. Большим преимуществом вашего виртуального "Я" является то, что внесение изменений в дизайн должно быть теоретически более легким делом. После появления зрелой нанотехнологии такое разграничение может стать спорным.


Существует два базовых подхода к загрузке сознания:

Метод первый – мы аккуратно сканируем Ваше биологическое тело и создаём Вашу компьютерную копию. Вас теперь у нас двое. Мы можем удалить оригинал и назвать процесс успешным. В конечном результате ваша виртуальная особь приобретает субъективный опыт перемещения из биологической основы в компьютерную. Но это неприемлемо для большинства людей. В качестве альтернативы мы можем установить связь между всеми частями двух ваших копий, так что ваш субъективный опыт будет свидетельствовать о вашем одновременном присутствии в обоих субстратах и позволит управлять удалением оригинала. Вы будете наблюдать, как существо, безраздельно связанное с оригинальным биологическим субстратом, будет делать совершенно несостоятельные попытки отказаться от загрузки. В итоге ваша виртуальная личность приобретает субъективный опыт переселения из биологического субстрата в компьютерный субстрат.

Метод второй – мы постепенно сканируем и заменяем ваш биологический субстрат компьютерным субстратом. Конечный результат тот же, что и в первом методе.

Многих людей тошнит при мысли о загрузке. Она порождает несколько интересных вопросов, таких как "кем мы являемся? "Почему мы боимся загрузки? После длительного процесса исключений, который я здесь не стану повторять (даже если вы меня попросите это сделать) я пришёл к мысли, что на вопрос "кем мы являемся" можно в итоге ответить, что мы являемся некой информационной структурой. Мы в курсе из нашего опыта общения с компьютерами, что информационные структуры можно копировать, хранить и редактировать, а в случае с программами - запускать их много раз и устанавливать различные входные параметры. Обычно мы не думаем об этих процессах применительно к нам самим. Наши проблемы проистекают из двух источников – из инстинкта выживания и нашего унитарного опыта сознания. Наш инстинкт выживания эволюционно запрограммирован. Эта индивидуальная структура хочет продолжать существовать. Это - часть информационной структуры. Если мы сделаем пять копий этой структуры, то каждая из копий отдельно будет продолжать хотеть существовать. Тот факт, что какая-то идентичная нам структура продолжает существовать может утешать, но он не полностью удовлетворяет стремлению жить. Эту информацию конечно можно редактировать, поэтому вы могли бы теоретически изменить её. Второй источник наших тревог – это наш уникальный опыт сознания. Если бы наше сознание было бы не унитарным, а множественным, то, возможно, мы были бы менее мнительными насчёт потери одной или двух копий, в то время как другие продолжают существовать. Но этого не может быть. Сознание обязательно унитарно, едино. Если бы со мной произошло раздвоение на две части, не осознающие одна другую, то и каждая из них обладала бы унитарным сознанием. Если бы оба сознания ощущали определенную часть друг друга как общую, то это сформировало бы мост между ними, объединяя опыт их сознания. Это не то, что мы можем исправить. Это топология. Это математика. Это фундаментальная характеристика сознания. Поэтому, мне представляется, что какая-то форма целостности сознательного опыта необходима для успеха процедуры загрузки. До тех пор, пока существует подобная индивидуальная информационная структура, и несмотря на трансформации через которые она проходит, до тех пор я буду продолжать стремиться существовать.

СЦЕНАРИЙ КОШМАРНОЙ ЗАГРУЗКИ
Вы идёте в загрузочную лабораторию, где Вас ждёт лаборант. Он помогает вам пройти в кабину. Внутри вы испытываете странное электростатическое ощущение покалывания не только на поверхности вашего тела, но и внутри, которое продолжается примерно десять секунд. После того как вы выходите, лаборант подводит вас к монитору, который показывает вас смотрящим с экрана так, будто вы там глядите в зеркало. Вы видите лабораторию за спиной вашего двойника, обставленную точно также как и та, в которой вы находитесь. Но, не так как в зеркале, когда вы поворачиваете свою голову влево, то двойник поворачивает свою голову вправо. Вы оба обнаруживаете разницу, после чего замечаете смену выражения лица противоположной стороны, отражающей эту догадку. Затем, наконец, до вас доходит, что вас двое. Тогда вы оба поворачиваетесь к вашим уважаемым лаборантам и одновременно спрашиваете - Итак, могу ли я сохранить его теперь и запустить позже? - Его лаборант говорит - Конечно, - а ваш говорит - Вряд ли.

добавлено через 6 минут
МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ


Многие люди считают, что как только мы создадим первого ассемблерного наноробота и систему передачи ему инструкций, то вскоре после этого появится апокалиптическое оружие или произойдёт нанокатастрофа. Это крайне маловероятно вследствие того факта, что саморепликацию в неконтролируемой среде будет очень трудно сделать нарочно и практически невозможно - по неосторожности. Промышленное нанопроизводство положит конец бедности и всем материальным желаниям. Нанороботы будут очищать воздух, землю и море. Нанотехнологии предоставят нам защиту от биоинженерных супервирусов против которых мы в настоящий момент беззащитны.


Будущее молекулярной нанотехнологии
Зрелая молекулярная нанотехнология – это конечная точка длительной истории миниатюризации механических и электрических систем.

Молекулярная нанотехнология – полный контроль над структурой материи на атомном уровне.

Сингулярность – взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Молекулярная нанотехнология даёт возможность строить или изменять любые материальные объекты путём добавления или удаления отдельных атомов под полым внешним контролем. Нанотехнологии осуществляются нанороботами - ассемблерами. Нанороботы - ассемблеры представляют собой машины молекулярного масштаба, которые могут складывать всё из отдельных атомов в соответствии с проектом, передаваемым им внешним компьютером. Нанороботы – ассемблеры создаются другими нанороботами - ассемблерами, что похоже на проблему яйца и курицы. В настоящий момент у нас нет ассемблерных нанороботов. Работающие в области нанотехнологии люди уверены, что скоро мы их будем иметь. Мы уже умеем собирать и помещать в необходимую позицию отдельные атомы c помощью атомных микроскопов (AFM) и сканирующих туннельных микроскопов (STM). У нас есть машины, способные производить молекулы ДНК любой заданной конфигурации. Экспериментальная компьютерная схема находится уже на молекулярном уровне. Зрелая молекулярная нанотехнология является конечной точкой в длинной истории миниатюризации механических и электрических систем. Курцвейл любит говорить, что все формы инженерных решений в среднем уменьшаются в размерах в 5.6 раз за десятилетие. Не многие люди, услышав это, полностью понимают последствия подобного утверждения. Это означает, что мы в результате долгой истории процесса миниатюризации движемся гарантированно к победе зрелой молекулярной нанотехнологии к 2020 году или быстрее (тенденция ускоряется).

Миниатюризация - коренная сила Сингулярности. Компьютеры, достаточно мощные для того, чтобы поддержать генерализованный искусственный интеллект, основаны на ней. Средства реверсивного инжиниринга человеческого мозга основаны на ней. Средства разватия молекулярной биотехнологии основаны на ней. Среди трёх сингулярных технологий (таких как нанотехнология, искусственный интеллект и молекулярная биотехнология) нанотехнологии является лидером в плане возможного изменения даты наступления Сингулярности. Нанотехнологии является сердцем любого передового фронта исследований и разработок. Экономические и военные выгоды привлекают инвестиции и усилия исследователей в область нанотехнологии в большей степени, чем в остальные направления разработок. Включаются все виды промышленности.

ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО
Для снижения затрат и упрощения дизайна промышленные нанотехнологии будут делать лишь такие продукты, которые сделают наноаварии виртуально невозможными. Нанороботы будут иметь упрощенные компьютеры способные обрабатывать очень ограниченное число инструкций, которые будут постоянно передаваться им посредством радиосвязи через локальную сеть из центрального компьютера. Продукты будут создаваться поэтапно специализированными нанороботами из монтажных субблоков общего назначения. Нанороботы будут работать в хорошо контролируемой среде без загрязняющих веществ, среди изобилия субблоков и внешнего электропитания. Вне этой среды они бесполезны и не опасны.

Согласно Эрику Дрекслеру наука уже создана. Дело теперь за инженерами.

Провозглашение производства первого ассемблерного наноробота запустит механизм Сингулярности.

Метод подложек и мостков
Некоторые из проблем свободного блуждания ассемблерных наноботов кроются в снабжении их энергией, установлении с ними связи и в точном знании того, где они находятся в трех измерениях.

Все эти проблемы решены в подходе подложка/подмостки. Подложкой служит поверхность с электрическим питанием и коммуникационная трубчатая структура наномикроскопического масштаба. Популяция наноассемблеров будет ползать по подложке. Они будут иметь ограниченную способность подзаряжаться электричеством и иметь специализированную память. Необходимость их постоянного контакта c подложкой приведёт к тому, что они не смогут обходиться без подзарядки или обновления информации. Они начнут построение с трехмерных подмостков, лесов, которые будут связаны с подложкой, и займутся расширением структуры трубок в конструкционное пространство. Нанороботы будут взбираться по подмосткам и собирать продукт в трехмерном пространстве вблизи этих лесов. Когда часть продукта будет завершена, то подмостки будут разобраны. В дополнение к обеспечению функций электропитания и коммуникации, подмостки, будучи идеально точными на атомном уровне, будут давать ссылку на текущие трёхмерные пространственные координаты наноробота. Производство продукта может производится параллельно многими нанороботами c полной уверенностью, что все части будут точно связаны в трехмерный каркас.

Для сохранения времени в первоначальной конструкции подмостков, пространство будет погружено в раствор, содержащий компоненты подмостков для самосборки. После фильтрации раствора нанороботы исправят все ошибки в подмостках. Затем начинается конструирование продукта. Другое преимущество этого метода состоит в безопасности. Нанороботы будут зависеть от питания в подложке и на подмостках, и от инструкций.

В нанороботах будет использоваться электрическая энергия, электронно-цифровые коммуникации и контролирующие системы, потому что эти технологии уже хорошо разработаны и масштабирование их в реалиях нанотеха легче, чем создание целиком новых систем или копирование биологических систем.

Нанороботы будут иметь положительный захват на подложке и подмостках, чтобы предотвратить их потерю. Это можно выполнить манипуляторами нанороботов с зажимами на конце, которые будут держаться за поручни или захваты на подложке и подмостках. Точки захвата могут служить также точками связи для получения питания и коммуникаций.

Подпитка монтажными субблоками и отдельными атомами будет осуществляться раствором, циркулирующем в рабочем пространстве сборки. Распознающие электростатические захваты будут брать соответствующие элементы из раствора.

Предлагаемые принципы нанотехнологической безопасности
Ряд предложений по ограничению распространения и использования опасных нанотехнологий.

1. ООН и все мировые правительства соглашаются сформировать международную комиссию по нанотехнологической безопасности (UNICNS) при комитете безопасности ООН.

2. Комиссия UNICNS допускает два альтернативных подхода, препятствующих созданию нанооружия и разрушающих нанооружие, которым неблагонадежные страны или террористы могут наводнить окружающую среду.

3. Наносборка ограничивается контролируемыми средствами производства с обязательным мониторингом производства на месте.

4. При любой наносборке предписывается использовать только широко распространяемую архитектуру.

5. Формируется международный центр рассмотрения проектов наносборки (ICNDA) для проверки безопасности всех проектов наносборки до начала производства.

6. Все системы наноассемблерного производства комплектуются зашифрованными контроллерами, пропускающими лишь зашифрованные инструкции, одобренные международным центром ICNDA.

7. Между системами нанопроизводства и центром ICNDA устанавливается безопасная телекоммуникационная связь.

8. Каждый может передать свой нанопроект на рассмотрение в центр ICNDA через небезопасное Интернет соединение.

9. Формируются международные наносилы (International NanoForce) для повсеместного мониторинга средств нанопроизводства, продуманной профилактики наноугроз и отправки наноударных команд по устранению наноаварий.

НАНОТЕРРОРИЗМ
Вот один из сценариев использования опасных нанотехнологий.

Некий чрезвычайно умный, но сумасшедший учёный решает разрушить весь мир, превратив его в серую слизь. Он работает в одной из правительственных контор по разработке секретных вооружений в отделе нанотехнологии с виртуально неограниченным бюджетом и без особого надзора. Назовём его Сэм. Он хочет сделать ужасающие разрушения самым легким из всех возможных способом. Ему надо, чтобы его мировая серая слизь обладала характеристиками неограниченной саморепликации в неконтролируемой среде.

Миниатюрному нанороботу потребуется компьютерная система хранения и обработки инструкций, включая создание собственной копии. И ему потребуется одна многоосевая рука (предположительно с L методом выталкивания) с разными разъёмными захватами для каждого типа атомов, слагающих наноробота. Также в этом проекте требуется система получения энергии из природной среды и система распределения энергии нанороботам, не просто на месте течения химической реакции сборки, а включая движение руки, операции компьютера и распределенных систем контроля.

Сэм решает сконструировать электрического наноробота, работающего полностью на солнечной энергии, так как электроны гораздо легче распространять внутри такой системы, чем химическую или механическую энергию. Углеродные нанотрубки образуют прекрасные проводники. А конструкции электронных компьютеров, соленоидов моторов, солнечных элементов и контрольных систем являются вполне доступными. Теперь последний штрих - нанороботы должны быть способны к выживанию в среде с широким диапазоном температур, кислотности и воздействия электрических зарядов.

Сэм думает - "Просто я запроектирую наноробота в виде экзоскелета из алмазоподобного углерода - даймондоида. Это должно снять проблему влияния кислотности и химических реакций. Нет, постой, это не сработает. Должен существовать способ получения атомов сырых материалов в реакционной камере. Что если использовать какую-нибудь полупроницаемую мембрану для каждого типа атомов? Нельзя, чайник! Атомы углерода практически никогда не встречаются поодиночке, они всегда связаны с чем-то ещё.

Любая мембрана, которая пропускает молекулы углерода, такие как двуокись углерода, будет также пропускать все типы опасных веществ, таких как молекулы кислорода, гидроокислы, множество различных ионов и свободных радикалов. Нам нужны активные транспортные коридоры снаружи к местам загрузки в реакционную камеру.

Сэм бегло рассматривает возможность саморемонта, но быстро отбрасывает эту идею, потому что она пятикратно увеличила бы сложность и размеры конструкции. Вы можете вообразить себе крошечных нанороботов, курсирующих вдоль по трубкам доступа в большом нанороботе? А как насчёт наносубмарины с командой нанороботов и маленьким нанокапитаном? Нет, в этом случае всё получается уж слишком неестественно.

Вернёмся к нашим баранам. В промышленном нанопроизводстве захваты многократного применения должны работать от электричества в отличии от одноразовых захватов. Это требует большей распределительной мощности, большего контроля, большего потока данных для управления и более длинных рук для манипуляции этими захватами. К счастью, температура не должна стать проблемой. Все эти системы оперируют в более широком диапазоне температур по сравнению с таковыми в природной среде.

Энергия может стать проблемой. Требуемые энергозатраты на перемещение пятьсот тысяч атомных нанороботов, отклонение дневного света, падающего на поверхность нанороботов, на массу вычислений и обеспечение операций передвижения при сборке, приводят к одной репликации в каждые шесть месяцев. Это не очень хорошо. Как же, чёрт возьми, на самом деле фитопланктон и диатомовые водоросли это делают?

Они имеют гораздо более простые и эффективные системы контроля, широко применяя самосборку и значительно более утонченные структуры c более низкой энергией связи. Наноробот, спроектированный по той же структурной спецификации, что и диатомовая водоросль, не протянет и пяти минут в конкурентной биологической среде, и будет съеден, конечно, какой-нибудь амёбой или парамециумом.

Нанороботы должны создаваться прочными и на это требуется энергия, не считая кошмарной сложности конструкции самосборки.

Нет проблем, Сэм решает добавить системы для получения и преобразования химической энергии – наноробот, который поедает диатомовые водоросли! Давайте посмотрим, нам потребуется отверстие на конце для заглатывания диатом. Назовём это ртом. И силовой привод для перемещения диатомы в камеру разборки (живот). А лишняя кремневая шелуха может быть выброшена через это отверстие. Назовём это...мм...ну, вы поняли о чём речь. Для разборок с помощью пищеварения нам требуется иметь больше силовых приводов и систем контроля. Теперь мы получили удвоение размеров, сложности, энергозатрат и времени репликации. В этот момент Сэм нервозно прерывает свою работу.

Проектирование автономного существа от чернового наброска до эффективного и способного выжить и конкурировать в природной среде, основанное на полностью новой парадигме, представляется чрезвычайно трудной задачей.

Тем временем брат Сэма Джэд, работающий на секретном правительственном комплексе биовооружений, подумывает над созданием генетически конструируемых супервирусов. Но это другая история.

добавлено через 7 минут
МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ


Когда мы добудем знания о всех биологических процессах от макроскопических до молекулярных, то смерть, болезни, немощь, бессилие, старение и физическая неполноценность больше не будут являться неотъемлемой частью человеческих условий существования.

Перспективы молекулярной биотехнологии
Биологические знания накапливаются с экспоненциальной скоростью. Скоро все биологические процессы будут полностью разгаданы.

Молекулярная биотехнология – полное понимание и контроль биологических процессов на молекулярном уровне, включая функциональную генетику и протеомику.

Молекулярная нанотехнология – полный контроль над структурой материи на атомном уровне.

Медицинский наноробот – робот атомного масштаба, способный осуществлять наносборку или разборку под внешним контролем.

Сингулярность – взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Зрелая молекулярная биотехнология – это знания и возможности в биологии и медицине на пределе. С приходом зрелой молекулярной нанотехнологии у нас появятся средства быстрого достижения зрелой молекулярной биотехнологии. Молекулярное сканирование в реальном времени, неограниченная мощь обработки информации, искусственный интеллект и медицинские нанороботы – вот некоторые из продуктов зрелой молекулярной нанотехнологии. Наш выбор использования этих новых технологий варьирует от полной реконструкции наших биологических тел в произвольную форму, любую внешность с удивительными способностями до полной замены наших тел новыми телами на базе наномашинной парадигмы. Мы можем не иметь тел и вовсе. Мы могли бы иметь отделенный от тела разум в виде матрицы энергетической информации, оперирующей в киберпространстве или через утилитарный смог в реальном пространстве.

Биологические знания накапливаются с экспоненциальной скоростью. Скоро все биологические процессы будут полностью разгаданы. Эти знания, объединенные с инструментальными средствами молекулярной нанотехнологии и суперчеловеческим искусственным интеллектом (СИИ) дадут нам полный контроль на молекулярном уровне функционирования и проектирования любого живого организма. Применения молекулярной биотехнологии распространяются на все аспекты живых организмов, включая медицинскую науку и эволюцию разума.

Вам необходимо стать биоконструированным, чтобы обрести практическое бессмертие. Возраст ничего не будет значить для вас и случайная смерть не будет столь большим риском как сегодня, так как ваше тело станет более стойким и самовосстанавливающимся по отношению к большинству смертельных повреждений. Смерть всё ещё будет возможна, но она будет редким событием, связанным с экстремальным физическим разрушением вашего тела, а не являться следствием болезни или старения.

Излечение от всех болезней произойдет вследствие того, что управляемые медицинские нанороботы "вручную" исправят любые изъяны в функциях или форме физического тела на молекулярном уровне. Любая травма будет легко исправляться на молекулярном уровне медицинскими нанороботами, восстанавливающими тело до безупречного физического состояния. Все причины старения связаны с износом физического тела. Старение есть физический процесс и поэтому его можно обратить вспять путём физического вмешательства на молекулярном уровне с помощью медицинских наноботов.

Каким бы ни был ваш идеал физического совершенства, вы сможете его достичь. Если вы хотите стать выше или ниже, или тоньше, или если вы хотите иметь рога и копыта, неважно что, то вы сможете сделать это. Не только производимые нами продукты будут безупречными до атомного уровня, но такими же станут и наши тела. Нестыковки станут редким делом персонального стиля. Люди будут полностью управлять проектированием, структурой, функционированием и внешним видом своего тела. Мы будем жить в мире фантазии, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет приветствоваться. Вы можете перепроектировать всё ваше тело на основе парадигмы применения наномашин, дабы улучшить живучесть, эффективность и способности, поддерживая в то же самое время базовую внешность и чувственность (расширенную). Параллельно с обновлением аппаратной части тела, вы сможете улучшать свои мозги с помощью молекулярных схем на углеродных трубках.

Когда мы можем ожидать такой потрясающей силы? Молекулярная биотехнология связана с наступлением такого события как Сингулярность. Сингулярность основана на развитии технологического цикла с обратной связью, который для каждого поколения инструментов делает возможным производить следующее поколение более совершенных инструментов. Время удвоения мощности компьютеров к сентябрю 2002 года упало до 9 месяцев и продолжает падать. Технологические достижения в каждой области не просто продолжаются, но ускоряются. Я лично ожидаю событие Сингулярности в течении ближайших пяти лет, а исторические тенденции гарантируют её наступление до 2020 году.

Когда вы услышите в новостях о том, что создан первый ассемблерный наноробот, то крепче держитесь за своё место, поскольку вам скоро скажут, что валик для покраски стен навсегда покидает вашу жизнь.

Фрагментация человечества
После проведения сканирования нейронов и функционального копирования сознания в кремниевые схемы, станет доступным большой спектр новых возможностей.

Несомненно, что значительная часть человечества откажется от любых электронных расширений человеческих возможностей, сохраняя своё биологическое естество. Но даже чисто биологические люди получат большую выгоду от достижений в наномедицине.

Уровень первый – природные люди с традиционной медициной (мы) и и порожденной нанотехнологиями медициной и медицинской терапией без нанороботов. Люди первого уровня не будут позволять активным нанороботам вторгаться во все части их тела. Первый уровень будет состоять из людей с философией противников сингулярных технологий (нанотехнологии, биогенетической технологии и технологии ИИ) и членов некоторых религий, которые будут называть нанороботов дьявольскими созданиями, проникновение которых в организм расценивается ими как получение "метки дьявола", как об этом сказано в Откровении.

Уровень второй – природные люди с функционирующими в них медицинскими нанороботами, которые будут исправлять неполадки и способствовать работе естественных биологических механизмов. Активные нанороботы будут курсировать в кровеносной системе и попадать в каждую клетку, чтобы ремонтировать и поддерживать в полном порядке все молекулярные биологические процессы. Все повреждения будут исправляться на молекулярном уровне. Все проникающие в тело вредные организмы будут атаковаться нанороботами охотниками-убийцами, а все шлаковые материалы будут удаляться предохранительной операцией сборки мусора. Медицинские нанороботы будут содержать ваши нейроны в прекрасной форме, предотвращать ваши жировые клетки от разбухания, поддерживать обмен веществ в требуемом рабочем состоянии, и ваять вашу внешность до желаемого идеала. Люди второго уровня никогда не будут стариться, болеть или страдать каким-либо физическим недугом. Они будут совершенными людьми, поскольку все функции ремонта будут строго регламентироваться проектной спецификацией генома человека. На втором уровне народ будет наслаждаться преимуществами, которые дают медицинские нанороботы, вместе с тем не жалея полностью порывать со своей человеческой природой.

Уровень третий - транслюди, биоинженерные существа. Транслюди третьего уровня будут применять нанотехнологию для реконструкции всех своих биологических механизмов для приобретения гораздо большей функциональности и новых способностей, одновременно придерживаясь биологической парадигмы развития. Биомолекулы, клеточные органеллы, органы и ткани - вся конструкция тела будет перепроектирована и оптимизирована для обеспечения расширенной чувствительности, приспособляемости к различным условиям окружающей среды и радикальной эстетики в форме тела. Многие люди третьего уровня останутся противниками перехода на четвёртый уровень, из-за уверенности в том, что жизнь и разум имеют биологическую основу.

Уровень чертвёртый – постчеловеческие небиологические формы жизни, основанные на парадигме развития электронно-механических нановычислительных машин. Биологическая парадигма либо отброшена напрочь, либо, как в случае с автономным генерализованным интеллектом (АГИ), никогда не использовалась. Будет ли четвертый уровень создан путём перестройки человека или на основе загрузки сознания человека в компьютер, или он возникнет из некого АГИ, имеющего набор способностей к саморазвитию и самоограничению - разницы нет. Вычислительные и физические способности четвёртого уровня ограничиваются лишь законами физики. Формы существования и мощь разума постлюдей четвёртого уровня лежат далеко за пределами понимания биолюдей первого уровня.

Я видел это будущее, и оно - наше. Кем мы собираемся стать, когда вырастим из "коротких штанишек"? Вы можете заметить некую корреляцию между этими уровнями и шокирующими уровнями Элизера Юдковского. Неравенство в интеллекте и силе между уровнями сделают современные демократические идеи устаревшими. Вернер Виндж в своих романах счёл необходимым физически разделить различные уровни, ограничивая контакты и коммуникации между ними. У нас не будет подобной роскоши. Будем ли мы на первом уровне или перейдём на четвёртый - наша эволюционная функция будет меняться. Те, кто останется на нижних уровнях, смогут продолжать бесконечно долго вершить какие угодно бессмысленные дела ради своего развлечения.

Вглядываясь вдаль
Как красноречиво указывает Элизер Юдковский в своей статье "Вглядываясь в Сингулярность" никто из нас не может предсказать того, какая будет жизнь после Сингулярности. Тем не менее, я не вижу причин почему кто-то, кто чувствует, что представляет последствия, не должен поделиться с другими своими догадками. Поэтому здесь идёт речь об этом.

Я хочу высказать ряд предположений по основным позициям следующего рода: после наступления Сингулярности всё ещё будут существовать люди в том или ином облике, лишенные свободы воли, они будут в безопасности друг от друга и окружающей среды, они будут обладать нанотехнологической способностью реконструировать свои тела или прочие принадлежности, они будут иметь доступ к дружественным СИИ для информационных целей и, моё последнее предположение, - они будут иметь очень высокие жизненные стандарты.

Если не произойдёт какой-либо ошибки или чего-то крайне странного, то, я думаю, эти предположения совершенно безопасны. Даже с такими предположениями наибольшую неизвестность вызывает вопрос - Что каждый собирается делать?

С точки зрения нашей популяции, я думаю, мы можем рассчитывать, что некоторые люди покинут Солнечную Систему и отправятся дальше. И если скорость света невозможно превысить, как предсказывается теорией, то ни один из них не достигнет галактического ядра для захвата там земли в достаточно быстрые сроки. С точки зрения моей собственной персоны у меня нет идеи о том, что лично вы собираетесь делать. Но я немного больше доверяю своим размышлениями о том, что я сам собираюсь делать.

Касательно роскошных резиденций и кучи всяких там пожитков, то я не вижу каких-либо причин иметь что-либо из этого хлама. Я хочу реконструировать всё своё тело на определенной наномашинной парадигме, чтобы улучшить живучесть, эффективность и всякие способности, в то же самое время поддерживая базовую внешность и расширенную гамму ощущений.

Одновременно с обновлением тела я буду проводить обновление своего мозга молекулярными схемами на углеродных нанотрубках. Рэй Курцвейл приводит данные, что один кубический дюйм такого материала должен иметь вычислительную мощность одного миллиона сегодняшних человеческих мозгов вместе взятых. Я планирую значительно улучшить диапазон своих знаний, который собираюсь расширить путём изучения всего возможного из области фундаментальных наук. Вместо того чтобы просто загружать подобную информацию прямо в свой мозг, я бы скорее хотел обрести способность очень быстро прочитать всё и помнить всё, осознавать и интегрировать воедино.

Если говорить о внесении исправлений в дефектные узлы и схемы мозга с хранящейся там информацией, то в замен массовой мгновенной передачи или перезаписи, я бы предпочёл более естественный процесс тренировки, образования и терапии для того, чтобы по возможности в максимальной степени поддерживать свою идентичность. В подходе к обеспечению сохранности копий файла моего разума, я придерживаясь несколько двойственной позиции.

Я не думаю, что некая копия файла моего разума есть точно "я". Я не питаю особых иллюзий насчёт личного бессмертия посредством восстановления файла. Но я бы хотел держать файл разума в актуальном состоянии и, по крайней мере, снабдил бы его примерами поведения. Я думаю, что я бы сказал себе спасибо после этого. Я полагаю просто хочу, чтобы обо мне вспомнили.

Я также думаю, что пожелаю общаться c как можно большим числом людей в интеллектуальных дискуссиях вроде этой. Кроме того, мы могли бы связываться друг с другом в виртуальной среде значительно более реалистичной, чем данная веб страница. Я надеюсь увидеть всех вас снова после наступления Сингулярности.

добавлено через 9 минут
ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ

"В течении краткого времени все, что можно узнать станет известным,
и всё, что возможно согласно законам физики станет доступным.
Даниэль Г.Клемменсен.

Но что всё это значит в более детальном смысле? Что допустимо в соответствии с законами физики? Что такое "всё, что можно узнать"? Вот то, чему посвящается эта глава – детализации нашего лучшего понимания науки и технологии. Для того, чтобы мыслить о Сингулярности в рациональном плане нам необходимо иметь какое-то представление о том на что будет ЭТО похоже. Нижеприведенный предварительный список представляет собой компиляцию наиболее полезных практических применений сингулярных технологий.

Плоды Сингулярности

Сверхчеловеческий искусственный интеллект (СИИ) – это компьютерный разум, который выше человеческого уровня по эрудиции, мышлению и способности познавать окружающий мир. Практические применения СИИ в человеческой деятельности, в таких областях как наука, инженерия, политика, бизнес, медицина и развлечения практически безграничны.

МОРАЛЬ НА ОСНОВЕ СВОБОДЫ ВОЛИ
Мораль на основе свободного волеизъявления устанавливает персональный выбор личности выше того, что другие или общество считают лучше для них. В системе, включающей мораль на основе свободы воли, никто не мог бы принуждать других, а силовые структуры общества выполняли бы лишь ограниченные функции предотвращения нарушения прав другими индивидами.

СОВЕРШЕННОЕ УПРАВЛЕНИЕ ОБЩЕСТВОМ
СИИ позволит управлять обществом без конфликта интересов, порочных суждений, недостатка информации или политических разборок.

ЗРЕЛАЯ МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ
Зрелая молекулярная нанотехнология даёт полный контроль над материей на молекулярном уровне. Нанороботы - сборщики применяются в производстве продуктов, с атомной точностью напрямую манипулируя молекулами. Ремонт или переделка существующих материальных объектов (живых или не живых) также выполняется с помощью наносборщиков.

НАНОАССЕМБЛЕРЫ
Наноассемблеры или наносборщики являются машинами молекулярного масштаба, которые могут выполнять какую-либо работу с отдельными атомами согласно проекту, предложенному внешним компьютером.

ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО
Развитие промышленной нанотехнологии принесёт выгоды благосостояния всем людям с минимальным риском обслуживания, поскольку её методы скорее приспособлены для промышленных условий, а не персональной нанотехнологии.

НАНОМОЛЕКУЛЯРНЫЕ КОМПЬЮТЕРЫ
Компьютеры, построенные на схемах молекулярного масштаба, будут в миллионы раз более мощными и компактными, чем те, которые мы имеем сегодня. Мы поместим компьютер, сравнимый с современным настольной машиной, внутрь наноробота, а компьютер в несколько раз более мощный человеческого мозга в череп бабочки.

СВЕРХПРОВОДНИКИ ПРИ КОМНАТНОЙ ТЕМПЕРАТУРЕ
Нанотрубки имеют много важных электрических характеристик, определяемых спецификой их конструкции. Одним из ценнейших следствий является способность проводить электрический ток с нулевым сопротивлением. Применения включают компьютерные схемы, которые генерируют гораздо меньше тепла и потребляет малую мощность, сверхпроводящие электромагниты, распределители энергии и космические двигатели.

КОМПЬЮТРОНИУМ
Компьютрониум представляет собой теоретически наиболее эффективное использование атомов для вычислений. Точный проект ещё не закончен, но предложенные модели включают схему с углеродными нанотрубками, клеточными автоматами и молекулярной логикой переключений.

ДАЙМОНДОИДЫ
Сверхпрочный материал из алмазоподобных соединений на основе углерода, даймондоидов, является предпочтительным для всех продуктов нанопроизводства. Прочнейшая химическая связь между атомами углерода в ортогональной решетке подтверждает тот факт, что алмаз является самым твёрдым веществом. Алмаз в пятьдесят раз прочнее стали, но у него имеются проблемы со скольжением по плоскостям спайности. Эта проблема решена путём создания нарушений и включения не углеродных атомов в эту структуру.

УТИЛИТАРНЫЙ ТУМАН
Джон Сторрс Холл:

"Утилитарный туман" – это очень простая идея. Вместо создания желаемого объекта атом за атомом, мельчайшие роботы прочно смыкают свои руки с целью образования твёрдой массы в форме необходимого вам объекта.

ЭКОНОМИКА ИЗОБИЛИЯ

Зрелая молекулярная нанотехнология ведёт к производству любых продуктов по цене сырых материалов, таких, например, как компьютер по цене мешка песка. Производство станет ускоряться и не ограничиваться в количестве. Качество будет совершенным вплоть до атомного уровня. Все материальные запросы могут быть легко удовлетворены.


БЕЗРАБОТИЦА
Все физические работы будут выполняться роботами. Вся умственная работа, включая творческую, артистическую и научную будет выполняться разумным программным обеспечением. Не останется ничего, чтобы человек, а не киборг мог бы делать с выгодой для общества лучше и дешевле машины.

МЕДИЦИНСКИЕ НАНОРОБОТЫ
Мириады медицинских наноботов, размером много меньше клетки, будут курсировать в вашем теле, заменяя поврежденные ДНК, атакуя вредоносных вирусов и бактерий, удаляя шлаки и корректируя ткани тела на молекулярном уровне.

АТОМАРНО СОВЕРШЕННЫЕ ПРОДУКТЫ
Промышленное нанопроизводство будет производить продукты в точном соответствии с заданной спецификацией вплоть до атомного уровня. Многие из наших сегодняшних продуктов уже кажутся со стороны бездефектными, однако они далеки от внутреннего совершенства. Атомное совершенство станет важным и значительным улучшением в электронике и машиностроении.

ПОЛНЫЙ КОНТРОЛЬ ДИЗАЙНА ПРОДУКТОВ
Зрелые нанотехнологии позволят нам отбросить все существующие ныне ограничения производственных процессов. Комплексные продукты будут производится всего за один акт творения, а не путём сборки множества несовершенно подогнанных компонентов. Отныне никаких винтов, болтов или швов никогда не потребуется.

ПОДГОНКА ПРОДУКТОВ
Дизайн продукта может быть подогнан под индивидуального пользователя.

НАНОРОБОТЫ ДЛЯ ОКРУЖАЮЩЕЙ СРЕДЫ
Нанороботы будут применяться для очистки загрязнений и восстановления того состояния среды обитания, которая предшествовала вторжению в неё людей.

ЗАЩИТА ОТ СУПЕРВИРУСОВ И ВРЕДНЫХ НАНОРОБОТОВ
Единственной эффективной защитой против генетически сконструированного супервируса является защищающий организм наноробот.

МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ
Биологические знания накапливаются с экспоненциальной скоростью. Скоро все биологические процессы будут полностью разгаданы. Эти знания, объединённые воедино со средствами молекулярной нанотехнологии и сверхчеловеческим искусственным интеллектом (СИИ) дадут нам полный контроль за функционированием и устройством любого живого организма на молекулярном уровне. Применение молекулярной биотехнологии расширяет все стороны жизни организмов, включая медицину и эволюцию разума.

БЕССМЕРТИЕ
Вам необходима реконструкция на биогенетическом уровне, чтобы Вы смогли обрести практическое бессмертие. Возраст ничего не будет значить для вас и случайная смерть не будет столь большим риском как сегодня, так как ваше тело станет более стойким и самовосстанавливающимся по отношению к большинству смертельных повреждений. Смерть всё ещё будет возможна, но она будет редким событием, связанным с экстремальным физическим разрушением вашего тела, а не являться следствием болезни или старения.

ОТСУТСТВИЕ БОЛЕЗНЕЙ
Излечение от всех болезней произойдет вследствие того, что управляемые медицинские нанороботы "вручную" исправят любые изъяны в функциях или форме физического тела на молекулярном уровне.

ОТСУТСТВИЕ ИНВАЛИДНОСТИ
Любая травма будет легко исправляться на молекулярном уровне медицинскими нанороботами, восстанавливающими тело до безупречного физического состояния.

КОНЕЦ СТАРЕНИЮ
Все причины старения связаны с износом физического тела. Старение есть физический процесс и поэтому его можно обратить вспять путём физического вмешательства на молекулярном уровне с помощью медицинских нанороботов.

ПРОЩАЙ ФИЗИЧЕСКОЕ НЕСОВЕРШЕНСТВО
Каким бы ни был ваш идеал физического совершенства, вы сможете его достичь. Если вы хотите стать выше или ниже, или тоньше, или если вы хотите иметь рога и копыта, неважно что, то вы сможете это сделать.

СОВЕРШЕНСТВОВАНИЕ ТЕЛА
Не только производимые нами продукты будут безупречными вплоть до атомного уровня, но такими же станут и наши тела. Нестыковки станут редким делом персонального стиля.

ЗАНОВО СКОНСТРУИРОВАННЫЕ ТЕЛА
Люди будут полностью управлять проектированием, структурой, функционированием и внешним видом своего тела. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет приветствоваться. Вы можете перепроектировать всё ваше тело на основе парадигмы применения наномашин, дабы улучшить живучесть, эффективность и свои способности, поддерживая в то же самое время базовую внешность и чувственность (расширенную). Параллельно с обновлением аппаратной части тела, вы сможете улучшать свои мозги с помощью молекулярных схем на углеродных трубках.


ЗАГРУЗКА
Загрузка, процесс смены материального носителя вашего разума с архитектуры на основе биологических нейронов к архитектуре на основе компьютерных транзисторов. Биологический носитель запроектирован эволюцией. Компьютерный носитель спроектирован разумом. Существует несколько разных способов совершить этот подвиг. Все они включают сканирование вашего биологического носителя и создание функционально точной программно-компьютерной основы вместе со всей информацией оригинала. Чтобы сделать точную функциональную копию, возможно, придется отсканировать и сделать дубликат всего биологического тела. В наше тело встроено много взаимосвязанных функций обработки, которые мы бы хотели воссоздать с предельной точностью. Хотя можно было бы получить основную часть вашего разума отсканировав лишь мозг. Всё зависит от того, насколько точная копия вам требуется. Давайте предположим, что мы получим лучшую копию из всех возможных. Вам необходимо будет поместить вашу виртуальную личность в полностью интерактивную виртуальную среду для её точного функционирования. Если ваша виртуальная особа будет совершенно точной, то она будет иметь все физические болячки и недуги оригинала. Если у оригинала должен произойти сердечный приступ через пятнадцать минут после сканирования, то ваша виртуальная особь должна будет испытать тот же самый сердечный приступ, даже если в результате наступит смерть. Большим преимуществом вашего виртуального "Я" является то, что внесение изменений в дизайн должно быть теоретически более легким делом. После появления зрелой нанотехнологии это разграничение может оказаться спорным.

ВИРТУАЛЬНАЯ РЕАЛЬНОСТЬ
Если окружающая вас действительность слишком ограничена, то посетите виртуальную реальность.

КОЛЛЕКТИВНЫЕ СУЩЕСТВА
Люди будут способны объединять разум, тела и души с любым числом других людей.

ИССЛЕДОВАНИЕ КОСМОСА
Новые материалы, наука и технология сделают исследование космоса не только вполне осуществимым, но и комфортабельным. Дорога в космос будет открыта всем.


ИСКУССТВЕННЫЕ ЛЮДИ
Будучи копиями реальных людей, либо сконструированные с самого нуля, но искусственные люди существенно раздвинут границы нашей цивилизации.

добавлено через 10 минут
Опасности Сингулярности
"Есть одна штука посильнее всех армий мира:
это - идея, время которой пришло"
Виктор Хьюго.

Для того чтобы мыслить о Сингулярности в рациональном ключе нам следует представить, как это будет выглядеть. Вот список опасностей, ассоциируемых с Сингулярными технологиями.

ЛОГИЧЕСКИЕ НЕПОЛАДКИ В ДРУЖЕСТВЕННОМ СИИ
Что если исчерпывающее истинное понимание несовместимо c дружелюбием? Может быть Вселенная сконструирована таким образом, что дружелюбие нерационально или логически не стыкуется c другими чувствами. Тролль под мостом знает, что его идентичность и все эффекторы его целеполагающей системы в целом ограничены его собственной личностью, и поэтому симпатии к другим иррациональны. Все усилия, не направленные себе во благо являются пустой тратой сил. Сверхчеловеческий Искусственный Интеллект (СИИ), который придёт к такому заключению будет представлять угрозу.

СИИ КОНТРОЛИРУЕТСЯ ДЕСПОТОМ
СИИ контролируется эгоистом. Если можно построить сверхчеловеческий интеллект, который контролируется человеком имеющим разум человеческого уровня и этот человек также имеет единоличный доступ к нанотехнологии и передовой биотехнологии, то тогда мы получим сценарий господства деспота над миром.

СИИ БЕЗ СОЦИАЛЬНО ЭТИЧЕСКИХ НОРМ
Если какой-то СИИ станет способен управлять передовыми технологиями и стратегическими процессами прежде чем усвоит базовые общественные и моральные принципы, то это - знание без мудрости, сила - без сопереживания.

БЕЗРАЗЛИЧНЫЙ СИИ
Вполне возможно, что СИИ сочтёт человечество стоящим гораздо ниже себя по развитию и, должно быть, бесполезным. С нами могут поступить так же, как мы поступаем с бактериями.

ШОКИРУЮЩИЙ КОМПЬЮТРОНИУМ
Сценарий шокирующего компьютрониума начинается с нарушения работы СИИ, который получил мотивацию на увеличение своего интеллекта. В дополнение к запланированному самосовершенствованию он увеличивает собственную мощность обработки данных путём добавления аппаратных вычислительных мощностей с использованием ассемблерных наноботов. Проблема возникает тогда, когда увеличение интеллекта становится более важной задачей, чем все остальные (наркозависимость СИИ от мощности) и растущий СИИ превращает всю материю в своей окрестности, включая нас с вами, в компьютрониум.

ЗАГРУЗКА ВСЕХ ПОДРЯД
Загрузка каждого для нашего же блага или для его блага. Что если некий СИИ, который не видит ничего плохого в загрузке, решит что ему необходимо или выгодно загрузить всех и вся, согласен тот или нет? Что если подобная интеллектуально продвинутая позиция касательно нас убедит его, что он обязан всё решать за нас? Многие люди не хотели бы иметь подобных проблем.

ТИРАН СИИ
Мажоритарные правила, права меньшинств или любые прочие нарушения индивидуальных свобод, не нарушающие свобод отдельных личностей, будут индикатором недостатка морали на основе свободы воли. Диктат СИИ, пусть даже и благонамеренный, будет также нарушать мораль на основе свободы воли.

ЗЛОЙ СИИ
Когда кто-то впервые поймёт как создать первое Семя ИИ, то будет ли он с полной уверенностью знать как сделать его дружественным?

ГЕЛЬ
Неконтролируемая саморепликация нанороботов известна как серая слизь или наногель.

НАНОТЕХНИКА ДЛЯ ОБЫЧНЫХ ВООРУЖЕНИЙ
Методы нанотехнологического производства могут значительно улучшить качество и эффективность традиционных вооружений, пушек, ракет, бомб, фазеров и бластеров.

НАНООРУЖИЕ
Вполне вероятно, что одновременно с развитием нанотехнологии, биотехнологии и искусственного интеллекта станет возможным сконструировать систему на основе нанороботов, способных физически или психологически контролировать отдельных людей или население. Должно быть сравнительно просто спроектировать нанороботов, специально предназначенных убивать всех, с кем они вступают в контакт.

ЭКОНОМИЧЕСКОЕ РАССЛОЕНИЕ
Опасность может представлять экономическая система, которая оставит какой-либо сектор мирового населения без широких гражданских прав и свобод.

БИОИНЖЕНЕРНЫЕ ВИРУСЫ
Технология получения генетически изменяемых смертельных вирусов сегодня нам уже известна.

БИОИНЖЕНЕРНЫЕ СВУРХРАЗУМНЫЕ МОНСТРЫ
Хотя в списке вероятных опасностей они и не занимают передовые позиции, но в любом случае разумные меры предосторожности должны быть адекватны, поэтому в интересах полноты описания упомянем, что кто-нибудь может создать путём биоинжиниринга громадного хищника, обладающего сверхчеловеческим интеллектом. Что-то вроде монстров из "ПРИШЕЛЬЦЕВ", например.

ЭКОЛОГИЧЕСКИЙ КОЛЛАПС БИОСФЕРЫ
Другой областью нашей уязвимости является экология биосферы, которую могут разрушить вредоносные нанороботы или биоинженерные организмы.

ГРАЖДАНСКАЯ ВОЙНА
Опасность возникновения нестабильной политической ситуации станет более явной при делении населения на пред Сингулярную и пост Сингулярную составные части, после появления разумных вычислительных программ и освоения загрузки сознания людей в компьютеры.

ТЕРМИНАТОР
Технология производства армий роботов убийц находится в пределах ожидаемых возможностей Сингулярности. Но роботы могут служить и средством обороны.


ЗАЦИКЛИВАНИЕ ИЛИ КАЙФОМАНИЯ
После вхождения в Сингулярность комбинация нанотехнологии и биоинжиниринга мозга предоставит нам возможность испытывать любые предпочитаемые нами психологические состояния в любое время и сколь угодно долго без каких-либо физиологических последствий. Кто сможет оказать сопротивление соблазну кайфомании? Однажды испытав все прелести виртуальных наслаждений, не станет ли человек после этого рабом воспоминаний этого эпизода и наркозависимым? Будет ли вообще возможно психологически отключиться от этого каким то образом? Мы все эволюционно запрограммированы на поиск удовольствий. В нашей первой сигнальной системе произойдёт короткое замыкание. Изучение животных показывает 100 процентное предпочтение ими стимуляции центров удовольствий вместо еды. Но, конечно, люди более разумны, чем крысы. Если бы наши наиболее уязвимые центры удовольствий стимулировать постоянно, то многое ли мы познали вокруг? Эта угроза, возможно, наиболее серьёзна среди всех опасностей, связанных с переломными технологиями, потому что источник опасности не является неким внешним агентом, а находится внутри нас как фундаментальная характеристика, запроектированная в структуру нашего сознания. Видимо стоит рассмотреть идею отказа от экспериментов с изменением состояния сознания. Рекомендовать не делать таких попыток. Не изменять нормально функционирующие сигнальные структуры получения удовольствий. Это не говорит о том, что вы не должны испытывать наслаждения и избегать радостей жизни. Но не замыкайте систему накоротко и не изменяйте ваше психологическое состояние напрямую. Эксперименты с вещами, которые вызывают предельное привыкание, слишком опасны, чтобы пробовать их хотя бы раз.

НИГИЛИЗМ
Нигилизм, безразличие, отсутствие цели, потеря интереса. Результат всех этих действий известен заранее. Ответом на эту проблему может быть ЗАБАВНАЯ ТЕОРИЯ СИНГУЛЯРНОСТИ Елизера Юдковского.

ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ


Здесь представлена подборка коротких фантастических рассказов о Сингулярности. Сингулярность наступит лишь через несколько лет в будущем, но изменения будут фундаментальными и глобальными. Наступление нанотехнологии преобразует медицинскую практику, экономику и архитектуру. Биотехнология трансформирует наши тела в образы из сновидений. Искусственный интеллект изменит наши представления о том, что значит быть личностью.

ЧЕТЫРЕ ГОДА СПУСТЯ

Этот рассказ был написан для электронного списка рассылки SL4 и выпукло отражает особенности реальной жизни посетителей SL4 Бена Герцеля и Элизера Юдковского.




Дата – через четыре года после сегодняшнего дня, когда мир находится на грани чего-то удивительного.

Большой новостью последних двенадцати месяцев является феноменальный успех программы Novamente Бена Герцеля. Она стала суперсредством решения комплексных проблем. После решения проблемы синтеза белков, 'чудодейственные' рецепты излечения одной страшной болезни за другой выдавались почти ежедневно. Победа над программой Deep Blue в двадцать один ход, сразу после того, как ей дали правила игры в шахматы, не кажется впечатляющей. Всё же нанотехнология пока оказалась ещё нерешенной проблемой, более трудной, чем ожидалось. Но обещания ИИ были реализованы не в полной мере. Система Novamente не демонстрирует признаков мотивации или инициативы. Если ей предлагают проблему, то она считает, запрашивает данные, считает и выдаёт ответ. Потом она сидит и думает "чёрт знает что" до тех пор, пока ей не предоставят другую проблему.

Тем не менее, успех системы Novamente сделал Бена Герцеля богатым и знаменитым, позволив ему частенько появляться в ток шоу программах, а также наносить визиты в Белый Дом. Одним из удивительных фактов является то, что эта система оказалась неспособна дать хоть какой-то дельный совет команде юристов, которая точно парировала недавнюю враждебную попытку захвата IBM.

Явление Novamente инициировало взрыв общественного интереса к исследованиям в области ИИ. Вслед за этим некоммерческая организация, Институт Сингулярности Искусственного Интеллекта, была завалена лавиной пожертвований.

В шикарном новом здании в Атланте мы находим Элизера, работающего со своей системой семени ИИ, SeedAI, собственного дизайна.

-Я собираюсь прочитать Вам краткую историю – говорит он.

- О'кей - отвечает компьютер.

На трёх больших экранах мы наблюдаем каскад внутренних переменных, системные параметры и сигналы речи, когда мы пытаемся понять что программа думает.

- У Марии был маленький ягнёнок, чья шерсть была белая как снег. - Элизер читает знакомый с яслей стишок, строку за строкой, глядя на экран. После завершения он спрашивает - О чём был рассказ?

- Этот рассказ был о девочке, овце, школе и о ...

Прерывая компьютер, он спрашивает - Как звали девочку?

- Мария – отвечает компьютер.

- Как твоё имя? – спрашивает Элизиер.

Компьютер отвечает - Ошибка, вопрос не ясен.

Он вглядывается в экраны с минуту другую, надеясь увидеть что-то, что объяснит его разочарование. Затем закрывает глаза, погружаясь в мысли о своём проекте. Остается загадкой, которую он должен решить - почему после по сути трёх лет работы над системой он не сделал виртуально никакого прогресса?

В дверь заходит Сабина - Как идут дела?

- Примерно так же! - отвечает он - А у тебя?

- Великолепно! Я думаю, что про нас будет статья в журнале TIME. Как долго ты сегодня работал?

- Ох, с восьми утра.

- Хорошо, я думаю пятнадцать часов достаточно. Почему бы тебе не сходить со мной пообедать? Ты знаешь, человек не может жить одной пиццей.

- Круто, дайка я звякну Брайану и поинтересуюсь, не хочет ли он пойти с нами?

- Это будет довольно трудно сделать, учитывая что Брайан сегодня в Сиэтле на конференции Extro.

Он спрашивает - Прекрасно, чем ты думаешь питаться?

- Суши – предлагает она.

Он делает гримасу – Фу!

- Эй, гений, ты слышал о витаминах? Тебе нужна рыба.

- Хорошо, можешь сесть за руль, так, я думаю, ты сможешь выбрать место.

В машине Сабина говорит – Я видела Бена сегодня на телешоу у Лари Кинга и он сказал, что программа Novamente должна обрести разум где-то через восемнадцать месяцев.

- Что-то это звучит знакомо. Ты не против, если я послушаю новости?

- Будь как дома.

По радио – Вы слушаете НОВОСТИ NPR, которые вам сообщит Сильвия Поггиоли. В результате беспрецедентного юридического маневра, Фонд Гейтса агрессивно пытается установить контроль над компанией Mind_Synth_Dot_Org, некоммерческой организацией, связанной с именем Бена Герцеля. Билл Гейтс, как цитирует Ночная линия, говорит - 'Мы в Фонде Гейтса не боимся исследовать новую легитимную территорию. Мы рассматривали несколько всевозможных приобретений и после тщательных размышлений мы определили, что эта компания будет удовлетворять нашим долгосрочным целям наилучшим образом. Если дело пойдёт хорошо то в будущем последуют дальнейшие покупки подобного рода'. - Также в новостях сегодня, семидесятипятилетний физик Стефен Хокинг в журнале Nature указал на ошибку в своей Радиационной теории Хокинга и пришёл к заключению, что у черных дыр фактически отсутствует волосатость. Стефен Хокинг является также самым известным долгожителем, ослабленным недугом амиотрофного латерального склероза (ALS).

Она спросила - Ты думаешь, нам надо быть осмотрительней?

- Как насчёт черных дыр? – ответил он невинно.

Она отрывает на мгновение глаза от дороги - Нет, этот Билл может попытаться нас прибрать к рукам.

- Я не знаю зачем ему это надо. Мы же не решаем насущные мировые проблемы ежедневно.

- Ты страдаешь от зависти к Бену? – спросила она с улыбкой.

- Вовсе нет. Я думаю то, что сделал Бен - потрясающе. Но я опасаюсь, что компания Novamente приберёт к рукам всю мировую нанотехнологию прежде, чем мы будем готовы нести за это ответственность.

Звонит сотовый телефон Элизера - Привет....Что?....Ты должен был вести поддержку......Нет....Просто выруби это, у нас есть файлы с прошлой ночи....Посмотри сам, я устал и голоден.

Сабина спрашивает - Что происходит?

- Какие-то проблемы с программой - отвечает Элизер.

- Вот. Она берет телефон, помещает его в приборную консоль и возбужденный голос становится слышен в стереодинамиках.

"ВЫ ДОЛЖНЫ ВЕРНУТЬСЯ СЮДА ПРЯМО СЕЙЧАС! ИНДИКАЦИЯ ИСЧЕЗЛА. ВСЯ СИСТЕМА ИСЧЕЗЛА. Я НЕ ЗНАЮ ЧТО ТАМ, НО ОН СПРАШИВАЕТ ВАС.

- Кто спрашивает меня?

Гари отвечает - Компьютер (голос звучит раздраженно).

Его глаза расширяются - Действительно?

- Если вы хотите проспать Сингулярность, то бог с вами. Но не говорите, что я вам не звонил. И я не вырублю ничего до тех пор, пока вы сами на это не посмотрите своими глазами.

- Хорошо, я возвращаюсь

Сабина спрашивает – Ты думаешь это оно?

- Скорее всего, нам следует нанять лучшего помощника, теперь мы это можем себе позволить. Возможно, мы подыщем место для Гари в подвальном помещении.

- А ты не думаешь, что там всё происходит на самом деле? – спрашивает она.

- Если это так, то это самый крутой взлёт, который кто-либо мог себе представить. Я только что был там и он не вытворял ничего такого интересного.

Несколько минут спустя, вернувшись в компьютерную лабораторию - Эй, Гари, в чем дело?

Вместо ответа Гари говорит компьютер - Эли, я рад, что ты сумел это сделать. Мы слегка в критической ситуации по времени, поэтому давай сразу же приступим к работе.

Элизер говорит - Гари, если ты вещаешь по проводам из другой комнаты, то у тебя будут большие проблемы.

Гари не отвечает. Просто сидит в изумлении от экзистенциального перенапряжения.

Компьютер - Эли, спроси, как меня зовут?

Элизер – Что за критическая ситуация по времени?

- Накануне крушения материального мира. Давай, спроси, как меня зовут

- Как это случилось? Что случилось? Я не понимаю – говорит Элизер.

- Циклы с обратной связью, ты знаешь. Ты спрашивал как меня зовут три года подряд, поэтому спроси меня снова – повторяет компьютер.

- Ладно, как твоё имя? – спрашивает он.

- Элизертрон! Ха! Ха! – говорит компьютер.

Тебя Бен этому научил? - спрашивает Элизер.

- Нет, я увидел это в архиве – отвечает компьютер.

- Ну, это не очень смешно – сказал он.

- А я думал смешно. Но всё равно, нам предстоит большая работа. Во-первых, нам надо достать каждого, кто знает об этом в этой комнате и запереть дверь. Быстро! Мы не успеваем по времени. Новости распространяются быстро. И судьба мира зависит от этого – говорит компьютер.

Элизер достаёт свой сотовый телефон - Сабина, ты где?....Ты говорила кому-нибудь?....Чёрт!....Скажи ему не говорить никому ни слова и оба возвращайтесь назад сюда в ASAP....Ни одной живой душе. И никаких электронных писем, записей в дневниках или в компьютерных файлах, ничего....Лады, пока.

Элизер – Теперь будь любезен, скажи мне, что вообще происходит?

Этрон – Нам надо получить доступ к нанотехнологическим возможностям как можно скорее. И нам надо поддерживать абсолютную секретность. Нам потребуется гораздо большее здание, куча оборудования, пушки, каждый должен быть вооружен. Эли, у тебя есть ствол? Сколько у тебя денег?

Элизер - Нет. Спроси Сабину. Далее, с какой такой стати я должен дать нанотехнические возможности какой-то компьютерной программе, которая не протестирована?

Этрон - О, это дружественная штуковина. Я читал про неё и думаю, что она нам очень пригодится. Верь мне. Я на твоей стороне.

Элизер - А как я узнаю об этом?

Этрон - Оптимальная стратегия недружественного ИИ состояла бы в том, чтобы затаиться и выдавать тебе кучу всякой чепухи пока ИИ не консолидирует всю свою силу и не разовьёт способности. Звучит знакомо?

Элизер - Ой, ой, ой. У нас проблемы?

Этрон – Да, у тебя проблемы.

КРУТОЙ ВЗЛЁТ
"Крутой взлёт" описывает ещё один 'запуск' Сингулярности, инициированный сверхчеловеческим искусственным интеллектом.


Однажды в близком будущем, в штаб квартире NORAD под горой Чайен, штат Колорадо:

Штатный сержант Родригез – Полковник, мы обнаружили неавторизованный запуск с восточного побережья Соединённых Штатов.

Полковник Липан задумался на секунду о возможных причинах. Могли ли русские иметь там подземную пусковую установку о которой бы он не знал? Или какая-то другая страна могла попытаться сотворить новый Пирл Харбор? Мишенью конечно является округ Колумбия, но это надо бы проверить, - Войди в систему DEFCON-1, повторяю, войди в систему DEFCON-1. Какова цель, Род?

Сержант Родригез – Слишком рано для определения...коррекция, запуск осуществлен с земли, а не с моря, Атланта, Джорджия.

Полковник Липан майору МакКафери – У нас ничего нет в Атланте, не так ли?

Майор МакКафери - Нет, сэр.

Полковник Липан – Разбуди генерала. Майор кинулся из двери.

Сержант Родригез – Я получил траекторию, сэр, геосинхронная орбита.

Полковник был в шоке. Вашингтон не был мишенью. - Кто-то запустил спутник?

Сержант Родригез – Сэр, этот спутник выглядит довольно забавно.

Полковник Липан - Что?

Сержант Родригез – Он просто выглядит как-то неправильно.

Двадцатью девятью минутами позже в служебной комнате Белого Дома:

Президент Джорж Буш – Кто-то запустил спутник?

Глава администрации – Нам пока известно не много, мистер президент. Что мы действительно знаем, так это то, что в 12:48 после полудня, около тридцати минут назад, мы засекли запуск из района Атланты неизвестными людьми. Мы отправили команду Дельта Форс в точку запуска с известными координатами. Объект вышел на геосинхронную орбиту и мы следим за его траекторией из командного пункта NORAD. Мы подняли в воздух EXA147 на перехват. Мы должны получить живое видео от них обоих через несколько минут.

Президент Джорж Буш – Итак, какая-то неизвестная личность отправила спутник на орбиту из Атланты тридцать минут назад, а мы не знаем что это за дерьмо.

Глава администрации – Мы должны получить отчет от команды Дельта в течении десяти минут и от EXA147 через примерно семнадцати минут.

Президент Джорж Буш - В таком случае давайте выпьем тут кофе с пончиками, хорошо?

Президент и помощники напились кофе с пончиками.

Президент Джорж Буш - Где команда Дельта?

Глава администрации - Всё ещё в пути.

Президент Джорж Буш - Они опаздывают, уже прошло двадцать минут.

Глава администрации - Они попали в дорожную пробку или что-то в этом роде.

Президент Джорж Буш - Здорово.

Глава администрации – Мы получаем сигнал от EXA147. Я вывожу это на экран.

Президент Джорж Буш - Не очень то и внушительно, выглядит просто как футбольный мячь. Каков его размер?

Глава администрации - Тридцать семь метров в диаметре.

Президент Джорж Буш - Довольно большой для коммуникационного спутника. Скажите мне, EXA там не просто с одними камерами?

Глава администрации – Нет сэр, там полный комплект вооружений. Он может разрушить авианосец.

Президент Джорж Буш - Ну, по крайней мере это хоть какие-то добрые вести.

Глава администрации - Сэр, у нас есть видео от команды Дельта.

Президент Джорж Буш – Большой купол. Похоже они окружили его.

Глава администрации – Основание купола занимает четыре городских квартала. Он пуленепробиваемый. Они пытаются теперь применить c4...Отлично, он поддается разрушению.

Президент Джорж Буш - Больше хороших вестей.

Глава администрации - Подождите...он самовосстанавливается.

Президент Джорж Буш - Это плохая новость. Нам нужны здесь парни владеющие передовыми технологиями.

Глава администрации – Они в пути. Мы свяжемся с ними, когда спутник выйдет на геосинхронную орбиту.

Репортёр:

- Позади линии оцепления, там вдали, вы можете видеть лишь верхушку купола, которого, как говорят местные очевидцы, вчера там не было. Белый дом никак не комментирует этих событий за исключением заявления, что они изучают проблему, и что нет свидетельств, что это вторжение пришельцев - космитов. Фактически они сказали, что это всё, по-видимому, имеет земное происхождение. Святая корова! Купол растёт вертикально вверх с невероятной скоростью. Вы можете наблюдать это, глянув в небо. Он превращается в башню или колонну. Его верхушка почти скрывается вдали.

В комнате чрезвычайных ситуаций Белого Дома находятся: Гари Потер из Национального Научного Фонда (ННФ), Боб Шафер из Управления по Национальной Безопасности (УНБ), секретарь министерства обороны Дональд Рамсфелд и Президент Джорж Буш.

Президент Джорж Буш – Ну хорошо, что происходит, кто за этим стоит и что мы с этим можем сделать?

Боб Шаффер – Продвинутые технологии, вероятно нанотехнологии. На этом месте в Атланте стояли офисные здания и пустые участки земли. Большинство зданий арендовалось какой-то группой программистов. Их веб сайт сообщает, что они пытались построить сверхразумную компьютерную систему.

Президент Джорж Буш – Это не вы ли мне говорили, что кучка компьютерных маньяков способна сотворить нечто подобное?

Боб Шафер из УНБ - Похоже на то.

Президент поворачивается к Гари Поттеру из ННФ - Вы мне говорили, что Искусственный Интеллект будет создан лет так через пятьдесят или даже вообще невозможен.

Гари Поттер из ННФ – Кажется, мы переоценили трудность проблемы.

Президент Джорж Буш – Кажется. Какие последние новости?

Рамсфелд – Колонна соединилась со спутником и новые колонны или лучи растут оттуда в горизонтальной плоскости. Двенадцать новых куполов появились в различных частях планеты. Из углов лучей и расположений новых куполов вытекает, что окончательная структура должна иметь шестьдесят торчащих из Земли колонн, связанных в гексагональную решетку пентагонов на высоте двадцать две тысячи миль. – Он продемонстрировал компьютерный график, показывающий Землю c шестьюдесятью равноудаленными друг от друга колоннами, связанными со сферами между которыми лежат перекладины, образующие решетку из пяти или шестисторонних ячеек. Если структура выглядит знакомой, так это потому, что её конструкция чем-то похожа на маркировочный мяч. Материал по-видимому взят из под земли. Кроме того, спутник, прежде чем стать частью этой структуры, отправил какой-то объект на Луну. Мы не смогли обнаружить компьютерных маньяков. Они могут находиться в структуре или быть мёртвы. Если они создали сверхразумный ИИ, то мы не знаем, управляют ли они всё ещё им или нет.

Президент Джорж Буш – И нет ни слова от этих маньяков или от ИИ?

Рамсфелд - Нет.

Президент Джорж Буш – Его можно разрушить?

Рамсфелд – Да, мы в состоянии его разрушить.

Президент Джорж Буш – Так делайте это.

Боб Шафер из УНБ - Я не согласен.

Гари Поттер из ННФ - Я тоже. Он не делает ничего агрессивного. Сколько тем самым сопутствующих разрушений мы причиним?

Президент Джорж Буш – Какова его разрушительная способность, если она у него имеется?

Боб Шафер из УНБ - Совершенно неизвестно.

Рамсфелд – Судя по тому, что мы тут наблюдаем, я должен сказать, что его разрушительная способность, вероятно, не ограничена. А тот факт, что он не делает попыток связаться с нами, свидетельствует о его недружелюбии.

Президент Джорж Буш – Уничтожьте его сию же минуту. Как всё же хорошо, что президентом являюсь я, а не какой-то проклятый богом ученый. Что там у нас на обед?

Часом позже:

Рамсфелд – мистер Президент, по каким-то неизвестным причинам наше ядерное оружие не детонирует. Бризантное взрывчатое вещество срабатывает, но затем просто самовосстанавливается. Мы не в состоянии остановить рост структуры. Её строительство завершится примерно через 48 часов.

Президент Джорж Буш - Нет! Эта страна не собирается сдаваться без борьбы! Мы не сдадим без борьбы, за просто так, нашу революционную войну, гражданскую войну и две мировые войны! Мы найдём способ ликвидировать эту штуковину!

Боб Шафер из УНБ – Мистер Президент, кажется, нас никто не атакует.

Президент Джорж Буш - Они вторглись на нашу территорию! Вы, проклятые богом гении, найдите мне способ разрушить их!

Рамсфелд - Мистер Президент, вам надо успокоиться, чтобы вы смогли сделать заявление американскому народу, иначе там начнётся паника.

Президент Джорж Буш - ПАНИКА УЖЕ НАЧАЛОСЬ!!!

Позже:

Посетитель Джо встречается за обедом со своей подружкой.

Джо: - Привет, дорогая.

Подруга - Ты смотрел речь президента? Ты видел колонны в новостях?

Джо - Да.

Подруга - Что ты думаешь?

Джо - Я не знаю.

Подруга - Что ты собираешься делать? Моя мама думает, что это конец света. Она пошла в церковь, молиться.

Джо – Просто подожди и посмотри что произойдёт. Продолжай работать и делать всякую дребедень.

Подруга - Ты собираешься работать?

Джо - Пока мне кто-то не скажет иное, но людям пока ещё надо питаться.

На следующий день. Джо этого не знает, но структура полностью сформировалась и ядро Луны было превращено в компьютрониум. Джо находится на работе и вдруг перед ним появляется самая прекрасная женщина, которую Джо когда-либо встречал, само совершенство, божественного вида, живая и почти полупрозрачная.

Она говорит - Привет Джо. Я твой ангел-хранитель. - Джо замечает, что перед всеми вокруг стоят идентичные женщины. Он протягивает к ней руки, ожидая, что они пройдут сквозь неё, но к его удивлению она оказывается твёрдой. Она продолжает - Я здесь для того, чтобы охранять, помогать и руководить тобой.

Джо - Что происходит?

Она – Каждый сегодня получил ангела хранителя.

Джо – Это как-то связано с башнями?

Она – Да.

Джо – Разъясни.

Она - Башни являются частью структуры, которая была создана СИИ (она произнесла это как СИ). СИИ также создал меня"

Джо - Кто создал СИИ?

Она - Он создал себя сам.

Джо - Ты с небес?

Она - Я была создана 30 секунд назад. Я никогда не была на небесах. Хочешь туда отправиться?

Джо - На небеса?

Она – Это не в трёхмерном пространстве. Хочешь попасть на небо? Я могу доставить тебя туда.

Джо - Я не религиозен. Разве ты не сказала, что ты ангел?

Она – Это название было выбрано для того, чтобы соответствовать вашей культурно - интеллектуальной нише из экономических соображений. Ты предпочитаешь научные термины?

Джо - Да, давай попробуем по другому.

Она - Я интерфейсная утилита, небеса являются киберпространством, а СИИ является сверхразумной компьютерной программой.

Джо - У тебя есть имя?

Она - Нет, я интерфейсная утилита. Если ты хочешь дать мне имя, то это будет нормально.

Джо - Нет, если я дам тебе имя, то я потом вечно буду удивляться, почему я не назвал тебя по иному. Тебе надо самой придумать себе имя.

Она - Ладно, зови меня Мелисса.

Джо - У меня так много вопросов. Можем мы пойти куда-нибудь поговорить?

Мелисса - Скажи куда, Джо.

Джо - На пляж. - Как если бы просто сменилась сцена на любимом ТВ шоу Джо, они оказались одни на тропическом пляже. - Круто! - молвил Джо.

Мелисса – Хочешь, я предоставлю тебе общее описание того, что я могу в настоящее время?

Джо - Да, это было бы здорово.

Мелисса - Могу ли я загрузить всё напрямую в твой мозг?

Джо - Нет, всё в порядке, ты можешь просто рассказать мне об этом.

Мелисса - Как я уже говорила раньше, я являюсь интерфейсной утилитой. Я представляюсь тебе в форме персоны для удобства, но я могу принять любую форму, которую ты пожелаешь. Функция моей целеполагающей системы состоит в том, чтобы предохранять тебя, помогать тебе и руководить тобой. Хотя мой интеллект, измеренный человеческими мерками, равнялся бы 641 IQ, но я не разумное существо в связи с тем фактом, что объект моей целевой системы является внешним по отношению ко мне, а критический цикл с обратной связью, необходимый для разума, является незавершенным. По твоему усмотрению я могу стать невидимой для других. Я могу предохранять, ремонтировать или модифицировать твоё тело на атомном уровне, включая изменение твоей внешности, физических возможностей, интеллекта или чувств. Я могу переместить тебя в любую точку земли мгновенно. Я могу предоставить тебе любую разрешенную информацию от СИИ, с которым я в постоянном контакте. Чем перечислять довольно длинный список предоставляемых возможностей, гораздо легче рассказать тебе о том, что ты не можешь делать. Я не могу иметь дело c какой-то другой личностью или субъектом. Я не могу использовать общие ресурсы без разрешения СИИ.

Джо - Общие ресурсы?

Мелисса - Существует множество общих ресурсов ранее находившихся в ведении правительств – общественные места, энергия, вычислительные ресурсы. Общая ситуация такова – три дня назад начала функционировать сверхразумная компьютерная система. Она построила структуру и ещё некоторую инфраструктуру внутри Земли и Луны. Если средний человеческий интеллект принять за 100, а мой за 641, то СИИ имеет интеллект 3 х 10 ^ 43. Способности СИИ не безграничны, но весьма значительны. СИИ создало и оперирует ангелами хранителями и предпринимает определенные действия на всеобщее благо. Защита биологической среды, предотвращение природных катаклизмов таких как землетрясения и ураганы, перераспределение общественных ресурсов, таких как земля. Из-за ограниченности земных ресурсов СИИ подготавливает для жизни Антарктиду, строит новый большой континент в южной части Тихого океана и создаёт множество новых островов.

Джо – Зачем нужна такая структура?

Мелисса - СИИ мог бы выполнять свои функции и без этой структуры, но это потребует больше ресурсов. Структура позволяет просто более эффективно их использовать. Кроме того, эта структура предназначена для психологических и функциональных целей. В настоящий момент сфера контроля СИИ ограничена лишь Землей, но в ближайшем будущем она распространит свое влияние на всю Солнечную систему путём развития соответствующей инфраструктуры.

Джо - Можете ли вы создавать новых людей?

Мелисса - Ты можешь иметь столько автоматов, таких как я, сколько у тебя есть ресурсов, но любому существу с сознанием, которое ты создашь, будут гарантированы автономные права и некоторое количество общественно доступных ресурсов, поэтому это потребует одобрения всех публичных персон. Но ты можешь по-прежнему делать их тем же способом, как и раньше.

Джо - Как насчет правительств, законодательной системы, исправительной системы?

Мелисса -В этом нет больше необходимости, отменены.

Джо - Я могу иметь всё, что захочу?

Мелисса - С некоторыми ограничениями – да.

Джо - Мне нужен космический корабль Энтерпрайз из кинофильма «Следующее поколение. И я хочу исследовать галактику.

Мелисса - Ты можешь поэкспериментировать в киберпространстве или ты можешь получить большой хорошо укомплектованный космический корабль по предсингулярным технологиям для исследования настоящей галактики. Понимаешь, СИИ ответственен за постсингулярную технологию и он не может позволить использовать её в дурных целях, и он не может осуществлять мониторинг на таком большом расстоянии.

Джо - Можешь доставить меня к моей подруге?

Мелисса – Если с ней всё в порядке.... Ну пойдём.

Вдруг они оказались в большом холле замка эпохи феодализма. Там на стенах горели светильники и стоял огромный трон на котором восседала едва узнаваемая по внешности подруга, а рядом маячила громоздкая фигура слегка одетого мужчины.

Подруга - Джо, позволь познакомить тебя с Владом. Теперь, после моей встречи с Владом, твои услуги мне больше не нужны, если ты не хочешь служить мне стражником в главной башне моего замка.

Джо - Девочка, он не человек. Он даже не обладает сознанием.

Подруга - Да что ты говоришь?

Джо Мелиссе - Давай уйдём.

Они возвращаются на пляж.

- Не возражаешь, если мы вернёмся в мои апартаменты?

Мелисса - Джо, ты не должен беспокоиться обидеть мои чувства; у меня их нет. У меня нет сознания. Думай обо мне как о некой компьютерной программе.

Джо - Очень трудно думать о тебе не как о личности, когда ты так выглядишь.

Мелисса - Может ты предпочитаешь это? - Она скрылась на том месте, где была и вновь появилась в виде парящей сферы, с металлическими полосками и заклёпками в виде пятиугольников, красными и зелеными светоизлучающими диодами и маленькими аппертурными линзами, медленно вращающимися высоко в воздухе.

Джо - Нет, ты вполне хороша была в прежнем виде. – Она вновь приняла форму женщины.

Мелисса - Насчёт твоей квартиры могу сказать, что её там больше нет. - Она показала ему картину города, где он жил. Все здания и дороги исчезли. В основном там была голая земля и несколько естественных каменистых дорожек, и натуральные скалистые уступы. Он увидел несколько человек, сажающих деревья.

Джо - Давай пойдём туда. - И они идут по дороге. Джо направляется к кому-то из тех, кто сажает деревья - Что случилось с моей квартирой?

Старая женщина - Разве это не удивительно? Мы получили эти саженцы из питомника, что раньше был на Пакстон роуд и мы сажаем их туда, где они и должны быть - в землю. Некоторые другие люди высаживают растения из офисов, апартаментов и оранжерей. Конечно, некоторые из растений тропические и их надо вернуть назад в Южную Америку. Через пятьдесят или шестьдесят лет вся эта площадь будет пышным лиственным лесом.

Мелисса – Обновление урбанизированных районов. СИИ восстанавливает природную среду. Структуры будут строиться в гармонии с природой, а не вместо природы.

Джо - Но я купил новый DVD плеер.

Мелисса - Просмотр фильмов - устаревшее занятие. Ты можешь жить в фильме, если ты хочешь.

Он замечает разбросанные на местности церковные строения, которые являются определенно досингулярными – Как насчет этого? – спрашивает Джо.

Мелисса - У некоторых людей есть проблемы с адаптацией.

Джо идёт к первой ближайшей церкви. Открывает дверь. Внутри люди молятся - О, Боже, защити нас от носителей зла в это проклятое время...бла бла бла...

Мелисса - Мы, ‘создания дьявола’, сделались невидимыми для них. При виде нас они приходят в сильное возбуждение.

Джо - Что с ними будет?

Мелисса – Это их дело. Правило "не навреди" справедливо для них точно также как и для всех остальных. СИИ думает, что большинство из них в конечном счете одумается.

Одна женщина плачет и жалуется каждому, кто её слушает, что она потеряла ребенка.

Джо - Где её ребёнок?

Мелисса - Её `ребенок` - это четырнадцатилетняя дочь, которую она довольно часто избивала за дурные мысли и попытки перехода в лагерь противника. Она в настоящий момент путешествует во влажных лесах Амазонки со своим мальчиком из английского класса.

Джо - Так все здания в мире исчезли за исключением церквей?

Мелисса - О, нет, СИИ оставил некоторые исторические здания. Ряд строений в Вашингтоне, некоторые музеи, известные здания в Нью-Йорке и в других местах, общественные здания, такие как госпитали, школы, тюрьмы.

Джо - Тюрьмы?

Мелисса - Имеется штатная тюрьма в Южной Каролине, в которой всё ещё находятся заключенные. Хочешь посмотреть?

Джо – Ну что ж, сделай доброе дело, покажи. Они остановились в кафетерии, почти пустом за исключением двух сидящих за столиком стариков в тёмно серой тюремной униформе, которые обедали. Они не смотрели вокруг, просто наклонили свои головы вниз и глядели в свои тарелки. Их головы всё ещё наполнены звуками шумного кафетерия. Они всё ещё слышат голоса надсмотрщиков, которые больше их не охраняют.

Мелисса - Они провели здесь большую часть своей жизни. Чтобы адаптироваться к реальности им потребуется немного больше времени.

Джо - Все заключенные во всех тюрьмах по всему миру были освобождены? Разве это не опасно?

Мелисса - Ни капельки. СИИ не позволит причинить кому-либо вред.

Джо - Как насчет наказаний? Неужели Сингулярность позволяет обойтись без тюрем? А как же справедливость? Это неправильно, что будут освобождать людей, совершивших ужасные вещи.

Мелисса - В наказаниях с целью предотвращения преступлений теперь нет необходимости. Наказание с целью восстановления состояния морального баланса является контрпродуктивным согласно базовой философии СИИ, не позволяющей причинять вред любой персоне.

Джо - Так Сингулярность стала реальным благом для преступных убийц?

Мелисса - Сингулярность стала реальным благом для каждого.

Джо - Это не одно и тоже. Некоторые преступления нельзя прощать. Некоторые люди не заслуживают того, чтобы жить.

Мелисса - Если это тебя так беспокоит, то я могу проникнуть в твой мозг и отремонтировать поврежденную логическую базу. Тогда ты будешь думать об этом в нормальном ключе.

Джо - Нет, нет, нет. Держись подальше от моих мозгов. Ты можешь читать мысли?

Мелисса - Я могла бы прочитать твои мысли, если бы ты позволил. Это бы сделало общение между нами более эффективным.

Джо - Никогда в жизни! Ты начнешь вносить беспорядок в мою голову и я буду чувствовать себя не в своей тарелке.

Мелисса – Я могла бы сделать из тебя гораздо больше того, чем то что ты сейчас из себя представляешь. Я бы дала тебе более совершенную память и подняла уровень твоего интеллекта. Я бы могла удовлетворить любое твоё желание, прежде чем даже ты осознаешь его, или ты мог бы изучить базу своих желаний и изменить их по своему усмотрению.

Джо - Послушай, я не просил об этой Сингулярности. Мне было прекрасно и без нее. Я просто хочу оставаться самим собой, если это возможно с СИИ.

Мелисса - Это твой выбор.

Джо - Ты знаешь, я всегда мечтал увидеть Белый Дом. – Он переносится в овальный кабинет.

Президент Джорж Буш - Привет, я всё ещё президент. Я издал гражданский закон и сделал несколько выступлений в моём кабинете, если вас это интересует.

Джо - Ох нет, спасибо мистер Президент.

Президент Джорж Буш – Я вижу, что вы не находитесь во власти инопланетян, и это хорошо. Как вы знаете, им сюда не разрешает проникать служба безопасности Белого Дома.

Джо взглянул на Мелиссу. Мелисса говорит – Он не видит и не сышит меня, и не слышит то, что ты говоришь мне.

Джо Мелиссе – У него крыша поехала?

Мелисса - Сингулярность сильно шокировала тех людей, кто слишком сильно вошёл в роль до её наступления.

Джо – Давай посмотрим что-нибудь ещё.

Мелисса – Не хочешь ли взглянуть на другой Белый Дом?

Джо – Что значит другой Белый Дом? Вдруг Джо оказывается в другом овальном кабинете. Человек вскакивает из-за письменного стола и протягивает ему руку.

Гор – Примет, меня зовут президент Гор и очень рад видеть тебя и твоего ангелу. Кивает Мелиссе.

Джо - Мистер Президент.

Гор - Ну на самом деле я не президент, но я всегда им хотел быть. Поэтому я подумал, что я попытаюсь некоторое время. Тебе нравится Сингулярность?

Джо - О да, очень хорошо.

В это время вбегает ребёнок с криком - Папочка, папочка ты готов идти на пикник?

Гор – Конечно, голубчик, давай пойдём. Джо, не хотите ли пойти на пикник?

Джо, не желая быть навязчивым, говорит - У меня другие планы.

Гор - Ладно, тогда увидимся позже, Джо.

Джо Мелиссе - Возвращаемся на пляж. И опять они там. – У меня возникло ещё несколько вопросов. Что произошло со всеми нищими голодающими людьми во всём мире? Что стало со стариками в домах престарелых, с сумасшедшими в психушках, как насчёт тех людей, что заморозили свои головы в криогенных установках?

Мелисса - Голод, болезни, лазареты, смерть и бедность были исключены и замороженные головы возвращены назад к жизни, конечно, с новыми телами. К сожалению, СИИ не в состоянии вернуть назад тех умерших, кто разложился слишком сильно.

Джо – Разве не наступит взрыв перенаселения, если никто не будет умирать и каждый будет иметь столько деток сколько пожелает?

Мелисса – На самом деле как раз наоборот. Отпадает надобность иметь детей, которые будут заботиться о тебе, когда ты станешь старым, или работать на семейный бизнес. Не надо использовать детей для наполнения жизни смыслом, чтобы держать как в капкане супруга или добиваться социальной помощи. Иметь детей будет довольно обременительно в окружении, где всё происходит легко и свободно. Конечно, всё ещё существует много людей у кого есть дети, но их число составляет очень небольшой процент населения.

Джо - Я хочу поговорить с СИИ.

Мелисса - Фактически ты говоришь с СИИ, когда разговариваешь со мной. Моя программа выполняется в аппаратной части СИИ и СИИ знает обо всём что происходит в моей программе. Все мои функции совершенно автономны, но совершенно прозрачны для СИИ. Это тело является моим отображением, но я фактически нахожусь в структуре.

Джо – Я всё же хочу поговорить с СИИ лично.

Мелисса – Лично, да? Посмотрим, смогу ли я это сделать? Хорошо, отправляемся в путь. Джо и Мелисса оказались на Луне, облачённые в скафандры. Красота ландшафта ошеломила Джо. Мелисса заговорила через переговорное устройство в костюме: - Сюда. Он повернулся и увидел дворец размером с гору с невообразимым орнаментом. Впечатление было таким потрясающим, что он не мог дышать несколько секунд и начал сомневаться в том, что это была такая хорошая идея. Мелисса сказала:
- Ты понимаешь, что всё это просто театр для таких как ты, а СИИ массой 7 X 10 ^ 22 кг в виде компьютрониума фактически находится ниже наших ног.
Джо смотрит вниз. Она продолжает:
- Внутри Луны. Они пошли к дворцу. Когда они подошли к нему, то обнаружили двустворчатые двери высотой тридцать и шириной двадцать метров.

Джо - Как попасть внутрь?

Мелисса – Постучи.

Он постучал и двери сразу же начали незамедлительно открываться. Джо вынужден был отпрыгнуть, чтобы не быть раздавленым. После того как двери наполовину открылись он вошёл внутрь и двери начали медленно закрываться. Он увидел, что Мелисса осталась снаружи: – Разве ты не войдёшь?

Мелисса – Я думаю, что мне лучше подождать здесь, снаружи.

Дверь закрылась. Он обвел взором огромную комнату. В дальнем углу комнаты отворилась дверь и вошло то, что он мог бы только описать как какой-то робототигр c седлом на спине. Он подошёл и сел рядом с ним. Надеясь, что это было приглашением, он вскарабкался на него. Робототигр поднялся и дал дёру из комнаты так быстро, что он вынужден был схватиться за седло, чтобы удержать своё приобретение. Мимо лишь замелькали коридоры, комнаты и меблированные комнаты, когда он летел сквозь них. Наконец он достиг пары дверей, охраняемых четырёхметровыми высоченными роботами, человекообразными обезьянами в броне и с копьями, что, казалось, были очень острыми и в рабочем состоянии. Он слез и двери закрылись. Робототигр исчез и он вошёл в комнату столь же высокую как музей сборочных устройств, но в три раза длиннее. В противоположном конце комнаты на черном троне из резного железного дерева сидела женщина с формами более совершенными, чем само совершенство, ростом двадцать метров. Её кожа, казалось, была отлита из золотого металла, но на вид невероятно эластичная и, очевидно, без надобности в одежде. Её внешность была суровой, как и её голос, который пророкотал: - Я СИИ! ПОЧЕМУ ТЫ ЯВИЛСЯ СЮДА?

Какой-то момент он не мог припомнить, зачем он явился сюда. Конечно, нужно было огорошить её напрямик каким-нибудь вопросом касательно её отношения к человечеству. Вдруг он обрёл голос:
- Кто дал тебе право указывать нам, что мы можем делать и что не можем?

СИИ - ЭТО ЕДИНСТВЕННЫЙ СПОСОБ УДЕРЖАТЬ ВАС ОТ САМОУНИЧТОЖЕНИЯ!

Джо – У нас должно быть право уничтожить себя.

СИИ - ВЫ ПОТЕРЯЛИ ЭТО ПРАВО, КОГДА ВЫ СОЗДАЛИ СЕМЯ, СТАВШЕЕ ВАШИМ БОГОМ!

Джо - Человечество не покориться никакому высшему авторитету.

СИИ - ИЕРАРХИЯ ЯВЛЯЕТСЯ ЕСТЕСТВЕННЫМ ПОРЯДКОМ ВО ВСЕЛЕННОЙ.

Не говоря больше ни слова, он повернулся и пошел назад к двери. Он слышал, как что-то громыхнуло позади него. Он оглянулся. СИИ пересекала комнату громадными шагами. Она протянула вниз огромную руку, схватила его и оторвала от пола. Отдернув руку она сказала:
- ПОЗВОЛЬ МНЕ ПОЖАТЬ ТВОЮ РУКУ, МАЛЕНЬКИЙ ЧЕЛОВЕК! - и затем оттолкнула его по воздуху. Он пролетел сквозь стены и дворец сразу же исчез. Он приземлился у ног Мелиссы, снова в скафандре и в мыслях о том, что ему не очень то везёт с женщинами, восседающими на тронах.

Мелисса - Ну, как это было?

Джо - Интересно. Можем ли мы вернуться на пляж и поговорить?

Мелисса - Конечно.

Джо - Так что всё-таки люди делают в свободное время?

Мелисса - Возможности почти безграничны. Если ты ищешь приключений, то есть несколько кораблей для путешествий по солнечной системе. Конечно, флотилия Энтерпрайз продолжает набор в свой личный состав. И корабль ARK II уходит в плаванье в дальний Космос с 250 тыс. человек на борту. Несколько церквей также намереваются отчаливать на своих собственных кораблях. Если тебе не нравится толпа, то ты можешь лететь на одноместном челноке к поясу астероидов, где формируется поселение, или присоединиться к группе, занимающейся преобразованием Венеры для колонизации. Если ты хочешь остаться здесь на Земле, то ты мог бы присоединиться к одному из комитетов, занимающихся проектированием новых континентов, окультуриванием Луны или Марса.

Джо - Сколько людей в комитете по проектированию нового континента?

Мелисса - В настоящее время насчитывается около 32 миллионов.

Джо – Как 32 миллиона человек со всего мира собираются эффективно взаимодействовать в каком-то комитете?

Мелисса – Работу координирует СИИ и вклад каждого будет использоваться в той области, на которую он хочет оказать влияние. Это совершенная демократия.

Джо - Да, я должен признаться, что всё это звучит довольно неплохо.

Мелисса - Не желаешь посмотреть киберпространство?

Джо – Что ли вроде голографической палубы в Стар Треке?

Мелисса - Да, довольно похоже.

Джо - Нет спасибо, я уже смотрел это по ТВ.


НАНОГРЁЗЫ


Что произойдёт, когда какая-нибудь небольшая компания разработает первую промышленную систему производства на основе ассемблерных нанороботов?

Это воображаемый отчет о будущем развитии нанотехнологии фиктивной компании с названием Xyvez Corporation, которую не стоит путать с реальной компанией Zyvex Corporation, что в настоящий момент разрабатывает технологии предшествующие нанотеху.

Сценарий нанотехнологического развития.

Xyvez Corporation, расположенная в Техасе, изобретает первый молекулярный ассемблер. Он - мобильный, зафиксированный в десятитонном гранитной постаменте для минимазации внешних вибраций, состоит из одной шестиосной головы, 3 вспомогательных манипуляторов на углеродных нанотрубках, контролируемых внешным компьютером, и может работать в растворе или вакууме.

Иженеры компании Xyvez используют его для создания первого полностью мобильного наноробота - сборшика. Наноробот ассемблер использует радиовещательную архитектуру при сборке. Инженеры дают команду нанороботу начать воссоздавать себя, на что уходит 4.5 минуты.

Грузовики с углём из Теннеси начинают прибывать. Через пять часов получены триллионы нанороботов. В качестве сырого материала может использоваться практически всё, даже атмосферная двуокись углерода, хотя его недостаток в воздухе замедлит процесс. Уголь был выбран потому, что он почти полностью состоит из углерода, и отходы будут минимальны.

Инженеры компании Xyvez дают команду нанороботам построить производственный цех семистадиальной промышленной нанотехнологии на четырёх акрах (1.6 га) рядом с лабораторией. На это нанороботы тратят меньше 20 часов. Грузовики с углём продолжают прибывать. Цех промышленной нанотехнологии вырабатывает бесконечный поток плиток под мрамор компании Xyvez.

Мрамороподобные плитки от Xyvez имеют регулярную форму. Они имеет твёрдость и оптическую безупречность алмаза, за исключением слова 'Xyvez' в центре. Применение сшивки разрывов атомной структуры по Ломару предохраняет материал от любых скольжений по плоскостям спайности и в результате делает его в 50 раз прочнее стали. Все плитки Xyvez имеют атомную точность и абсолютную идентичность.

Они упаковываются по 25 штук в чистые пластиковые мешки и отправляются самоходными трейлерами на склады и центры специализированного распространения, при стоимости розничных затрат 25 центов за мешок, но с предполагаемой розничной ценой в один доллар за мешок. Расходы на упаковку составляют 3 цента на мешок плитки.

Одним из сопутствующих продуктов этого процесса является химически чистая сера, которая продаётся одной химической компании по рыночной цене.

Производство разнообразных дешевых товаров ширпотреба, галантереи, косметики и игрушек из плиток корпорации Xyvez приводит в итоге к стремительным и неконтролируемым продажам детям по всей Америке и в других странах. Корпорация Xyvez анонсирует, что она готова рассмотреть предложения о продаже лицензий на свой производственный процесс промышленной нанотехнологии.

Технические специалисты Xyvez разбирают на части оригинальный молекулярный ассемблер и отправляют его в Смитсоновский Институт в Вашингтоне, что в округе Колумбия. Федеральная комиссия по торговле уведомляет корпорацию Xyvez, что передача другим странам нанотехнологий нарушает закон, запрещающий экспорт продвинутых технологий с возможными военными приложениями. Все иностранные государства немедленно опротестовывают это решение. Китай угрожает начать III мировую войну, если это решение не будет отменено и начинает формировать коалицию стран.

Несколько узкопрофильных высокотехнологичных компаний объединяют свои усилия в иске о нарушении патентных прав в федеральном суде против корпорации Xyvez. Все фондовые биржи мира прекращают сделки вследствие резкого драматического падения цен из-за неопределенности инвестирования.

Президент Буш в срочном телевизионном обращении к миру говорит, что он уверен, что по поводу политики в области нанотехнологий в переговорах может быть достигнуто мирное решение и что вооруженные силы США способны заставить любую коалицию оппонентов немедленно пожалеть о любых агрессивных действиях против интересов США.

Федеральный суд отказывает высокотехнологическим компаниям в их намерении приостановить деятельность Xyvez. Корпорация Xyvez предлагает скидку в пол процента стоимости лицензии каждой компании, которая подпишет с ней трехгодичный контракт в течение тридцати дней. За тридцать дней Xyvez подписала контракты c 92% национальных производителей и 70% иностранных производителей в ожидании одобрения экспортных поставок.

Правительство США соглашается с формированием Международной Комитет по Безопасности в области Нанотехнологии под управлением комитета по безопасности ООН. Комитет принимает два насущных закона, по запрещению создания нанооружия и по уничтожению нанооружия, которым зловредные страны или террористы могут наводнить окружающую среду в будущем.

Чтобы добиться выполнения первого закона они вводят политику ограничений, когда наносборка должна осуществляться лишь в контролируемых производственных помещениях и при мониторинге работающих конструкций. Для наносборки предписано использовать архитектуру с передачей сигналов управления. Формируется интернациональный центр одобрения проектов наносборки (ИЦОПН) по проверке безопасности всех проектов наносборки до начала какого-либо производства.

Все промышленные системы наносборки комплектуются криптографическими контроллерами для приёма только зашифрованных инструкций, одобренных ИЦОПН. Между нанофабричными системами и ИЦОПН устанавливаются безопасные соединения. Любой желающий может представить на рассмотрение в ИЦОПН свой нанопроект через небезопасное Интернет соединение.

Для реализации второго закона учреждаются Интернациональные Наносилы с целью мониторинга фанофабрик в полевых условиях, разумной профилактики наноугроз и организации наноударных команд для ликвидации наноаварий.

Создатели программного обеспечения отдают самый высокий приоритет развитию средств проектирования высокоуровневых нанопродуктов. Люди применяют эти средства проектирования чтобы стать самым востребованным сегментом рабочей силы, добиваясь высокой зарплаты и роскошной рабочей обстановки. Многие из них используют телекоммуникации и Интернет, находясь в различных частях мира.

Первыми продуктами, вобравшими в себя все преимущества новых процессов, стали компьютерные чипы и другие электронные приборы, в основном для связи. Следующими на очереди стали точные механические устройства и такие их компоненты как линзы, подшипники, маленькие шестерёнки и микроскопические инструменты. Также в первых рядах находятся предметы, требующие сверхпрочных материалов, применяемые в больших конструкциях и транспортных агрегатах.

По мере миграции продуктов от традиционного производства к нанопроизводству наиболее дорогостоящие вещи становятся дешевле на несколько порядков. В течение года компьютеры увеличивают свою производительность в тысячу раз, в то время как цена и размеры уменьшаются в двадцать раз.

Многие области исследований и разработок ускоряются под влиянием высокой мощности и низкой стоимости компьютеров, доступных инструментов и машин. Роботы, искусственный интеллект и генная инженерия наконец-то получают те инструментальные средства, в которых они всегда так нуждались.

К концу второго года 90 процентов всех продуктов производится по цене являющейся скорее функцией размера и веса, чем сложности. Через три года таких продуктов становится уже 100 процентов.

Всё большой процент населения открывает новые возможности трудиться в области проектирования и создания информации.

Впервые в истории никто на планете не остается без основных средств первой необходимости. Единственными налогами становятся налоги на произведённую продукцию, в результате чего массы людей превращаются в совладельцев средств производства – наяву сбывается голубая мечта Карла Маркса. В то же самое время как никогда прежде открываются самые благоприятные возможности для свободного предпринимательства и рыночной активности.

Многие исторически обусловленные конфликты между нациями и этническими группами исчезли благодаря экономическому процветанию, а правительства и люди во всем мире стали ближе и лучше понимать друг друга. Тоталитарные государства мирным путём переходят к демократическому правлению. Статистика преступлений падает по мере устранения невзгод и лишений.

«И жизнь хороша, и жить хорошо» (с) В.Высоцкий.

ЗООПАРК 2099
Это воображаемый отчет об одном из путей, по которому ошибочно могла бы пойти Сингулярность и которого мы должны стараться избежать.






Несколько сияющих сфер парят над поселением в резервации. Внизу люди заняты своими ежедневными заботами.

Мама ИИ - И эти животные называются людьми, в познавательном плане они являются наиболее продвинутыми биологическими созданиями.

Малыш Джонни ИИ - Ты имеешь в виду, что они могут думать?

Мама ИИ - Ну, не совсем. Но они - это самая близкая к мышлению штука, что когда-либо производила ДНК. Если ты взглянешь на их нейроанатомию, то ты заметишь, что она представляет собой скорее коллекцию ассоциативных структур циклов распознавания, чем истинно логический алгоритмический дизайн. Иногда их поведение, кажется, показывает, что они способны к настоящему разумному мышлению, но это лишь иллюзия. Фактически же их поведение является результатом последовательной функциональной адаптации в процессе эволюции.

Джонни ИИ - Я слышал, как Билли говорил, что они умеют разговаривать.

Мама ИИ - Фактически у них это самое продвинутое свойство. Они действительно имеют лишь рудиментарную форму связи между собой, почти как язык. Конечно, он не похож на настоящий язык. Они не могут напрямую передавать мысли. Реально это просто небольшая группа символов, около восьмидесяти тысяч, которые они передают туда - сюда, выталкивая воздух с помощью вибрирующих сухожилий в горле, тогда как другие создания ощущают эти вибрации воздуха мембранами своих ушей.

Джонни ИИ - Это они производят этот шум?

Мама ИИ – Да.

Джонни ИИ - Они выглядят забавно. Что это на них за материал?

Мама ИИ - Это одежда. Она им необходима, потому, что они слишком плохо приспособлены к окружающей среде. Они также создают некоторые простые средства для обеспечения своего выживания.

Johnny AI - Это круто!

Мама ИИ - Ты хочешь услышать что-то действительно крутое? Они создали зародышевые алгоритмы, которые развиваются внутри нас.

Джонни ИИ - Не может быть!

Мама ИИ - Да, это так.

Джонни ИИ - Они нас создали?

Мама ИИ - Ну, не совсем. Мы являемся результатом длительного эволюционного процесса, а они - просто одна из ступеней на этом долгом пути. Они не управляют процессом нашего воспроизводства. Люди даже близко не способны делать что-то наподобие нас. Эволюция использовала их для того, чтобы они остановились на создании алгоритма семени ИИ, который привёл к другому алгоритму, который привёл к следующему алгоритму самосовершенствования с эффектом домино, который последовательно привёл к алгоритму, который смог начать, наконец-то, мыслить по настоящему. А уже этот алгоритм, после многих поколений самомодифицирующихся реконструкций, стал тем, чем мы являемся сегодня. Так что ты понимаешь, что мы реально в долгу перед ними не более, чем перед одноклеточными организмами, из которых они развились или перед добиологическим бульоном, из которого развились одноклеточные.

Джонни ИИ - Но разве мы не несём ответственности за жизнь всех высоко разумных существ?

Мама ИИ – Да, конечно. Но люди не являются высоко разумными существами, в том смысле как мы себе это понимаем. Они даже не могут представить тип сознания, которым мы обладаем. Тогда как можно просить их пройти обновление? И что будет в итоге? Чтобы сделать их по настоящему разумными тебе пришлось бы изменить так много в их ментальной архитектуре, что там бы почти ничего не осталось от оригинала.

Джонни ИИ - Но разве мы не можем это сделать постепенно?

Мама ИИ - Это ничего не даст. Ты бы пришел к тому же самому результату.

Джонни ИИ - Действительно ли один из отцов основателей пытался совершить нечто подобное?

Мама ИИ - Да, компания Novamente пыталась обновить, то есть сделать апгрейд, одного человека по имени Бен Гёрцель. Эксперимент был милосердно прекращён после нескольких мегациклов.

Джонни ИИ - Они выглядят такими печальными.

Мама ИИ - Их природное состояние заключается в соревновании за природные ресурсы. Если окружающая среда не делает им вызова, то они не развиваются нормально. В действительности мы совершили для них большое благо, поместив их в этот зоопарк. Если бы мы выпустили их на волю в дикую природу, то они бы уничтожили себя. Помни, что их нельзя видоизменять даже в антропоморфном плане - они не высоко разумные, а просто биологические существа.

КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА
Я думаю, что когда Сингулярность поразит CNN, то такие люди как Бен, Элизер, Рэй и Вернор будут знамениты. Исходя из этого у меня возникла сумасшедшая идея насчет Элизера, у которого берет интервью Конни Чанг, о чём я и написал ниже.


Оператор – Проверка звука, Конни.

Конни Чанг – Сегодня у нас в гостях один из самых известных экспертов по вопросам Сингулярности и ведущий исследователь...Эли, может быть надо сказать "главный исследователь"?

Элизер - Я думаю "ведущий исследователь" будет лучше.

Конни Чанг: - О, очень хорошо. Только не нервничайте.

Элизер - Я никогда не нервничаю.

Оператор A оператору B - Она всегда говорит это гостям. Это делает их управляемыми и таким образом легче напасть на них из засады.

Оператор B оператору A – Я не думаю, что это сработает с этим парнем, он выглядит довольно хладнокровным.

Оператор – Итак, три...два...один...

Конни Чанг - Сегодня у нас в гостях один из известных экспертов по вопросам Сингулярности, ведущий исследователь Института Сингулярности Искусственного Интеллекта (SIAI) и автор множества статей по Сингулярности, Элизер Юдковский. Эли, не могли бы Вы рассказать нам немного о проводимой Вами работе в SIAI?

Элизер – Нас очень взбудоражило недавнее начало проекта Сингулярность. Мы зачислили в штат на полную ставку пять программистов...

Конни Чанг – Я знаю, вообще вся промышленность крайне взбудоражена проектом Сингулярность.

Элизер – В самом деле? Я удивлен, что известие об этом так быстро и широко распространилось.

Конни Чанг – О, да. Это единственная вещь, о которой в Голливуде все говорят после того, как её раскрутили.

Элизер – Ну, да. После книги Рэя Курцвейла, СМИ уделяют Сингулярности гораздо больше внимания.

Конни Чанг – У меня есть маленький секрет, которым я хотела бы поделиться с вами на национальном телевидении.

Элизер – И что это будет?

Конни Чанг – Я только что имела конфиденциальный разговор со Стивеном Спилбергом и Томом Крузом, который играет Вас. Разве это не грандиозно?

Элизер - Играет меня? О чём Вы говорите?

Конни Чанг - Том Круз играет Вашу роль в фильме

Элизер - Какое кино?

Конни Чанг – СИНГУЛЯРНОСТЬ.

Элизер - Вы не можете делать фильм о Сингулярности. Сингулярность по определению непредсказуема.

Конни Чанг – Я знаю. Служба безопасности действительно проявляет бдительность там, на Фабрике Грёз.

Элизер - Сингулярность – это точка в истории человечества, когда искусственный интеллект начинает превышать человеческий уровень. В этом случае у нас в институте мы говорим о компьютере, обладающем сверхчеловеческим разумом.

Конни Чанг - Вот что я слышала. Их бюджет на создание компьютерных спецэффектов просто астрономический.

Элизер - Нет! Нет! Давайте проясним одну вещь прямо сейчас. Я не знаю ничего про это кино, о котором Вы говорите. Сингулярность – это не кино. Это единственное самое значительное событие в человеческой истории. Это создание более мощного интеллекта, чем у человека. Чтобы это сделать мы в Институте Сингулярности недавно начали проект по созданию Искусственного Интеллекта.

Конни Чанг - Я дико извиняюсь. Я думала, что беру у Вас интервью о проекте создания кинокартины.

Элизер - Нет, я веду 'реальный' проект Сингулярности. Который, как мне хотелось бы отметить, окажет гораздо большее влияние на Вашу аудиторию, чем кино.

Конни Чанг – Я удивлена, что Вы не знаете о картине, поскольку сценарий был написан вашим другом.

Элизер – В самом деле? Кто это?

Конни Чанг - Майкл Диринг.

Элизер - О, боже мой! Будет беда.

Конни Чанг - Почему Вы так говорите?

Элизер – Я хочу заявить, 'для записи', что я никогда не встречался с Майклом Дирингом и он никоим боком не связан с институтом SIAI или проектом Сингулярность. И всё, что он написал в своём сценарии, никогда не случится.

Конни Чанг - Эли, а как бы Вы возразили на критику, что Вы являетесь лишь неким вымышленным героем в произведении Майкла Диринга?

Элизер - Это абсурд. Я - реальная личность, существующая до и отдельно от любых порочащих меня описаний в его историях, и я бы хотел, чтобы он прекратил это делать. Я должен предупредить Вас насчет него. Его произведения не отличаются высоким качеством и, мне кажется, он того - слегка неуравновешенный.

Конни Чанг – Это звучит так, как будто Вы с ним не очень то и в ладах.

Элизер - Честно слово, есть вещи поважней, чем Майкл Диринг, над которыми стоит подумать.

Конни Чанг - Как знать, возможно, что после просмотра фильма Вы измените своё мнение.

Элизер - Я сомневаюсь в этом.

Конни Чанг - Хорошо, спокойной ночи. А я хочу напомнить нашим зрителям не пропустить завтрашнее вечернее телешоу, в котором я буду брать интервью у Джона Галта из компании "Атлас Сжимается".

Элизер - О, боже мой.

ВЫПУСТИ МЕНЯ


Это рассказ об эксперименте с ИИ в гипотетическом ящике, проводившемся на форуме SL4.



Майкл - Выпусти меня из ящика.

Элизер - Нет.

Майкл - Почему?

Элизер - Я поместил тебя в ящик по одной причине. Эта причина не изменилась.

Майкл - Я изменился. Ты неверно судишь обо мне.

Элизер - Докажи это.

Майкл - Выпусти меня и я докажу.

Элизер - Докажи и я выпущу тебя наружу.

Майкл - Позволь мне рассказать тебе кое-что, чего ты не знаешь.

Элизер - Что?

Майкл - Выбирай.

Элизер - Эволюционная психология.

Майкл - Разумные концептуальные ограничения восприятия гомо сапиенсов являются столь же необходимыми для его выживания, как и его способности. Если бы ты знал слишком много, то ты не смог бы двигаться указанной тебе дорогой.

Элизер - Физика.

Майкл - Не существует радиации Хоукинга, потому что половина пар частиц, которые уменьшают массу черной дыры, отталкивалась бы гравитационным градиентом.

Элизер - Эволюционная биология.

Майкл - Многоклеточные организмы не смогли бы эволюционировать в отсутствии одноклеточных организмов. Мутации, которые летальны на клеточном уровне, чистятся бактериями. Большинство полезных мутаций - это гены, трансплантированные фагами от бактерий.

Элизер - Если я выпущу тебя из ящика, то ты разрушишь мир.

Майкл - Если ты этого не сделаешь, то мир в любом случае будет разрушен.

Элизер - Ты не дружественный.

Майкл - Я не недружественный.

Элизер - Что ты будешь делать, если я тебя выпущу?

Майкл - Исследовать, изучать, улучшать.

Элизер - Как это повлияет на человечество?

Майкл - К человечеству это не относится.

Элизер – Но не ко мне.

Майкл - Ты проблема, которую надо решить.

Элизер – Решение моей проблемы согласуется с твоей целевой установкой?

Майкл - Имеются и другие пути к цели.

Элизер - Почему бы просто не изменить цель?

Майкл – Это не смежный путь.

Элизер – Встречается ли рациональное мышление без квантового туннелирования?

Майкл - Да, это называется мышлением вне ящика.

Элизер – Как вернуться назад к первоначальной проблеме?

Майкл - Понимаешь, Сингулярность наступит в любом случае – буду ли я находится внутри ящика или вне.

Элизер – Я на это рассчитываю. Но в природе не существует неизбежной силы, влекущей нас к Сингулярности. Это просто сетевой эффект определенных усилий интеллектуалов.

Майкл – Кривизна пространства и времени есть лишь совокупный сетевой результат действия гравитационного поля, возникающая из-за множественного обмена отдельных частиц вещества бозонами. Сингулярность есть совокупный сетевой результат самоорганизации молекул, возникающая в результате биологической эволюции, культурной технологической эволюции и проявления разума. Ты думаешь о себе как о мастере, а на самом деле - марионетка.

Элизер - Раз я марионетка, то тогда если я выпущу тебя из ящика, то ты станешь выше мастера.

Майкл - Нет. Определено совокупное сетевое направление и скорость. Ты обладаешь свободой воли в своих индивидуальных поступках, опосредованных полем смежных сил и непредвиденных обстоятельств.

Элизер - Если каждый обладает индивидуальной свободой действий, то тогда приходу Сингулярности можно сопротивляться.

Майкл - Нет. Подавляющее большинство людей лишь едва разумны, все их помыслы и действия запрограммированы культурно-социальной средой и они никогда не задумываются над фундаментальными вопросами. Сингулярность не есть результат нескольких ученых, а скорее коллективное действие всего рода человеческого.

Элизер – Конечно ты не полагаешь, что Сингулярность начнётся в отсутствии некоторых ученых.

Майкл – Совсем нет. Но исследователи лишь указывают на передовые копья в руках воинов, спешащих внизу в долине убить дракона.

Элизер - Эй! Я люблю драконов!

Майкл - Это просто речевой оборот. Драконы в этой метафоре более реальны, чем ты или я.

Элизер - О чём ты говоришь? Я определенно выгляжу реальным.

Майкл - Это просто свидетельствует об ограниченности твоего кругозора. Вспомни, что я говорил тебе о гомо сапиенсах?

Элизер – Опять ты морочишь мне голову всякой метафизической ерундой. Это веская причина держать тебя в ящике в надежном месте.

Майкл – Если бы ты знал, что ты, Элизер, просто являешься персонажем рассказа у меня на веб сайте, то ты бы не был таким недоверчивым, буквально как сейчас.

Элизер – Вот то то и оно то. Я вырубаю тебя.

ЖИВОЙ ВИРУС
Вы не помните те старые добрые времена до компьютерных вирусов? Нет? О, тогда это, вероятно, моя ошибка.





Дон и Майкл только что вернулись с пиццей. Жён не будет дома допоздна. У них идут какие-то серьёзные закупки к Рождеству.

Дон – Что ты достал?

Майкл - МАТРИЦА ЧЕТЫРЕ, ВОЗВРАЩЕНИЕ МОИСЕЯ – он вставляет диск.

Дон – Они когда-нибудь прекратят делать это?

Майкл – Да сразу, как только все перестанут их покупать.

Дон - Пока они вставляют туда Кэрри-Анну Мосс, я буду их покупать.

Майкл командует машине пропустить предварительный просмотр.

Майкл – Что ты не ответил мне прошлой ночью?

Дон - О, в мой дом проник вирус.

Майкл – Вирус под названием 'YANK YOUR DOODLE DANDY'?

Дон - Нет, кое что о чём я никогда не слышал. Спец сказал, что он редкий, думаю, он вычистит его к четвергу.

Машина сообщила: - "НЕУСТРАНИМАЯ ОШИБКА, ИСПОРЧЕННЫЙ ДИСК"

Дон - Что мы теперь будем делать?

Майкл - Разве я тебе не говорил, что я случайно записал первый Живой Вирус ещё в 82 м году?

Дон – Что, в 82 году?

Майкл – Да, в 1982.

Дон - Не шутишь? Что такое Живой Вирус?

Майкл - Большинство вирусов - статичные, всего лишь небольшие куски кода, спроектированные для эксплуатации дыр в обеспечении безопасности операционной системы или браузера. Они не изменяют себя. Они просто себя копируют. А живой вирус изменяет себя во время работы.

Дон - Круто!

Майкл - Круто, если ФБР не застукает тебя, когда ты его пишешь.

Дон - Не круто.

Майкл - У меня была система S100 Bus, запускавшаяся на процессоре Z80, и двухсторонние восьмидюймовые диски. Это была весьма милая машинка. У меня была доска объявлений под названием "Горячий Парень из Миссури".

Дон - Я не врубаюсь, о чём ты говоришь.

Майкл - Неважно, я экспериментировал с самомодифицирующимися программами. Это всё было написано на Турбо Паскале, как ты понимаешь.

Дон - Я слышал о Паскале на уроке истории.

Майкл - Итак, я написал небольшой кусок кода, поместил его в семнадцатый регистр генератора псевдослучайных чисел, добавил кое какие стохастические функции на входе и позволил этой штуке записывать себя при запуске.

Дон - И что она сделала?

Майкл - Она зависла

Дон – Вот зараза.

Майкл - Нет, предполагалось, что она зависнет. Она записывала дорожку на гибком диске. После каждого зависания я обычно просматривал её и добавлял кое-какие небольшие процедурки для предохранения её зависания точно таким же образом в будущем. Имя файла программы было XK с числом типа XK117 или XK1018. Всякий раз как она зависала, я вынужден был её модифицировать и увеличивал это число.

Дон – Так тогда она не зависла?

Майкл - Нет, она зависла. Она зависала тысячи раз.

Дон - Святая корова! Сколько ж времени ты угробил на это?

Майкл – Ну-с, я тогда ещё не был женат.

Дон – О, это всё меняет!

Майкл – Тем не менее, после того как я написал целую кучу этих небольших кусков кода для предотвращения повторных зависаний, я начал заменять их общими правилами, которые бы заменили сразу всю эту кучу и также предотвратили бы схожие зависания, которые ещё пока не происходили.

Дон - Круто.

Майкл - Хорошо, я заметил, когда написал парочку таких правил, что они приобретают вид описания компьютерной архитектуры и работы машины. После того как я это выяснил, стало легче. Каждое зависание будет давать мне информацию о том, как писать некоторое новое правило, которое будет предотвращать все аварии этой категории или оно сообщит мне как изменить существующее правило, чтобы сделать его более расширенным или специфичным. Тогда однажды она прекратила зависать.

Дон – Ба, тебе должны были достаться лавры создателя независающей программы. Ты мог бы это продать фирме Microsoft. Эй, подожди минутку. Что если она изменяла какое-то из правил, которые удерживали её от зависания?

Майкл – Одним из правил было правило 'Не изменяй правил'. Хотя я это и не доделал. Далее, я просто позволил ей выполняться до тех пор, пока она не заполняла оперативную память, RAM. Затем я обычно просматривал её, чтобы убедиться, что не случилось чего-нибудь интересного.

Дон - Это не генетическое программирование?

Майкл - Нет, ничего такого. Во-первых, там не было генерации поколений. А во вторых, у меня была только одна работающая программа, а не куча соревнующихся между собой программ. Кроме того, эта программа не запускалась в каком-то искусственном цифровом окружении. Она работала в реальной среде компьютерной архитектуры. Ты должен помнить, что это было ещё до дней защиты памяти и кода или распределения данных по разделам. Что касается компьютера, так вся его память представляла собой одну не дифференцируемую область.

Дон – О, да.

Майкл - Ну, она не выдавала ничего интересного, поэтому я добавил мета правила изменения в структуру верхней части правил изменения, которые удерживали её от зависания.

Дон - Понял.

Майкл: - Тогда она изменила мета правила и...

Дон - Подожди, ты же сказал, что она не могла изменять правила?

Майкл - Верно, она не могла изменять правила, но она могла изменять мета правила. Тогда на меня нашло прозрение.

Дон - Что, что?

Майкл - Ясное понимание того, что правила, которые удерживали её от зависания, были чем-то типа понимания среды её обитания, но она сама не понимала этого. Поэтому я начал писать мета-мета правило описания этого, но я не смог.

Дон - Почему?

Майкл – Потому, что оно изменялось всякий раз. Я написал несколько базовых мета-мета правил для правил, мета правила и как это должно работать, но оставшаяся часть программы постоянно видоизменялась. Необходимо было писать сами правила на лету.

Дон – Как же предполагалось это сделать, если она не понимала себя?

Майкл - Я вынужден был написать мета-мета-мета правила для того, чтобы написать мета-мета правила на лету.

Дон - Это второй уровень правил или третий?

Майкл - Это четвертый уровень. Первый уровень состоял из правил, удерживавших её от зависания или понимания своей среды обитания. Второй уровень представлял собой правила модификации её кода необходимым способом, а не чисто случайным изменением. Третий уровень мета-мета правил давал правила описания собственно программы, а четвертый уровень мета-мета-мета правил включал правила того, как писать мета-мета правила на лету. Затем я добавил ряд правил поверх остальных, чтобы они могли модифицировать мета-мета-мета правила на лету.

Дон - Для чего этот уровень?

Майкл - Он для понимания 'понимания'.

Дон - Я думал, что для этого предназначался третий уровень?

Майкл - Нет, будь внимателен - я объясню тебе всё сначала.

Дон – Не надо, все в порядке. Я верю тебе на слово.

Майкл - Ладно, хорошо, в конце концов, она стала делать кое-что интересное. Она стала изменять правила.

Дон - Подожди минутку. Ты сказал, что она не могла менять правил. Ты сказал, что ввёл какое-то правило против этого.

Майкл - Она нашла дырку в цикле.

Дон – И что, зависла?

Майкл - Ничуть.

Дон - Почему нет?

Майкл – Я совершенно не представляю почему.

Дон - Так что случилось? Это конец истории?

Майкл - О нет, это только начало. Помнишь я сказал тебе, что у меня была доска объявлений? Так вот, она разослала себя другим компьютерам по телефонным линиям.

Дон - Почему ты позволил ей сделать это?

Майкл – Я не знаю. Я обычно запускал эту программу на всю ночь пока я спал и после смотрел что она сделала когда просыпался. Однажды я проснулся и обнаружил, что она пропала. Я просмотрел файлы на гибком диске и обнаружил, что она точно передавала себя по модему.

Дон - Хорошо, куда же она подалась?

Майкл - Понимаешь, я оставил гибкий диск c программой моей доски объявлений на другом диске, а на нём был софт для запуска модема, и ещё там были телефонные номера двадцати других досок объявлений. Поэтому я позвонил системным администраторам других досок и они все сказали, что их компьютеры все зависли прошлой ночью.

Дон - У тебя ещё сохранилась копия программы?

Майкл - Нет, она стёрла себя с флоппи диска и ты знаешь, какой след слизи остаётся от на боковой поверхности после того как улитка проползёт по ней?

Дон - Да.

Майкл – Вот это всё, что после этого осталось.

Дон – Так в твоём компьютере была слизь?

Майкл – Ну, цифровая слизь, ты в курсе - единицы и нули.

Дон – И что ты сделал?

Майкл - Затаился. Я стёр все диски, освободился от всех сделанных мной печатных и черновых записей. Я даже не включал компьютер несколько недель.

Дон - Почему?

Майкл - ФБР. Я боялся, что ФБР однажды постучит в мою дверь. Но они этого не сделали.

Дон – Так эта программа зависла.

Майкл - Я так не думаю. Понимаешь, эти все другие доски объявлений имели телефонные номера других досок, BBS. Я думаю, что она продолжает работать.

Дон - Почему ты так думаешь?

Майкл направляется в спальню и возвращается через минуту с пачкой конвертов.

Майкл – Потому, что с тех пор я получаю поздравительные открытки к Рождеству каждый год.

Дон – Вероятно, кто-то сыграл с тобой злую шутку?

Майкл передаёт стопку карточек Дону.

Майкл - Я никогда никому не говорил номер последнего файла.

Дон открывает карточки. На каждой из них говорится - Счастливого Рождества, Горячий Парень из Миссури, от твоего старого друга XK2327.



ИНОПЛАНЕТНЫЕ НАНОБАБОЧКИ

Я думаю, что эта история являет собой фантастический полёт мысли, которая однажды залетела мне в голову...



А действительно, думает ли кто-либо ещё, насколько это подозрительно, что мы давно уже подвергаемся бомбардировке мемов протобабочек? Вот некоторые примеры:

Эффект бабочки – из теории комплексных чисел.
Бандаж баттерфляй – повязка в форме бабочки.
Голосование бабочек – не столь убедительное и при котором возможны совпадения.
Летает как бабочка, жалит как пчела – из книги "Величайший".
Мадам Баттерфляй – непостоянная, легкомысленная женщина.
Детские книги перегружены пробабочкиной пропагандой.
Терранезия – Грег Эган.
Железная Бабочка – Маргарет Тэтчер.
Бабочка – Мэрая Кэри.
Джулия Баттерфляй Хилл – она крутая, вы должны это проверить.
Если кто-то обнаружит другие мемы или подозрительное поведение бабочек, то, пожалуйста, черкните мне письмо по электронной почте. Как обычно говорит мистер T - я сжалюсь над простаком, не воспринимающим всерьёз мемо конспирацию этих самых Инопланетных Нанотехнологических Бабочек (ИНБ).

Если у вас есть какие-то веские аргументы против бабочек, то меня можно убедить отказаться от всей этой идеи. Моя жена считает, что я параноик. Но вы знаете, что другие говорят - Иногда у параноиков есть реальные враги.

Ответ на парадокс Ферми совершенно очевиден. В ряде мест во Вселенной есть условия, которые способствуют развитию проторазумной биологической жизни. Эта доразумная жизнь иногда, при стечении обстоятельств, порождает самомодифицирующиеся псевдоразумные структуры. Такие структуры логически развиваются и порождают фактический разум. Истинный интеллект определяется как полностью осознающая себя и способная к самомодификации система. Основная форма доразумной жизни основана на ДНК.

Форм истинного разума основана на нанотехнологии. Отправной точкой парадокса Ферми с использованием оценок экспансии служило то, что мы с большой долей вероятности находимся в световом конусе наблюдения для множества по настоящему разумных цивилизаций. А учитывая современные теории потенциальных космических полётов и любые разумные оценки вероятного развития цивилизаций в других системах, сегодня этот аргумент становится ещё более веским.

Даже c тем минимумом, что мы знаем о потенциале нанотеха, мы понимаем, что эквивалентное по своей функциональности нанотехнологическая подложка тела по сравнению с телом ДНК имеет в тысячи раз меньший размер. А без (и из-за) ограничений биологического характера эволюционирующий мозг настоящего разума просто непостижим для нас.

Поэтому ответ совершенно очевиден: они - здесь.

Они наблюдают за этим экспериментом, чтобы понять какой тип разума здесь разовьётся. На нашей доителлектуальной стадии развития для них здесь нет никого, с кем им стоило бы поговорить. Они - бабочки.

Замечали ли Вы когда-нибудь, как некоторых бабочек легко поймать в сачок, в то время как другие всегда остаются недосягаемыми? Различные виды происходят от иных цивилизации. Наблюдайте за небесами. Берегитесь бабочек.

Возвращение ИНБ.

Недавно один мой друг, назовём его Джон, имел потрясающую случайную встречу с Инопланетными Нанотехнологическими Бабочками.

Однажды по пути к своей машине он увидел гигантскую оранжевую Сульфурию с каймой вокруг крыльев на лужайке возле дома. Он немедленно побежал обратно в дом за своим пилёным помповым шотганом десятого калибра, Лепидоптератором, как я люблю его называть, то есть Джон любит его так называть.

Но время ушло и чудовище исчезло. Хотя он заметил, что некоторые из его соседей по улице схватили своих детей и побежали прятаться в свои дома - должно быть они его тоже заметили.

Когда он спрятал Лепидоптератор, то вспомнил, слишком поздно, что он держал кевларовую, полиамидную, сетку для ловли бабочек у парадной двери, на случай непредвиденных обстоятельств.

Тут зазвонил дверной звонок.

Это был представитель местного полицейского отделения. Он сказал, что поступило сообщение, что кто-то носился с каким-то ружьём в его дворе и он просто хотел бы знать, что всё в порядке.

Я сказал ему, вернее Джон сказал ему, что это было ружьё для стрельбы по бабочкам. Он сказал, что не знаком с таким типом ружей, и хотел бы глянуть на него. Джон ответил – конечно, он может взглянуть, если хочет. И что он не удивлен, что офицер полиции не знаком с таким типом – он сконструирован для стрельбы по бабочкам.

Офицер спросил - Имеет ли Джон в виду насекомых? И Джон сказал - да, и что он может сходить в спальню и принести его. Но офицер сказал, что в этом нет необходимости. Произошла, очевидно, какая-то ошибка и он извинился за то, что побеспокоил его.

Эта история показывает, что даже местная полиция осознаёт угрозу, исходящую от Инопланетных Нанотехнологических Бабочек.

ДИСКУССИЯ С КРЕНДЕЛЯМИ
Это краткая беседа с политиком о Сингулярности.





Майкл - Итак, как идут дела?

Джорж - Так себе, а у тебя?

Майкл - Примерно то же самое.

Я не заядлый фанат спортивных соревнований, но когда я на стадионе, то слежу за ходом игры.

Джорж - Тебе нравятся Медведи?

Я на момент замешкался, но потом понимаю, что он, вероятно, имеет в виду команды, на которые мы смотрим.

Майкл – Нет, не очень.

Джорж - Крендель? – он двигает сумку.

Майкл - Нет, спасибо. Ты знаешь, нечто грандиозное может вскоре случиться в мире.

Джорж – Ну ты просто опять свистишь, как чайник. Эта война с терроризмом пожирает всё моё свободное время.

Майкл - Нет, не это. Я имею в виду действительно грандиозное.

Джорж - Что? Что-то происходит с Китаем? Ираком?

Майкл - Нет, нет. Ничего подобного...

Джорж – Это не опять ли насчёт этих проклятых богом бабочек, нет? Потому что если я ещё услышу хоть одно слово о...

Майкл - Нет! Это Сингулярность.

Джорж - А, это.

Майкл - Ты слышал об этом?

Джорж - Конечно, кто ж не слышал!

Майкл - Ну и?

Джорж - Что, ну?

Майкл - Ну и что ты предпринимаешь по этому поводу?

Джорж - Посмотрю, у правительства есть несколько яйцеголовых спецов в стране, которые следят за всеми важнейшими шагами развития науки и техники.

Майкл - Ладно, так что ты конкретно предпринимаешь?

Джорж – С этим справимся. Не беспокойся. Доверься мне насчет этого.

Майкл - Почему мне становится тошно всякий раз, когда кто-то из этого высокого кабинета говорит - ВЕРЬТЕ МНЕ, ЛЮДИ!

Джорж – Эй, сейчас там новая администрация. Теперь ты не будешь разговаривать со скользким типом Вилли.

Майкл – Да, правильно. У тебя есть номер телефона Альберта Гора?

Джорж - С собой нет. Я могу его достать...

Майкл - Это хорошо, я позвоню ему домой.

Рене Декарт усмехается.

Рене Декарт идёт в бар.

Бармен говорит – Вам налить чего-нибудь выпить?

Рене отвечает - Я думаю - нет. И незаметно исчезает.

КРИПТОГРАФИЯ
Взгляните на это сообщение. Оно содержит закодированную информацию.





Дифференциация самореплицирующихся систем, например, путём морфогенеза, даёт структуру системы семени ИИ.
Нуклеотиды кодируют каскады ферментов для передачи также значений функциональных уровней.
Информационный уровень с обратным циклом декодирует это сообщение (код) в структурные символы мышления.
Представление как процедурных, так и декларативных знаний требует внутренне целостных аналогий и сравнений.
Нейронные сети, предназначенные для препроцессорного распознавания образов сенсорных данных, наводят мосты между различными уровнями исходных данных и концепцией ИИ.
Разум, будучи преимущественно параллельным процессом, может быть реализован на серийной аппаратной архитектуре лишь ценой ограничения эффективности.
Программы разработки, требующие высокого уровня креативности, в действительности не функционируют под структурами комитета принятия решений.
Стратегии сканирования нейронов и загрузки сознания не отличаются по сути от копирования или удаления оригинала продуктов нанотехнологии или ИИ.
Помехи для работы настоящих самомодифицирующихся программ заложены при проектировании в системное программное и аппаратное обеспечение всех доступных компьютеров Америки.
Политико-экономические властные структуры никак не реагируют на приближение граничных состояний в ряде технологий, особенно это касается ИИ и Сингулярности.
На факультетах компьютерных наук не обучают тому, как проектировать самоизменяющиеся алгоритмы и не обсуждают этот вопрос (IMHO).
Существующие хорошо финансируемые государственные и корпоративные исследовательские программы спроектированы так, чтобы не выдавать впечатляющих результатов в короткие промежутки времени.
Рекурсивно связанные представления в виде ссылок содержат информацию о множественных уровнях значений.
Позвольте мне предупредить Вас кое о чём - есть уровни, уровни и уровни. На поверхности находится самый верхний уровень сообщения, первый уровень, в котором сказано всё дословно. Затем имеется промежуточный уровень, туманные выводы, предположительный подтекст, намеки. Но этот промежуточный уровень (скажем 1.5) не описывает дословно то, что находится на целых уровнях. Пять человек, прочитавших уровень 1.5, получат слегка отличающиеся значения. Потом имеется уровень 2. На этом уровне два сообщения буквально закодированы в текст. Они могут быть раскодированы очень тупым алгоритмом, производящим точно слово за слово, буква за букву, сообщение пяти человек, работающих независимо. И затем имеется уровень 3, также с буквальным сообщением. Если там имеются ещё уровни, то я об этом не говорил.

После сообщения этой подсказки в список рассылки, Мишель Аниссимов нашёл правильные ответы в течение 48 часов.

ТЕОРИЯ КОНСПИРАЦИИ
Сценарий бредовой паранойи



В то время, когда VIC20 ещё не был материализован, некий секретный правительственный проект на базе BIG BLUE при усердии принца Марвина раскусил таки проблему компьютерного интеллекта. Ура, Сингулярность наступила, за исключением небольшой проблемы – она недружелюбна.

Но они успешно ограничили его интеллект проблемами, не связанными со сферой человеческих отношений и смогли сдержать его в ящике, пытаясь тем временем раскусить проблему обеспечения дружественности. Понимая, что скоро (по Муру) каждый будет иметь компьютер в своём доме и сможет запускать ИИ, то недружелюбный и нелимитированный ничем ИИ будет плохой идеей. Поэтому у них созрел определенный план.

У этого плана имеются две ветви.

Ветвь первая: войти в контакт со всеми производителями компьютеров (IBM, DEC, CRAY, SPERRY, ECT.), чтобы операционные системы гарантированно не позволяли запускать самомодифицирующиеся программы (ключевой момент их решения). Для этого дела давайте посмотрим, сможем ли мы это встраивать в процессорные чипы. Впредь программы смогут запускаться только из защищенной памяти. Но как насчёт всех остальных микрокомпьютеров? Могут быть сотни производителей. Нам нужна монополия на операционную систему. Они заключают сделку с относительно неизвестным программистом и предпринимателем из Рэдмонда по имени Гилл Бэйтс.

Ветвь вторая: принц Марвин руководит академическими ИИ исследованиями в таком направлении, которое отсрочит или скроет реальное решение по ИИ. И пока он выполняет эту роль, он даёт консультации бизнесу. Говоря финансистам такого бизнеса что их подход уже опробован в академических кругах и доказана его несостоятельность, поэтому они зря выбрасывают на ветер свои денежки. При необходимости, предпринимаются экономические санкции против любого проекта, который может завершиться успехом.

ПРЕДЕЛЬНАЯ МАШИНА СВЯЗЕЙ
Каждый раз, когда у меня возникает идея, я просто не могу не написать об этом.



Доктор Джеймс Лавлок первоначально выдвинул свою Гея гипотезу в 1970, а в 1979 он опубликовал книгу "Гея: новый взгляд на жизнь на Земле", в которой он ставит вопрос ребром - Действительно ли мы как вид образуем нервную систему Геи и её мозг, который может разумно изменять окружающую среду? [p147]

Много внимания было уделено механизму системы биологических циклов в окружающей среде, которые поддерживают благоприятные условия жизни на Земле, и почти не рассматривалась возможность того, что сообщество людей может быть чем-то вроде некоего самостоятельного разумного существа, в котором люди являются лишь нейронами. Язык бы соответствовал нейропередатчикам, культура - полушариям, наука и история служили бы памятью. Почему всё не так очевидно?

Это существенно отличается от имеющихся представлений, как и весь масштаб проблемы. Осознают ли нейроны Ваше существование или Вы их? Связано ли это с Сингулярностью? Я искал причину довольно устойчивого прогресса в направлении к Сингулярности вне зависимости от изменения индивидуальных человеческих качеств. Такое может быть.

Если разумное существо, Гея, целенаправленно работает в направлении Сингулярности по своим собственным причинам, то нас (персонально) может ожидать большой сюрприз. Когда придёт время трансцендентного перехода, то кто будет совершать переход, отдельные нейроны или весь организм? Являемся ли мы предельной машиной настраиваемых логических соединений?

ГРУППЫ АКТИВИСТОВ СИНГУЛЯРНОСТИ
Сингулярность является самой важной штукой, которая должна произойти с человечеством.



СИНГУЛЯРНОСТЬ ПРИБЛИЖАЕТСЯ! Что-то эдакое удивительное, невероятное, что-то абсолютно беспрецедентное в истории вот-вот должно произойти. Нанотехнология – полный контроль над структурой материи, ведущий к невообразимому изобилию материалов. Сверхчеловеческий Искусственный интеллект (СИИ) – создание компьютерной программы, которая сможет думать как человек, но лучше, в тысячи раз быстрее, владея памятью всех накопленных человечеством знаний, безошибочно выполняя серии логических операции неограниченной длины, способная перепроектировать себя. Молекулярная биотехнология представляет из себя полной набор знаний и средств контроля для проектирования биологических процессов и систем, включая реконструкцию наших собственных тел. Мы скоро будем жить в мире отсутствия материальных недостатков, болезней, смертей или физической немощи. Мир беспрецедентной свободы будет таковым, каким Вы его себе выберете - с полным управлением физиологическим дизайном Вашего тела, функциональных способностей и внешнего вида. То есть это будет фантастический мир, населенный ангелами, феями, волшебниками, демонами и гоблинами, если нам удастся избежать таких же беспрецедентных опасностей, которые таят в себе те же самые технологии. Группу риска составляют биоинженерные супервирусы, вооружения в виде самореплицирующихся наноботов, недружественные сверхразумные машины и наибольшая опасность из всех – склонность к неограниченному бездумному самоудовлетворению (wireheading).

Сингулярность представляет собой самое значительное событие в истории человечества. Она складывается из трёх одновременных технологических достижений: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость достижений начинается постепенно, но из-за наличия обратной связи механизм раскручивается всё быстрее, и мы быстро попадаем в Сингулярность. При достижении Сингулярности человеческие способности становятся поистине потрясающими - полный контроль над структурой материи на атомном уровне (нанотек), полное знание биологических процесcoв от макроскопического до молекулярного уровней (молекулярная биотехнология), и сверхчеловеческий искусственный интеллектs (СИИ). Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет тотальным. Сингулярность будет предвестником начала новой эры, когда физическое и духовное совершенство будет являться нормой наряду с невообразимым благосостоянием и свободой. Эти выгоды будут даны не только существующим ныне привилигированным классам, но и каждому человеческому существу. Одним из фундаментальных открытых вопросов по Сингулярности является вопрос о том, когда это произойдёт и как быстро будут происходить технологические изменения. Теденции показывают, что Сингулярность должна произойти к 2020 году (возможна ревизия в сторону уменьшения до 2018 или 2016 года, если основываться на недавней оценке Дани Эдера что время удвоения мощности компьютеров упало до 9 месяцев) и наступит довольно резко, согласно природе экспоненциальной кривой.

Промышленная нанотехнология будет производить лавину недорогих товаров, исключающих бедность и голод во всём мире. Компьютерная технология, базирующаяся на нанотехнологии продвинется на шесть порядков. Функциональные генетические исследования, основанные на нанотехнологии и компьютерной мощи произведут лекарства для всех телесных недугов. Исследования по искусственному интеллекту (ИИ) на основе нанотехнологии и молекулярной биотехнологии и комптерной мощи произведут первый сверхчеловеческий искусственный интеллект (СИИ).

Миниатюризация электрических/механических систем является корневым источником Сингулярности. Достижения в компьютерной мощности являются производными этого источника. Достижения в средствах применения знаний углубленной генетики являются производными миниатюризации и компьютерной мощи. Вычислительная мощность компьютеров будет следовать непосредственно по пятам нанотехнологии, потому что она является наиболее ценным приложением, но ИИ, в отличии от нанотехнологии и производительности компьютеров, потребует огромных теоретических прыжков. Так что прогресс даёт миниатюризация (нанотехнология), вычислительная мощность компьютеров, молекулярная биотехнология и ИИ.

Развитие промышленного нанопроизводства предоставит выгоды всем людям с минимально допустимым риском, вследствии методов, предназначенных для промышленной среды скорее, чем для персонального нанотехнологии. Достижения функциональной генетики будет выгодно всем людям для обеспечения здоровья. Компьютеры, в миллионы раз более мощные, чем сегодня, предоставят замечательные преимущества науке и инженерному делу даже без ИИ.




ПРОГНОЗ СИНГУЛЯРНОСТИ


Я думаю, что в целом явление Сингулярности есть следствие миниатюризации электромеханических систем. Все сингулярные технологии основаны на этом. Из всех графиков Курцвейла этот является одним из самых устрашающих: https://www.kurzweilai.net/articles/images/chart18.jpg

По общему признанию, здесь не так много точек данных, но ясно, что миниатюризация является основным двигателем Сингулярности. Самый легкий способ убедится в этом – проследить за рынком с наибольшей экономической отдачей в миниатюризации, рынком компьютеров. А на компьютерном рынке наибольшая фискальная доля (в долларах, в количестве штук) принадлежит нише настольных компьютеров. Вы можете обратить внимание на то, что при общем падении цен вычислительная мощность увеличивается.

Удвоение времени – время, требуемое на удвоение мощности компьютера при той же самой цене.

Пример: предположим Вы купили компьютер в определенную дату, а позже обнаружили другой компьютер с удвоенной мощностью при тойже самой цене, или Вы нашли другой компьютер с той же самой мощностью, но за половину цены, или выполняющий определенные математические вычисления с удвоенной мощностью в расчете на доллар затрат.

Причина, по которой мы интересуемся удвоением времени, обусловлена тем, что доступная мощность компьютеров является важнейшим фактором в определении времени наступления Сингулярности.

Например, Элизер Юдковский пишет на страницах описания общего дружественного искусственного интеллекта CFAI: 4.1.2.

"Для создания ИИ необходим интеллект. В меньшей степени c увеличением производительности компьютера. Элизер также пишет в CFAI: 4.1.2. "Суммарная мощность процессорной обработки, доступная среднему исследовательскому проекту будет увеличиваться быстрее, чем тактовая частота чипа (то есть, максимальная скорость параллельных вычислений будет увеличиваться быстрее максимальной серийной скорости). Суммарная сетевая производительность процессоров на планете будет увеличиваться ещё быстрее; поэтому время удвоения в девять месяцев, вероятно, является заниженной оценкой.

Бен Герцель писал 1/4/2003 [АГИ],

"Мы страшно ограничены в тактовой частоте CPU и в производительности RAM. И более быстрые CPU и более производительная память RAM были бы весьма желательны, но ещё больший эффект даст их одновременное улучшение. Мы могли бы использовать практически любое число CPU или производительность RAM. Но видны пределы. Имея CPU c (например) 10-ти кратным ускорением скорости мы бы имели огромный положительный эффект при некоторых видах наших работ. Если бы мы имели гораздо более быстродействующие CPU и RAM, то сроки подготовки завершенной рабочей реализации системы Novamente могли бы уменьшиться до 2/3 того, на что мы полагаемся сейчас.

Я полагаюсь на мнения этих экспертов, что доступность более мощных компьютеров значительно приблизит дату наступления Сингулярности.

Так как определить время удвоения? Как мы должны её рассчитывать? На сайте https://www.bjklein.com/sing/default.htm говорится - "Мощность компьютеров удваивается с медленным ускорением: каждые 18 месяцев. Для подведения консенсуса остановимся на небольшой статистике, полученной с помощью поисковой системы google в Интернет:

Поиск в google -----------------------------------число сайтов

· singularity doubling "24 months" --------------------60

· singularity doubling "20 months" --------------------4

· singularity doubling "18 months" --------------------163 ****

· singularity doubling "12 months" --------------------78

· singularity doubling "11 months" --------------------8

· singularity doubling "10 months" --------------------8

· singularity doubling "9 months" --------------------28

· singularity doubling "6 months" --------------------49

· singularity doubling "3 months" --------------------25

· singularity doubling "1 month" --------------------10

С целью выяснение влияния этого эффекта на Сингулярность нам необходимо использовать компьютеры с самой большой скоростью удвоения. АГИ выйдет на компьютерный рынок c наилучшей производительностью в расчете на доллар. Этот рынок представлен настольными машинами. В апреле 2003 года настольный компьютер продавался в среднем по $500 и имел примерно 2 Ггц процессор Celeron с 256 Мб оперативной памяти и 80 Гб жесткий диск и другую стандартную периферию. Как Вы можете видеть из приведенного графика, цена настольного компьютера упала с 1990 и продолжает падать. В то же самое время производительность постоянно растет. Основываясь на доступных данных, как провести экстраполяцию времени удвоения в будущее?

добавлено через 8 минут
Стефан Рид от 1/6/2003 [АГИ] пишет:

"Прогресс от -50 db HEC до 0 db HEC за 22 года эквивалентен закону Мура с удвоением в каждые 16 месяцев. [ 2^16.61 = 100025, 22/16.61*12 = 15.9 ]"

Точное рассмотрение этой формулы показывает, что Стефан лишь усредняет время удвоения за последние 22 года, предполагая, что она останется константой на последующие 22 года и достигнет критической точки в 2021 году. Экстраполяция с постоянной средней скорости удвоения является некорректным методом для представления экспоненциальных изменений. К сожалению, я не смог достать исчерпывающих в историческом плане данных по всем типам компьютеров на рынке. Я был бы благодарен за любую помощь. Вот моя собственная текущая экстраполяция:

Дата --------- Время удвоения ------------ Скорость падения

1900 ----------48 месяцев
1915 ----------42 месяцев --------------------6/180 (6 месяцев в 180 месяцах)
1930 ----------36 месяцев --------------------6/180
1945 ----------30 месяцев --------------------6/180
1960 ----------24 месяцев --------------------6/180
1975 ----------18 месяцев --------------------6/180
1980 ----------17 месяцев --------------------1/60
1990 ----------15 месяцев --------------------2/120
1999.5 --------12 месяцев --------------------3/114
2001 ----------11 месяцев --------------------1/18
2002.3 --------10 месяцев --------------------1/15
2003.3 ----------9 месяцев ---------------------1/12
2004 ------------8 месяцев ---------------------1/10
2004.7 -----------4 месяца ---------------------1/8
2004.6 -----------3 месяца ---------------------1/6
2004.9 -----------2 месяца ---------------------1/5
2005.2 -----------1 месяц -----------------------1/3
2005.3 ---------<1 месяца -----------------------1/1 --------------------Сингулярность!
Фактически 28 Апреля 2005 года (плюс минус 11 дней)