Любители будут обмениваться программами, чтобы стр
оить различные устройства. Инженеры будут строить и тестировать новые н
анотехнологии. Химики, материаловеды и биологи будет строить аппараты и
проводить эксперименты. В лабораториях, построенных вокруг биологичес
ких экземпляров, биомедицинские инженеры будут разрабатывать и тестир
овать ранние машины ремонта клеток.
В ходе этой работы люди естественно будут разрабатывать полезные конст
рукции, будь то для компьютерных схем, прочных материалов, медицинских у
стройств или чего-то угодно ещё. После того как публика поймёт их безопас
ность, эти вещи могут стать доступными вне запечатанных лабораторий с по
мощью программирования ограниченных ассемблеров на их производство. З
апечатанные лаборатории и ограниченные ассемблеры образуют взаимодоп
олняющую пару: первые позволят нам свободно изобретать; вторые дадут нам
возможность наслаждаться плодами нашего изобретения в безопасности. В
озможность сделать паузу между разработкой и выходом поможет нам избеж
ать смертоносных сюрпризов.
Запечатанные ассемблерные лаборатории дадут возможность целым общест
вам применять свои творческие способности для решения проблем нанотех
нологии. И это ускорит наши приготовления ко времени, когда независимые
силы узнают, как строить что-то опасное.
Сокрытие информации
В другой тактике, чтобы выиграть время, ведущая сила может попытаться сж
ечь мосты, которые она построила от балк-технологии к молекулярной. Это о
значает уничтожить записи о том, как первые ассемблеры были сделаны (или
сделать их абсолютно недоступными). Ведущая сила может быть способна раз
работать первые, грубые ассемблеры таким образом, что никто не знает дет
али большего чем маленькая часть целой системы. Представьте, что мы разр
абатываем ассемблеры тем путём, как описано в главе 1. Белковые машины, кот
орые мы используем для построения первых грубых ассемблеров затем быст
ро станут устаревшими. Если мы уничтожим записи о конструкции белков, эт
о затруднит усилия их скопировать, однако не предотвратит дальнейший пр
огресс в нанотехнологии.
Если запечатанные лаборатории и ограниченные ассемблеры широко доступ
ны, у людей будет мало научной или экономической мотивации повторно разр
абатывать нанотехнологию независимо, и сжигание мостов от балк-техноло
гии сделает независимую разработку более сложной. Однако это могут быть
не более чем тактики задержки. Они не остановят независимую разработку;
человеческое стремление к власти будет подталкивать усилия, которые в к
онце концов приведут к успеху. Только детальная всеобщая слежка в тотали
тарных масштабах могла бы остановить независимую разработку на неогра
ниченное время. Если такая слежка проводилась бы чем-то вроде современн
ого правительства, это было бы лечение, примерно такое же опасное как сам
а болезнь. И даже тогда, сохраняли бы люди идеальную бдительность навсег
да?
По-видимому, мы должны в конце концов научиться жить в мире с репликатора
ми, которым нельзя доверять. Один тип тактики заключался бы в том, чтобы ск
рыть за стеной или далеко убежать. Но это Ц хрупкие методы: опасные репли
каторы могли бы слопать стену или пересечь пространство и принести нево
образимые несчастья. И хотя стены могут защитить от маленьких репликато
ров, никакая неподвижная стена не гарантирует против крупномасштабног
о организованного злого умысла. Нам потребуется более надёжный, гибкий п
одход.
Активные щиты
Представляется, мы можем построить наномашины, которые действуют приме
рно так, как белые клетки крови человеческой иммунной системы: устройств
а, которые могут бороться не только с бактериями и вирусами, но с опасными
репликаторами всех сортов. Назовём автоматическую защиту этого рода ак
тивным щитом, чтобы отличить от неподвижной стены.
В отличие от обычных технических систем, надёжные активные щиты должны д
елать больше, чем просто взаимодействовать с природой и неуклюжими поль
зователями. Они должны также уметь управляться с намного более существе
нной задачей Ц с целым рядом угроз, которые разумные силы могут сконстр
уировать и построить при более благоприятных обстоятельствах. Построе
ние и улучшение прототипа щитов будет сродни проведению обеими сторона
ми гонки вооружений в лабораторном масштабе. Но цель здесь будет поиск м
инимальных требований для защиты, которая надёжно преобладает.
В главе 5 я описал, как доктор Ленат и его программа Евриско разработали ус
пешные виды флота, чтобы сражаться по правилам игры-симулятора морской
битвы. Аналогичным образом мы можем превратит в игру смертельно серьёзн
ые усилия по разработке надёжных щитов, используя запечатанные ассембл
ерные лаборатории различных размеров как игровые поля. Мы можем приглас
ить множество инженеров, компьютерных хакеров, биологов, любителей и сис
тем автоматического инжиниринга, стравливать свои системы друг против
друга в играх, ограниченных только начальными условиями, законами приро
ды и стенами запечатанных лабораторий. Эти конкуренты будут разрабатыв
ать угрозы и щиты в серии микро-сражений с открытым концом. Когда размнож
ающиеся ассемблеры принесут изобилие, люди будут иметь достаточно врем
ени для такой важной игры. В конце концов мы можем тестировать многообещ
ающие системы щитов в космосе в средах, подобных земным. Успех сделает во
зможным систему, способную защитить человеческую жизнь и земную биосфе
ру от самого худшего, что целые толпы свободных репликаторов могут сдела
ть.

Возможен ли успех?

С нашими сегодняшними неопределённостями мы не можем пока описать ни уг
розы, ни щиты с какой-либо точностью. Значит ли это, что мы не можем иметь ув
еренности, что эффективные щиты возможны? Очевидно мы можем; в конце конц
ов есть разница между знанием, что что-то возможно и знанием как это сдела
ть. А в этом случае мир содержит примеры аналогичного успеха.
Нет ничего фундаментально нового в защите против вторгшихся репликато
ров; жизнь это делает на протяжении веков. Размножающиеся ассемблеры, хо
тя и необычно мощные, будут физическими системами не отличающимися прин
ципиально от тех, что нам уже известны. Опыт подсказывает, что их можно кон
тролировать.
Вирусы Ц молекулярные машины, которые вторгаются в клетки; клетки испол
ьзуют молекулярные машины (такие как ограничительные ферменты и антите
ла), чтобы против них защищаться. Бактерии Ц это клетки, которые вторгают
ся в организмы; организмы используют клетки (такие как белые кровяные те
льца), чтобы против них защищаться. Аналогично общества используют полиц
ию, чтобы защищаться против криминальных элементов и армии, чтобы защища
ться против захватчиков. На менее физическом уровне умы используют мими
ческие системы, такие как научный метод, чтобы защищаться против абсурда
, а общества используют институты, такие как суды, чтобы защищаться проти
в власти других институтов.
Биологические примеры в предыдущем абзаце показывают, как даже после го
нки вооружений в течение миллиарда лет молекулярные машины оказались с
пособны поддерживать защиту против молекулярных репликаторов. Неудачи
также широко распространены, но успехи всё же показывают, что защита воз
можна. Эти успехи подсказывают, что мы можем действительно использовать
наномашины, чтобы защищать себя против наномашин. Хотя ассемблеры прине
сут с собой успехи во многих областях, не видно причин, почему они должны н
авсегда опрокинуть баланс в защите.
Примеры, приведённые выше Ц какие-либо вторгающиеся вирусы, какие-либо
вторгающиеся институты Ц достаточно разнообразны, чтобы подсказывать
, что успешная защита базируется на общих принципах. Кто-то может спросит
ь: почему все эти защиты оказываются успешны? Но перевернём вопрос: почем
у они должны не иметь успеха? Каждый конфликт сталкивает аналогичные сис
темы друг с другом, не давая атакующей никакого очевидного преимущества
. Более того, в каждом конфликте атакующий сталкивается с защитой, котора
я уже установилась и проверена временем. Защищающийся сражается на собс
твенной территории, дающей ему преимущества, такие как подготовленные п
озиции, детальное знание местности, заготовленные ресурсы, и многочисле
нные союзники Ц когда иммунная система распознаёт микроб, он может моби
лизовать ресурсы всего организма. Все эти преимущества являются общими
и фундаментальными, имея мало общего с деталями технологии. Мы можем при
дать нашим активным щитам те же преимущества перед опасными репликатор
ами. И им не обязательно нужно сидеть сложа руки, когда опасные виды оружи
я накапливаются, ничуть не больше, чем иммунная система сидит сложа руки,
когда размножаются бактерии.
Было бы сложно предсказать исход гонки вооружений с открытым концом меж
ду силами, вооружёнными самовоспроизводящимися ассемблерами. Но до тог
о, как эта ситуация может возникнуть, ведущая сила, кажется вероятным, что
приобретёт временное, но принципиальное военное преимущество. Если исх
од гонки вооружений Ц под сомнением, то ведущая сила вероятно используе
т свою силу, чтобы гарантировать, что никаким противникам не будет позво
лено её догнать. Если она это сделает, то активные щиты не будут должны про
тивостоять атакам, обеспечиваемым ресурсами половины континента или п
оловины солнечной системы; вместо этого они будут походить на силы полиц
ии или иммунную систему, встречающие атаки, обеспечиваемые какими бы то
ни было ресурсами, которые могут быть собраны в тайне в пределах защищае
мой территории.
В каждом случае успешной обороны, которые я упомянул выше, атакующие и щи
ты развивались по во многом схожим процессам. Иммунная система, сформиро
ванная генетической эволюцией, встречает угрозы также сформированные
генетической эволюцией. Армии, сформированные человеческими умами, так
же встречают аналогичные угрозы. Подобным образом и активные щиты, и опа
сные репликаторы будут сформированы эволюцией мимов. Но если ведущая си
ла может разработать системы автоматического инжиниринга, которые буд
ут работать в миллионы раз быстрее людей-инженеров, и если она может испо
льзовать их в течение всего одного года, то она сможет построить активны
е щиты, основанные на усилиях, эквивалентных миллионам лет технического
прогресса. С такими системами мы можем быть способны исследовать предел
ы возможного достаточно хорошо, чтобы построить щит против всех физичес
ки возможных угроз.
Даже если мы не знаем детали угроз и щитов, кажется разумным считать, что щ
иты возможны. И примеры мимов, контролирующих мимы, и институтов, контрол
ирующих институты также подсказывают, что системы ИИ могут контролиров
ать системы ИИ.
В построении активных щитов, мы будем способны использовать мощь реплик
аторов и систем ИИ, чтобы умножать традиционные преимущества защищающе
йся силы: мы можем дать ей преобладающую силу благодаря изобилию построе
нных репликаторами технических средств с конструкциями, основанными н
а эквиваленте миллион-летнего преимущества в технологии. Мы можем строи
ть активные щиты, имеющие силу и надёжность, которая посрамит системы пр
ошлого.
Нанотехнология и искусственный интеллект могли бы принести конечные и
нструменты разрушения, но они не являются разрушительными по своей сути
. С осторожностью мы можем их использовать, чтобы построить окончательны
е инструменты мира.

Глава 12. СТРАТЕГИИ И ВЫЖИВАНИ
Е

Тот, кто не применяет новых ви
дов лечения, должен ожидать новых видов зла; время Ц величайший инноват
ор.
ФРЭНСИС БЭКОН

Личные ограничения
Локальное подавление
Соглашения глобального подавления
Глобальное подавление силой
Односторонний прогресс
Баланс сил
Кооперативное развитие
Синтез стратегий
Активные щиты против космического оружия
Власть, зло, некомпетентность и лень
В ПРЕДЫДУЩИХ ГЛАВАХ я плотно придерживался основательной почвы технол
огической возможности. Здесь, однако, я должен пойти дальше в область пол
итики и человеческих действий. Эта почва более неустойчивая, но технолог
ические факты и эволюционные принципы всё же обеспечивают устойчивые м
оменты, на которые можно опираться и исследовать территорию.
Гонка технологий, подгоняемая давлением эволюции, несёт нас к беспрецед
ентным опасностям; нам нужно найти стратегии, чтобы как-то с ними иметь де
ло. Поскольку мы видим впереди такую огромную опасность, имеет смысл рас
смотреть остановку в нашем стремительном движении вперёд. Но как мы это
можем сделать?

Сдерживание себя

Как отдельные люди, мы могли бы воздерживаться от исследований, которые
ведут по направлению к опасным возможностям. Действительно, большинств
о людей будет воздерживаться, поскольку большая часть из них Ц не иссле
дователи в первую очередь. Но эта стратегия не остановит прогресс: в наше
м разнообразном мире, другие будут двигать дело вперёд.

Локальное подавление

Стратегия личного сдерживания (по крайней мере в этом вопросе) отдаёт пр
остым бездействием. Но как насчёт стратегии локального политического д
ействия, лоббирования законов, запрещающих определённые виды исследов
ания? Это было бы личное действие, направленное на оказание давления на к
оллективное бездействие. Хотя оно могло бы преуспеть в подавлении иссле
дования в городе, районе, стране или даже союзе стран, эта стратегия не пом
ожет нам получить лидерство, вместо этого она бы позволила какой-то силе
вне нашего контроля получить это лидерство. Популярное движение этого с
орта может остановить исследование только так, где люди имеют власть, и э
тот величайший возможный успех просто открыл бы дорогу более репрессив
ным государствам, чтобы стать лидирующей силой.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47