если мы чувствуем, что нам можем проиг
рать гонку, мы вполне можем удариться в панику. Продвижение с осторожнос
тью означает разработку надёжных институтов для управления и начальны
ми прорывами и разработкой активных щитов. Те щиты, которые мы разрабаты
ваем, в свою очередь должны разрабатываться так, чтобы помочь нам обеспе
чить будущее, в котором стоит жить, будущее с местом для разнообразия.
Вторая часть этой стратегии включает стратегии по отношению к сегодняш
ним враждебным державам. Здесь наша цель должна быть Ц сохранить инициа
тиву в то время как минимизировать угрозу, которую мы представляем. Техн
ологический баланс не будет работать и мы не сможем себе позволить упуст
ить наше лидерство. Это оставляет силу и лидерство как наш единственный
реальный выбор, делая не угрожающую позицию вдвойне сложной, чтобы её до
стичь. Здесь снова нам нужны стабильные, надёжные институты: если мы може
м дать им большую встроенную инерцию относительно их целей, то возможно
даже наши оппоненты будут иметь в них меру уверенности.
Чтобы убедить наших оппонентов (и нас самих!), эти институты должны быть на
столько открытыми, насколько это возможно, в соответствии с их миссией. М
ы можем также суметь построить институты, которые предлагают роль для со
трудничества с Советским Союзом. Предлагая им участие, даже если они отк
ажутся идти на условия, которые мы предложим, мы могли бы предложить каки
е-то меры для подтверждения наших намерений. Если Советский Союз должен
был бы принять, они бы получили общественную ставку в нашем совместном у
спехе.
Всё же, если демократии будут сильными, когда прорывы подойдут, и если мы б
удем избегать угроз по отношению к контролю любых государств над своей с
обственной территорией, то наши оппоненты предположительно не будут ви
деть никаких преимуществ в атаке. Таким образом мы вероятно можем обойти
сь без кооперации, если необходимо.

Активные щиты против космич
еских видов вооружений

Может быть полезным рассмотреть, как мы могли бы применить идею активных
щитов к более обычным областям. Традиционно, оборона требовала оружия, к
оторое также полезно для нападения. Это Ц одна причина, почему «оборона
» стала значить "способность вести войну", и почему усилия по «обороне» да
ют противникам причину для опасений. Недавно предложенные виды обороны
с космическим базированием расширят эту структуру. Почти любые защитны
е системы, которые могут разрушать атакующие ракеты, могли бы также разр
ушать оборону противника Ц или проводить космическую блокаду, предотв
ращая построение противником различных видов обороны первым. Такие "вид
ы обороны" попахивают нападением, также как они, по-видимому, и должны, это
их работа. И таким образом гонка вооружений собирает себя для следующего
опасного прыжка.
Должна ли оборона и нападение быть так близко неразрывными? История заст
авляет казаться, что это так. Стены только задерживают захватчиков, когд
а их защищают воины, но воины сами могут выйти, чтобы захватить другие зем
ли. Когда мы представляем оружие, мы естественно представляем человечес
кие руки, которые его нацеливают и человеческую прихоть, решающую, когда
стрелять Ц и история учит нас бояться самого худшего.
Однако сегодня, первый раз в истории, мы научились, как строить защитные с
истемы, которые принципиально отличаются от оружия как такового. Рассмо
трим пример базирования в космосе. Мы сейчас можем разработать устройст
ва, которые чувствуют (выглядит так, как будто тысяча ракет запущена толь
ко что), оценивать (выглядит так, как попытка удара первыми), и действовать (
пытаться разрушить эти ракеты!). Если система будет стрелять только по бо
льшим скопищам летящих ракет, то она не может использоваться для нападен
ия или для космической блокады. Ещё лучше, что её можно было бы сделать так
, чтобы она была неспособна различать атакующие стороны. Служа стратегич
еским интересам своих создателей, она не подчинялась бы каждодневному к
омандованию со стороны чьих бы то ни было генералов. Она бы просто делала
космос опасным окружением для ракет любой атакующей стороны. Также как м
оре или гряда гор в предыдущих войнах, она бы не угрожала ни одной из сторо
н, в то время как обеспечивала бы каждую сторону некоторой защитой проти
в другой стороны.
Хотя она бы использовала военные технологии (сенсоры, отслеживающие уст
ройства, лазеры, наводящиеся снаряды и т. п.) оборона не была бы системой ор
ужия, почему её роль была принципиально другой. Системам этого типа нужн
о было бы отличительное имя: они, в действительности, род активного щита
Ц термин, которые может описать любую автоматическую или полуавтомати
ческую систему, разработанную для защиты без угрозы. Но защищая обе стор
оны, не угрожая ни одной, активные щиты могли бы ослабить цикл гонки воору
жений.
Технические, экономические и стратегические вопросы, поднимаемые акти
вными щитами сложны, и они могут быть, а могут не быть практическими в пред
ассемблерную эру. Если они практические, то будет несколько возможных по
дходов к их построению. В одном подходе, сотрудничающие демократии постр
оили бы щиты в одностороннем порядке. Чтобы дать возможность другим наци
ям удостовериться, что система будет и (что более важно) не будет делать, м
ы могли бы позволить многосторонние инспекции ключевых конструкций, ко
мпонентов, и шагов производства. Нам не нужно выдавать все участвующие т
ехнологии, почему "знаю что" не то же самое, что "знаю как". В другом подходе, м
ы бы строили щиты совместно, ограничивая передачу технологии до минимум
а, необходимого для кооперации и верификации (используя принципы, обсужд
аемые в Примечаниях).
У нас больше шанса запретить космические вооружения, чем нанотехнологи
ю, и это могло бы даже быть лучшим способом минимизировать наши краткоср
очные риски. В выборе долгосрочной стратегии контроля гонки вооружений,
однако мы должны рассматривать больше, чем следующий шаг. Анализ, которы
й я обрисовал в этой главе подсказывает, что традиционные подходы к конт
ролю вооружений, основанные на переговорах о проверяемых ограничениях,
не могут справиться с нанотехнологией. Если это так, то нам нужно разрабо
тать альтернативные подходы. Активные щиты Ц что кажется существенным,
в конченом счёте могут предложить новую стабилизирующую альтернативу
гонке вооружений в космосе. Исследуя эту альтернативу, мы можем исследов
ать основные вопросы, общие для всех активных щитов. Если мы в этом случае
их разработаем, мы получим опыт и построим институциональные механизмы,
которые могут позже оказаться существенными для нашего выживания.
Активные щиты Ц новый выбор, основанный на новых технологиях. Чтобы зас
тавить их работать, потребуется творческий, междисциплинарный синтез и
дей в проектировании, стратегии и международных отношениях. Они предлож
ат новые возможности, которые могут позволить нам избежать старых тупик
ов. Они очевидно предложат ответ на старый вопрос защиты без угрозы Ц но
не простой ответ.

Власть, зло, некомпетентност
ь и лень

Я обрисовал, как нанотехнология и продвинутый ИИ дадут огромную власть в
едущей силе Ц власть, которая может быть использована чтобы уничтожить
жизнь, или чтобы расширить и освободить её. Поскольку мы не можем останов
ить эти технологии, представляется, что мы должны как-то справиться с воз
никновением концентрации власти, большей, чем любая другая в истории.
Нам понадобится подходящая система институтов. Чтобы безопасно управл
ять сложными технологиями, эта система должна иметь способы оценивать о
тносящиеся к делу факты. Чтобы управлять безопасно большой мощью, она до
лжна включать эффективные способы контроля и балансы, а её цели и методы
должны сохраняться открытыми для тщательного общественного контроля.
Наконец, поскольку это поможет нам заложить основы нового мира, лучше, чт
обы оно направлялось нашими общими интересами, в рамках надёжных принци
пов.
Мы не начинаем с нуля; мы будем строить на основе тех институтов, которые у
нас есть. Они различны. Не все из наших институтов Ц государственные чин
овники в массивных серых зданиях; они включают такие расплывчатые и живы
е образования, как свободная пресса, исследовательское сообщество и сет
ь активистов. Эти децентрализованные институты помогают нам контролир
овать серые бюрократические машины.
Отчасти мы встречаемся с новой версией древней и общей проблемы огранич
ения злоупотребления властью. Это не представляет никакой значительно
й, фундаментальной новизны, и принципы и институты либеральной демократ
ии, которым много сотен лет, подсказывают, как это может быть решено. Демок
ратические правительства уже имеют физическую власть, чтобы взорвать к
онтиненты и захватить, посадить в тюрьму и убить их жителей. Но мы можем жи
ть с этими возможностями, потому что эти правительства достаточно покор
ные и стабильные.
Грядущие годы возложат большую ношу на наши институты. Принципы предста
вительного правительства, свободы слова, процесса сбора налогов, правил
а законов и защита прав человека будут оставаться решающими. Чтобы подго
товиться к новым видам бремени, нам понадобится расширить и вдохнуть нов
ую жизнь в эти принципы и институты, которые их поддерживают; защита своб
оды слова относительно технических вопросов может быть решающей. Хотя м
ы сталкиваемся с серьёзным вызовом, есть повод надеяться, что мы сможем н
а него достойно ответить.
Есть также, конечно, очевидные причины для сомнения, что мы сможем на него
достойно ответить. Но отчаяние заразно и противно, и оставляет людей в по
давленном состоянии. Кроме того отчаяние кажется неоправданным, вопрек
и знакомым проблемам: зло Ц слишком ли мы злы, чтобы делать правильные ве
щи? Некомпетентность Ц слишком ли мы глупы, чтобы делать правильные вещ
и? Лень Ц слишком ли мы ленивы, чтобы подготовиться?
Хотя это был бы слишком поспешным предсказывать радужное будущее, эти пр
облемы не кажутся непреодолимыми.
Демократические правительства Ц большие, небрежные и иногда безответ
ственные за жестокости, однако они не кажутся злом, в целом, хотя они могут
включать людей, которые заслуживают этого ярлыка. В действительности их
лидеры получают власть во многом выказывая поддержку общепризнанным и
деям добра. Наша главная опасность в том, что стратегии, которые кажутся х
орошими, могут вести к несчастью, или что действительно хорошие стратеги
и не будут найдены, опубликованы и воплощены во время, чтобы возыметь дей
ствие. Демократии страдают больше от лени и некомпетентности, чем от зла.

Некомпетентность будет кончено неизбежна, но должна ли она быть фатальн
ой? Мы, человеческие существа, по своей природе глупы и невежественны, одн
ако мы иногда ухитряемся объединить наши кусочки компетентности и знан
ия, чтобы достигать великих вещей. Никто не знает, как долететь до Луны и н
икто никогда не узнает, однако дюжина людей прошлась по её поверхности. М
ы преуспели в технических вопросах, потому что научились строить инстит
уты, которые собирают многих людей вместе, чтобы генерировать и проверят
ь идеи. Эти институты добиваются надёжности путём избыточности, и качест
во их результатов зависит от во многом от того, как сильно это нас заботит
и как напряжённо мы работаем. Когда мы концентрируем достаточно внимани
я и ресурсов на надёжности, мы часто преуспеваем. Это Ц то, почему полёты
на Луну закончились успешно без гибели в космосе и почему никакое ядерно
е оружие никогда не было запущено и не взорвалось по случайности. И это то
, почему мы можем суметь управлять нанотехнологией и продвинутым ИИ с до
статочной осторожностью, чтобы гарантировать компетентную работу. Неу
стойчивые люди с ограниченными способностями могут объединиться, чтоб
ы образовать стабильные, компетентные институты.
Лень Ц интеллектуальная, моральная и физическая Ц кажется возможно на
шей самой большой опасностью. Мы можем только отвечать на великие вызовы
великими усилиями. Сделают ли достаточно людей достаточные усилия? Никт
о не может этого сказать, поскольку никто не может сказать за любого друг
ого. Но успех не потребует неожиданного всеобщего прозрения и мобилизац
ии. Он потребует только растущего сообщества людей, пытающихся разработ
ать, опубликовать и воплотить работоспособные решения, и чтобы они имели
хорошую и растущую меру успеха.
Это не так невероятно. Забота о технологии стала широко распространённо
й, также как идея ускоряющегося изменения потребует лучшего предвидени
я. Лень не поймает в западню каждого, и введённые в заблуждение мыслители
не будут вести по ложному направлению усилия всех. Смертоносные псевдо-
решения (такие как запрещение исследований) проиграют битву идей, если д
остаточно людей разоблачат их. И хотя мы сталкиваемся в большим вызовом,
успех сделает возможным осуществление великих мечтаний. Великие надеж
ды и страхи могут подвигнуть достаточно людей, чтобы дать возможность че
ловеческой расе выиграть.
Страстное участие и действие не будут достаточны; мы также будем нуждать
ся в хорошо обоснованных стратегиях. Это потребует больше чем хороших на
мерений и чётких целей: мы должны также отслеживать фактические связи в
мире, которые будут связывать то, что мы делаем, с тем, что мы получаем. По ме
ре того, как мы приближаемся к технологическому кризису беспрецедентно
й сложности, имеет смысл попытаться улучшить наши институты оценки важн
ых технических фактов. Как ещё мы можем направлять ведущую силу и миними
зировать угрозу последней некомпетентности?
Институты эволюционируют.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47