Также, как молекулярные машины синапса отвечают на схемы н
ейронной активности изменяя структуру синапса, также нанокомпьютеры б
удут реагировать на схемы активности давая команду наномашинам измени
ть структуру переключателей. С правильным программированием и с коммун
икациями между нанокомпьютерами для моделирования химических сигнало
в, такое устройство должно вести себя во многом подобно мозгу.
Несмотря на сложность, устройство будет очень небольшим. Нанокомпьютер
ы будут меньше чем синапсы, а соединения, построенные ассемблерами, буду
т тоньше, чем аксоны и дендриты мозга. Тонкие провода и маленькие переклю
чатели будут делать для компактных схем, а плотно упакованные схемы уско
рят потоки электронных сигналов, сокращая расстояния, которые сигналы д
олжны проходить. Похоже, что структура, подобная мозгу будет умещаться м
еньше, чем в кубический сантиметр (как это обсуждается в Примечаниях). Бол
ее короткие пути для сигналов тогда соединятся с более быстрой передаче
й, и в результате этого получится устройство более чем в десять миллионо
в раз быстрее человеческого мозга.
Только проблема охлаждения могла бы ограничивать такие машины и замедл
ять средние скорости работы. Представьте себе консервативную конструк
цию, которая в миллион раз быстрее чем мозга и рассеивает в миллион раз бо
льше тепла. Система представляет собой блок, построенный ассемблерами и
з сапфира, размером с кружку кофе, изрешечённый системой каналов охлажде
ния. Труба равного диаметра, по которой поступает под высоким давлением
вода, прикручивается к его вершине, проталкивая охлаждающую воду через к
аналы к подобной трубе слива, выходящей через низ. Мощные кабели питания
и пучки оптоволокна для каналов данных тянутся с его боков.
Кабели обеспечивают пятнадцать мегаватт электроэнергии. Труба с водой
отводит появляющееся в результате тепло вовне потоком в "три тонны в мин
уту "кипящей воды. Оптические волокна передают не много не мало, сразу мил
лион телевизионных каналов. Они обеспечивают коммуникации с другими си
стемами ИИ, с симуляторами для конструирования и с ассемблерными систем
ами, которые строят структуры для окончательного тестирования. Каждые д
есять секунд система сжирает почти два киловатта-дня электрической эне
ргии (что сейчас стоит около доллара). Каждые десять секунд система выпол
няет столько же работы, сколько человек-инженер за восемь часов в день в т
ечение года (что сейчас стоит десятки тысяч долларов). За час она выполняе
т работу столетий. Для всей своей деятельности система работает в тишине
, которая нарушается только потоком охлаждающей воды.
Мы затронули вопрос чистой скорости мысли, но что можно сказать о её слож
ности? Кажется маловероятным, что разработка ИИ остановится на сложност
и единственного человеческого разума. Как отмечает Джон Маккарти, лабор
атория ИИ Стэнфорда, если мы можем разместить эквивалент одного человеч
еского разума в металлический череп, мы можем разместить в здании эквива
лент десяти тысяч работающих в кооперации умов. (А большая современная э
лектростанция могла бы обеспечивать достаточно энергии для каждого, чт
обы он думал в десять тысяч раз быстрее, чем человек.) К идее быстродейству
ющего инженерного интеллекта добавьте идею быстродействующих команд.

Разработка систем ИИ будет замедлена в своей работе необходимостью вып
олнять эксперименты, но не настолько, насколько можно было бы ожидать. Ин
женеры сегодня должны выполнять много экспериментов, потому что балк-те
хнология трудноуправляема. Кто может заранее точно сказать, как новый сп
лав будет себя вести когда его будут ковать, а потом изогнут миллион раз? М
аленькие трещины ослабляют металл, но детали обработки определяют их пр
ироду и последствия.
Поскольку ассемблеры будут создавать объекты по точным спецификациям,
непредсказуемости оптовой технологии можно будет избежать. Разработчи
ки (будь то человеческий разум или ИИ) далее будут экспериментировать то
лько тогда, когда проведение эксперимента быстрее или дешевле чем вычис
ление, или (более редкий случай), когда отсутствует базовое знание.
Системы ИИ с доступом к наномашинам многие эксперименты будут выполнят
ь стремительно. Они разработают устройство за секунды, а воспроизводящи
еся ассемблеры его построят без многих задержек (заказ специальных част
ей, их отгрузка и т. п.), которые являются бедой проектов сегодня. Построить
экспериментальное устройство масштаба ассемблера, нанокомпьютера или
живой клетки будет занимать лишь минуты, а наноманипуляторы будут делат
ь миллион движений в секунду. выполнение миллиона обычных эксперименто
в одновременно будет легко. Таким образом, вопреки задержкам с экспериме
нтированием, системы автоматизированного проектирования будут продви
гать технологию вперёд с ошеломительной скоростью.
От прошлого к будущему, тогда, вероятный рисунок приближающейся способн
ости выглядит примерно так. На протяжение целых временных эпох, жизнь пр
одвигалась вперёд растянутым во времени, медленным темпом, который опре
делялся эволюцией генов. Разум с языком подхватили темп, ускоренный гибк
остью мимов. Изобретение методов науки и технологии ещё ускорило продви
жение, заставив мимы эволюционировать быстрее. Рост богатства, образова
ния и населения Ц лучшие физические и интеллектуальные инструменты, пр
одолжили эту тенденцию ускорения на протяжение нашего века.
Автоматизация разработки ускорит темп еще больше. Автоматизированное
проектирование улучшится, помогая людям-инженерам генерировать и пров
ерять идеи быстрее, чем когда-либо. Преемники EURISKO сократят сроки проектир
ования, предлагая проекты и заполняя детали инноваций, вносимых человек
ом. С какого-то момента полностью автоматизированные системы проектиро
вания станут двигаться вперёд сами по себе.
Параллельно, молекулярная технология разовьется и вызреет, чему будут п
омогать продвижения в автоматизированном проектировании. Тогда систем
ы ИИ, построенные ассемблерами, дадут еще более стремительное автоматиз
ированную разработку, развивая технологические идеи в темпе, устанавли
ваемом системами в миллион раз более быстрыми, чем человеческий мозг. Ск
орость продвижения технологии вперёд тогда ускорится огромнейшим скач
ком вперёд: за короткое время многие области технологии пододвинутся к с
воим ограничениям, установленным законом природы. Тогда продвижение в э
тих областях остановится на очень высоком уровне достижений.
Эта трансформация Ц головокружительная перспектива. За ней, если мы выж
ивем, лежит мир воспроизводящихся ассемблеров, способных делать всё, что
им говорят делать, без необходимости в человеческом труде. За ней, если мы
выживем, лежит мир с системами автоматизированного проектирования, спо
собными направить ассемблеры создавать устройства, на пределе возможн
ого, близко к конечным границам технического совершенства.
В конечном счете, некоторые ИИ системы будут иметь и большие технические
способности и социальные способности, необходимые, чтобы понимать чело
веческую речь и желания. Если ей дать достаточно энергии, материалов и ас
семблеров, такая система могла бы вероятно называться «машиной-джином»
Она произведёт всё, что вы просите, арабская сказка и "О чем вы просите, это
произведет, Аравийская легенда и универсальный здравый смысл подсказы
вают, чтобы мы воспринимали опасности таких машин создания действитель
но очень серьезно.
Появление решающих крупных достижений в техническом и социальном ИИ за
ймёт годы. Как сказал Марвин Мински, "умеренно "умеренноинтеллектуальные
машины ближайшего будущего обещают только давать нам богатство и комфо
рт неустанных, послушных и недорогих слуг." Большинство систем, называем
ых ИИ, не думают и не учатся, они являются только грубой выжимкой из знаний
и умений экспертов, сохраненных, упакованных и распространяемых для кон
сультаций.
Но прибудет и подлинный ИИ. Удерживать его вне наших ожиданий означало б
ы жить в мире фантазии. Ожидать ИИ Ц ни оптимистично, ни пессимистично: ка
к всегда, оптимизм исследователей Ц пессимизм технофоба. Если мы не гот
овимся к их прибытию, системы социального ИИ могли бы поставить серьёзну
ю угрозу: подумайте об ущербе, причиняемом всего лишь человеческим интел
лектом террористов и демагогов. Подобным образом системы технического
ИИ могли бы дестабилизировать мировой баланс в военной сфере, давая одно
й стороне неожиданное и огромное преимущество. С надлежащей подготовко
й, однако, искусственный интеллект мог бы помочь нам строить будущее, кот
орое работает Ц для Земли, для людей, и для продвижения интеллекта во все
ленную. Глава 12 подсказывает подход как часть более общего вопроса управ
ления трансформацией, которую принесут ассемблеры и ИИ.
Зачем нужно обсуждать опасности сегодня? Потому что уже не слишком рано
начать разрабатывать институты, способные иметь дело с такими вопросам
и. Технический ИИ появляется сегодня и каждое его продвижение вперёд уск
орит гонку технологий. Искусственный интеллект Ц всего лишь одна из мно
гих мощных технологий, которыми мы должны научиться управлять, каждая из
которых добавляет что-то к сложной смеси угроз и возможностей.

Глава 6. МИР ВНЕ ЗЕМЛИ

Ту перевернутую чашу мы зовё
м Небом; под ним, в кишащем курятнике мы бы жили и умирали.
Омар Каям

Новая космическая программа
Космос и усовершенствованная технология
Изобилие
Общество с положительной суммой
ЗЕМЛЯ Ц лишь маленькая часть мира, а остальная часть мира будет важна дл
я нашего будущего. В терминах энергии, материалов и пространства для рос
та космос Ц это почти всё. В прошлом инженерные проекты как правило заве
ршались завоеванием нового пространства. В будущем открытые границы ко
смоса расширят человеческий мир. Успехи в ИИ и нанотехнологии будут игра
ть решающую роль.
Чтобы понять космос как границу, для людей это заняло века. Наши предки ко
гда-то видели ночное небо, как черный купол с крошечными искорками, свето
м, который посылают боги. Они не могли себе представить космическое путе
шествие, потому что они даже не знали, что космос существует.
Мы теперь знаем, что космос существует, но немного людей уже понимают его
ценность. Едва ли это удивительно. Наши умы и культуры развивались на это
й планете, и мы только начали воспринимать идею границы дальше неба.
Только в этом столетии такие мечтательные конструкторы как Герман Обер
т и Роберт Годдард показали, что ракеты могли бы достичь космоса. Они были
в этом уверены, потому что имели достаточно знаний о топливе, двигателях,
емкостях и конструкциях, чтобы вычислить, что могли бы делать многоступе
нчатые ракеты. Однако в 1921 году в Нью-Йорк Таймз журналист в передовой стат
ье упрекал Годдарда за идею, что ракеты могли бы летать через пространст
во без воздуха, от которого они бы отталкивались, и не далее как в 1956 году бр
итанский Королевский астроном фыркал, что "Космические путешествия Ц п
олная чепуха." Это лишь показало, что журналисты, пишущие передовицы и аст
рономы не теми экспертами, которых надо было спрашивать о космических ап
паратах. В 1957 году первый спутник вышел на орбиту Земли, за которым последо
вал Юрий Гагарин. В 1969 году мир стал свидетелем высадки на Луну.
Однако мы заплатили цену за невежество. Так как пионеры космической техн
ологии испытали недостаток в том, чтобы каким-то образом публично выста
вить свои доказательства, они были вынуждены утверждать отправные пунк
ты снова и снова ("Да, ракеты будут работать в вакууме … Да, они действитель
но достигнут орбиты…"). Занятые защитой самых основ полётов в космос, у них
было мало времени обсудить их последствия. Таким образом, когда Спутник
поразил мир и привёл в замешательство Соединённые Штаты, люди были непод
готовлены: на тот момент не было широких дебатов, чтобы сформировать стр
атегию для космического пространства.
Некоторые из пионеров понимали, что делать: построить космическую станц
ию и космический корабль многократного использования, затем оттуда отп
равиться на Луну или на астероиды за ресурсами. Но шум взволнованных пол
итических деятелей быстро потопил их предложения, а американские полит
ические деятели требовали большой, легкой для понимания цели. Таким обра
зом был рожден проект Аполлон, гонка, чтобы высадить американского гражд
анина в самом близком месте, где можно воткнуть флаг. Проект Аполлон обош
ел построение космической станции и космического челнока, вместо этого
создавая гигантские ракеты, способные достичь Луну одним большим прыжк
ом. Проект был великолепен, он дал ученым некоторую информацию, и он принё
с большую отдачу благодаря продвижениям в технологии, но по сути, это был
выстрел в холостую. Налогоплательщики это видели, конгрессмены это виде
ли, и космическую программу свернули.
Когда проект Аполлон реализовывался, старые мечты господствовали в общ
ественном мнении, и это были простые, романтичные мечты о заселении друг
их планет. Тогда инструменты робота рассеяли мечту об одетой в джунгли В
енере, в действительности оказавшейся духовкой во всю планету яда высок
ого давления. Они стёрли линии, которые начертили на Марсе земные астрон
омы, и с ними ушли и каналы, и марсиане. Вместо них оказался Марс кратеров и
каньонов и сухой летающей пыли. По направлению к Солнцу от Венеры лежит и
спеченную скала Меркурия; дальше к звёздам от Марса лежат булыжники и лё
д. Планеты варьируются от мёртвых к смертельно опасным, и мечта о новых Зе
млях отступила к удалённым звёздам. Космос казался мёртвой целью.
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47