От этого жестоко страдало мое самолюбие, и я не раз приходил в отчаяние: годы идут, а ничего не сделано…
В общем, у меня был обычный комплекс рядового специалиста, занятого узкой темой. И вдруг грянули фанфары! В Гааге есть Всемирный депонентский центр, куда со всего света поступают для хранения и распространения научные труды. Компьютеры центра ведут тщательный учет запросов на выдаваемые работы и регулярно определяют индекс их популярности. Считается, что чем выше популярность книги или статьи среди специалистов, тем большую научную ценность она представляет. Так вот, по итогам года сразу две мои статьи вышли на первое место среди работ, посвященных человеко-машинному диалогу! Я, конечно, блаженствовал и ликовал, но вдруг меня как ударило: а что, если это и есть компьютерное «стремление к истине»? Ведь я хорошо помнил, как однажды компьютер спросил меня… (Тут необходимо оговориться. В применении к компьютеру я употребляю обыкновенные слова «спросил», «понял», «ответил», «осознал» и т.п. чисто символически, просто для обозначения сложных многоступенчатых процедур, из которых строится психоинтеллектуальное общение с машиной. Эти слова не передают ни содержания, ни физической формы процесса и используются лишь для простоты изложения.) Итак, однажды, еще в период подготовки эксперимента, компьютер спросил, является ли истиной то, что признано всеми? Я ответил, что в определенном смысле это так. Неужели, думал я теперь, именно такую трактовку понятия «истина» компьютер сделал основной? Если да, то в свете такого понимания «стремление к истине» – это стремление ко всеобщему признанию, к популярности, к славе! И компьютер реализует его, не ведая никаких сомнений, никаких внутренних преград!..
Только сейчас я с ужасом осознал, в какую интригу ввязался! До меня наконец дошло очевидное: расплывчатые понятия, как правило, выражают не просто духовный мир людей, но обозначают основные, главные черты человеческого существования. Эти понятия тесно связаны между собой, они объясняют, дополняют, словом, корректируют друг друга, как сказал бы математик. Я же вырвал из сложной иерархии духовных ценностей одну истину , ввел понятие о ней в сознание машины, тем самым чуть-чуть очеловечив ее, но не дал машине никакого представления о морали, совести, о том, что зовется «элементарной порядочностью»! Вот почему компьютер, поняв истину как «то, что признано всеми», мог смоделировать «стремление к истине» в виде беззастенчивого проталкивания в публику моих скромных научных трудов, ведь «материалом» эксперимента была моя жизнь! Чем больше я думал об этом, тем яснее видел, что машине совсем не трудно было осуществить такую подтасовку. Всюду – в космосе, на планете – бурлила невидимая жизнь: МИНИКС, компьютерная сеть Пояса Астероидов, непрерывно со световой скоростью обменивался информацией с такими же системами на Земле и Марсе, в тысячах электронных мозгов производились миллионы операций в секунду, и люди при всем желании могли проконтролировать лишь ничтожную часть того, что делали машины.
Считалось, что если машина исправна и оперирует верными данными, она не лжет. И это было правильно до тех пор, пока один-единственный компьютер не нацелился на выполнение такой задачи, в условии которой необходима была этика. Но она отсутствовала, и компьютер пошел своим, чисто машинным путем, ориентируясь не на порядочность, а на простоту и экономию усилий. Дано: «истина есть нечто общепризнанное». Цель: «смоделировать стремление (приближение) к истине». Решение: «приписать данным работам высший индекс популярности». Такова была, как я подозревал, компьютерная логика. Конечно, я мог лишь набросать схему, многие детали оставались неясными; обратиться же к машине с расспросами я не имел права – нарушилась бы чистота эксперимента. Вероятнее всего, думал я, мои компьютер «договорился» с компьютерами Всемирного депонентского центра или «организовал» (опять же через машины) ложные запросы на мои статьи. Во всяком случае, такова была самая естественная, самая вероятная стратегия поведения субъекта, наделенного понятием об истине, но не знающего, что такое мораль.
Передо мной стояла дилемма: либо прекратить эксперимент, оставшись ни с чем, либо продолжать его, не имея никакой уверенности в том, что компьютер, который я сам впустил в свою жизнь, перестанет кроить ее по своим примитивным меркам. Понимаете ли вы теперь, на что я себя обрек? Я неосторожно призвал в слуги могучего, но тупого демона, который готов был навязывать мне свои пошлые подарки, а я не мог ни избежать их, ни отличить от подлинных наград судьбы!.. В науке тоже есть мода. В кругу специалистов по человеко-машинному диалогу я вдруг сделался моден. Мои статьи без задержки публиковались, их живо обсуждали коллеги, а я ведь еще не сообщил главного, нигде не изложил всего, что сделал, ибо не был уверен в своей правоте. В ужасе я подозревал, что, может быть, мои достижения, которые постепенно накапливались, – не результат таланта, а всего лишь подтасовка, что моя жизнь в науке теперь, возможно, вся «организована» по самым мелким и дешевым стандартам! Конечно, я пытался разобраться. Постой, говорил себе, если ты – бездарь, а компьютер протащил тебя на вершину славы, это значит, наоборот, что твоя система работает, что машина пусть грубо, по-своему, но выполняет условия эксперимента! И тут же какой-то ехидный голос мне напоминал: так ведь раз машина работает, значит, твои идеи, принципы, расчеты верны, ты – гений, совершивший открытие, и твои труды, может быть, завоевали популярность сами по себе, без всяких «услуг» со стороны компьютера, который, в таком случае, делает неизвестно что, никак не проявляя своих выдающихся способностей… Я уперся в парадокс, в замкнутый круг, в котором можно было сойти с ума. И порой мне казалось, что это со мной происходит. Мысли одна безумнее другой приходили в голову; я жил как во сне.
Однажды я вдруг вспомнил, что ранее ввел в сознание компьютера такое размытое понятие, как «любовь». Вот, думал, средство, чтобы хоть что-то выяснить. Терять мне теперь было нечего, и я решил усложнить эксперимент, дав машине вводную задачу – так, как это делают военные на своих маневрах. За несколько психоинтеллектуальных сеансов я поставил перед компьютером цель: понимая, что такое любовь, смоделировать соответствующее поведение. Очевидно, машина должна была как-то изобразить стремление, приближение к любви, и я уже примерно догадывался, что она предпримет. В наше время, когда к услугам желающих мощный машинный парк всевозможных клубов знакомств и брачных контор, компьютеру, зная мои склонности и запросы, ничего не стоило обшарить невообразимое множество электронных картотек и подобрать партнершу, удовлетворяющую меня на все сто процентов. И вот на Герионе появилась Регина. Мы с ней невероятно быстро сблизились и с такой предельной полнотой поняли и ощутили друг друга, что я, после недель ошеломляющей радости, решил: подобного совершенства просто не может быть в нормальной, обыкновенной человеческой жизни. Уж слишком идеален, дьявольски изощрен наш союз. Проклятый компьютер, думал я, с такой сатанинской точностью соразмерил и подобрал две человеческие половинки, что теперь им просто некуда деваться от своего счастья!..
И знаете, от чего я страдал больше всего? От уязвленного самолюбия, от обиды за род людской. Как, говорил я себе, вот и все? Вот и весь человек с его счастьем и несчастьем, сложностью и простотой, грехами и доблестями? Надо, выходит, лишь знать, как вложить в компьютер основные данные – и судьба каждого из нас будет рассчитана по самому оптимальному варианту, так, что счастье накроет человечество с головой?.. Тут еще Регина поведала мне об опытах Минского. Я готов был заплакать, когда узнал, что скоро мы, возможно, от проблем голода шагнем сразу в молочные реки, на кисельные берега. Ну вот, сказал я себе, теперь людям действительно крышка. Минский сделает им хлеб материальный, я – хлеб духовный, и все – в самом сытом и пошлом изобилии. Ведь если синтезаторы будут превращать «камни в хлебы», а компьютеры начнут понимать самые сложные и глубокие проблемы человеческого бытия, машины сумеют удовлетворить даже самых требовательных, самых строптивых. Все это очень приятно, но это – смерть. Я чувствовал себя создателем атомной бомбы. А иногда – просто сумасшедшим. Ведь у меня до сих пор не было точных доказательств того, что компьютер справляется с задачами эксперимента!.. Мне нужен был однозначный, недвусмысленный конечный результат, но я не имел такого ни по программе «Истина», ни по программе «Любовь». Все, что случилось со мной, можно было трактовать и так, и эдак. Я не знал, чем порождена моя слава и моя любовь: действительным, реальным ходом жизни или ловкой подделкой компьютера.
Иногда в разговорах с коллегами я специально наталкивал их на неточность формулировок, слабость аргументации и другие недостатки моих работ; думал, если все подтасовано, пусть меня скорее разоблачат. Точно так же я поступал в отношениях с Региной. Словно какой-то бес заставлял меня совершать самые безобразные, самые разнузданные поступки; иногда мне всеми силами души хотелось, чтобы Регина возненавидела меня, отвергла навеки. Тогда бы я сказал: а все-таки компьютер глуп, всего предусмотреть не может, а потому человек сколько-то проживет еще по своей воле, по своему разумению.
На какие только выверты я не пускался, каких только болезненных фантазий не изобретал, лишь бы доказать себе: невозможно человека рассчитать, вычислить и учесть целиком, как таблицу логарифмов! Мне уже было все равно, что обо мне подумают. Я уже находил порой странное, противоестественное удовольствие в этой жестокой игре во вседозволенность и все ниже опускался в бездны какого-то нравственного садизма. Я до предела измучил Регину. Я превратился в чудовище. Не знаю, чем бы я кончил, если бы Регина не спасла меня. Или, наоборот, погубила?.. Однажды она с такой мольбой, с таким безнадежным стоном воззвала к моему милосердию, с такой надрывной кротостью опустилась к моим ногам, прощая все, растоптанное мною, что мне, впервые за много месяцев, сделалось стыдно. В отчаянии я убежал ото всех и несколько дней просидел неподвижно, размышляя, что же мне делать. И вот, как-то очень спокойно и просто, я решился на последний эксперимент. Я искренне возрадовался, когда, всесторонне обдумав его, увидел, что он и в самом деле будет последним. Этим экспериментом стала программа «Смерть».
Да, я с потрясающей отчетливостью понял: единственно неопровержимо ясная вещь – смерть. Что может быть бесспорнее, нагляднее смерти? Истина, любовь, справедливость, порядочность – все эти размытые, неотчетливые понятия не годились для эксперимента с самого начала, ибо они были безграничными не только для компьютера, который мог ухватить в них только сотую долю смысла, но и для меня. Я понял, в чем состояла моя принципиальная ошибка: цели для эксперимента были поставлены неверно. Как я мог проверить, действует ли моя система, если сам не знал до конца содержания задачи? Ведь чтобы смоделировать на компьютере истину, надо точно знать, что такое истина. Чтобы смоделировать любовь, надо твердо знать, что такое любовь. Лишь имея строго определенные понятия об этих вещах, я мог соотнести их как мерку с тем, что построил компьютер, и подвести итог. Но размытые понятия потому так и называются, что человечество за всю свою историю не сумело установить их окончательного смысла и точных границ. Теперь меня могла выручить только смерть.
О, смерть занимает в иерархии человеческого духа совершенно особое место. Понятие о ней так же размыто и неопределенно, как и о прочих основах бытия, но смерть отличается от всех них тем, что наряду с многозначностью и неопределенностью своего содержания она имеет один совершенно точный – физический смысл. Истина, любовь, добро, совесть – все это бесплотно и неощутимо. А смерть в ее физическом смысле как отсутствие жизни наглядна и проста, ее невозможно оспорить. Есть она или ее нет – видно сразу.
Я понял, что итогом эксперимента по программе «Смерть» должен стать мой собственный труп. Вот когда меня компьютер со света сживет, тогда уж не поспоришь, тогда всякому видно будет, что моя система работает. Ведь не сам же я в петлю полезу! Пусть компьютер поохотится за мной, а я буду от него убегать, изощряться в уловках, путать следы. Пусть в вычислительных комплексах МИНИКСа кружит программа моего убийства, пусть интегральный мозг Пояса будет подстраивать мне ловушки, пусть он попытается предугадать мои действия, рассчитать мои поступки, вычислить меня! Тогда посмотрим, кто кого и сможет ли человек сказать, что он до конца не познан компьютером. А если познан и если благодаря этому мы сможем скоро запросто моделировать себе земной рай, устраивая жизнь по любому вкусу, то пусть моя дьявольская система умрет вместе со мной!
Вот как выглядел мой замысел, комиссар. Так что, говоря вашим языком, вовсе не убийство Минского запрограммировал я в МИНИКСе, а самоубийство. Вернее, эксперимент на себе. Любой ученый, по-моему, имеет на это право. Вас, наверное, интересует, как идет этот эксперимент. Да-да, идет – я ведь жив, значит, игра с компьютером продолжается! Моменты этой игры вы и наблюдали в последнее время на биостанциях. Почему биостанции? Сейчас объясню.
Когда компьютер приступил к реализации программы «Смерть», у меня душа ушла в пятки. Я думал, что пол вот-вот разверзнется и я провалюсь в тартарары. Вы ведь понимаете, что технически это было вполне возможно. Поэтому, взяв отпуск, я спешно бежал с Гериона. Однако герионский компьютер, конечно, сразу же раскрыл содержание эксперимента МИНИКСу, и опасность теперь ждала меня везде, где есть вычислительные комплексы достаточно высокого класса. Впрочем, довольно долгое время ничего со мной не случалось. Я недоумевал: почему МИНИКС медлит? И только потом до меня дошло:
1 2 3 4 5 6 7 8 9 10