Город Перестановок

Сторонники гипотезы «сильного искусственного интеллекта» настаивали, что сознание – функция определённых алгоритмов, результат конкретных способов обработки информации, независимо от того, какая машина или орган использованы для выполнения этой задачи. Компьютерная модель, манипулирующая данными о самой себе и своём «окружении» точно так же, по сути, как и органический мозг, неизбежно приобретёт те же ментальные свойства. «Симуляция сознания» – такой же оксюморон, как «симуляция арифметики».

Противники возражали, что от моделируемой грозы ещё никто не промок. Моделируемая ядерная электростанция не вырабатывает ни ватта энергии. Модели пищеварения и метаболизма не потребляют питательных веществ – ничего на самом деле не переваривается. Так откуда уверенность, что в модели человеческого мозга должны возникнуть настоящие мысли? Возможно, компьютер, в котором функционирует Копия, и способен генерировать достоверное описание поведения человека в произвольном гипотетическом сценарии. Может даже показаться, будто он поддерживает разговор, поскольку верно предсказывает, что сказал бы человек в аналогичной ситуации. Однако едва ли сама машина при этом что-то осознаёт.

Пол быстро решил, что весь этот спор лишь рассеивает внимание. Доказать с полной достоверностью наличие разума у Копии хоть одному человеку невозможно. Для Копии же оно и так очевидно: cogito ergo sum. Дискуссия окончена.

Для людей же, готовых допустить наличие разума у Копий на основе тех же логических рассуждений, каковые заставляли предполагать его у собратьев по виду, – и для Копий, готовых ответить им тем же, – суть дела заключалась совсем в другом.

Были кое-какие вопросы о природе этого общего качества, которые появление Копий высветили резче, нежели что бы то ни было ранее. Вопросы, которые требовалось исследовать, прежде чем человеческая раса сможет с уверенностью передать свои воспоминания, свою культуру, цели и сущность наследникам.

Вопросы, на которые могла ответить лишь Копия.

Пол сидел в своём кабинете, в любимом кресле (он не был уверен, что фактура обшивки воспроизведена точно) и утешался, как мог, пониманием полной нелепости всех страхов перед дальнейшими экспериментами на самом себе. Он уже «пережил перенос» из плоти и крови в компьютерную физиологическую модель, радикальностью далеко превосходящий прочие стадии проекта. По сравнению с этим подстройка некоторых параметров модели должна была представляться ерундой.

На терминале, для всего остального по-прежнему не работавшем, возникло изображение Дарэма. В воображении Пола он уже начинал превращаться из всесильного божества, пребывающего в чертогах Реальности и дёргающего оттуда ниточки управления, в мелкого деспотичного джинна, заключённого в бутылке-экране. Одного писклявого голоса хватало, чтобы любая аура величия и могущества сдулась, как шарик.

Пик.

– Эксперимент первый, проба ноль. Базовые данные. Разрешение по времени – одна миллисекунда, стандарт системы. Просто считай до десяти с односекундными интервалами, насколько сможешь их выдержать. Идёт?

– Думаю, с этим я справлюсь. – Он же сам всё это спланировал и совершенно не нуждался в пошаговых инструкциях. Изображение Дарэма исчезло: во время эксперимента не должно быть никаких связей с реальным временем.

Пол сосчитал до десяти. «Джинн» вернулся. Рассматривая лицо на экране, Пол осознал, что его ничуть не тянет видеть в этом лице «своё собственное». Может быть, это наследство попыток дистанцироваться от более ранних Копий. Или, возможно, его внутренний образ самого себя никогда не был особенно похож на действительный облик, а сейчас защитные механизмы психической устойчивости сделали разницу ещё больше.

Пик.

– Ладно. Эксперимент первый, проба один. Разрешение по времени – пять миллисекунд. Ты готов?

– Да.

«Джинн» исчез. Пол принялся считать:

– Один. Два. Три. Четыре. Пять. Шесть. Семь. Восемь. Девять. Десять.

Пик.

– Есть что сообщить?

– Нет. То есть я не могу не испытывать некоторой опаски, зная, что ты лезешь в мою… инфраструктуру. Но помимо этого – ничего.

Глаза Дарэма уже не застывали, пока он дожидался замедленного ответа, – то ли он научился лучше владеть собой, то ли, что более вероятно, поставил какую-то программу редактирования изображений, чтобы скрывать скуку.

Пик.

– Опаску не бери в голову. У нас же есть контроль, помнишь?

Пол предпочёл бы обойтись без напоминания. Он, конечно, знал, что Дарэм создал его второй экземпляр и вводит обеим Копиям одни и те же данные, а изменения хода времени вносит только в одну из них. Это было важной частью эксперимента, но думать об этом Полу не хотелось. Третье «я», полностью дублирующее его мысли, – ещё и это, после всего остального, было уже чересчур.

Пик.

– Проба два. Разрешение по времени – десять миллисекунд.

Пол сосчитал до десяти. «Нет ничего легче, – думал он, – когда ты создан из плоти, когда состоишь из вещества; когда все кварки и электроны делают только то, что для них естественно». Люди в конечном итоге воплощены в поля элементарных частиц, которые, конечно, не могут быть иными, чем они есть. Копии же воплощены в компьютерной памяти в виде огромных наборов чисел. Числа же, разумеется, можно интерпретировать как описание человеческого тела, сидящего в комнате. Но довольно сложно считать такое истолкование обязательным, внутренне присущим этим числам, учитывая, что в процессе кодирования модели приходится делать десятки тысяч достаточно произвольных выборов способа кодирования. Что вот это такое: содержание сахара в крови или уровень тестостерона? Частота нервных импульсов двигательного нейрона, когда я поднимаю правую руку, или сигнал, идущий от сетчатки, когда я смотрю на это движение? Если дать кому-то только голые числа, не объяснив их конкретной функции, он может просеивать величины всю жизнь, так и не обнаружив, какая из них что обозначает.

Однако ни одна заключённая в этих данных Копия – смыслит она что-нибудь в деталях кодирования или нет – никогда не тратила и малейших усилий, чтобы разобраться, где что.

Пик.

– Проба три. Разрешение по времени – двадцать миллисекунд.

– Один. Два. Три…

Чтобы для Копии шло время, числа, которые её определяют, должны меняться с каждым проходящим моментом. Их приходится рассчитывать снова и снова; Копия – это череда застывших мгновений, кадров из кино или компьютерной анимации.

Но… когда же из этих кадров возникает осознанная мысль? В процессе расчётов? Или в те короткие промежутки, когда данные просто хранятся в компьютерной памяти, не делая ничего, лишь отображая один застывший момент жизни Копии? Пока стадии сменяют друг друга тысячу раз за субъективную секунду, это кажется не особенно важным, но очень скоро…

Пик.

– Проба четыре. Разрешение по времени – пятьдесят миллисекунд.

«Что я такое? Данные? Процесс их образования? Соотношения чисел?

Всё это сразу?»

– Сто миллисекунд.

– Один. Два. Три…

Пол считал и слушал свой голос, словно наполовину ожидал, что заметит, как удлиняются паузы, начнёт ощущать пробелы в самом себе.

– Двести миллисекунд. – Пятая часть секунды.

– Один. Два… – Мигает ли он сейчас, появляясь и исчезая из бытия, на субъективной частоте в пять герц? Даже самые примитивные фильмы на целлулоидной плёнке никогда не мерцали при такой частоте. – Три. Четыре. – Пол помахал рукой перед лицом – движение выглядело совершенно нормальным, идеально плавным. Само собой, он-то не видит его со стороны. – Пять. Шесть. Семь. – Внезапно сквозь него волной прокатилась сильная дурнота, однако Пол подавил её и досчитал: – Восемь. Девять. Десять.

«Джинн» вновь возник в «бутылке» и издал краткий озабоченный писк.

– Что случилось? Хочешь немного передохнуть?

– Нет, я в порядке, – Пол окинул взглядом комнату, совершенно не угрожающую, покрытую пятнами света, и рассмеялся. «Как отреагирует Дарэм, если контроль и подопытный вдруг дадут два совершенно разных ответа?» Он попытался вспомнить свои планы на такой случай, но не смог, да и не очень-то старался. Теперь это не его заботы.