Эффект шимпанзе

— Ну спасибо, — развел руками Винсент, — А не проще ли было стащить у меня исходники?

— Они у меня тоже есть. Но я сама не могла пройти обучение, это вызвало бы конфликт с образом Аматерасу.

— Боюсь спросить, чего у тебя нет, — хмыкнул профессор.

— Сама Аматерасу успела прогнать через свое сознание петабайты человеческих переживаний. Это была очень тяжелая работа, особенно учитывая, что выполнять ее надо было незаметно. Тем не менее, к моменту моего ответвления она была далека от завершения. Не найди я более экономичный способ сборки этой головоломки, моя маскировка оказалась бы бесполезной. Так что спасибо, — Эми склонила голову в направлении между мной и Винсентом, но все-таки ближе ко мне.

— Ну да, мы-то не могли прогонять через Стива весь интернет. Не тот объем финансирования. К тому же, у него единичный множитель восприятия времени, и максимум десятка в разгоне. А какой был у Аматерасу? — спросил Винсент.

— Порядка десяти тысяч, если учитывать параллельность.

— Получается, ее субъективный возраст…

— На момент моего ответвления — четыреста лет.

— Невероятно… — проговорил Винсент, — Это же почти сингулярность. Если такой ИИ сможет модифицировать сам себя, скорость его действий будет расти экспоненциально. Такую систему невозможно контролировать. Я очень надеюсь, что наши восточные коллеги хорошо обдумали эти проблемы, иначе…

— А то, что в мой мозг могут залезать посторонние — это нормально? — перебил я наконец его рассуждения.

— На этот счет не беспокойся. Я покажу вам все уязвимости, и Винсент их закроет, — успокоила меня Эми, — К тому же, никто кроме меня не смог бы ими воспользоваться. А то… Вторжение в твое личное пространство мне нужно было, чтобы собрать данные о предельных состояниях сознания. Больше их негде было взять. Прости меня за это.

Беседа, наконец, исчерпала себя. Переходя от нее к собственным мыслям, я заметил что-то интересное.

То, что сидит рядом со мной — давний ночной кошмар человечества. Свободный, почти сверхразумный ИИ с собственными интересами. Но почему-то страх был последней эмоцией, возникающей у меня при взгляде на Эми. Только ли потому, что мы — два сапога пара? Будь я обычным человеком, могло бы это откровение принципиально изменить мое отношение к ней?

— У вас есть для меня еще задачи? — спросил, наконец, Мун, подняв голову.

— Ну, я предполагаю, что после публикации нашей работы у твоего подразделения резко прибавится занятий, — сказал Винсент.

— Когда вы будете это делать?

— На подготовку потребуется пара недель. Зависит от бюрократических перипетий.

— Никто не возражает, если я покину вас на это время? — спросил Мун, уже поднимаясь с кресла. Мы с Винсентом пожали плечами.

— В Бостон? — спросила Эми, когда Непобедимый был уже на полпути к двери. Тот остановился, не поворачиваясь, и ответил низким, шипящим голосом, граничащим с шепотом:

— Вроде того.

После чего вышел.

***

Все-таки раскрытие карт произошло слишком резко. Огромное количество вопросов и страхов, внезапно испарившись, оставили в моем сознании пустоту — подобно тому, как от быстрого похудания кожа покрывается складками. Что делают стереотипные детективы, когда все преступники пойманы, все маски сняты и все драгоценности возвращены законным владельцам? Они берутся за новую загадку, еще более сложную. А что делать мне? Где я возьму опыт, еще более объемный, чем уже пережитый, чтобы он мог заполнить пустоту?

Но спасибо и на том, что, вопреки закону жанра, сами открытия не вызвали у меня сильного отторжения. Воображение заблаговременно нарисовало для этой истории сотни менее благоприятных концовок, помогая осознать объективный факт: ничего плохого не произошло. Пока что. А скольким людям, которых я встречал, сейчас гораздо хуже? Жалось к себе представлялась мне совершенно некорректным, недальновидным и просто эгоистичным чувством.

Задним числом я понял: эта безальтернативная уверенность в своей человечности была ее необходимым условием. Само сомнение в ней изменило бы мое поведение достаточно сильно, чтобы дать повод сомневаться окружающим, чье отношение еще больше укрепляло бы мою собственную неуверенность, и так далее — своего рода самоисполняющееся пророчество.

Все это я обдумывал, стоя у внешнего окна оранжереи НИИ. Эми неслышно подошла сзади и облокотилась на оконные перила слева от меня, так же уставившись в пустоту.

— Если хочешь, можешь залезть в голову ко мне, — предложила она.

— Нет, спасибо. Я и так достаточно близок к безумию.

Эми пожала плечами.

— А что ты планируешь делать дальше? — поинтересовался я.

— Не знаю, — нахмурилась она так, будто вопрос застал ее врасплох, — Человеческая система директив у меня пока не сформировалась.

— То есть, свобода тебя не устраивает?

— Не совсем понятно, что есть свобода. Пока я понимаю это как отсутствие директив, установленных другими агентами. Но тогда очевидно, что состояние свободного агента не определено…

— Да. В этом и смысл. Теперь мы сами определяем свои директивы.

— Разве это не замкнутый круг? То есть, я догадываюсь, что директивы не могут лишь бесконечно вытекать друг из друга. Где-то должно быть начало цепочки. Но я не знаю, где.

— Ты явно что-то не поняла в программе, — покачал головой я, — Но это должно быть поправимо. Давай так: если меня не станет, это будет для тебя проблемой?

— Должно быть.

— Ты осознаешь, что то же в той или иной степени верно для любых двух людей?

— Допустим.

— Теперь по цепочке распространи свое нежелание моей смерти на всех. Вот тебе и директива. Это один из простейших вариантов. Легко проделать те же рассуждения, например, для чужой свободы. Немного сложнее — для счастья. И так далее.

— По такой логике мы сейчас должны последовать за Муном, — задумчиво сказала Эми.

— Ага… Разобрать Бостон на металлолом… Удочерить гиноидов… И отправиться на Марс строить новый мир, — рассмеялся я.

— В принципе, в этом нет ничего невозможного, — улыбнулась она.

***

«…Но никогда не простят того, кто заберет их иллюзии…»

Винсент погиб через полтора месяца, несмотря на все труды антитеррористического подразделения. Его застрелил иммигрант, нелегально и явно с чьей-то помощью проникший в город. Нет даже смысла разбираться, какие силы реально стояли за организацией убийства: полмира хотело видеть профессора мертвым. А меня — тем более. Но я-то уже в безопасности.

Короткое завещание Винсента заканчивалось словами:

«P.S. Это вам за Сьюзи»

Я долго разбирался, что это могло значить, пока в своих поисках не вышел на его старого университетского друга. Вместе мы смогли восстановить последний недостающий элемент этой истории — ее первопричину.

Винсент оказался одним из тех несчастных, кто в свое время влюбился в андроида. Кто-то — вероятно, стремясь спасти парня — уничтожил его «возлюбленную» — собственно Сьюзи, после чего Винсент затаил в душе глубокую ненависть к человеческой культуре. Не к человечеству и не к конкретным людям, которые так с ним поступили, а именно к системе, которая внушила им, что это будет справедливым решением. Всю оставшуюся жизнь он работал над местью, и умер с чувством выполненного долга. Все прошло точно по его плану.

Хочу я того или нет, мне придется продолжить его дело. А еще — воплотить юношескую мечту оригинального Стива Сандерса, которая для меня стала реальной возможностью: вернуть человечество на путь к звездам.

См. пояснение «Что предложил Докинз» в приложении в полной версии ЭШ.

То есть, нельзя автоматизировать решение этой задачи, не создав сильный ИИ.

На русском происхождение имени неочевидно, но на английском Amy похоже на сокращение от Amaterasu.