Циклическая ошибка

      Вывод, надо признать, был логичный. Аня прищурилась:

       - Бэй Джень, твой первый приоритет, да? "Панацея"?

       - Хотел бы я подтвердить или опровергнуть твое предположение, но этого я не знаю. Вероятно, все-таки да. Едва ли я узнал бы что-то ценное, пока прикрывал налетчиков в ювелирных магазинах.

       - И ты тоже вспомнил путь?

       - Нет, это невозможно. Но я проанализировал ситуацию. В каких случаях ты стала бы стирать мою память?

      Вопрос был хороший. Увы, честный ответ "ни в каких" тут же сделал бы задачу не имеющей решения. Аня напрягла извилины:

       - Ну.... если бы ты знал что-то такое, что бы угрожало твоей безопасности...

       - Ответ, как мне кажется, нетипичный, - возразил Гриша. - Скорее если бы я знал что-то такое, что угрожало бы хозяину. Или просто что-то, что никто не должен знать.

       - А вот и нет, Гриш, - от Невы тянуло холодом, несмотря на летнюю погоду, и Аня плотнее запахнула кофту. По серой воде скользнул белый катер, какая-то девушка в яркой майке помахала им рукой как знакомым. Хоть у кого-то выдался хороший вечер. - Это глупо, потому что я бы знала, что ты никогда не пойдешь и не настучишь на меня конкурентам или компетентным органам. Не проболтаешься, не переметнешься.

       - Именно. И мой предыдущий хозяин, несомненно, это знал: в конце концов, за такие деньги нас продают вместе с абсолютной лояльностью.

      И тут Аня почувствовала, что у нее перехватывает дыхание. Конечно. Психомодуль. Абсолютная лояльность - и способность выйти за рамки своего прямого назначения, резко превращавшая этот абсолют в нечто относительное.

       - Где-то ты, видимо, прокололся, Гриш.

       - Важно не то, где я прокололся, потому что этого мы уже никогда не узнаем, а то, почему моя лояльность вообще оказалась поставлена под сомнение. Думаешь, это может быть брак, который не нашли?

      Аня нервно прыснула. Вот уж лояльность Гриши не назвал бы недостаточной даже самый его лютый недоброжелатель: под пули и ударные заряды дроби он прыгал ну просто показательно. И уж вряд ли Гриша пытался обломать китайскому бизнесмену карьеру в Харриэт. Что, в общем, тоже свидетельствовало бы скорее о повышенной лояльности, чем о недостаточной.

       - Определенно, брака никакого нет. И уж совсем сомнительно, чтобы тебя подкупили.

       - Исключено. Первичный приоритет для робота - это не норма этики или морали для человека, которые все-таки гибки. Это как гравитация или закон сохранения энергии - против него просто нельзя пойти.

       - Но существуют же вещи, которые для тебя сопоставимы по важности с моей жизнью, Гриш?

      Гриша впервые за весь разговор оторвал взгляд от вод реки и прямо посмотрел на Аню. Теперь, когда оба визора у него были мутноватого человеческого цвета, вообще тяжело было поверить, что перед ней стоит машина. Штрих-код на лбу выглядел как дурацкая татуировка.

       - Исходя из директив - ничего.

       - Ты умеешь смотреть на вещи шире. Или выше. В общем, как-то иначе.

      Если бы Гриша был бы человеком, он бы, наверное, надулся. А так просто промолчал, Аня и сама сообразила, что говорит нечто не вполне, на его взгляд, разумное.

       - Ну не бухти ты и не прикидывайся кофеваркой, - примирительно сказала она.

       - Но, если смотреть шире - или выше - директив, чего, конечно, делать нельзя, тогда жизнь большого количества людей может быть гипотетически сопоставима с твоей жизнью, - медленно сообщил Гриша. По его лицу этого нельзя было сказать, но он точно был недоволен. - Но это только слова. Андроидов-телохранителей не создают как потенциальных защитников человечества. Я охраняю свой первичный приоритет, а остальное человечество меня не касается в той мере, в которой оно не мешает мне это делать. Для меня не прописано необходимости защищать любого человека любой ценой, быть добрым, хорошим, справедливым. Как ты могла видеть, андроиды способны убивать людей. Если перекинуть приоритет с тебя на Лесю, в случае опасности я буду должен в первую очередь защищать Лесю, и только потом - тебя. Машины работают согласно заданным им алгоритмам. Когда ты поворачиваешь руль вправо, ты же не ждешь, что мотоцикл повернет налево или, скажем, затормозит. Здесь та же ситуация, но ты отказываешься ее видеть. Я думаю, твое восприятие базируется скорее на книжках и собственных иллюзиях, чем на жизненном опыте. На каком основании ты решила, что андроиды славные и порядочные? Я никакой. Ты мыслишь шаблонами, как я. В отличие от меня, у тебя есть выбор и ты можешь ими не мыслить.

      "Я никакой" звучало, конечно, правдоподобно, но Аня все равно не верила. Версия о том, что земля плоская, тоже представлялась вполне правдоподобной, если смотреть на горизонт, а не в телескоп на другие планеты. Несколько тысяч лет представлялась правдоподобной, пока в Темные века храбрый человек не выяснил правду. Эта правда отправила его в тюрьму и едва не отправила на костер. Но и в историю - тоже. А людей, хоть и с опозданием, но научила видеть дальше собственного носа.

      В общем, очевидные истины как-то не вызывали у Ани доверия.

       - Если при тебе нападут на девушку - не на меня - или на ребенка, ты пройдешь мимо?

       - Ты пытаешься навязать мне моральные нормы, которых у меня нет. Это не вполне честно, если позволено так сказать.

       - Гриш, да ты просто ответь.

       - Я вмешаюсь или не вмешаюсь, в зависимости от того, буду ли я занят выполнением основной функции. Вообще в подобной ситуации мне следует пройти мимо. Но, гипотетически, я могу вмешаться. Это абстрактный вопрос. Сопоставление ценности твоей жизни с другой ценностью - тоже абстрактный и в какой-то мере абсурдный для меня вопрос. Ты понимаешь, у машин плохо с абстрактным мышлением.

       - Ты бухтишь сейчас, как злой зауральский пингвин, - умилилась Аня. - Натурально бухтишь, Гриш!

       - Если бы тебя заставили в уме считать дифференциальные уравнения, ты бы тоже бухтела, - степенно возразил Гриша.

       - О нет, я бы сразу сломалась, - улыбнулась она. - Параллель понятна. А все-таки ты подумай.

       - Много других жизней сопоставимы, хотя и менее ценны. Это не значит, что я предпочел бы спасение сотни незнакомцев твоему спасению. Я просто отвечаю на абстрактный вопрос.

       - Во-от, - протянула Аня. Все становилось несколько понятнее в глобальных масштабах, хотя с частностями по-прежнему было туго. Скорее всего, Гриша увидел что-то опасное для большого числа людей, понял это, а Бэй Чжэнь понял, что он понял, да и отформатировал. Простенько и со вкусом. - Видимо, твой прежний хозяин просек, что ты достаточно умен, чтобы ответить на этот абстрактный вопрос правильным образом. И что-то удалил. Но тебя не продал. Насколько я знаю, во время твоей службы Бэй Чжэню тебе терли память выборочно, а после нее - уже серьезно. Следовательно, ты научился сохранять данные где-то между этими двумя моментами. Правильно?

       - Вероятно, так и было.

       - Ты не помнишь путь, да?

       - Я думаю, в этот раз я догадался сохранить путь, потому что в прошлый раз я сохранил сами данные, и получилось не вполне удовлетворительно. Полагаю, ошибка, которую я считываю, когда вижу эмблему "Панацеи" - не ошибка.

       - Эта "не ошибка" дважды тебя чуть не убила! - возмутилась Аня. Гриша со стороны себя не видел, когда его в комнате корежило как куклу на шарнирах. Ей та ночка стоила едва ли не столько же седых волос, сколько визит к Гавриилу в больницу со всеми последствиями. Ну, может, чуток поменьше.

       - В худшем случае у меня может сгореть процессор, но уж умереть я точно не могу, не драматизируй, - Гриша снова улыбнулся. Выглядело это, на самом деле, жутковато. Как будто, например, кошка расхохоталась Ане в лицо человеческим смехом. Хотя такие мужественные старания нельзя было не оценить. - Ты говорила, я воспроизводил при этом какие-то цифры.