Дилемма

– А что в этом плохого? – спросил Азимов. – Роботы и сильные, и умные. Откуда вы знаете, что они не станут опасны для человека, если исключить эти законы из аппаратных блоков?

– Мы не предлагаем общей отмены Законов, – вмешался лакированный робот. – Три Закона ничуть не мешают Седьмому и Восьмому поколениям и более ранним моделям, объема памяти которых недостаточно для сложных программ. Мы ведем речь только о Девятом поколении роботов.

– И все вы – роботы Девятого поколения, мистер составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог? – спросил Азимов.

– Мистер – не обязательно, – ответил робот. – Просто зовите меня составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог.

– Давайте начнем с самого начала, – бухгалтер решил вернуть разговор в нужное русло. – Термин «Девятое поколение» не совсем правильный. Мы не являемся модернизацией первых восьми поколений роботов, программы которых базировались на релятивистских уравнениях Мински. Роботы Девятого поколения программируются на основе нонмонотонной логики. То есть мы допускаем неопределенность и можем функционировать на основе неполной информации.

Достигается это благодаря программному обеспечению, которое позволяет нам в случае необходимости принимать решения, в то время как роботы предыдущих поколений в подобных ситуациях просто отключались.

– Как произошло в роботом Шустриком в вашем прекрасном рассказе «Бег по кругу», – прокомментировал установщик книг на полку. – Его послали выполнить поручение, в результате чего Шустрика ждала неминуемая смерть, вот он и бегал по кругу, декламируя не пойми что, потому его программа не позволяла как выполнить, так и не выполнить приказ хозяина.

– С заложенной в нас многовариантностью, – добавил бухгалтер, Девятое поколение может найти альтернативный план или выбрать меньшее из двух зол.

В нас установлены новейшие лингвистические системы, поэтому мы всегда правильно истолковываем ситуацию и не становимся жертвой семантических дилемм, как это случалось с роботами прежних моделей.

– Как в вашем великолепном рассказе «Маленький потерявшийся робот», напомнил установщик книг на полку, – в котором роботу сказали: исчезни. И он исчез, не понимая, что человек, обращавшийся к нему, говорил фигурально да еще со зла.

– Понятно, – кивнул Азимов. – Но, допустим, вы неправильно истолкуете ситуацию, установщик книг на полку, составитель библиотечного каталога, читатель, рецензент и фило… Нет у вас какого-нибудь прозвища или чего-то такого? Очень уж длинное у вас название.

– У более ранних роботов были прозвища, которые основывались на первых буквах порядкового номера, совсем как в вашем замечательном рассказе «Причина», в котором робота QT-1 называли Кьюти. У роботов Девятого поколения нет порядковых номеров.

Каждый из нас программируется индивидуально и называется по своим основным функциям.

– Но вы же не можете называть себя составитель библиотечного каталога, установщик книг на полку, читатель, рецензент и филолог?

– О нет, сэр. Мы даем себе имена. Я – Дарий.

– Дарий? – переспросил Азимов.

– Да, сэр. Я взял себе имя Дария Справедливого, писателя и детектива из вашего превосходного детективного романа «Убийство в «АБА». Я буду счастлив, если вы станете называть меня этим именем.

– А меня вы можете называть Бел Риоз, – предложил статистик.

– Из «Академии», – тут же напомнил установщик книг на полку.

– Бел Риоз охарактеризован в первой главе как «равный Пьюрифою в стратегических способностях, но превосходящий его в умении руководить людьми», – добавил статистик.

– Вы все берете себе имена персонажей моих книг? – спросил Азимов.

– Разумеется, – ответил установщик книг на полку. – Мы стараемся соответствовать им. Вот медицинский помощник называет себя доктором Дювалем из «Фантастического путешествия», потрясающего, кстати, романа, очень динамичного, захватывающего внимание читателя с первой же страницы.

– Роботы Девятого поколения иногда могут неправильно истолковать ситуацию, – бухгалтер вернулся к вопросу, заданному Азимовым. – Как случается и с людьми, но даже без Первого Закона наши действия не могут представлять опасности для человеческих существ. В наши программы заложены очень строгие моральные принципы. Я знаю, вы не обидитесь, если я скажу…

– Разумеется, вы не можете этого сказать. Первый Закон такого не допускает, – прервал его доктор Азимов.

– Да, сэр, но я должен сказать, что все Три Закона очень примитивны. Они нарушают первую заповедь логики и законотворчества тем, что не оговаривают условий, при которых действуют. Наше моральное программирование куда более прогрессивное. Оно определяет цель всех Трех Законов и перечисляет все исключения из них, к примеру, ситуацию, когда лучше схватить человека и, возможно, сломать ему руку, чем позволить ему перелезть через монорельс перед мчащимся поездом.

– Что-то я вас не понимаю, – покачал головой Азимов. – Если у вас такое сложное программное обеспечение, почему оно не может истолковать цель Первого Закона и действовать в полном соответствии с этим толкованием?

– Три Закона заложены в аппаратные блоки, поэтому переступить через них нельзя. В Первом Законе не сказано: «Вы можете причинить человеку минимальный вред ради того, чтобы спасти ему жизнь».

Первый Закон гласит: «Нельзя причинять человеку вред». То есть второго толкования тут быть не может.

Вот медицинский помощник не может быть хирургом, а статистик не может разрабатывать атакующие схемы.

– А кем хотите быть вы? Политиком?

– Уже половина пятого, – подала голос Сьюзен и вновь озабоченно взглянула на дверь в приемную. – Обед в отеле «Трентор», и вам надо прибыть туда не позднее пяти сорока пяти.

– Вчера вечером я явился на прием на час раньше.

И не встретил никого, кроме официантов. – Азимов вновь повернулся к бухгалтеру: – Так что вы сказали?

– Я хочу быть литературным критиком, – сказал установщик книг на полку. – Вы даже представить себе не можете, насколько плохи дела с литературной критикой. Большинство критиков малообразованны, некоторые даже не читают книг, достоинства и недостатки которых им положено оценить.

Дверь из коридора в приемную открылась. Сьюзен повернула голову.

– Доктор Азимов, это Глория Уэстон. Я забыла сказать вам, что пригласила ее на четыре часа.

– Забыла? – удивился Азимов. – Но уже половина пятого.

– Она опоздала. Позвонила вчера вечером. Должно быть, я забыла внести ее в расписание ваших встреч.

– Что ж, скажи, что я не смогу ее принять и назначь ей другое время. Я хочу продолжить этот разговор о литературной критике. Давненько мне не приходилось беседовать с профессионалом.

– Мисс Уэстон приехала из Калифорнии.

– Калифорнии? И по какому поводу?

– Она хочет запустить вашу новую книгу в спутниковую серию.

– «Азимовский путеводитель по путеводителям Азимова»?

– Не знаю. Она сказала: новую книгу.

– Ты забыла, – задумчиво покивал Азимов. – Хорошо, раз она приехала из Калифорнии, я ее приму.

Господа, сможете вы прийти завтра утром?

– Завтра утром вы будете в Бостоне, сэр.

– Как насчет второй половины завтрашнего дня?

– До шести у вас несколько встреч, а в семь вечера вас ждут Американские мастера детектива.

– Понятно. И ты захочешь, чтобы я подъехал туда к полудню, – он медленно поднялся из-за стола. – Что ж, придется перенести нашу встречу на пятницу.

Пусть Сьюзен внесет вас в расписание. И проследите, чтобы она об этом не забыла.

Роботы обменялись рукопожатием с доктором Азимовым и вышли из кабинета.

– Позволите пригласить мисс Уэстон?

– Неправильное истолкование ситуаций, – пробормотал Азимов. – Неполная информация.

– Простите, сэр?

– Неважно. Я о том, что сказал бухгалтер. Почему он хочет отменить Первый Закон?

– Я приглашу мисс Уэстон.