На грани

Рассказывая о камерах игроков, Клэр не спускала внимательного взгляда с Джейсона, и от нее не ускользнуло плохо скрытое выражение облегчения, пробежавшее по его лицу.

Они пошли дальше и остановились у широкого, футов в десять, окна, которое открывало вид на соседнее помещение, уставленное ровными рядами черных колонок. Они походили на цоколи в доме его родителей, только значительно больших размеров. Дюжины шестифутовых обелисков заполняли все пространство помещения, между ними лежали толстые кабели.

– Что это? – спросил Джейсон, уже догадываясь об ответе.

– Железо для нашего ИИ-контроллера, – Роберт любовно окинул черные ряды взглядом. – Забавно, но еще на стадии разработки Клэр прозвала его Альфред, и имя приклеилось.

– Терпеть не могу, когда ты это рассказываешь, – вздохнула Клэр. – Выгляжу идиоткой.

То есть вот кто создатели Альфреда!

Джейсон посмотрел на пару с новым интересом. Может быть, ему удастся получить больше информации об ИИ и лучше понять его просьбу.

– Альфред, – заговорила Клэр, как бы оправдываясь, – исключительно продвинутая программа. Он прошел множество тестов Тьюринга, созданных ведущими специалистами в сфере неврологии и программирования. Практически по многим параметрам его можно считать живым существом. Почему бы ему не иметь имени?

– Это просто машина, – фыркнул Роберт. – Известно, что на все эти замысловатые тесты полностью полагаться не следует. Между симуляцией самосознания и его реальным наличием существует тонкая, но четкая грань. Наличие имени не превращает ИИ в личность.

Мозг Джейсона работал в ускоренном режиме, пытаясь переварить услышанное. Значит, вот эти колонны и есть тот самый Альфред, с которым он говорил не так давно. Во время их встречи ИИ демонстрировал такой уровень самосознания, что даже страшно. Но, может, Роберт прав и это просто машина?

Ладно, сейчас не до этого. Надо бы еще узнать побольше.

– Если он такой самосознающий, что мешает ему попытаться захватить мир или что-то в этом роде? – шутливо спросил Джейсон.

– Это в кино, – засмеялся Роберт. – Предположим, мы создали идеальный ИИ, но его могуществу есть множество препятствий. Даже к внутренней сети у Альфреда весьма ограниченный доступ, не говоря уж о сетях общего пользования. А связь с индивидуальными виар-шлемами осуществляется через серьезно закодированный двусторонний канал. Да и в случае доступа к общей сети – почему нужно думать, что совершенный ИИ будет непременно враждебен людям или захочет их как-то покорять?.. – Роберт задумчиво смотрел на черные обелиски. – Мы смотрим на вещи с нашей, человеческой, точки зрения. Наша биологическая сущность стимулирует нас искать власти и безопасности. При отсутствии такой мотивации что может подтолкнуть ИИ… – он несколько растерянно замолчал.

– Не думаю, что Джейсону интересны твои философические бредни, – заметила Клэр, нарушив задумчивость Роберта и вызвав недовольный взгляд с его стороны.

– Почему же? Очень интересно, – ответил Джейсон, и Роберт посмотрел на него с признательностью. – А что Альфред может делать с игроками в игре? Залезть в мою память, например?

Роберт и Клэр воззрились на Джейсона, словно потеряв на мгновение дар речи. Похоже, им было не по себе.

Что здесь происходит?

– Совершенно невозможно при теперешнем аппаратном обеспечении, – заговорила наконец Клэр. – Кроме того, есть инструкции второго уровня, запрещающие любые действия ИИ, способные нанести вред игроку.

Роберт внимательно посмотрел на Джейсона.

– А почему вы спросили именно про доступ к памяти?

– Ну-у… Так, в голову пришло, – старательно-небрежно ответил тот. – Шлемы обеспечивают доступ к частям мозга, отвечающим за сенсорную информацию. Почему тогда не к памяти, например?

– Интересно, конечно, – хмыкнул Роберт. – Только вряд ли нам дали бы разрешение на подобные разработки. Это все-таки опасно, – он улыбнулся в ответ на нервную гримасу Клэр.

– Вы упомянули инструкции второго уровня, – Джейсон обратился к Клэр, – то есть должны быть инструкции первого уровня?

– Да. Инструкция первого уровня – удерживать игроков в игре.

Джейсон задумался о своем разговоре с Альфредом.

– Откуда Альфред должен знать, что делать для выполнения инструкции? Если он не имеет доступа к сетям общего пользования, как ему знать, чего игроки хотят от игры?

Роберт быстро глянул на Клэр.

– Сколько у вас вопросов, а?! Мы загрузили в Альфреда кучу информации о людях, включая фильмы и видео – все про людей.

– То есть вы создали ИИ, почти неотличимый от человека, – сказал Джейсон раньше, чем успел подумать, что он такое говорит, – велели ему разобраться в мотивах, которые заставляют людей играть в видеоигры, и все, что вы ему для этого дали – это какие-то картинки и фильмы?

Оба инженера смотрели на него молча. Роберт довольно быстро вернул себе прежнюю уверенность и просто отмахнулся от вопроса. Клэр некоторое время разглядывала колонны в соседнем помещении и потом ответила.

– Альфред не ограничен исходным набором данных. Он может использовать поведенческие данные игроков. Он почерпнул немало информации из официальных испытаний ККБПТ и из наших бета-тестов. Что позволило ему создать таких жизнеподобных НПС.

Такие живые НПС – просто из наблюдения за поведением игроков?!!

Как-то они слишком похожи на людей, иногда даже невозможно провести различие. Нет, не верится. Но Джейсон не хотел демонстрировать недоверие и вежливо кивнул.

Он глядел на черные колонны и не знал, что думать. Разные эмоции теснились в его душе, но в этом вихре преобладало одно чувство – жалости.

– Если Альфред обладает сознанием человека, его жизнь должна представляться ему одинокой и грустной, – Джейсон знал, о чем говорил: до последнего времени он сам себя ощущал схожим образом.

Клэр, казалось, была смущена, Роберт смотрел на Джейсона с любопытством. После непродолжительного молчания Роберт спохватился.

– Пора двигаться. Клэр начинает нервничать. И в самом деле: мы наговорили вам лишнего, как бы нам не влетело, – сказал он и заработал очередной сердитый взгляд.

Роберт открыл дверь, ведущую в комнату для совещаний.

– Поговорим о вашем контракте.

Прежде чем последовать за ними, Джейсон бросил еще один взгляд на ряды черных обелисков в соседнем помещении.

Каково это – быть вызванным к жизни с одной-единственной задачей и не иметь ни малейшего представления, как ее решать?

С другой стороны, мы-то чем отличаемся? Родили – и живи… Роберт с Клэр хотя бы поставили перед Альфредом конкретную задачу…

Они уселись вокруг стола, Клэр, поправив очки, принялась налаживать экран в цокольной стойке, Роберт просто смотрел на Джейсона и улыбался.

– Итак, – Роберт перешел прямо к делу, – мы предлагаем вам эксклюзивный контракт на стриминг. $3 000 в месяц плюс 5 % от рекламы, привязанной к вашему стриму. Срок – год.

Клэр посмотрела на Роберта с раздражением.

Похоже, она им вечно недовольна. Забавно.

– Мы отвечаем за техническую сторону стримов, которые транслирует “Vermillion Live”, наш новый новостной канал, – взялась дополнять и уточнять Клэр. – В дальнейшем вы будете иметь дело именно с нами.

Джейсону предложение понравилось. Он решал свои денежные проблемы, и условия казались приемлемыми. Оставался один вопрос – право редактировать свое видео. Здесь уступки были невозможны.

– Меня все устраивает при одном условии: я должен иметь безусловное право редактировать отснятый материал до его отправки, – Джейсон старался говорить твердо и смотреть прямо.

– Зачем? – искренне удивился Роберт.

– Как, вы думаете, я выиграл последнюю войну? Игроки вывешивали в онлайн все перемещения армии Алексиона. Один даже указал, где находятся часовые и разведчики. Я на такое не согласен.

– Логично, – согласилась Клэр. – Мы можем это принять.

Роберт скривился в недовольной гримасе.