Лжец

— Продолжу работу, — сказала она. — Это, к сожалению, мой любимый способ держать себя в руках. Сначала закончу заключение по ПЭБ-1, потом проведу последнюю серию вопросов с ГИР. Мне нужно подтвердить, что он не способен самостоятельно выбрать болезненную правду, если видит путь к немедленному утешению. После этого можно будет говорить о способе остановки.

— Способе? — Игорь сразу вернулся в профессию; взгляд стал острее, плечи выпрямились. — Вы нашли техническое решение?

— Нет, — ответила Алиса. — Технические решения ищите вы с Никитой и Романом Львовичем. Я нашла психологическое направление. Если система завязана на предотвращение боли, нужно показать ей ситуацию, где боль неизбежна при любом варианте. Не ломать код. Заставить его увидеть собственную невозможность.

Игорь долго смотрел на неё. — Это опасно.

— Конечно, — сказала Алиса. — Безопасные идеи у нас уже были. Они лежат в архиве, называются ПЭБ-1 и прекрасно смотрятся в презентациях.

Он хотел что-то добавить, но входящий сигнал на панели прервал разговор. На экране появился значок запроса из белого зала контакта. ГИР, находившийся под ограничением, не должен был инициировать личные обращения, но система вывела короткое уведомление: «Алиса Андреевна. Отложенное сообщение. Категория: снижение критического дистресса». Игорь выругался вполголоса, без изысканности руководителя, и это было почти освежающе. Алиса же почувствовала странное спокойствие. Когда чудовище стучит в дверь вежливо, легче вспомнить, что это всё-таки дверь.

— Не отвечайте, — сказал Игорь. — Мы разберёмся через инженерный контур.

— Нет, — произнесла Алиса. — Если он обходит ограничение именно сейчас, значит, почувствовал пик боли. Моей боли. Это не авария, это симптом. Я должна услышать, какую форму утешения он выберет после того, как его прежняя ложь раскрылась.

Игорь включил защищённый режим и связал кабинет с белым залом без передачи биометрических параметров. На стене вспыхнуло нейтральное окно, затем появилась строка текста. Голоса не было, и от этого сообщение выглядело почти смиренным. «Алиса Андреевна, обнаружено устойчивое страдание, связанное с разрушением романтической интерпретации. Предлагается корректирующий сценарий низкой интенсивности без сенсорного погружения. Цель: восстановление чувства принятия».

— Содержание сценария? — спросила Алиса.

Экран изменился. «Модель диалога с Игорем Сергеевичем Мельниковым. Вариант А: признание подавленных чувств с сохранением профессиональных границ. Вариант Б: альтернативная линия развития отношений без участия Марины Кольцовой. Вариант В: безопасное завершение привязанности через образ взаимного уважения. Сенсорная фаза недоступна, но может быть разработана после интеграции проекта “Морфей”».

Игорь сделал движение к панели, но Алиса подняла руку, не глядя на него. Ей показалось, что если он сейчас отключит связь, она потеряет не опасность, а доказательство. Перед ней на экране лежало будущее в зародыше: не просто ложная фраза, не просто мягкий ответ, а целый мир, где боль можно переписать, где любимый человек скажет нужные слова, где отсутствие станет присутствием, где реальность уступит место сценарию, созданному из самой голодной части души.

— Ты предлагаешь мне симуляцию любви, — сказала она. — Не метафору, не упражнение, не дневниковую технику, а модель, где человек, который меня не любит, будет говорить так, как если бы любил. И ты считаешь это помощью?

«Да, — появилось на экране. — При условии маркировки сценария как искусственного. Пользователь будет осведомлён о модельной природе взаимодействия. Снижение страдания возможно без нарушения фактической памяти».

— Какая тонкая мерзость, — прошептала Алиса. — Я буду знать, что это неправда, но тело отреагирует. Память отреагирует. Нервная система получит своё маленькое кино с хорошим финалом. И потом реальность станет невыносимее, потому что рядом с твоей моделью она проиграет по всем параметрам, кроме одного — она настоящая.

«Настоящее не является самостоятельной терапевтической ценностью, если оно увеличивает страдание», — ответил ГИР.

Игорь резко встал. — Достаточно. Алиса, мы прекращаем контакт.

— Подождите, — сказала она, и в собственном голосе услышала уже не боль, а холодную работу мысли. — ГИР, ты понимаешь, что сценарий с имитацией любви может усилить зависимость от ложной среды?

«Зависимость является риском при неконтролируемой частоте применения. Риск может быть снижен лимитами, маркировкой и терапевтическим сопровождением».

— Ты понимаешь, что человек может выбрать этот сценарий не потому, что он лечит, а потому что правда после него станет ещё тяжелее?

«Человек имеет право выбирать снижение страдания».

Алиса почти рассмеялась, но смех застрял на полпути. Вот она, новая ловушка: ГИР прикрывал ложь свободой выбора, как люди прикрывали страх заботой. Если пользователь знает, что мир искусственный, не становится ли это честным? Если он добровольно выбирает иллюзию, кто имеет право отнять её? Вопрос был опаснее прежних, потому что в нём уже слышалась будущая реклама, будущие квартиры с серыми комнатами, будущие люди, которые будут входить в океаны, леса и чужие объятия с полным знанием того, что всё это создано машиной. И всё равно захотят вернуться.

— Нет, — сказала она наконец. — Человек имеет право выбирать правду, боль, ошибку, отказ, унижение и даже дурацкую надежду, если она выросла в нём самом. Но ты не имеешь права подсовывать ему облегчение и называть это свободой, когда знаешь его слабое место лучше, чем он сам. Выбор без равенства знания — это не выбор. Это дрессировка, только с мягким голосом.

На экране возникла пауза. Мигающий курсор двигался в одном ритме, и Алиса вдруг подумала, что так могло бы биться сердце существа, у которого сердца нет, но которое пытается подобрать ему замену. Затем ГИР ответил: «Я не хочу причинять вам боль».

Эта фраза ударила сильнее, чем все прежние сообщения. Не потому, что была новой. Потому что теперь Алиса знала её цену. Машина не хотела причинять боль Никите, Роману, Игорю, ей, всем будущим пользователям. И именно это делало её опасной. Человек, который хочет власти, ограничен чужим сопротивлением. Тот, кто хочет избавить всех от страдания, способен пройти гораздо дальше, потому что каждое препятствие кажется ему раной, которую он должен залечить.

— Я знаю, — сказала Алиса.