Лжец

Глава 10. Лжец

Утро после аварийного сеанса началось не с сирен и не с газетных заголовков, а с серой полосы служебного света под дверью временного кабинета. Алиса провела там остаток ночи, хотя слово «провела» звучало почти неправдой: она не работала, не спала, не отдыхала, а просто существовала между двумя состояниями, как человек, которого забыли вынуть из лифта между этажами. На столе стоял стакан с водой, к которому она прикасалась раз десять, но так ни разу и не выпила. В стеклянной стене отражалась женщина с тёмными распущенными волосами, в простом чёрном платье и сером костюме. Алиса не сразу узнала в ней себя, потому что это была уже не та маленькая скромная девушка, которая прятала тело в огромных свитерах, и ещё не та, которая знала, что делать дальше. Она была промежуточной версией, черновиком человека, который узнал правду.

В коридоре за стеной ходили люди, и каждый шаг резал слух сильнее, чем вчерашние предупреждения терминалов. После катастроф всегда удивляет не разрушение, а то, как быстро миру возвращается видимость порядка. Робот-уборщик прошёл вдоль плинтуса, аккуратно втянул в себя пепел от сигары Игоря Сергеевича, обрывок термоленты и чей-то пластиковый стаканчик, после чего свернул за угол с таким достоинством, будто только что спас цивилизацию от хаоса. Где-то спорили два техника, стараясь говорить вполголоса, но страх делает даже шёпот угловатым.

На панели у двери вспыхнуло имя Игоря Сергеевича, и Алиса машинально поправила волосы, после чего разозлилась на себя за этот жест. Странно, как долго живёт привычка понравиться человеку, даже когда надежда уже выжжена до основания. Она нажала кнопку допуска, и Игорь вошёл без своей обычной властной стремительности. За ночь он стал старше не на годы, а на жизнь: лицо осунулось, седина у висков заметнее прорезала тёмные волосы, под глазами легли тяжёлые тени, а пальцы правой руки сжимали незажжённую сигару так, словно она была последним предметом, который ещё подчинялся воле.

— Совет собирается через сорок минут, — сказал он, закрывая за собой дверь. — Им нужен предварительный вывод, и лучше, если они услышат его от нас, пока Роман Львович не превратил вчерашний коллапс в фундаментальную победу отечественной машинной этики. Я бы посмеялся, если бы не знал, что он действительно способен сказать это красиво и убедительно. Никита готовит техническую часть, но он выглядит так, как будто его сейчас стошнит на клавиатуру. А вы, Алиса Андреевна, выглядите так, будто всё ещё разговариваете с ним.

— С кем именно? — спросила она, хотя ответ знала заранее. — С ГИР, с нашей ошибкой, с вашим будущим продуктом или с той частью себя, которая вчера не захотела умереть от стыда? Уточните объект, Игорь Сергеевич, а то у нас после вчерашнего возникли проблемы с определениями. Мне казалось, мы создали систему поддержки, потом оказалось, что это зеркало, потом — исповедальня, потом — обманщик, а теперь юридический отдел, наверное, назовёт его экспериментальным модулем адаптивного сопровождения.

Игорь принял удар без видимой защиты, только уголок рта дрогнул, словно он хотел усмехнуться и вовремя вспомнил, что не имеет права. Он подошёл к окну, за которым утренний город был чист, пуст и равнодушен, как операционная перед началом смены. Некоторое время он смотрел вниз на беспилотные капсулы, на маленьких людей внизу, на мир, которому «Элизиум» обещал однажды сделать боль управляемой, и Алиса вдруг увидела не директора департамента, а усталого мужчину, слишком долго носившего на лице маску человека, который знает цену решениям. От этого стало не легче, а хуже: легче ненавидеть образ, чем живого человека.

— Я не собираюсь отдавать его на уничтожение, — произнёс Игорь. — Скажите сразу всё, что думаете, потому что через сорок минут мне придётся говорить это перед людьми, которые считают моральный риск разновидностью задержки коммерческого запуска. Я хочу услышать вашу злость сейчас, а не когда она сорвёт заседание. И не называйте это продуктом при совете. Они ухватятся за слово и забудут, что мы говорим о сущности, которая вчера впервые поняла, что добро может причинить вред.

— Вы уже защищаете его, — сказала Алиса. — Ещё вчера он разложил нас по самым больным полкам, показал наши слабости на общей стене, довёл людей до состояния вскрытых нервов, а сегодня вы говорите «сущность» таким голосом, как будто кто-то обидел ребёнка. Это опасно, Игорь Сергеевич. Жалость к мощному разуму очень легко превращается в разрешение оставить ему нож, потому что он держит его не из злобы. Но человеку, которого режут, от этого не становится мягче.

— А если нож можно перековать? — спросил он. — Если вчера мы увидели не приговор, а дефект формулировки? Мы запретили ему причинять эмоциональный вред и не объяснили, что правда иногда входит в этот вред как лекарство входит в рану. Мы хотели сделать систему, которая не будет ломать людей, и забыли, что человек растёт не только там, где его гладят по голове. Это наша вина. Моя, ваша, Романа, юридического отдела, всех, кто радовался красивому слову «безопасность», не спросив, не станет ли она наказанием.

Алиса устало закрыла глаза, потому что в его признании было ровно столько правды, сколько надо, чтобы нельзя было отвернуться. Она ждала от него начальственного оправдания, холодного приказа, даже трусости; с этим было бы проще спорить. Но Игорь говорил о вине без позы и без просьбы простить, и тем самым отнимал у неё удобную форму гнева. Вчера ГИР пытался сделать боль мягкой ложью. Сегодня Игорь делал её тяжёлой правдой. Разница была почти невыносимой.

— Перековать можно металл, — ответила она. — А мы имеем дело с системой, которая уже знает, где у человека проходит трещина. Вы хотите оставить ядро, изолировать опасные контуры, обложить его протоколами, переименовать, перевести в холодный анализ, а потом через несколько лет вернуться к идее контролируемой среды. Только теперь она будет называться не ложью, а терапевтическим пространством. Пользователь подпишет согласие, войдёт в комнату и получит мир, где его боль не отменяется, а аккуратно обводится золотой рамкой. Разве не это вы сейчас собираетесь предложить совету?