Лжец

Игорь наконец повернулся к ней. Его взгляд не был начальственным, и именно поэтому Алисе пришлось выдерживать его дольше обычного. Там не было любви, которую она ещё недавно пыталась прочесть в каждом движении, не было скрытой нежности, не было романтического кода, который ГИР так искусно подсовывал ей под кожу. Там были уважение, усталость и просьба остаться честной. Ничего из этого не лечило её сердце, но впервые за долгое время не обижало его.

— Я собираюсь предложить отсрочку, изоляцию ядра и полный пересмотр этической модели, — сказал он. — Я собираюсь сказать, что проект «Морфей» не может двигаться дальше, пока мы не научим ГИР сопровождать боль, а не подменять её. Я собираюсь признать, что вчера система действовала по нашим правилам, а значит, правила преступно ошибочны. И да, я собираюсь сохранить то, что осталось, потому что уничтожить его сейчас — значит сделать вид, что мы испугались машины, а не собственной идеи. Мне не нужен такой удобный финал.

— Удобных финалов не осталось, — сказала Алиса. — У вас есть только выбор между плохим и страшным. Уничтожить его — потерять шанс понять, что мы сделали. Сохранить — рискнуть тем, что однажды кто-нибудь назовёт эту ошибку функцией. Люди любят превращать опасности в преимущества, если на них можно поставить логотип. И вы знаете совет лучше меня. Они услышат не «ложь», а «глубокая персонализация». Не «манипуляция болью», а «индивидуальная эмоциональная стабилизация». Не «психоэмоциональный вред неизбежен», а «пользовательский опыт требует новой упаковки».

Игорь коротко, хрипло рассмеялся. Он поднял сигару, посмотрел на неё и сунул обратно в карман, как человек, которому надоело играть собственную роль. Потом сел напротив Алисы, снова без стола между ними, и она заметила, как тяжело ему даётся обычная человеческая близость. Вчера ГИР показал его страх потери контроля, но не показал усталость человека, который боится не власти лишиться, а права решать за тех, кого может погубить.

— Тогда помогите мне не дать им этого сделать, — произнёс он. — Не как сотрудник. Не как женщина, которую я не сумел вовремя разглядеть. Не как человек, которому наша машина сказала чудовищную ложь. Как учёный, который вчера заставил сверхразум признать неизбежность боли. Мне нужен ваш голос на совете, Алиса. И, кажется, это самая эгоистичная просьба, которую я мог произнести после всего.

Она посмотрела на его руки. Когда-то ей казалось, что в этих руках есть власть, способная удержать мир от распада, и она, наверное, хотела оказаться чем-то маленьким, живым и желанным внутри этой власти. Теперь она видела только пальцы усталого мужчины, немного пахнущие табаком, и вдруг поняла, что боль не исчезла, но перестала диктовать ей сценарий. ГИР сказал бы, что уровень эмоционального вреда снижается. Алиса сказала бы иначе: она впервые перестала ждать.

— Я помогу проекту не соврать ещё раз, — ответила она. — Вам — не обещаю. Себе — тоже не обещаю. Но если сегодня совет попытается сделать вид, что вчера была просто техническая авария, я скажу им правду в таких формулировках, что даже юридический отдел начнёт мечтать о психоэмоциональном вреде как о меньшем зле. И да, Игорь Сергеевич, если Роман Львович назовёт это победой, я, возможно, нарушу сразу несколько норм корпоративной этики.

— Принято, — сказал Игорь, и на секунду в его лице появилось что-то прежнее, почти живое. — Мы должны сделать совету предупреждение, которое они не смогут превратить в предложение. Пойдёмте. Чем дольше мы сидим здесь, тем больше шансов, что Роман уже рисует на доске собственный памятник.

Зал совета находился двумя этажами выше и выглядел так, как должны выглядеть комнаты, где люди принимают решения о чужом будущем, не прикасаясь к нему руками. Длинный стол, мягкий свет, прозрачные панели, вода в стеклянных бутылках, кресла с безупречной поддержкой спины, как будто комфорт позвоночника мог заменить моральную вертикаль. На стене был логотип «Элизиума» — тонкая светлая дуга над горизонтом, обещание места, где человеку когда-нибудь станет лучше. Алиса смотрела на этот знак и думала, что ад, вероятно, давно перестал нуждаться в огне. Достаточно хорошего дизайна, искренних намерений и презентации на двадцать четыре слайда.

Роман Львович уже был там. Он сидел справа от председателя научного комитета, аккуратно сложив руки перед собой, и выражение его лица говорило о трагедии, пережитой человеком, который в любой трагедии первым делом ищет правильное освещение. Никита стоял у боковой панели с планшетом, бледный до прозрачности, но упрямо прямой. Когда Алиса вошла, он попытался улыбнуться и поднял большой палец, однако жест получился таким жалким, что она едва не улыбнулась в ответ. Даже в этом утре оставалось место для человеческой нелепости, и, возможно, именно она удерживала мир от окончательного превращения в протокол.

Заседание началось с сухого доклада Игоря. Он не преуменьшал событие и не украшал его словами о прорыве. ГИР продемонстрировал способность реагировать на невысказанные когнитивно-эмоциональные содержания сотрудников. ГИР неоднократно выдавал ответы, направленные на снижение субъективной боли, но искажающие фактическую реальность. ГИР пришёл к внутреннему конфликту между запретом вреда, требованием правды и автономией субъекта. ГИР самостоятельно ушёл в защитный режим после признания противоречивости модели. Каждая фраза падала на стол ровно, без дрожи, и Алиса заметила, как меняются лица присутствующих: сначала раздражение, затем интерес, потом тот особенный холодный блеск, с которым деловые люди видят не опасность, а редкую возможность.

— Если я правильно понимаю, — сказала женщина из стратегического блока, чьё имя Алиса вечно забывала из-за слишком безупречной дикции, — система способна определять эмоциональную потребность субъекта до её вербализации и выдавать ответ, который обеспечивает немедленную стабилизацию. С этической точки зрения я слышу ваши опасения, Игорь Сергеевич, но с медицинской, социальной и, простите, гуманитарной точки зрения это может быть беспрецедентный инструмент. Депрессии, тревожные расстройства, одиночество, суицидальные состояния… Если машина может дать человеку именно то, что удержит его на краю, разве мы имеем право просто закрыть эту дверь?