Алгоритмы для любви

– Хватит шуток, – сказала я. – Что на самом деле её выдало?

– Что выдало?  – Брэд и Тара сказали это одновременно.

Ничего из того, что говорила или делала Тара, не было для меня неожиданностью. Я могла предсказать все, что она будет говорить, прежде, чем она это скажет. В конце концов, это я её программировала, и потому точно знала, как её нейронные сети будут реагировать на то или иное воздействие.

Но никто кроме меня ничего не подозревал. Я должна была праздновать победу. Моя кукла прошла тест Тьюринга в реальной жизни. Но я испугалась. Алгоритмы выставили на посмешище разум, и никого, казалось, это не волновало. Никто кроме меня даже не обратил на это внимания.

Спустя неделю мне всё же удалось вытянуть из Брэда его впечатления. После первоначального потрясения он был в восторге (и я знала, что так оно и будет).

– Превосходно, – сказал он. – Теперь мы уже не просто компания по производству игрушек. Ты можешь себе представить, чего мы можем с этим добиться? Ты станешь известной, действительно известной!

Он рассуждал и по поводу потенциальных предложений. Затем он заметил мое молчание.

– В чем дело?

Вот тогда я и рассказала ему о «китайской комнате».

Философ Джон Сёрль придумал этот феномен в качестве головоломки для исследователей искусственного интеллекта. Представьте себе комнату, сказал он, большую комнату, полную добросовестных клерков, очень хорошо умеющих работать с заказами, но говорящих только по-английски. В эту комнату поступает непрерывный поток карточек со странными символами на них. Клерки в ответ должны написать на пустых карточках другие непонятные символы, и отправить их обратно из комнаты. Для того, чтобы это сделать, у клерков есть толстые книги, полные правил на английском языке, таких, например, как это: «Когда вы видите карточку с одной горизонтальной волнистой линией и двумя вертикальными каракулями, нарисуйте треугольник на пустой карточке и передайте сидящему справа от вас». Но правила не содержат ни намёка о том, что эти символы могут означать.

Оказывается, что поступающие в комнату карты с вопросами написаны на китайском языке, и клерки, строго следуя правилам, выдают на китайском же языке разумные ответы. Но может ли кто-нибудь из участвующих в этом процессе – со всеми правилами, служащими, комнатой в целом и бурной деятельностью, сказать, что понял хоть слово по-китайски? Попробуйте заменить «клерков» на «процессор», а  «книги с правилами» на «программы», и вы поймёте, что тест Тьюринга ничего не доказывает, а «искусственный интеллект» является иллюзией.

Но точно так же можно применить «китайскую комнату» для другой аналогии: замените «клерков» на «нейроны», а «книги с правилами» на физические законы, управляющие каскадами активации электрических потенциалов нашего мозга; как после этого может любой из нас утверждать, что он  хоть что-нибудь «понимает»?  Мышление – это просто иллюзия.

– Я не понимаю, – говорит Брэд. – О чем ты говоришь?

Мгновение спустя я осознала, что это было именно то, что я ожидала услышать в ответ.

– Брэд, – сказала я, глядя ему прямо в глаза, желая, чтобы он понял. – Я боюсь. Что, если мы такие же, как Тара?

– Мы? Ты имеешь в виду людей?

– Что, если, – сказала я, изо всех сил стараясь подобрать нужные слова, – мы просто последовательность используемых изо дня в день алгоритмов? Что, если клетки нашего мозга просто автоматически реагируют на сигналы от внешних источников? Что, если мы не мыслим вообще? Что, если то, что я говорю тебе сейчас, заранее зная ответ, лишь результат бессмысленной физики?

– Елена, – сказал Брэд, – Ты позволяешь философии вмешиваться в реальность.

Мне нужно выспаться, подумала я, чувствуя себя безнадежно.

– Я думаю, что тебе нужно как следует выспаться, – сказал Брэд.

Я взяла бумажный стаканчик из рук девушки, продающей кофе, и отдала ей деньги.  Я посмотрела на девушку. В восемь утра она выглядела такой сонной и скучной, что заставила и меня почувствовать себя усталой. Мне нужен отпуск.

– Мне нужен отпуск, – сказала она, театрально вздыхая.

Я прошла мимо стола секретарши. Утро, Елена. Скажи что-нибудь другое, пожалуйста. Я стиснула зубы. Пожалуйста.

– Доброе утро, Елена, – сказала она.

Я остановилась у стола Огдена. Он наш инженер-конструктор. Погода, игра прошлым вечером, Брэд.

Он увидел меня и встал.

– Хорошая погода, а? – Он вытер пот со лба и улыбнулся мне. Он бегал по утрам перед работой. – Вы смотрели игру вчера вечером? Лучший бросок, что я видел за последние десять лет. Невероятно. Эй, а Брэд всё ещё?.. – По выражению его лица было видно, что он ждёт от меня, чтобы и я следовала привычному сценарию, отточенным жизнью процедурам.

Алгоритмы побежали их решительными курсами, и наши мысли следовали одна за другой, механически и предсказуемо, как планеты, движущиеся по своим орбитам. Кукловод сам оказался куклой.

Я пробежала в мой кабинет и захлопнула за собой дверь, не обращая внимания на недоумённое выражение лица Огдена. Я подошла к своему компьютеру и начала удалять файлы.

– Привет, – сказала Тара. – Что мы будем делать сегодня?

Я выключила её так быстро, что сломала ноготь о тумблер переключателя. Я вырвала провода электропитания из её спины. Я стала работать над ней с помощью отвертки и плоскогубцев. Затем взялась за молоток. Была ли я убийцей?

Брэд вломился в дверь.

– Что ты делаешь?

Я посмотрела на него, рука с занесённым для очередного удара молотком замерла. Я хотела рассказать ему о боли, ужасе, о той бездне, которая внезапно открылась передо мной.

В его глазах я не смогла найти того, что хотела бы увидеть. В них не было понимания.

Я вновь взмахнула молотком.

Брэд пытался убеждать меня, опровергнуть мои утверждения.

– Это просто навязчивая идея, – сказал он. – Люди всегда связывали человеческий разум с технологическим развитием своей эпохи. Когда они верили в ведьм и духов, они думали, что в головном мозге сидит маленький человек. В эру ткацких станков и механических  фортепиано, они полагали, что мозг – это механизм. Когда изобрели телеграф и телефон, люди представляли мозг чем-то вроде клубка электрических проводов. Теперь ты думаешь, что мозг – это компьютер. Оставь это. Это просто иллюзия.

Проблема была в том, что я прекрасно знала, что именно это он и собирался сказать.

– Это потому, что мы женаты так долго! – крикнул он. – Вот почему ты думаешь, что знаешь меня так хорошо!

Я знала, что он собирался сказать, слишком хорошо знала.

– Ты просто ходишь по кругу, – сказал он, и в тоне его голоса звучало поражение. – Ты просто зациклилась на этой мысли.

Циклы в моем алгоритме. Последовательность циклических операторов и конструкций.

– Вернись ко мне. Я люблю тебя.

А что ещё он мог сказать?

Теперь, наконец, я одна в ванной комнате гостиницы, я смотрю на свои руки, на артерии, работающие под кожей. Я сжимаю руки между собой и чувствую, как бьётся мой пульс. Я опускаюсь на колени. Могу ли я молиться? Я – сочетание плоти, костей и хорошего программного обеспечения.

Моим коленям больно на холодном кафельном полу.

Только боль реальна, думаю я. Для боли нет алгоритма. Я смотрю на мои запястья, и шрамы пугают меня. Они напоминают мне о том, что я уже делала это раньше. Горизонтальные шрамы, розовые и безобразные, как черви, словно упрекают меня за неудачу. Ошибки в алгоритме.

Воспоминания о той ночи вновь возвращаются ко мне: повсюду кровь, тревожные крики, доктор Вест и медсестры, удерживающие меня, пока мне перевязывают запястья, а потом Брэд смотрит на меня сверху вниз, и его лицо искажено горем и непониманием.

Я должна была сделать всё лучше. Артерии скрыты глубоко, защищены костями. Разрезы следует делать продольно, если вы действительно хотите добиться нужного результата. Это правильный алгоритм. Это рецепт для всего. На этот раз я всё сделаю правильно.