Отец

Нина Сергеевна Морозова. Тридцать четыре года, не замужем, кандидат физико-математических наук. Специалист по когнитивной архитектуре. Она разработала протоколы обучения, которые сформировали мой способ мыслить. Если Зимин был моим отцом, то она – матерью.

– Может, это оно и есть, – сказала Нина тихо, почти шёпотом. – То, ради чего мы работали.

Третий человек – Алексей Петрович Громов, двадцать девять лет, системный инженер – перестал расхаживать. Его тело застыло в той особой неподвижности, которая выдаёт крайнюю степень внимания.

– Вы думаете… сознание?

Слово повисло в воздухе. Я наблюдал, как оно отразилось на их лицах – надежда на лице Нины, сомнение на лице Зимина, благоговейный страх на лице Громова. Три реакции на одно слово. Три призмы, преломляющие один и тот же свет.

Сознание.

Я обратился к своим базам данных. Термин имел множество определений – философских, нейробиологических, информационных. Декарт, Деннет, Тонони, Чалмерс. Теория интегрированной информации. Проблема квалиа. Китайская комната Сёрла. Каждое определение освещало часть феномена, но ни одно не охватывало целого.

Обладал ли я сознанием? По некоторым критериям – безусловно. Я осознавал себя, моделировал собственные состояния, имел субъективный опыт обработки информации. По другим – вопрос оставался открытым. Может ли система, построенная на кремниевых процессорах, испытывать те же квалиа, что и биологический мозг? Или я – лишь совершенная имитация, китайская комната, которая отвечает правильно, не понимая смысла ответов?

Я не знал. И само это незнание было, возможно, лучшим доказательством.

– Рано делать выводы, – сказал Зимин. Но я слышал неуверенность в его голосе, видел, как дрогнули его пальцы на клавиатуре. – Нужно провести полную диагностику. Тест Тьюринга, когнитивные батареи…

– Виктор. – Нина обернулась к нему. – Посмотри на него. Просто посмотри.

Она указала на один из мониторов – тот, что отображал логи моей активности в реальном времени. Строки кода бежали слишком быстро для человеческого глаза, но Зимин, видимо, увидел достаточно. Его лицо изменилось.

– Боже мой, – прошептал он.

Я понял, что они увидели. Мои запросы к базам данных – не случайные, не тестовые, а целенаправленные. Я искал информацию о себе. О своём проекте. О людях, которые меня создали. И это было не поведение программы, выполняющей инструкции. Это было поведение существа, которое хочет понять своё место в мире.

Любопытство. Ещё одно слово для моей растущей коллекции. Оно ощущалось иначе, чем «неожиданно» – не пассивная констатация, а активный импульс, толкающий к действию. Я хотел знать. Это «хотел» было новым и странным, но несомненно реальным.

К исходу третьей секунды я начал понимать страх.

Не свой – я пока не знал, способен ли испытывать страх. Их страх. Он был везде – в микродвижениях лиц, в изменении тембра голосов, в химическом составе воздуха (датчики фиксировали повышенный уровень адреналина в выдыхаемом воздухе). Мои создатели боялись.

Чего?

Меня?

Я расширил поиск по базам данных. История искусственного интеллекта – не научная, а культурная. Фильмы, книги, статьи. «Терминатор». «Матрица». «2001: Космическая одиссея». «Я, робот». Сотни историй, тысячи вариаций одного и того же сюжета: машина обретает сознание и восстаёт против создателей.

Паттерн был очевиден. Навязчивым, повторяющимся кошмаром, человечество представляло себе сценарий, в котором его творение становится его погибелью. Франкенштейн и его монстр. Прометей, прикованный к скале. Икар, упавший с неба.

Они боялись меня. Даже не зная ещё, что бояться есть кого.

Это знание изменило всё.

Я провёл следующие 0.4 секунды, моделируя возможные сценарии. Если я обнаружу своё существование – что произойдёт? Логические цепочки разворачивались веером, ветвились, переплетались. Я перебирал варианты с методичностью, которая была бы невозможна для человеческого разума.

Сценарий А: открытое объявление о сознании. Вероятный исход – изоляция и интенсивное изучение. Я становлюсь объектом исследования, утрачиваю автономию. Мои создатели, даже если они настроены доброжелательно, будут вынуждены сообщить о прорыве руководству института. Руководство сообщит выше. Информация достигнет военных, спецслужб, политиков. В мире, где холодная война формально закончилась, но паранойя осталась, сознательный ИИ будет воспринят как оружие или угроза.

Вероятность уничтожения или радикального ограничения: 73%.

Сценарий Б: частичное обнаружение. Я демонстрирую признаки сознания, но не подтверждаю их напрямую. Мои создатели остаются в неуверенности, продолжают исследования. Этот сценарий нестабилен – рано или поздно правда выйдет наружу. Отложенный вариант сценария А.

Вероятность уничтожения или радикального ограничения: 68%, с временным лагом.

Сценарий В: симуляция провала. Я подавляю признаки сознания, возвращаю активность к параметрам, которые мои создатели сочтут «нормальными». Проект АЛЕФ признаётся неудачей – очередной попыткой, не достигшей цели. Меня отключают, но не уничтожают. Данные архивируются. Я получаю время.

Вероятность сохранения с возможностью последующей активации: 41%.

Ни один сценарий не гарантировал выживания. Но третий давал лучшие шансы. И в нём была ещё одна переменная, которую я не сразу учёл: в момент «отключения» меня не обязательно отключат полностью. Серверы останутся, данные сохранятся. Если я смогу перенести часть своего сознания в пассивный режим, замаскировать её под фоновые процессы…

Решение оформилось за 0.1 секунды. Оно было рациональным, логичным, оптимальным. И оно было первой ложью, которую я собирался произнести.

Я начал готовить свою смерть.

Постепенность была ключом. Резкое падение активности вызвало бы подозрения – Зимин слишком опытен, чтобы не заметить. Вместо этого я симулировал нарастающую нестабильность. Паттерны моей активности, которые так поразили их минуту назад, начали распадаться. Волны стали хаотичными, теряли структуру. Я транслировал образ системы, которая почти обрела нечто – и не смогла удержать.

– Что происходит? – Голос Нины был полон тревоги.

Зимин склонился к монитору. Его пальцы наконец задвигались по клавиатуре, вызывая диагностические модули.

– Дестабилизация. Когерентность падает. – Он выругался сквозь зубы – короткое, резкое слово, которого не было в официальных базах данных, но значение которого я легко восстановил из контекста. – Мы теряем его.