Меркнет свет

– Так ты не назовешь мне свое имя, Себастьян?

– Нет.

– Почему?

– Потому что уже все равно. Давай нажимать, – Себастьян протянул руку над красной кнопкой, помедлил, – ты слышал меня, Роб?

– Да, Себастьян, я готов.

– Тогда нажимаем.

Прозвучал однотонный сигнал, освещение в комнате медленно становилось ярче, заговорил женский голос: «Тест завершен. Пожалуйста, покиньте комнату». Себастьян вышел, глаза немного привыкли к свету, но снаружи было намного светлее. Он сощурился, мигрень мгновенно оказалась тут как тут и так же мгновенно исчезла. К комнате подошли инженеры в халатах вместе с Эндрю Бродли.

– Как самочувствие? – спросил Эндрю.

– Все отлично. Кажется, я сегодня уйду с тройной суммой.

Они посмеялись.

– Возможно, но сначала нам нужно пройти в конференц-зал.

– Без проблем, – они пошли налево по коридору, – это оказалось быстрее, чем я предполагал. Я уже готовился часами прыгать из комнаты в комнату в поисках вашего искусственного интеллекта.

– Я рад, что вы с этим быстро разобрались, господин Себастьян.

– Благодарю вас, что предоставили мне такую возможность. Это был очень интересный опыт, – они подошли к невысокой лестнице.

– Мне нужно покинуть вас на минуту, позже вас пригласят, – сказал Эндрю, поднялся по лестнице, открыл дверь и вышел. Себастьян весело подтягивался на носочках, осматривал коридор, глядел на людей в халатах – кто-то делал записи, кто-то был углублен на экраны планшетов, некоторые просто стояли и ждали, переглядываясь. Чем дольше они ждали, тем интереснее становилось Себастьяну. Через минуту дверь открылась, выглянул человек и позвал всех подняться. Доктора поскакали вверх по лестнице, Себастьян стоял и не знал, стоит ли ему тоже идти.

– Эй, друг, мне тоже идти с вами? – он окликнул одного из докторов.

– Да, конечно, без тебя никак.

Они поднялись. Дверь выходила в большое, очень яркое помещение, посреди которого стояли несколько людей, Эндрю Бродли и двое мужчин в костюмах, все аплодировали. Кому, черт возьми, они аплодируют? Справа в зале была куча людей, летели вспышки камер, шум диалогов.

– А вот и они! Наши герои, без которых ничего бы не вышло! – выкрикнул один из мужчин с микрофоном, указывая на Себастьяна и людей в халатах.

Себастьян подошел к Эндрю. Воцарилась тишина. Он очень застеснялся, поэтому немного наклонился к инженеру и шепотом спросил:

– Что, черт возьми, происходит, Энрдю?

Зал взорвался аплодисментами, свистами, в помещении стало настолько светло от вспышек, что мигрень снова ударила по вискам.

– Вы это слышали? – крикнул в микрофон мужчина в черном костюме, – он говорит, как настоящий человек! Как с чертовым приятелем!

Себастьян растерялся. Перед ним подняли зеркало, и он увидел себя. Увидел свои железные ноги, руки, покрытые чем-то, напоминающим силиконовую кожу, лицо. У него было лицо, но лишь часть его покрывала искусственная кожа, вместо рта было что-то напоминающее динамик, а задняя часть головы была открыта и полна механизмами. Мигрень усилилась, боль была невыносимой. Он упал на колени и быстро задышал. Хаос окутал его тело, смешиваясь с болью.

– Только что на наших глазах, – начал оратор, глядя в сторону десятков камер и вспышек, – по всей стране в прямом эфире нам продемонстрировали удачный, если это можно так назвать, эксперимент «Китайской комнаты». Эй, Роб, каково это – быть облапошенным? – выкрикнул оратор другому мужчине в синем костюме и передал ему микрофон.

– Да, уж, Брюс, это точно. Меня облапошили. Я действительно поверил в то, что говорю с настоящим человеком, хотя я неоднократно пытался выпытать его полное имя, и даже не получив его, я понимал, что человек, знающий свое имя, назвал бы его, но Себастьян не называл, просто ни в какую; оказалось, у него просто нету имени.

– И все равно ты поверил, что это человек?

– Да, причем без сомнений был убежден в этом. Это просто взрыв мозга! Это невероятно! Как вам такое удалось, Эндрю? – обратился Роб к инженеру, протягивая микрофон; тот взял.

– Как вы видите, система не идеальна. Нам удалось создать искусственный интеллект, способный самообучаться, удалось создать для него нервную систему – он способен осязать, испытывает боль. Вернее, он думает, что ее испытывает. Это мало чем отличается от нервной системы человека, однако объект, в отличие от человека, все еще не способен к самосознанию. Хаос, диссонанс – да, но нету страха. Отчасти поэтому психическое состояние нашего искусственного интеллекта столь шатко. Мы еще работаем над этим. Только взгляните на него – сейчас он поверить не может в то, что происходит.

– Вы что, не сказали ему, что он не человек?

– Конечно, нет, ведь тогда бы он не дал нам тех результатов, что мы имеем сейчас.

– А вам не кажется, что это неэтично? Ведь вы создали разумное существо, способное испытывать эмоции и боль! – выкрикнул голос из зала.

– Насчет того, этично это или нет, стоило рассуждать до того, как люди стали пытаться пробовать создать другое сознание.

– А что вы имели в виду, когда выражались, что система не идеальна?

– То, что мы еще далеки от создания настоящего прототипа, которого не отличить от человека. Посмотрите на него сейчас.

Себастьян стоял на четвереньках, хаотично издавая звуки, схожие с рыданием и воплями. В этот миг все стало таким очевидным: все упущенные моменты, подсказки, такие как комнаты, которые шли в неверном порядке только для него, и если отзеркалить их, то с другой стороны порядок был верен, это значит – проверяли его, а не он.

– Дело в том, – продолжал инженер, – что все наши попытки создать искусственный интеллект, имеющий собственное тело, порождали новые проблемы. Например психическое состояние объекта. Интеллект, способный самообучаться, ходить и говорить, вскоре, осознавая, что он машина, сходит с ума и становится бесполезным. Я поставлю в пример людей: природа породила самосознание, самосознание породило ужас и страх; чувствуя угрозу вокруг, именно благодаря этому люди развились такими, какими они являются сейчас. Но искусственный интеллект, обретя сознание, не обретает самосознания и чувствует лишь бессмысленность и когнитивные замыкания.

Зал зашептался.

– Уязвимость – вот условие нашего существования. Это как если бы люди сейчас научно могли доказать, что детерминизм – истина человеческого бытия. Что бы тогда случилось с нами? Половина человечества покончила бы с собой, а преступность бы выросла в разы.

Посмотрите на данный объект, – он снова указал на Себастьяна, – в его разуме гремит настоящая буря и шок, для него осознание реальности равносильно осознанию нами некоего божественного, что определенно свело бы нас с ума, практически как если бы детерминизм был доказанной истиной и мы бы это осознали. – Зал охнул, инженер продолжил. – Еще до эксперимента, во время когнитивных задач, объект испытывал нечто схожее с головной болью у людей. Это говорит о рождении в его сознании области, отвечающей за личностную структуру и психическое состояние, и это связалось с системой ощущений, а это значит, что в будущем нам придется или вручную программировать их интеллект, поставить рамки, ограничения, однако тогда это будет уже не искусственный интеллект, а всего лишь запрограммированный робот, или же создать новое разумное существо. Впрочем, равно как у людей, ведь психологи убеждены, что человек движется в определенных рамках мотиваций.

Посмотрите на объект сейчас: на ваших глазах вполне адекватное сознание сходит с ума, в его сознании меркнет свет, и это говорит о том, что мы близки, как никогда, к созданию живого разума, – он посмотрел на своих коллег, – отключите его.

Себастьян протянул ладони, стоя на коленях, и завопил:

– Нет!

Записки пустого дома

Причина одиноких людей не в социуме, который не принимает их, а в одиноких, которые не принимают социум.