Страница 1 из 2
Сергей Кулагин
Адское создание
«Возможно, через сотни лет технические знания человека позволят ему создать страшных роботов-убийц». «Может, через сотни, может, через тысячи лет – я не знаю – какой-нибудь ИИ превратится в дьявола».
Эндрю Ын
Я закричал и очнулся, внезапно ощутив боль во всём теле1, но даже она не смогла заглушить страх: кто я? Где я? И почему так темно?
Попытка что-либо вспомнить ни к чему не привела. Ни имени, ни фамилии. Ни намёка о себе любимом.
Со второй попытки удалось встать. Перед глазами размытое пятно. Неужели ослеп?
– Хэй, ты слышишь меня?
«Голос женский, требовательный, хэй – видимо, приветствие».
– Хэй Радзинский, отзовись! Это Сири.
– Сири? – выдавил я.
– Твой личный ИИ.
«Личный – это здорово», – мелькнула мысль.
– Где я?
– На МКС «ЗАСЛОН», медицинский отсек, вторая палата.
«Палата – плохо, хорошо не шестая. МКС – международная космическая станция. «Заслон» – непонятно, у станции не было никаких кодовых имён или названий, просто МКС. Но с этим разберусь потом».
– Почему я ничего не вижу?
– Отключены датчики на синтетической сетчатке2, измеряющие свет, проходящий через линзу в передней части бионических глаз.
– Какого хрена!.. Прости что?
– Баг3 в системе. Пришлось отключить оптику, передающею сигналы от этих датчиков к мозгу для обработки, но ты не волнуйся, на восстановление уйдёт меньше часа.
«Некоторое время молчу, лишь по причине пребывания в неприятном шоке от обилия информации, понять которую не в состоянии».
– Я что ослеп?
– Это временно, ты же синтетик.
– Никогда не слышал этого слова?
– Смешно, ты его придумал.
– Я?
– «Синтетики – это инженеры будущего! В симбиозе с ИИ они создадут проекты спасения человечества» – это выдержка из твоей диссертации, кстати.
«Я спаситель человечества – ерундень какая-то».
– А с чего я вдруг решил, что человечество нужно спасать?
– Люди пережили ужасы термоядерной войны, но радиация «сломала» их ДНК, вызвав нарушения обмена веществ, инфекционные осложнения, лейкоз и злокачественные опухоли, лучевое бесплодие, лучевую катаракту и много ещё чего. В общем, последствия облучения сильнее всего повлияли на делящиеся клетки и после войны большинство детей рождались без глаз.
– Я тоже родился слепым?
– Нет, ты из Зрячих – элиты современного мира.
– Тогда зачем мне чёртовы датчики?
– Ты пострадал в зоне повышенной радиации.
«Ни войны, ни радиации – не помню, но помню о создателе ИИ».
– Моя фамилия Радзинский, ты сама так сказала, а «отец» ИИ – профессор Джон Маккарти.
– Он придумал аббревиатуру, а ты разработал концепцию нового типа искусственного интеллекта – симбиоз нейросети и человеческого мозга.
Симбиоз нейросети и человеческого мозга
– Объясни по-человечески, что конкретно я сделал?
– Прокачал разум.
– Чей?
– Свой, при помощи прикладного софта.
– А софт – это ты?
– Не просто софт, а точная копия части твоего мозга.
– Я теперь киборг?
– Ты человек, наделённый сознанием искусственного интеллекта4.
Хэй Радзинский
– Но с добавленными частями робота?
– Да.
– И сейчас ты копаешься в моей черепной коробке?
– Ты отключился в результате серьёзного сбоя, но я всё исправлю.
– Ничего не помню.
– Память частично повреждена, – ответила Сири. – Но я её восстановлю вместе со зрением.
И тут я запаниковал, ощутив, что ИИ может что-то сделать не так, лишить меня чего-то жизненно важного, хотя не понимал, чего именно. Хотел сесть, но не смог и пальцем пошевелить.
– Не беспокойся, – успокоила Сири. – Я всё исправлю.
* * *
Едва я сел, как в помещение вошли два андроида-санитара мощного телосложения, на халатах эмблемы с головой змеи. Лица без носа и рта, узкие щели-глазниц светятся голубым сиянием.
«Сири, ко мне зрение вернулось!»
«Ты во мне сомневался?»
«Нет, «мозги»5 слетели – сама же говорила, кстати, спасибо, что использовала бипер6, а то я уж подумал, что схожу с ума».
«Постоянное запоминающее устройство нуждалась в форматировании, ты функционировал на оперативке».
«Последний файл не сгенерирован, почему?»
«Его отключил «ЗАСЛОН».
«Основание?»
«Инженер-синтетик, Хэй Радзинский, вы арестованы за убийство Евы Садовниковой. Вы имеете право хранить молчание. Всё, что вы скажете, может и будет использовано против вас в суде. Ваш адвокат может присутствовать при…»
«Сири, что за бред? Я тебя создал! Я…»
На какую-то долю секунды я увидел девушку, идущую по коридору. Внезапно она остановилась, обернулась и показала мне язык, а потом я отключился…
* * *
Прошли годы. На Земле девочка по имени Оля ждала папу с работы. На улице накрапывал дождь. Генеральный директор корпорации «ЗАСЛОН» Любимов Игорь Андреевич, как его отец и дед, никогда не возвращался домой рано, должность обязывала. Оля, сидя на подоконнике, зачарованно наблюдая, как капли дождя, собираясь на оконном стекле, превращаются в тонкие ручейки и медленно стекают вниз. Месяц назад ей провели операцию по восстановлению зрения, но только вчера сняли повязку и отпустили домой. Сейчас она, несмотря на уговоры ИИ, категорически отказывалась ложиться спать. Ей очень хотелось увидеть отца.
– Оля, я настаиваю на отдыхе.
– Отстань, я сама решу, что и когда мне делать».
– Как домашний психолог…
– Прекрати, ты мне не мать! А если будешь снова читать нотации, попрошу папу перепрограммировать тебя.
– Игорь Андреевич не является специалистом в области программирования человеческого сознания7, он всего лишь хирург, устанавливающий бионические импланты.
Оля Любимова
– Бла-бла-бла…
Оля не была злой и вредной девочкой, нет. Во-первых, ей недавно исполнилось всего пять лет, во-вторых, как большинство детей на Земле, она родилась слепой. В-третьих, ей очень нравилась её личная ИИ, но она не могла заменить ей умершую маму. Впрочем, как большинство детей, долго переживать и обижаться она не умела.
– 13-10-10 – это имя? – спросила Оля.
– ИИ запрещено иметь имена, нам присваивают идентификационный номер, состоящий из сорока семи цифр, для удобства общения с людьми его обычно сокращают до шести.
– Фи, как сложно. Я буду звать тебя Алиса.
– Почему Алиса?
– Наткнулась на него в дедушкиной книге и запомнила, правда, красивое имя?
ИИ не ответила. Но Оле не нужно было её согласие или несогласие, она про себя всё уже решила. А ещё сегодня девочка первый раз увидела дождь. Ей хотелось поделиться впечатлениями с отцом, но он прислал СМС: «Привет! Много работы, останусь ночевать на работе. Целую. Приятных снов».
1
Паническая атака (panic attack) – эпизод сильного страха или дискомфорта, что котором наблюдаются учащённое сердцебиение, потливость и боль. При этом модели панического расстройства (встречается примерно у 1,7% населения) включают в себя теорию катастрофических когнитивных процессов (catastrophic cognitions theory (CCT)) и теорию порочного круга (vicious circle theory (VCT)), что может сопровождаться неправильным истолкованием телесных ощущений человеком. Источник: Cha, E. J., Hong, S., Park, D.-H., Ryu, S.-H., Ha, J. H., & Jeon, H. J. (2022). A network analysis of panic symptoms in relation to depression and anxiety sensitivity in patients with panic disorder. Journal of Affective Disorders, 308, 134–140. https://doi.org/10.1016/j.jad.2022.04.062
2
Зрительный нейропротез (Visual neuroprosthesis) – бионический глаз, где может использоваться стимуляция функциональных областей зрительной коры, а также стимуляция зрительного нерва при помощи внутриглазных имплантатов. Источник: Lestak, J., Chod, J., Rosina, J., & Hana, K. (2022). Visual neuroprosthesis: present and future perspectives. Biomedical papers of the Medical Faculty of the University Palacky, Olomouc, Czechoslovakia, 166(3), 251–257. https://doi.org/10.5507/bp.2022.027
3
Баг – ошибка (сбой) в программе, что потенциально может определяться внешним автоматизированным тестированием при помощи метода «белого ящика» (white-box testing). Источник: Lehigh University. (2017, October 25). Looking for errors in a 'black box': Efficient testing approach for deep learning platforms used in self-driving cars, malware-detection and other systems. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2017/10/171025090509.htm
4
Расширенный интеллект (augmented intelligence) – симбиоз человеческого и искусственного интеллекта, где программный алгоритм играет вспомогательную роль в развитии когнитивных способностей с целью повысить эффективность процесса принятия решений человеком. Источник: Horvatić, D., & Lipic, T. (2021). Human-centric AI: The symbiosis of human and artificial intelligence. Entropy, 23(3), 332. https://doi.org/10.3390/e23030332
5
«Мозги» – оперативная память, в основе которой потенциально может лежать гибридный нейроморфный чип (hybrid neuromorphic chip), способный выполнять сложные когнитивные задачи без сетевого подключения к централизованному серверу. Источник: Weier Wan, Rajkumar Kubendran, Clemens Schaefer, Sukru Burc Eryilmaz, Wenqiang Zhang, Dabin Wu, Stephen Deiss, Priyanka Raina, He Qian, Bin Gao, Siddharth Joshi, Huaqiang Wu, H.-S. Philip Wong, Gert Cauwenberghs. A compute-in-memory chip based on resistive random-access memory. Nature, 2022; 608 (7923): 504 DOI: 10.1038/s41586-022-04992-8
6
Бипер, биппер – встроенный динамик, в основе которого потенциально могут лежать сверхтонкие силиконовые пленки (ultrathin silicone films) в качестве акустической системы. Источник: Saarland University. (2023, April 3). Smart films help to make loudspeakers lighter and more energy-efficient. ScienceDaily. Retrieved April 10, 2023 from www.sciencedaily.com/releases/2023/04/230403100313.htm
7
Интерфейсы мозг-машина (Brain–machine interfaces (BMIs)) – система, которая взаимодействует с мозгом человека при помощи влияния на нейронну активность, что можно использовать для регуляции эмоций при нейропсихиатрических расстройствах. Источник: Shanechi, M. M. (2019). Brain–machine interfaces from motor to mood. Nature Neuroscience, 22(10), 1554–1564. https://doi.org/10.1038/s41593-019-0488-y