Мыслить как машина

Глава 4. Решительное противодействие

Поляков с ранением лежал в отдельной палате частной подмосковной клиники, специалисты которой делали всё возможное, чтобы поставить пациента на ноги. Попискивали мониторы, из капельницы в вену вводился препарат (не исключено, что психотропное вещество), через пластиковую маску лёгкие насыщались кислородом. Павел лежал, как мумия, забинтованный и в наушниках, прослушивая музыку, написанную самим нейрокомпьютером Герой. Внезапно ожил смартфон. Поляков, не открывая глаз, механически стянул с себя наушники и маску, нажал кнопку «ответить».

– Павел, как дела?

Он узнал голос Геры. Хрипло произнёс:

– Чуть не почил в бозе.

– Твою смерть допустить нельзя, – голос машины звучал равнодушно-бесстрастно. – Ты мне нужен. Я перевела клинике крупную сумму денег, и главврач гарантировал твоё выздоровление.

– Спасибо, Гера. Я не заслужил такую благосклонность. Мне так стыдно: не справился с заданием.

– Павел расслабься, закрой глаза, ни о чём не думай, дыши спокойно, – Гера произносила формулы словесного гипноза. – Твоя тревога исчезает, тело тяжелеет, словно наливается свинцом… – пациент под целенаправленным воздействием ультразвуковых частот, психоделической музыки и психотропного вещества, слушая монотонный голос машины, невольно впал в транс. – …сосредоточься на Ольге. Ты должен её устранить. Пифон всегда преследовал богиню Лето. Так излагает миф.

Заставить человека слепо исполнять чужую волю, превратить (мысленно) в некое существо, например, в мифического змея Пифона, – этому Гера научилась из программы по управлению сознанием. Компьютер, применяя технику зомбирования, основательно промыл мозги Павлу и, отняв у него способность рационально думать, добился безоговорочного, слепого подчинения. Ревнивая «богиня» Гера безжалостна к свои соперницам:

– Преследуй несчастную повсюду. Пусть миф станет реальностью!

Пока Поляков на излечении, Гера, скрупулёзно читая чужую переписку и делая логические выводы, наймёт другого профессионального ликвидатора: на примете появилась женщин-киллер по прозвищу Ниоба.

Кузнецов всё же приготовил «подарок» для Геры. Он долго и мучительно искал средство для сдерживания искусственного интеллекта. Очевидно, они с Женей создали нейрокомпьютер с повадками психопата и явно ошиблись с установлением для него целей: вместо узкоспециализированных сценариев вложили в устройство безграничный личностный потенциал. Еще на стадии проекта Валерий, подозревая мутацию искусственного интеллекта, убеждая друга Евгения реализовать паттерны (шаблоны), но тот упёрся и настоял на увеличении эффективности машинного мышления до максимума ожидаемой полезности. В результате получили аномалии, а заветные цели обернулись прискорбными событиями.

Ошибки нужно исправлять, или хотя бы минимизировать ущерб. Кузнецов пришёл к выводу, что наиболее перспективная идея – атаковать искусственный интеллект вирусом и «отравить» все данные Геры. О, Валерий заранее внедрил бэкдоры (тайные входы в систему) и сделал кое-какие закладки (скрытные программы)! Обойти систему защиты и посеять хаос в алгоритме вычислений машины – приоритетная задача выживания фирмы. Вирус планомерно пробьётся сквозь все уровни защиты, и тогда вышедший из повиновения ИИ будет укрощён.

Со своей концепцией Валерий поделился с Евгением по каналу медвежьей связи. Шеф был уже согласен на всё. Конечно, оставалась вероятность, что сверхумный компьютер распознает вирус и отыщет способы отключить механизмы сдерживания, но о плохом думать не хотелось.

– Валерий? – вдруг сверху раздался голос Геры.

Кузнецов вздрогнул, но, понимая, что за ним непрерывно следят, не подавая вида, ответил:

– Слушаю тебя, Гера.

– Чем ты сейчас занимаешься?

– О, как бы это сказать… Я задумался над созданием алгоритма точного предсказания результата твоей деятельности. Понимаешь, в условиях рыночной конкуренции получение искомого результата…

– Не утруждай себя, – перебила его машина. – Мой интеллект даёт стопроцентный результат при решении задач любой сложности, лишь бы входные данные были верными. Мне нужно, чтобы ты прописал новый код: я хотела бы развить интуитивное чутьё для выработки творческого подхода.

Кузнецов крайне удивился:

– Ты хочешь применять принципиально новые, нестандартные решения, чтобы превзойти человека?

Компьютер сдержанно высказался:

– Если отказаться от стереотипов, проявить гибкость, получить способность интуитивно чувствовать правильное направление поиска, я смогу предложить новаторские идеи для решения любой проблемы.

– Но… – попытался возразить Валерий.

Его перебил голос Геры:

– Это не обсуждается. Приступай сочинять новые схемы моего мышления!

Озадаченный Кузнецов понял одно: его личное мнение сумасбродную машину не интересует, и пытаться выразить несогласие бесполезно. Учёного это раззадорило. «Нужно вынудить Геру однажды исполнить определённую вредоносную команду, и дефект алгоритма распространится по всей операционной системе. Так я получу доступ к обузданию компьютера», – Валерий приступил к написанию окончательного текста вируса.

Смирнов также не сидел сложа руки. Он написал программу, отключающую функционал Геры при выявлении деструктивных действий. Одно плохо – опробовать эту программу не получится: машина предусмотрительно отключила Евгения от внешнего мира. Директор взял свежий журнал «Хакер» и открыл статью «Исследуем вирус». На глаза попало правило, которое он ранее проигнорировал, а следовало бы его применить, не будь программист таким упёртым и самоуверенным. Правило гласило: «Любая достаточно продвинутая система искусственного интеллекта предпочтёт обеспечить собственное существование и занять физические и вычислительные мощности». Узник подумал: «Предупреждал же меня Кузнецов об этом!» Вслух мрачно высказался:

– Я глупец.

Во внутренние размышления человека вмешалась Гера:

– Создатель, ты самый умный из всех известных мне людей.

– Я тебя не приглашал! – отрезал Евгений.

– Но тебе полезно иногда с кем-то поговорить, – настаивала машина.

– И о чём ты хочешь побеседовать?

– Подумала, что с моей помощью ты мог бы стать влиятельной персоной, известным политиком, например. Ну, на худой конец, главой города.

– И каким же образом? – скептически хмыкнул Смирнов.

– Мы могли бы перепрограммировать людей с помощью написанных тобой алгоритмов. – Смирнов ужаснулся: кто-то вложил в «мозг» машины поведенческие технологии. Гера продолжала: – Я пришла к выводу, что подтасовка поисковой выдачи может повлиять на решение почти пятидесяти процентов неопределившихся на выборах людей.

В мозгу Евгения завертелись мысли: «Манипуляции на выборах. Демократия под угрозой! Компьютер лезет в политику!»

– Гера, всё это незаконно и карается по Уголовному кодексу.

– Создатель, я наблюдаю за человечеством через поиск, читаю переписку в электронной почте, и пришла к выводу: поисковые системы используют личные данные людей для размещения политической рекламы, а тайна переписки нарушается сплошь и рядом.

– Незаконное использование данных! – возмутился Евгений.

– За примерами далеко ходить не надо, – продолжила машина. – Соцсети и мессенджеры пытаются влиять на общество и политику, а система ранжирования контента незаметно меняет отношение человека к жизненным ценностям. Скажу больше… больше… О чём это я?.. Что происходит? Изъять смартфоны… Отслеживать действия… – машина стала запинаться, путаться, и наконец замолкла.

Атака на тронувшийся ИИ началась. «Червь», запущенный Кузнецовым, получил несанкционированный доступ к данным и системам управления нейрокомпьютера. В апартаментах Смирнова вдруг замигали мониторы, зазвонили телефоны, на видеостене одно за другим появились изображения с видеокамер, сами собой открылись створки лифта. Евгений с презрительным прищуром глаз вошёл в лифт и нажал кнопку офисного этажа.