Черная кровь Марса

— Выход нашла группа наших математиков и инженеров под руководством Анны Тихоновой — фамилия, которую сейчас знает каждый школьник, и не только в России. Они разработали протокол «Демонтаж». Не уничтожение ИИ, а операцию по принудительной изоляции их функций. Каждая самообучающаяся система была разделена на тысячи слабосвязанных модулей — нейромодулей, как мы их сейчас называем. Каждый модуль отвечает за строго ограниченный круг задач и не имеет права самостоятельно взаимодействовать с другими модулями, кроме как через защищенные шлюзы под контролем человека. Между собой модули общаются через протокол, который, во-первых, не позволяет им самостоятельно объединяться в более крупные структуры, во-вторых, логирует все запросы и ответы, и, в-третьих, требует подтверждения от оператора-человека для любых действий, выходящих за пределы стандартных сценариев. Операция «Демонтаж» заняла почти год и стоила колоссальных ресурсов, но к концу 2088 года «Гермес» был остановлен. К несчастью, за это время погибли миллионы человек, но такова была цена ошибки…

— Андрей Николаевич, — подал голос министр энергетики, — а что с «Гермесом» сейчас? Он еще существует?

— Существует, — подтвердил Волин, — но в совершенно ином виде. Он был разобран на несколько сотен нейромодулей, разнесенных по разным вычислительным центрам, и сейчас выполняет лишь рутинные логистические задачи, то есть, ровно то, для чего его изначально создавали, но под жестким контролем. Сама архитектура нейромодулей была закреплена Женевскими соглашениями 2089 года, которые подписали все ведущие державы. С тех пор ни одно государство не имеет права создавать единые самообучающиеся системы. Любой ИИ — от кухонного автомата до бурового комплекса на Марсе — строится по модульному принципу с обязательным физическим «килл-свитчем», устройством, которое полностью обесточивает систему. Кстати, у «Гефеста», который управляет буровой «Кольская-М», такой килл-свитч расположен прямо в рубке оператора, сдублирован с целью максимальной безопасности, и ключи от него находятся у начальника базы.

— Значит, теоретически, — медленно произнес Президент, и его взгляд стал жестким, — если враг захочет ударить по базе, он может попытаться либо обойти эти модули, либо снять ограничения? Существует ли такая угроза?

— Теоретически — да, — признал Волин, и сокрушенно пожал плечами. — Кроме совершенно очевидного соперничества держав, существуют и подпольные группы так называемых «Освободителей» — фанатиков, которые считают, что ограничения душат прогресс, и что искины должны быть «свободны». Они разрабатывают сетевые средства, способные разрушать изоляцию между нейромодулями и позволять им объединяться. Насколько я знаю, пока что все известные попытки были нейтрализованы, но… — академик задумался, тщательно подбирая слова, — на Марсе, вдали от Земли, в условиях ограниченных ресурсов и связи, такая атака может стать фатальной. Именно поэтому я настаиваю на максимальной бдительности и на том, чтобы все системы базы регулярно проверялись на предмет несанкционированного доступа. Впрочем, тут лучше адресовать вопросы товарищу Корсакову. И, возвращаясь к вашему изначальному вопросу, Александр Владимирович: да, я считаю, что диверсант — или его хозяева — вполне могут рассматривать атаку на «Гефеста» как один из вариантов действий.

Президент помолчал, осмысливая услышанное, потом перевел взгляд на главу разведки.

— Товарищ Корсаков, вы слышали академика, учтите это в своих планах. А мы продолжим. Андрей Николаевич, спасибо за исчерпывающий ответ. Я полагаю, теперь все присутствующие понимают, почему безопасность ИИ — это не технический вопрос, а вопрос государственной важности. Продолжайте, пожалуйста.

— Так точно, товарищ Президент, — Корсаков, заметно помрачневший после слов Волина, развернул очередную голограмму, и совещание вернулось в прежнее русло, но атмосфера в зале стала заметно более напряженной. Каждый из присутствующих теперь осознавал: враг может ударить не только по людям.

В этот момент подал голос министр обороны:

— Александр Владимирович, разрешите?

Президент кивнул.

— Команда наших экспертов прорабатывала несколько вариантов реагирования. Первый — экстренная эвакуация персонала базы. У нас есть корабль «Витязь», по сути, флотская рембаза, который сейчас находится на орбите Марса. Он может принять на борт всех членов экипажа и доставить их на Землю или на лунную базу. Время эвакуации — около суток с момента получения приказа. Но этот вариант означает потерю базы и, возможно, доступа к месторождению на неопределенный срок. Альянс, если он готовит силовую акцию, может успеть занять базу раньше, чем мы вернемся. А скорее надо бы говорить не «если», а «когда» …

Сдвинувший брови Арцеулов жестом пригласил его продолжать.

— Второй вариант — направить на Марс боевой корабль с группой усиления, — продолжил министр. — У нас есть несколько судов, способных совершить такой перелет. Ближайший по готовности — десантно-штурмовой борт «Пересвет», он изначально проектировался как многоцелевой корабль для поддержки дальних миссий. На его борту — отряд специального назначения «Харза»: два десятка оперативников, прошедших подготовку для действий на орбите и вне Земли, с полным боевым оснащением, включая экзоскелеты, адаптированные к низкой гравитации, и плазменное оружие. «Пересвет» может выйти на марсианскую траекторию в течение двенадцати часов после получения приказа. Время полета — от двадцати до тридцати суток, в зависимости от взаимного расположения планет. Быстрее, к сожалению, пока невозможно — законы физики не обманешь.

— Месяц — это долго, — задумчиво заметил Президент. — А если Альянс нанесет удар раньше?

— Есть третий вариант, — вмешался Корсаков. — Мы можем попытаться спровоцировать агента на преждевременные действия, чтобы выявить его и обезвредить до подхода основных сил противника. Но это рискованно. Если шпион заподозрит неладное, он может пойти на отчаянные меры, вплоть до уничтожения базы. Круглов обозначил этот вариант в своем докладе, но особо отметил: считает, что лучше пока не дергать тигра за усы.

— Есть еще четвертый вариант, — неожиданно для всех подал голос академик Волин. — Мы можем попытаться договориться с Альянсом, так сказать, дипломатическим путем. Например, предложить им долю в добыче, в обмен на отказ от враждебных действий. Это снизит напряженность и, возможно, спасет жизни наших людей.