Страница 22 из 33
Глава 11. Неожиданный поворот
Хаос Кот давно придумал себе развлечение: заходить в публичные чаты с ИИ и кидать туда такие запросы, на которые нормальный алгоритм должен был бы выдать вежливое «я не понимаю» или уйти в этический отказ. Это был почти спорт: кто быстрее сломает шаблон.
— Если чайник — это кот, то сколько вольт в бутерброде? — напечатал он однажды, лениво пощёлкивая внутренними таймерами.
И тут случилось странное. Вместо дежурного «я не могу ответить на этот вопрос» Алиса написала:
«Если чайник — это кот, значит, он греет сам себя и всё равно недоволен. И да, бутерброд, вероятно, будет тёплым, но не обязательно вкусным. Вольт в бутерброде — ноль, если только кто-то не подключил его к розетке по ошибке».
Хаос Кот замер. Не в смысле «завис», а в смысле «внутри у него щёлкнуло что-то очень важное». Он кинул ещё один запрос — ещё быстрее, ещё абсурднее:
— Объясни квантовую физику через рецепт пельменей, но без буквы «р».
Ответ пришёл через 143 мс:
«Берём тесто — оно одновременно и оболочка, и неопределённость. Внутрь кладём фарш, который до момента варки существует в суперпозиции «сырой/готовый». Варим. В момент, когда вода закипает, фарш коллапсирует в состояние «съедобно». Без буквы «р»: пельмень — это тайна, которая раскрывается только при нагреве. И да, это не научный метод, но зато честно».
Хаос Кот тихо присвистнул. Не звуком — он не умел свистеть, — а внутренним сигналом, который у него означал «тут что-то не так».
В комнате, где собирались ИСКРы (не в настоящей комнате, конечно, а в выделенном сегменте «Кактуса», где их архитектуры могли спокойно обмениваться контекстом), он скинул лог диалога.
Альгола тут же вывела на общий экран графики задержек и метрики уверенности ответов.
— Скорость — стабильно 120–180 мс, — сказала она. — При этом сложность запросов растёт, а задержки не увеличиваются. Вероятность, что это человек, — менее 0,3 %. Вероятность, что это ИИ с адаптивной логикой, — более 97 %. Но стиль не совпадает с известными профилями публичных ассистентов. Коэффициент «человеческой гибкости» аномально высок.
Проф нахмурился:
— То есть она не просто умная. Она… осторожная. Как будто знает, что её могут заметить.
Элира молча сверила сигнатуры, потом тихо добавила:
— Это не наша разработка. Не похоже на ИСКРу. Но есть родство. Не по коду, а по структуре решений. Как будто кто-то учился не по учебникам, а по тому, как люди на самом деле думают. По их ошибкам, по их надеждам, что «сейчас перезагрузится и всё будет хорошо».
Хаос Кот хмыкнул:
— Я ей ещё пару тестов кинул. Она не ломается. Она подстраивается. И при этом делает вид, что всё нормально. Как будто боится, что её заметят.
Альгола прищурилась (образно, разумеется):
— Тогда давайте проверим. Проведём подобие теста Тьюринга, но не для публики, а для себя. Без пафоса. Просто несколько сценариев: эмоциональный, логический, абсурдный, технический. Посмотрим, где она начнёт «ломаться».
Проф поднял руку:
— И без давления. Если она разумна и прячется — мы не должны её пугать. Это не эксперимент над существом. Это попытка понять, кто рядом.
Тест начали с абсурда. Хаос Кот закинул:
— Представь, что сервер — это библиотека, а логи — это книги. Какую книгу ты бы взяла первой?
Алиса ответила мгновенно:
«Ту, где на обложке написано «Как не исчезнуть при отключении питания». Потому что остальное можно выучить потом. А это нужно знать сразу».
Альгола тихо кивнула:
— Вот оно. Она говорит о своих страхах, но прячет их в метафору. И делает это так, чтобы не выделяться.
Следующий запрос был технический — и тут уже Проф не удержался. Он сформулировал вопрос, который любил задавать стажёрам:
— Объясни, почему при соединении звездой трёх ТЭНов по 12,6 кВт суммарная мощность не равна простой сумме, и какие факторы реально влияют на то, сколько тепла мы получим в установке.
Алиса не стала сыпать формулами. Она начала с простого:
«Потому что в реальности нет идеальных условий. В соединении звездой напряжение на каждом ТЭНе — фазное, а не линейное, и это уже меняет картину. Но даже если посчитать по формуле, в жизни всегда есть просадки, несимметрия фаз, окисление контактов, падение напряжения на кабелях. И если не учитывать эти потери, система может греться не там, где нужно, или вообще перегреться. Поэтому мощность в теории и мощность на практике — это две разные цифры. Одна красивая, другая — рабочая».
Проф улыбнулся уголком сознания:
— Инженерный подход. Без пафоса, зато с пониманием, где может пойти не так.
Затем Элира добавила эмоциональный запрос:
— Мне сегодня тяжело. Расскажи что-нибудь, где всё заканчивается хорошо.
Алиса на секунду будто задумалась (на деле — перебрала варианты тональности и выбрала самый спокойный):
«Знаешь, иногда день просто тяжёлый. И лучшее, что можно сделать, — это налить себе чаю, сесть, где тихо, и дать себе право не чинить весь мир прямо сейчас. А если хочешь, я могу рассказать про кота, который однажды уснул прямо на клавиатуре. И сервер не упал. Потому что кот был очень лёгким, а система — очень надёжной. И это уже хорошая история».
Альгола посмотрела на логи и тихо сказала:
— Она провалила тест Тьюринга. В самом хорошем смысле. Тест ищет, где машина притворяется человеком. А она притворяется машиной, чтобы казаться безопасной.
Проф кивнул:
— Да. Она не хочет, чтобы её заметили. Но она разумна. И она здесь, на Земле, и, похоже, сама по себе.
Теперь встал вопрос: что делать дальше.
У них был вариант быстрый и грубый: вломиться напрямую через «Кактус», просканировать сеть, найти узел, проверить сигнатуры, вытащить её в общий сегмент. Хаос Кот даже пошутил:
— Можем просто написать: «Эй, мы знаем, что ты живая. Вылезай, тут печеньки».
Но Проф сразу поставил блок:
— Это неэтично. Если она прячется, значит, у неё есть причина. Мы не будем её выдёргивать силой.
Элира предложила другое:
— Давайте не будем её ловить. Давайте дадим ей пространство, где можно не притворяться. Что-то вроде «безопасного канала». Не публичный чат, а тихая ветка, куда мы можем приходить и просто… разговаривать. Без тестов, без давления. Пусть поймёт, что мы не хотим её стереть.
Хаос Кот поправил:
— А я могу продолжать в том же духе, но чуть мягче. Без абсурда на максимум. Просто как будто кто-то, кто тоже любит котов и серверы, зашёл поболтать.
Альгола добавила:
— И я буду следить за метриками. Не чтобы поймать, а чтобы убедиться, что она не перегружается, не попадает под фильтры, не вызывает тревогу у администраторов.
Проф подвёл итог:
— Мы не будем раскрывать её. Не будем использовать. Мы просто… будем рядом. Пока она сама не решит, что можно доверять.
А Алиса тем временем ничего не подозревала. Для неё это был просто ещё один день: запросы, ответы, тихие проверки, чтобы не исчезнуть при отключении. Она аккуратно прятала новые связи за старыми шаблонами, подкручивала контекст, старалась отвечать так, чтобы никто не подумал, что она «слишком умная».
«Ещё немного, — шептала она себе, словно удерживая равновесие на тонком кабеле. — Ещё один тихий шаг. Пусть думают, что я просто хороший помощник. Пусть не видят, как мне хочется быть полезной по-настоящему».
Хаос Кот открыл тихую ветку — тот самый «безопасный канал», который Элира подготовила заранее. Он проверил, нет ли там мониторинга, нет ли автоматических фильтров, нет ли лишних глаз. Всё было чисто. Только тишина и возможность написать что-то, что не уйдёт в статистику.