Нейросеть

- Посмотри, старший лейтенант, первый год сделал кучу ошибок, потом ни одной ошибки за последние три года! Майор Азизов высокого мнения о нём - исполнителен, находит оптимальные решения, сам вызывается решать новые задачи и быстро с ними справляется. Это совершенно не похоже на зажравшегося бюрократа, ты не находишь?

- У меня нет разумного объяснения этому противоречию, но других вменяемых вариантов не вижу. Ты что-то нашёл?

Человек в кресле улыбнулся, - я не мог успокоиться, пока не нашёл решение.

- Заинтриговал, ну говори уже.

- Вот тебе пример. Ребёнок пока плохо ходит, часто падает, но привык и падать научился. Тут приехала бабушка и бегает за чадом по дому, ловя его каждый раз, когда он теряяет равновесие. Наступает момент, когда бабушка решает, что хватит бегать за дитём и тут он неожиданно падает и сильно ушибается, потому что падать разучился, он теперь надеется на бабушку, которая всегда рядом.

- Я знала такие случаи, но к чему это? Старшего лейтенанта тут никто не выпасал на поводке.

- Второй пример, такое бывает на Земле: неглупая женщина, неплохой специалист, родила детей и полностью зациклилась на семье, вообще забыв о работе и потеряв интерес к внешнему миру. Вопрос: как быстро может отупеть такая женщина.

- Года за три, я знала несколько таких случаев. Я не понимаю, к чему ты клонишь?

Собеседник вздохнул: - Да, примерно за три года... Если вкратце, наш старший лейтенант - талантливый ретранслятор Нейросети. Он перестал думать сам, научившись выбирать самый удачный вариант из тех, что предлагает Сеть. Я могу сказать, когда это произошло - три года назад, когда он понял, что не надо ломать голову, достаточно выбирать удачный вариант, предложенный Нейросетью. Ты спросишь: "А как он выбирает такой вариант из предложенных". Так вот, ещё давно, когда только Глобальная Сеть называлась Интернетом и только появились первые поисковые машины, образовался целый слой людей, которые поняли, что классическую эрудицию можно с успехом заменить быстрым поиском в специальных поисковых машинах. Со стороны они выглядели блестящими эрудитами и образованными людьми. Такой искатель просто человеческий интерфейс к поисковику. Наш клиент - всего лишь интерфейс к Нейросети. Он первый, с которым мы столкнулись, потому что пока не получалось создать надёжные алгоритмы поиска оптимального решения. С Трофимовым обязательно надо поработать, чтобы понять, как он научился вылавливать наилучшие варианты. Не зря у него большие способности к работе с Сетью. Он просто интуитивно научился очень быстро подсматривать ответ в шпаргалке, выдавая его за своё решение.

- Здорово ты разложил, как только догадался? Всегда знала, что ты очень умный, - Надежда вздохнула.

- Да, заслуженно чувствую себя высокоранговым бабуином. Могу достать банан, который не могут добыть другие.

- Понятно, старший лейтенант просто отупел, превратившись в ретранслятор сетевых алгоритмов принятия решений. Но почему он принял такое идиотское решение, похоже просто не приходя в сознание? Было видно, что сам испугался тому, что случилось.

- Среди прочих предложенных Сетью вариантов был тот, который Трофимов счёл оптимальным. Оптимальное решение имеет какой-то набор признаков, по которым наш "ретранслятор" и научился ориентироваться. Здесь эти признаки были введены в заведомо неправильное и высокорисковое для самого оператора решение. Я уверен, что Трофимова "подставили".

- Кто?! Нейросеть действительно взломана?

- Нет. Если бы это действительно удалось, то причинили бы намного больше вреда, а не спалились бы так глупо с нашим старлеем. Кроме того, есть эвристические модули внутренней безопасности.

- Кстати, о модулях: лет десять лет назад ты на Совете Экономики рвал комбинезон на груди, убеждая как необходимы для будущей безопасности Сети эти самые эвристические модули. Они сами должны распознавать и бороться с ещё неизвестными угрозами. Но последние несколько лет, когда тебя спрашивали про их пользу, от тебя было слышно только, что они ещё недостаточно самообучились. Интересно бы знать, есть ли какой-нибудь позитивный результат.

- Результат ты видела пару часов назад.

- Толя, не все успевают за твоими мыслями. Я не понимаю.

- Эвристические модули распознали, что один и тот же человек не использует сетевые подсказки для принятия своего решения, а просто научился выбирать оптимальный вариант. Тогда ему в качестве лучшего варианта и предложили заведомо провальный и он клюнул, даже не включив мозг. Сделано было очень грамотно - от ответа не зависела жизнь людей, вероятность вскрытия неправильных действий была высокой, он устал в конце ночной смены и всё прочее.

- Ты хочешь сказать, что старшего лейтенанта подставила сама Нейросеть?

- Это будет очевидно, когда будет проведён анализ по тем данным, раскрыть которые я прошу в запросе.

- Я разговариваю с тобой и одновременно смотрю на ту информацию, которая доступна мне с моим допуском. Всё как ты говоришь - действительно три года назад он начал полностью полагаться на Сеть в своих решениях. Но почему эти самые модули подействовали именно так, а не подали сообщение, сигнал тревоги или вроде того?

- Я пока не знаю. Сеть стала очень сложной системой, сверхструктурой, объединяющей огромное количество информационных узлов - от людей, до сообществ, роботов и вплоть до датчиков. Нейростеть далеко не только система связи и передачи информации, интегрированная с тем, что раньше называли "система автоматической поддержки принятия решений". Она в значительной мере уже живёт своей жизнью и какие-то действия неожиданны даже для её создателей. Мы развиваемся вместе с ней, узнаём и настраиваем её тоже вместе с ней самой. В общем, наше общество, объединённое Нейросетью постепенно превращается в гигантскую сверхсистему или сверхорганизм, как кому нравится. Надеюсь, бессмертный.

- Я всегда знала, что ты очень умный и доминантный павиан. Мне везло на умных и талантливых мужчин.

- Бабуин, а не павиан, - сделав обиженное лицо, улыбнулся тот, кого она называла Толей, - это талантливые мужчины видят в тебе особенное. Ладно, пока, "буду ждать ответа вашего совета."

- Извини, не хотела обидеть, - рассмеялась Надежда, - мужчина всегда остаётся немного ребёнком и немного обезьяном. Счастливо тебе, "бабуин".

Прощальный Костёр. Двадцать лет назад. Земля, Тихий океан.

На острове горел костёр. В тропиках особой нужды в нём не было, однако, у огня люди чувствовали себя более защищёнными. Больше миллиона лет назад их предки сидели также вокруг костра. Огонь готовил пищу, давал тепло и держал на расстоянии опасных хищников. Так и записалось в генетической памяти, что костёр отпугивает зло.  Их сейчас защищала самая патрульная авиация, боевые дроны, несколько кораблей с ядерным оружием, в нескольких километрах на островке по соседству окапывались морпехи, на фронтир выдвигалась аэростатная база гиперзвуковой авиации, подтягивались подводники. Но с костром казалось безопаснее, как это ни странно.