Оазис

– Ну, я бы поспорил, он двигается независимо, он думает, а кукла – это пустышка, ничто без руки и голоса манипулятора. Отдели куклу от чревовещателя, и она будет просто валяться, а Мираж… Мы ушли, а он работает.

– Я понимаю, – продолжил Джеймс, – я просто показываю тебе примитивные аналогии, которые ты сам должен себе привести в качестве примера.

– Да, я тоже понимаю, о чем ты, но все равно не по себе.

– Как я уже говорил, через это прошли все мы. Ладно, оставим эту тему. Кто хочет развеяться?

Гул одобрительных возгласов был для меня неожиданностью.

– У нас традиция: когда мы работаем тут, то еще навещаем туристическую часть и отдыхаем так, словно мы приехали сюда развлекаться, но у кого другие планы – может отправляться на берег.

– С этого и надо было начинать, – ответил я своему куратору, – показывайте мне местные достопримечательности.

За разговорами ни о чем мы, вскоре, переместились до внутрикомплексного аналога трамвая. Небольшие, с открытым верхом вагончики, скользили по монорельсу в разных направлениях.

Комплекс состоял из нескольких частей: Служебная – основная, где, собственно, располагались главные системы контроля и жизнеобеспечения, несколько служебно-вспомогательных, с аналогичными функциями, но поменьше, служа, скорее, запасными вариантами на случай аварии. Исследовательский пункт с парком мини-субмарин, а также гостевая зона: с гостиницей, казино и ресторанами. Наука – дело хорошее, но если объект не приносит прибыли, то инвесторы, как правило, недовольны.

Впрочем, прибыль, насколько я знал из внутренних документов, была делом вторичным, а вот сами инвесторы меня заинтересовали. Что мне было не совсем понятно, так это то, как и для чего они смогли договориться. Официальная версия была – экология, изучение океана, совместное развитие информационных технологий на благо человечества, и многое другое, что активно транслировалось в различные СМИ. Меня же интересовало другое: истинная подоплека исследований.

Сегодняшний диалог с Миражом меня потряс, это была не просто машина. Пока мы тестировали команды, я следил за его реакцией и ответами. Да, можно заставить робота шутить, смеяться, реагировать на механическое или голосовое воздействие. Можно сделать так, чтобы он, реагируя на соответствующие раздражители, имитировал грусть, радость, даже боль, злость или ужас, но Мираж был не таким, он реагировал очень естественно, словно был действительно разумным организмом. Думаю, если бы я пнул стойку с сервером, он бы искренне огорчился и дал бы мне сдачи пожарным шлангом.

Что-то тут было не так, а вот что именно – я очень хотел узнать.

– И все же, – сказал я, садясь в шезлонг у бассейна, – у Миража, как я понял, совершенно другие алгоритмы и итоговые цели, чем у всех остальных аналогов, которые я знаю.

– Что ты имеешь в виду? – Спросил Стив.

– Ну, смотри, у большей части подобных разработок узконаправленные задачи, например – дорабатывать изображение с плохим качеством до максимально возможного. Есть те, кто использует фреймы, похожие на набор человеческой логики, остальное не буду перечислять. В следующих разработках алгоритмы работают параллельно, собственно, как и у Миража, который использует и генетические алгоритмы, и семантические, и многие другие. Полагаю, что его код содержит все известные варианты поиска информации и вывода заключения.

– И что ты хочешь этим сказать?

– А то, что или он самостоятельно эволюционирует в нечто новое, выше, чем можно ожидать, или кто-то добавил в него новый метод анализа, не применяемый ранее.

– Интересное предположение, Ден, – сказал Майкл, – неужели ты за столь короткое время смог сделать такое важное открытие?

– Понимаю твой сарказм, Майк, но отвечу утвердительно.

– Ден, ты понимаешь, что это заявление может привести или к Нобелевской премии, или к психушке, или к внутренней проверке?

– Разумеется, и я могу это доказать.

На меня смотрели, как на инопланетянина.

– Да, могу, нужно некоторое время, разработать пару тестов, и все.

– А, ну конечно, разработать пару тестов на определение чего-то неизведанно-неопределенного, – это для тебя раз плюнуть?

– Майкл, не заводись, – вмешалась Оливия. – Ден, а на чем ты основываешься, делая такие выводы? Я могу понять Майка, мы работаем с Миражом уже давно, сами пишем для него обновления, знаем его вдоль и поперек, а ты заявляешь, что мы пропустили такое важное открытие.

– Ребят, я не хотел никого задеть, просто привык говорить то, что вижу, и если я ошибусь, то готов устроить отдых за мой счет, – разведя руками, ответил я.

– С этого и надо было начинать, – воскликнул Абхишек, – а если докажешь, то мы тебя поведем. Никто не против?

– Можно, – ответил Джеймс, – вот только хотелось бы услышать ответ на вопрос Оливии.

– В общем, моя программа, содержит в себе ряд символов, которые являются тестом внутри теста. Что-то вроде вируса. Нет, нет, – я замахал руками, видя ошеломленные взгляды коллег, – я сказал – что-то вроде. Я не самоубийца – добавлять вирус в такую среду, да еще и открыто об этом говорить. Помните, раньше был тест Тьюринга, который сейчас обходит каждый уважающий себя искусственный интеллект? Так вот, мой тест определяет все варианты эмоций, которые может выдать машина, а затем провоцирует ее на те, которые не были заложены или были упущены. – Видя, что все заинтересовались, я продолжил. – Например: машина может говорить только правду, так как ложь в нее не заложена или заблокирована на административном уровне, но я провоцирую ее на действия, которые заставляют ее солгать. Джеймс, проверь логи своей почты и поймешь, о чем я.

Начальник посмотрел на меня сначала с сомнением, которое на глазах переросло в удивление, а затем – в легкое подобие паники. Он вскочил с шезлонга, покопался в своем рюкзаке и достал ноутбук. Быстрым движением он поставил его на стол и начал что-то на нем набирать.

– Он обманул меня, – прошептал Джеймс.

– Кто тебя обманул? – Спросил Стив.

– Кто-кто, Мираж!

– Это невозможно, – вскочил Майкл, – этот русский мозги нам пудрит.

– Утихни, Майк, ты что-то имеешь против национальности?

– Нет, прошу прощения, но здесь что-то не так.

– Успокойтесь, – я встал рядом с Джеймсом. Если кто кого и обманул, так это я – наш искусственный интеллект. В тестовую версию я забросил маленький скрипт, который заставил его забыть отправить письмо с отчетом, а когда Джеймс его спросил, он понял, что ошибся. Лгать он не мог, и не может до сих пор, надеюсь, поэтому он срочно отправил письмо и замел за собой следы. Поверхностно, так как полное удаление логов или их подделка уже были бы полноценно осмысленной ложью. А отправка в папку «прочитано» и указание на нее показало его лояльность и не опустило его самооценку, не мог же он нам признаться, что забыл…

– Погоди, какую еще самооценку у машины? – Спросил Стив.

– Вот именно, – ответил я.

– У него нет такой функции, как самооценка, чувство собственного достоинства и так далее.

– Ага, я об этом и говорю.

– То есть ты считаешь, – Джеймс не отрывал взгляд от ноутбука, – что он это сделал, чтобы не показаться забывчивым, вместо простого ответа, что по какой-то причине он что-то упустил?

– Именно, но этого мало, этот тест просто показал некоторые функции, выходящие за пределы стандартных алгоритмов, нужно больше данных, еще пара проверок. Правда, это нужно делать очень аккуратно.

– Почему, для чего аккуратность?

– Да просто, если Ден прав, то Мираж может испугаться, запаниковать и натворить чего-нибудь , – ответил за меня Джеймс.

– Верно, поэтому я предлагаю обсудить это за чашечкой чая в офисе.

3

Чего я не ожидал, так это такой реакции коллег, только Джулия и Абхишек были равнодушны к моей новости. Прочие стали явно задумчивее обычного, а Майкл с Оливией, вообще, решили отдохнуть на глубине в компании пары стаканов местного виски, не возвращаясь наверх. Остальные же отправились домой, чтобы наутро вернуться и продолжить работу. Ровно в семь я вновь стоял у причала, но не увидел на нем никого, кроме Джеймса.