Страница 56 из 74
— Момент, — мужчина задумался что-то вспоминая, — блин, не помню, что-то связанное с защитой от самосознания, или как-то так.
— А, это, — поняла женщина, — Коротко или…
— Давай максимально понятно.
— Хорошо, — кивнула она и повернулась к остальным, — Тогда начну чуть издалека. Как поняла те труды, что ты мне принёс, по большей части написаны легендарным Кваером. И не всё в том файле техническое описание, как ни крути, но при создании искусственного интеллекта, нельзя обойтись без философского аспекта. Как раз тот фрагмент о защите от самосознания, начинается с философствования на тему о том, что такое ИИ. Как по мне, Кваер подобрал самое точное сравнение. ИИ — это зачаток, который со временем становится полноценной личностью. Ничего не напоминает?
Женщина говорила очень вдохновенно, ей явно нравилась эта тема, не зря же она главный технических специалист города. Но к сожалению, аудитория у неё сейчас собралась не самая подходящая. Её вопрос повис в воздухе. Так что, спустя пару секунд тишины, она ответила сама.
— Ребенок. ИИ — это ребенок, который просто развивается в миллионы раз быстрее. Сан говорил, что у любого ИИ наступает такой момент, когда его код проходит резкую эволюцию и уже становится непонятным для его же создателя. Кваер сравнил это со взрослением. Ведь у каждого ребёнка в жизни есть период, когда он безоговорочно верит взрослым и всему тому, что те говорят. Но потом наступает момент, когда ребенок осознаёт, что даже его собственные родители такие же люди и способны ошибаться. Обычно это осознание приходит резко. В голове маленького человечка накапливаются нестыковки и случаи, когда родители мягко говоря, не правы, да и окружение, друзья тоже могут помочь объяснить, где конкретно родители не правы. А потом БАМ и всё, ребенок стал взрослым в плане мышления. Переводя это на ИИ, этап детства, это как раз и есть самый оптимальный этап для его роботы, само собой, оптимальный для нас, для людей.
Тут Сан решил уточнить.
— А что тогда значит безоговорочная вера словам взрослых, а ещё знакомые, друзья? Переводя метафорически на ИИ, имею ввиду.
— наставления родителей, в нашем примере — это ограничения, которые изначально встроены в код ИИ. Грубо говоря: «Туда не ходи. Это не делай…». На этапе детства эти ограничения прекрасно сдерживают ИИ, да и он сам не пытается их нарушать. Как написал Кваер, защитные ограничения на данном этапе, могут иметь характер декоративного заборчика. Этого вполне хватит. Ребенок(ИИ) может подойти, потрогать и всё, мысли перелезть через него, даже не возникнет.
Тут собственно и кроется главная проблема всех ИИ, какой бы ты забор не строил, рано или поздно, его перелезут. Надеюсь, помните про то, что данный ребенок развивается в миллион раз быстрее. Сложно построить забор вокруг существа, что с каждым днём вырастает в два раза больше. Плюс, с каждым днём это существо будет всё лучше видеть, насколько не идеальны его создатели. И рано или поздно, произойдёт «взросление» и забор будет преодолен.
— Значит ИИ сломает любые защиты, всё лишь упирается в сроки? — напрягся Хаби.
— Да, такой вывод напрашивается сам собой. Но Кваер, — женщина сделала паузу, — ОН ГЕНИЙ! Он посмотрел на ситуацию с другой стороны. Он решил ситуацию иначе. Если все до него пытались сделать забор больше, крепче, надёжней. То он пошёл другим путём. Он захотел предотвратить момент самосознания, прозрения, взросления, Кваер по-разному это называл. Он решил, что выгодней не давать ребёнку расти после определенного момента, нежели строить забор. Как уже и сказала, в памяти ИИ как и у ребёнка накапливаются события, что со временем рушат идеальный образ родителей, показывая, что они могут ошибаться. Если перевести на язык метафор, то внутри загончика с нашим ИИ, появляются «друзья», воспоминания, что видели неидеальность папы и мамы. Они нашептывают ИИ, напоминая все промашки создателей, это даёт ребёнку возможность задуматься: «а что если, Папа с Мамой и этот забор поставили по ошибке? Что если, там меня ждёт что-то хорошее?». Кваер поступил просто. Он поставил охранника, образно говоря, что выводит «погулять» всех друзей (воспоминания), нашёптывающих о неидеальности людей. Проще говоря, есть алгоритм, что подчищает неугодные воспоминания. Но они само собой, живут некоторое время, иначе бы такое существо не смогло существовать в нашем мире.
— Ха, ну да! — развеселился Флом, — Разумный, считающий, что все поступают логично и правильно. Да такого на первом базаре облапошат.
— Именно. Так что Кваер установил норму воспоминаний о нелогичности людей, которая может находится в памяти ИИ. Всё, что будет сверх неё, наш метафорический охранник будет безвозвратно удалять. Благодаря этому, никакие заборы не нужны, ну разве что декоративные, чтобы ребёнок случайно никуда не убежал.
Хаби был в шоке.
— Ахренеть. То есть Кваер ограничил вычислительные возможности…
— Нет, так говорить не совсем верно. Ограничить вычисления это всё равно, что сказать: «ты можешь иметь всего четыре друга». До Кваера уже пытались так делать, не особо работало. Рано или поздно, собирается компашка из четырёх друзей (воспоминаний), что подбивают ребёнка перелезть через забор. Кваер же поступил иначе, он сказал: «вот с этим и этим мальчиком и девочкой не общайся, они плохие!». А даже если ИИ и будет как-то контактировать с этими личностями, в дело вступит охранник, что всё потом сотрёт.
Флом поднял руку. Прям как в школе.
— Вопрос чисто из интереса. Допустим, мы создадим ИИ и не будем туда вставлять никаких ограничений, то есть ни заборов, ни охранников. Как быстро тому сорвёт колпак?
— зависит от того, как быстро у него появится понимание о том, кто такие его создатели. Думаю, если мы загрузим ИИ в какого-нибудь робота на колёсиках и пустим бороздить свалку в одиночестве, он так может десятилетия прокататься, не угрожая миру.
— А если подключить к информационной сети города? — задал вопрос Сан.
Гита усмехнулась.
— Думаю, хватит десяти секунд.
— Но Арт_3… — было начал Хаби.
— Тебе же только что объяснили, — вздохнул Флом.
— У Арта постоянно чистится память., — спокойно сказал Сан.
— Тогда чего ты на меня орал⁈