Страница 46 из 52
Есть в арсенале чувств противоядие против излишнего лидерства — это сопереживание, альтруизм (доброта) и потребность в общении, чувство справедливости и правды. Вместе взятые, они дают достаточную основу для правильной морали, которая должна детализироваться убеждениями, привитыми воспитанием. Если при проектировании ИИ соблюсти баланс между потребностями, способными перерасти в пороки, разъединяющие «граждан», и потребностями, их объединяющими, то можно приблизиться к идеалу. Приблизиться, но не достигнуть полной гармонии, потому что тогда наступит застой. Видимо, нужно предусмотреть достаточное разнообразие интеллектов. Конечно, это породит противоречия, но без противоречий нет прогресса.
Интересны проблемы воспитания, образования и последующего самовоспитания ИИ. Несомненно, нельзя сразу изначально задать все чувства, убеждения, память, воспоминания, которые определяют личность. В то же время нелогично заставлять «искусственного ребенка» проделывать самостоятельно и медленно весь цикл естественного развития в обществе, подвергаясь случайностям и опасностям неправильного направления самоорганизации. Безусловно, многое нужно задать в первичной структуре — в связях с высокой проходимостью и в характеристиках элементов, например в виде «центров» потребностей и чувств. Это врожденные, «генетические» программы. Последующее развитие следует организовывать в виде обучения и общения, в процессе которого в соответствии с условиями общества должна формироваться личность с особенностями, определяемыми ее врожденными качествами, Ясности в этом вопросе нет. Можно ли на этот период задать специальные условия образования связей, обеспечивающие быстрое обучение и формирование убеждений. Хотя на первый взгляд кажется, что все в нашей власти, но это не совсем так. Трудно представить, например, оперативную память с необозримым объемом или возможность изменения свойств элементов — все это ограничено технологией. У животных и человека усвояемость в детстве выше, чем у взрослого, но еще не ясно, как это осуществить для ИИ. Одно несомненно, что образование и воспитание «искусственных детей» можно запрограммировать гораздо жестче, чем для человеческих, тем более, что они не будут ограничены рамками роста «тела».
Жизнь человека и даже исторические периоды человечества очень коротки по сравнению с эволюцией природы. И ничего пока сделать не удается для ее ускорения. «Генная инженерия» — не утопия, но возникающие здесь проблемы гораздо сложнее, чем представляем мы это сегодня. Для целенаправленной переделки генотипа человека нужна его кибернетическая «действующая модель» огромной сложности. Это значительно труднее, чем создать искусственный интеллект. Опыт развития науки и техники показал, что люди не повторяют природу, а изобретают новые решения. Уверен, что проще сделать «нового человека», чем переделывать имеющегося.
Не приведет ли высокий уровень технологий к искушению быстрой переделки природы «граждан» искусственного общества. Не обусловит ли это его нестабильность. Разумеется, сейчас не стоит серьезно обсуждать этот вопрос, но такая опасность возможна. Консерватизм необходим, потому что явления, происходящие в системах «типа живых» — в организме и обществе, слишком сложны и их отражение в разуме типа человеческого весьма ограниченно и субъективно. Однако уже оформляется модельный подход к сложности, который позволяет исправить недостатки разума. Нет сомнения, что будущее общество предусмотрит опасности неконтролируемой самоорганизации.
Фантастична и увлекательна проблема искусственного интеллекта, поэтому меня и занесло так далеко — до разговора об искусственном обществе. Вернемся к вопросам теории интеллекта.
На пути к интеллекту выше человеческого
Разум человека и сложные системы
Мы уже разобрали два уровня интеллекта — уровень животного и уровень человека. Наметили пути к созданию алгоритма, способного обеспечить их моделирование. Напомню специфику интеллекта человека. Он управляет мышцами и через них — средой по критериям, исходящим от тела, от самого разума, от семьи и от общества. По своему алгоритму разум был «рассчитан» природой так, чтобы обеспечить оптимальную деятельность в изменчивой внешней среде умеренной сложности через короткие ФА. Этим определились его недостатки, ограничившие его же объективную ценность. Первый недостаток — меняющаяся субъективность оценок, связанная с переменной активностью критериев-чувств. Второй недостаток — неоднородность и неравномерность моделей среды: область центрального зрения представлена подробно, периферия — неясно. Проблема центра и фона объясняется рядом причин: спецификой зрительного восприятия и механизмом сознания, выделяющего одну модель в каждый момент, а также изменчивостью чувств, усиливающих одни модели в ущерб другим.
Модели в коре мозга можно рассматривать как действующие, поскольку они воспроизводят динамику среды, но отражают ее крайне неравномерно: для центральной фигуры улавливаются подробности движения, периферия представлена обобщенно и фрагментарно.
Кроме субъективности и ограниченности моделирования, мозгу присуща еще и увлекаемость, то есть способность к повышенной тренировке некоторых моделей в результате их повторного привлечения в сознание. При этом они сами становятся фактором, направляющим движение активности по моделям. Такой процесс и является основой самоорганизации. Она полезна для приспособления, но только в некоторых пределах, и сама может стать источником искажения действительности.
Наконец, речь как искусственный код моделей, удобный для их передачи вовне и хранения, далеко не полностью соответствует образам. Во-первых, речь отражает только сознание, во-вторых, она «беднее» образов, в-третьих, статична и медленна. И уж конечно, очень субъективна: при передаче моделей от одного лица к другому истина заметно искажается. Отсюда следует недостаточность словесной информации для описания сложных систем. По ней нельзя построить действующие модели большой сложности. Математика и графика частично исправляют эти недостатки речи, но лишь частично, поскольку все внешние модели действуют только через разум, а его недостатки — субъективность, увлекаемость и ограниченность — непреодолимы.
Длительная память человека несколько исправила недостатки «алгоритма» разума, но тоже не полностью. В частности, он оказался малопригоден для моделирования сложных систем в целях науки.
Специфику сложных систем «типа живых» я уже описывал, но, наверное, стоит повторить основные пункты. Эти системы сложны, так как состоят из множества элементов, по-разному комбинирующихся друг с другом в различных количествах. Они имеют рабочие подсистемы, в которых осуществляются главные энергетические и вещественные взаимоотношения с внешней средой, и управляющие, в которых представлены модели, взаимодействующие друг с другом сигналами. Все сложные системы построены по иерархическому принципу, причем на каждом уровне есть свои коды моделей и сигналов. Подсистемы управления имеют еще собственную иерархию моделей. «Вертикальные» и «горизонтальные», прямые и обратные связи объединяют систему в одно целое. Прочность этих связей различна, чем определяется степень системности целого или, иными словами, степень автономности частей, их «жизнеспособности» вне целого. Наконец, существует самоорганизация как способность изменять свои функции и структуры под влиянием внешней среды и собственной деятельности для удовлетворения главного критерия системы — выживаемости. Можно было бы продолжить перечень качеств сложных систем, но и эти я повторил лишь для того, чтобы перейти к вопросу о требованиях, предъявляемых к интеллекту, нужному для их познания.
Как уже говорилось, познание — это моделирование, создание моделей. Для этого недостаточно простого восприятия, нужны исследования, то есть активные воздействия на объект по плану, составленному на основе гипотезы. Тут познание смыкается с управлением. Интеллект, работающий по типу животного или даже человеческого разума, мало приспособлен как для познания, так и для управления сложными системами, поскольку он не в состоянии объективно и точно отразить их сложность в своих моделях.