Сообщество разума

2.6. Считать ли людей машинами?

Многие люди чувствуют себя уязвленными, когда человеческий разум сравнивают с компьютерными программами или машинами. Мы видели, как простой навык строительства башни из кубиков можно разложить на малые процессы. Но разве что-либо наподобие истинного разума возможно свести к подобным «малостям»?

«Смешно, – скажет большинство людей. – Уж я-то не ощущаю себя машиной!»

Но если вы не машина, откуда вам знать и как судить о том, что значит чувствовать себя машиной? Мне могут ответить: «Я мыслю, следовательно, я знаю, как работает разум». Но это подозрительно похоже на фразу: «Я вожу автомобиль, поэтому я знаю, как работает его двигатель». Знать, как чем-то пользоваться, вовсе не то же самое, что знать, как это что-то работает.

«Но всем известно, что машины могут вести себя только безжизненными, механическими способами».

Это возражение выглядит более обоснованным. В самом деле, человек вправе обижаться на сравнение с любой тривиальной машиной. Однако мне кажется, что само слово «машина» постепенно устаревает. На протяжении многих столетий слово «механический» побуждало воображать различные простые устройства вроде шкивов, рычагов, лебедок и печатных машинок. (Слово «компьютероподобный» унаследовало этот уничижительный оттенок и подразумевает выполнение скучных арифметических действий шаг за шагом.) Но мы должны признать, что находимся сейчас на заре эпохи машин и практически не имеем понятия о том, какой она будет. Допустим, некий гость с Марса прилетел миллиарды лет назад и стал делать выводы об участи населения планеты, наблюдая за скоплениями клеток, которые еще даже не научились ползать. Точно так же мы не в состоянии оценить будущие возможности машин по тому, что происходит с ними в наши дни.

Наши первые «прозрения» относительно компьютеров восходят к опытам с машинами 1940-х годов, которые состояли всего-навсего из тысяч частей. Но человеческий мозг содержит миллиарды клеток, каждая из которых сложна сама по себе и связана со многими тысячами других. Современные компьютеры представляют собой промежуточную ступень сложности; они располагают миллионами частей, и уже создаются машины с миллиардами частей для исследований в области искусственного интеллекта. Но все же, несмотря на неоспоримое развитие отрасли, мы продолжаем употреблять старые слова, как если бы не случилось вообще никаких изменений. Необходимо поменять наше отношение, приспособиться к явлению, масштаб которого превосходит всякий предыдущий опыт. Термина «машина» явно недостаточно.

Впрочем, хватит рассуждений о словах. Давайте оставим эти доводы в сторонке и вместо того попытаемся понять, какие функции выполняют тайные, неведомые механизмы нашего разума. Тогда у нас появится больше поводов гордиться тем, какими великолепными машинами мы являемся.

Глава 3

Конфликт и компромисс

3.1 Конфликт

Большинству детей нравится не только строить, но и ломать. Потому давайте вообразим себе другого агента, которого назовем Крушителем; его «специальность» сводится именно к разрушению. Наш ребенок любит слушать загадочные шумы и наблюдать, как составные предметы разлетаются на части.

Рис. 6

Предположим, Крушитель готов приступить к действиям, но поблизости ломать нечего. Тогда Крушителю понадобится чья-то помощь – например, он заставит трудиться Строителя. Но что, если спустя некоторое время, Крушитель посчитает башню из кубиков достаточно высокой для разрушения, тогда как Строитель будет хотеть сделать ее еще выше? Кто разрешит этот спор?

Простейшим решением будет оставить выбор за Крушителем, который и привлек Строителя к возведению башни. Но более реалистичное представление о сознании ребенка подсказывает, что выбор будет зависеть от многих других факторов. К примеру, допустим, что Крушитель и Строитель оба приведены в действие агентом высшего уровня «Игрок в кубики». Если Строитель и Крушитель расходятся во мнениях относительно высоты башни, налицо конфликт интересов.

Рис. 7

Чем руководствуется Игрок в кубики? Возможно, он подчиняется агенту более высокого уровня, которого назовем «Игроком». Среди операций Игрока приоритет получает игра с кубиками, в ущерб игре с куклами и игре с животными. Но даже сам Игрок, которому доступны три перечисленные операции, вынужден конкурировать с двумя другими агентами высокого уровня, чья деятельность описывается соответственно характеристиками «Есть» и «Спать». Ведь детские игры не являются изолированным, самостоятельным процессом, они всегда протекают в контексте повседневных, житейских занятий. Что бы мы ни решили делать, всегда есть занятия, которые тоже нас привлекают.

В нескольких разделах настоящей книги я буду допускать, что конфликты между агентами имеют тенденцию подниматься на более высокие уровни. Например, любой длительный конфликт между Строителем и Крушителем будет означать ослабление их вышестоящего агента Игрок в кубики. В свою очередь это уменьшит шансы Игрока в кубики победить в соперничестве Игрока в куклы и Игрока с животными. Далее, если указанный конфликт не разрешится быстро, это приведет к ослаблению высокоуровневого агента «Игрок». Тогда вместо игры ребенок выберет сон или еду.

3.2. Без компромиссов

Чтобы улаживать споры и противоречия, государства создают правовые системы, корпорации разрабатывают внутреннюю политику, а индивиды могут спорить, драться, достигать компромиссов – или обращаться за помощью к посредникам извне для разрешения конфликтных ситуаций. Но что происходит, когда конфликт возникает внутри разума?

Всякий раз, когда нескольким агентам приходится соперничать за одни и те же ресурсы, конфликт почти неизбежен. Если не уделять этим агентам внимания, конфликт может затянуться до бесконечности, что парализует агентов и не позволит никому из них добиться своей цели. Что будет дальше? Мы предполагаем, что «супервизоры» этих агентов тоже испытывают конкурентное давление и, по всей видимости, утрачивают позиции, когда их «подчиненные» не достигают поставленных целей – не важно, вследствие внутреннего конфликта или вследствие собственной слабости.

Принцип бескомпромиссности: Чем дольше внутренний конфликт между «подчиненными» того или иного агента, тем слабее положение этого агента в сравнении с его непосредственными конкурентами. Если внутренние конфликты не удается уладить быстро, другие агенты оттеснят тех, которые руководили нашими действиями ранее.

Пока игра с кубиками идет гладко, Игрок владеет ситуацией и сохраняет контроль. Между тем ребенок может начать ощущать голод или позывы ко сну, поскольку агенты «Есть» и «Спать» преследуют свои интересы. Пока желания есть или спать уступают желанию играть, Игрок первенствует в соперничестве с другими агентами. Однако любой конфликт внутри Игрока ослабит его положение и позволит еде или сну перехватить инициативу у игры. Конечно, еда или сон в итоге победят, ибо чем дольше они ждут, тем сильнее становятся.

Это несложно прочувствовать на собственном опыте. Все мы знаем, как легко справляться с малыми отвлечениями, когда дела идут хорошо. Но едва в работе возникают какие-либо затруднения, мы становимся все более нетерпеливыми и раздражительными. В конце концов оказывается настолько тяжело сосредоточиться, что малейшая помеха способна полностью отвлечь нас от текущих дел. При этом, когда любой из наших агентов лишается возможности контролировать деятельность других систем, это не означает, что он прекращает свою внутреннюю деятельность. Агент, утративший контроль, может поддерживать работу внутри себя – и таким образом готовиться к новому шансу победить в соперничестве. С другой стороны, обычно мы остаемся в неведении относительно этой «подспудной» активности в нашем сознании.