Страница 10 из 19
Еще одним поводом для беспокойства могут оказаться манипуляции по типу Мэдисон-авеню, и эта возможность кажется вполне обоснованной (как мы увидим в главе 10). Реклама и маркетинг всегда стремились изменить поведение аудитории. Возможность получать эмоциональную обратную связь от потребителей в режиме реального времени изменит эту сферу целиком и полностью.
Конечно же, мы рассмотрим и старый как мир вопрос о том, не принижает ли новая зарождающаяся технология наше достоинство, расчеловечивая нас. Рациональное объяснение состоит в том, что новое устройство или система разобщит нас или изменит наше поведение до такой степени, что мы будем напоминать машины. Так что же произойдет, если мы достигнем своей цели и сделаем машины похожими на нас?
Мы находимся на пороге странной новой эры, когда границы между людьми и технологиями становятся все более зыбкими. Нам станут доступны чудеса, которых мир прежде не видел. Наверняка появятся возможности и задачи, о которых мы не знали прежде. Как ни парадоксально, это прекрасное светлое будущее принесет свою долю страхов и беспокойства, но оно же внесет свой вклад во всеобщее счастье, радость и, возможно, даже любовь.
При всех разрушительных переменах мы, без сомнения, снова и снова зададим себе вопрос: что значит быть человеком, где проходят наши границы, что так сильно отличает нас от остального природного и технологического мира. В конце концов, мы можем прийти к выводу, что это различие не такое важное, как нам когда-то казалось. Мы можем даже обнаружить, что в новую эру эмоционально грамотных машин мы разделим будущее с новой формой сознания, которая является отражением нас самих.
Глава 3
Строя будущее
Город N., США – 1987 год
Эллиот добился в жизни того, о чем многие люди могли только мечтать. В свои тридцать с небольшим лет он работал юристом по корпоративному праву, был умен и в хорошей физической форме. У него были жена, дети, дом, деньги и приличный социальный статус. А потом жизнь Эллиота начала стремительно и внезапно рушиться. Он начал испытывать сильнейшие головные боли, и ему становилось все труднее сосредоточиться. С учетом других изменений в поведении наблюдавшие его врачи заподозрили у него опухоль мозга, и вскоре подозрение оправдалось.
Это была менингиома, обычно доброкачественная опухоль, зарождающаяся в тканях оболочек мозга и стремительно разрастающаяся. На момент постановки диагноза она достигла размеров небольшого апельсина. Она располагалась прямо за глазами, над носовыми полостями и все сильнее давила на лобные доли мозга Эллиота. Несмотря на то что опухоль была доброкачественной, она продолжала расти и грозила неизбежными повреждениями мозга с последующим смертельным исходом. Врачи решили, что хирургическое вмешательство – единственный вариант. В ходе долгой операции они успешно удалили опухоль и некоторое количество поврежденной ткани, что нормально при подобных процедурах.
Физически Эллиот полностью выздоровел. Его высокий интеллект и речь не пострадали. С когнитивной точки зрения он был функционально способен выполнять многие задачи, которые выполнял до операции. Тем не менее вскоре стало очевидно, что Эллиот сильно изменился. На первый взгляд, здравый смысл остался при нем, но Эллиот больше не мог принимать решения, касающиеся личного выбора, и выполнять связанные с ними действия. Как будто все в его жизни стало одинаково важным, из-за чего принять решение было невозможно. Он не мог определить, что нужно сделать – или чего не нужно делать – в какое угодно время. Всё – абсолютно всё – приобрело для него равную ценность, а в результате относительная ценность для него перестала существовать.
Например, если нужно было что-то упорядочить и рассортировать, Эллиот мог выполнить задачу достаточно качественно. На самом деле слишком качественно, поскольку он мог весь день выбирать критерий для сортировки – дата, размер документа, номер дела, важность или какой-то другой. С интеллектуальной точки зрения он мог привести большой список за и против каждого подхода, но не мог выбрать, какой из них лучше. В процессе он мог начать читать какой-то документ и провести за его изучением остаток дня. Он был просто не в состоянии определить степень важности для каждой задачи и на его основе принять верное и своевременное решение. В таком изложении ситуация выглядит очень сложной и формализованной, но на самом деле мы каждый день делаем все то же самое по сотне, если не по тысяче раз.
В течение следующих нескольких месяцев Эллиот потерял работу, жену и дом. Он ввязывался в сомнительные и затратные предприятия, из-за чего остался банкротом. Вся его жизнь полетела под откос.
Однако из разговоров с Эллиотом было ясно, что он ничего не чувствует по поводу своих потерь. Он не испытывал ни грусти, ни гнева, ни досады. Он просто жил. И хотя его знания и интеллект сохранились, опухоль все же отняла у него нечто очень ценное – связь с собственными эмоциями и, более того, способность определять, что важно, а что нет. Всё, что было в его жизни – значительное и несущественное, – приобрело одинаковую ценность, и в конце концов он всё потерял.
Антонио Дамасио, специалист в области нейронаук и писатель, длительное время наблюдавший Эллиота и описавший его случай, объясняет эту потерю связи1. Область мозга Эллиота, которая была сильнее всего повреждена, разорвала сообщение между участками, которые отвечают за обработку чувств и мотивацию. Гипотеза соматического маркера Дамасио предполагает, что главную функцию в этом процессе выполняет вентромедиальная префронтальная кора головного мозга. Эта часть коры содержит обширную сеть сообщения с другими областями мозга, включая переднюю поясную кору и миндалевидную железу.
Многочисленные тесты с участием Эллиота и других людей, у которых была повреждена та же область мозга, показали, что такие люди хронически неспособны переживать свое соматическое состояние или знать о нем. То есть сигналы, которые передавал организм – учащенное сердцебиение, повышенное потоотделение, нервная дрожь, встопорщенные волоски на коже, – не поступали в область мозга, которая отвечает за их классификацию и соединяет физио-эмоциональное осознание с другими когнитивными функциями. По словам Дамасио, эти стимулы объединяются и образуют чистое соматическое состояние, которое смещает когнитивную обработку более высокого уровня и влияет на процесс принятия решений.
Именно те аспекты нашего разума, которые мы по большей части воспринимаем как должное, машине оказалось скопировать труднее всего.
Состояние, от которого страдал Эллиот, известно в психиатрии как алекситимия – неспособность распознавать и описывать собственные эмоции2. Она возникает по целому ряду причин, для нее характерны дисфункции эмоционального осознания и межличностных отношений, а также недостаток эмпатии и неспособность различать эмоции других людей3. Кроме того, как показал случай Эллиота, алекситимия также может привести к ошибочной аргументации при расстановке приоритетов и решении, на что нужно обратить внимание.
Эта проблема встречается не только у людей. Многие недостатки искусственного интеллекта объясняются невозможностью понять, куда направить внимание и на чем сосредоточиться. Как показано в этой главе, отсутствие функций, напоминающих эмоции, может оказаться решающим фактором в подобной ситуации.
С самого начала компьютерной эры ученые и исследователи стремились создать искусственный разум, программы, благодаря которым компьютеры могли бы выполнять некоторые когнитивные функции, как люди. Раньше считалось, что это вполне достижимая цель. Ведь машины показали, что способны выполнять огромное количество вычислительных задач быстрее, чем любой человек. Предполагалось, что «обучить» их простым аспектам повседневной жизни будет проще простого. Это было в середине 1950-х годов, и многие сторонники идеи считали, что создать искусственный разум, эквивалентный человеческому, удастся в течение поколения.