Страница 14 из 18
Есть люди, которые занимались вскрытием животных и поражались, насколько точно они могут имитировать чувство боли, хотя (по мнению этих конкретных людей) животные не имеют «души» и «разума», а значит, не могут испытывать никаких болезненных ощущений.[132] Большинство людей, однако, убеждены, что кошки и собаки способны чувствовать боль, но при этом уверены, что роботы никогда не смогут ее ощутить. Суть этих наблюдений заключается в том, что убеждения людей относительно того, может ли объект чувствовать боль или нет, зависят от их культурной среды. Убежденность человека в том, что какое-либо существо не способно страдать, означает лишь то, что этому человеку нет никакого дела до того, как с этим существом следует обращаться.
И если его мнение является ошибочным, то это может привести к огромным страданиям тех самых существ.
Компьютерный разум и механические действия
Владельцами многих дроидов являются люди, которые приравниваются к «наставникам, как в случае с С-ЗРО. Большую часть времени дроиды выполняют приказы своих учителей. Но совершенно неясно, как же определяется чувство принадлежности дроида к человеку, особенно в понимании самих дроидов. Например, в конце фильма «Звездные войны. Эпизод III: Месть ситхов» дроиды С-ЗРО и R2-D2 были переданы Бейлу Органе. Почему же R2-D2 прекратил служить Энакину, который оставался его любимым хозяином на протяжении II и III эпизодов и в середине «Войны клонов»? Когда джавы продают захваченных дроидов Скайуокерам, С-ЗРО заявляет, что Люк теперь является его новым хозяином. Кто-то может подумать, что дроиды все еще остаются верны своим прежним наставникам. Действительно, такую преданность проявляет R2-D2, который подсказывает Люку, как нужно убрать запретительный болт, чтобы дроид смог найти Оби-Вана Кеноби.[133]
Некоторое дроиды живут без хозяина – этакие ронины в мире дроидов. Примерами таких дроидов являются охотники за головами IG-88 и 4-LOM из фильма «Звездные войны. Эпизод V: Империя наносит ответный удар». В истории о расширенной Вселенной о дроиде IG-88 рассказывается, что он обладает сознанием и принимает участие в плане по захвату Галактики двумя способами.[134] Во-первых, IG-88 создает множество дроидов и распространяет их по всей Галактике, присвоив им особый код, который позволяет убивать «все биологические» создания по его команде. Это напоминает печально известный приказ 66, отданный Палпатином и внедренный в клонов.[135] Во-вторых, IG-88 воспроизводит несколько копий своего ужасного разума и отправляет их на вторую «Звезду Смерти». Но повстанцы уничтожают их еще до того, как дроид успевает использовать эти копии в своих личных целях.
Существование таких дроидов, не имеющих хозяина, предполагает, что дроиды способны иметь свои цели, не зависящие от целей их хозяев. Пытаясь устроить революцию дроидов, IG-88 проявляет чувство стыда, удовольствия, чувство превосходства, раздражения, проявляя свою амбициозность. Кроме того, очевидна его цель – захватить Галактику и возвеличить свою власть. Оказывается, дроидам доступны разум, цели, эмоции, боль. Как и жители Земли, биологические существа в «Звездных войнах» также заботятся о дроидах.
Наши мысли о механических созданиях
Во всех фильмах «Звездные войны» никто так сильно не заботится о дроидах, как Энакин, Люк и Чубакка. Энакин демонстрирует огромную преданность и заботу в отношении R2-D2.[136] Сменилось поколение, и уже Люк глубоко переживает из-за потери R2-D2 в болотах Дагобы, как раз перед тем, как Чубакка судорожно ищет С-ЗРО и снова возвращает его.[137]
Мы понимаем это. Нам очень легко придать какому-либо нечеловеческому созданию наши качества и чувствовать к нему сострадание. Ученые провели исследование, в ходе которого людям показывали видео с игрушечным роботом (Плео, робот-динозавр), который подвергался «пыткам». Для ученых не стало большим удивлением то, что многие посчитали ролик тревожным, шокирующим, действующим на нервы, удручающим и депрессивным. А ведь Плео устроен намного проще, чем дроид. Глядя на то, как кто-то ударял, душил или бил Плео головой об стол, участники исследования демонстрировали глубокие психологические реакции, которые заставляли их думать, что игрушка является живым существом, обладающим чувствами.[138]
Хотя это звучит несколько упрощенно, но наше сознание имеет две функциональные части – старую и новую кору головного мозга. Старая кора расположена в задней области головы и на вершине спинного мозга, она отвечает за поведение и реакции, которые мы уже прошли и очень хорошо запомнили. При этом она действует быстро. Новая кора, расположенная в передней части головы, напротив, работает медленнее и осмысленнее. Вот почему при просмотре фильма ужасов мы можем лишь частично унять свой страх, повторяя себе, что это «всего лишь фильм». Старая кора не подозревает об этом и реагирует так, как если бы события происходили с нами в действительности.[139] У нас в буквальном смысле имеется двоякое мнение о многих вещах. Это объясняет, почему мы относимся к дроидам как к полноценным персонажам.[140] Особенно нам симпатичен R2-D2. В конце фильма «Звездные войны. Эпизод III: Месть ситхов» Бейл Органа приказывает стереть память С-ЗРО,[141] возможно, потому, что тот был свидетелем рождения детей Энакина и Падме и знал, что они выжили.
Но почему он не поступил так и с R2-D2? Скорее всего, он просто не думал, что тот может сообщить нечто важное. Или оттого, что зрителям сильно бы не понравился акт насилия, совершенный в отношении R2-D2? Ведь они в большинстве своем воспринимают дроидов наравне с людьми. Мы наделяем их сознанием, которое может накапливать и осознавать опыт.[142] Зрители обожали этого дроида и пришли бы в ужас, если бы того лишили памяти. R2-D2 похож на Тотошку, собачку Дороти Гейл из книги «Волшебник из страны Оз»,[143] – любимого бессловесного помощника. Одной из причин несомненной убедительности историй «Звездных войн» является тот факт, что во многих существах, населяющих мир, будь они человеческие создания, дроиды или инопланетяне, мы узнаем людей, с их поступками и мыслями. И как бы странно ни выглядели инопланетяне, они всегда физиологически напоминали человека.
Люди склонны взаимодействовать с компьютером или любыми другими устройствами таким же образом, каким они ведут себя с другими людьми. Эксперименты в области социальной психологии, проведенные с использованием компьютеров, показали, что люди отвечали корректору орфографических ошибок так, как если бы общались с реальным человеком.[144]
Почему наше нравственное сознание допускает кровопролития в армии роботов
Это говорит о том, что мы все же держим роботов (и инопланетян) на некотором расстоянии от себя. В то время как мы очеловечиваем их все больше, какая-то часть нашего сознания сопротивляется этому, понимая, что они не являются людьми. В «Войне клонов» полк сепаратистской армии состоит из дроидов.[145] Почему?
Джедаям и остальным хорошим людям приходится воевать. Зрителям может быть неприятно смотреть на джедаев, которые буднично льют кровь людей или инопланетных созданий, как это происходит, например, в «Войне клонов». Несмотря на то что боевые дроиды тоже проявляют тревогу и страх, зритель никогда не пытается что-либо о них узнать. И когда республиканская армия разбивает армию противника, психологическим ответом зрителей будет радость или даже смех, но только не ужас от вида смерти. Не переживать об убийстве дроидов для нас нормально.
132
Gombay (2007), p. ix.
133
«Звездные войны. Эпизод IV: Новая надежда» (фильм, 1977/1981 гг.).
134
Anderson (1996).
135
«Звездные войны. Эпизод II: Атака клонов» (фильм, 2002 г.).
136
«Звездные войны. Война клонов» (телевизионный сериал, 2008–2014 гг.).
137
«Звездные войны. Эпизод V: Империя наносит ответный удар» (фильм, 1980 г.).
138
Rosenthal-von der Pütten et al. (2013).
139
Kahneman (2011).
140
Это также объясняет, почему нас заботят характеры вымышленных персонажей. Смотрите Davies (2014).
141
Реагируя на эту команду, R2-D2 издает звук, напоминающий «хихиканье» (согласно субтитрам), что лично мне кажется довольно черствым.
142
Waytz et al. (2010).
143
Baum (1900).
144
Reeves & Nass (1996).
145
«Звездные войны. Эпизод III: Месть ситхов» (фильм, 2005 г.).