Страница 13 из 18
2. Разновидности
«Таких мы не обслуживаем», – говорит работник столовой, указывая на дроидов, окруженных существами из различных миров. В многообразной Вселенной «Звездных войн» разные формы жизни взаимодействуют друг с другом и работают вместе на равных. Даже если нам кажется, что персонажи забыли о своем видовом разнообразии, их предвзятое отношение к другим группам все равно заметно. И даже те, кто кажется нам мудрым, все же делают обобщения о джавах, тускенах и вуках. Общества изображены склонными к равноправию. Тем не менее сексизм просматривается в них на протяжении всей истории. Заметно, что биологические виды дискриминируют механических существ. Тревогу у аудитории вызывает и тот факт, что персонажи все время противоречат стереотипам своей же группы.
Каждый в какой-то степени инопланетянин.
5. Дроиды и разум – почему нас это волнует?
Джим Дэвис
«Итак, если бы дроиды могли мыслить, разве кто-нибудь из нас остался бы здесь?»
«Ключевой вопрос о том, могут ли небиологические существа иметь какие-либо права, сводится к тому, обладают ли они сознанием. Способны ли они чувствовать?»
Дроиды – это существа Вселенной «Звездных войн», обладающие искусственным интеллектом. Из крошечных дроидов-мышей на «Звезде Смерти» они превратились в огромных космических грифов Сепаратистской армии. Они могут двигаться и говорить, но что мы знаем об их душевном состоянии? Обладают ли они интеллектом? Свойственна ли им сознательная деятельность?
Искусственный мозг может довольна неплохо соображать
В «Звездных войнах» это кажется очевидным, что какое бы когнитивное задание ни стояло перед дроидами, они справятся с любым. Есть дроиды-медики, которые ставят диагнозы, протокольные дроиды, занимающиеся переводами, и дроиды-воины, которые сражаются. Все они могут думать, принимать решения и даже выстраивать стратегии, манипулировать другими, как, например, тактические дроиды серии «Т» из фильма «Звездные войны: Войны клонов», которые способны быть грозными военачальниками.
Несмотря на то что дроиды могут выполнить почти любое интеллектуальное задание, Оби-Ван Кеноби, как и многие другие люди, отрицает возможность того, что машины способны думать.[124] Кеноби также очень редко проявляет сострадание к дроидам, в отличие от Энакина и Люка. Хотя большинство дроидов умеют говорить, многие разговаривают лишь на своем «двоичном» языке, на свистящем и пищащем наречии R2-D2. Кеноби не понимает его. Энакин и Люк, напротив, знают двоичный язык и намного больше заботятся о состоянии дроидов. Случайно ли это? Скорее всего, нет. Слуховое восприятие может оказаться даже важнее, чем зрительное, для того чтобы судить об интеллектуальном уровне развития других людей. В частности, большой словарный запас, который предотвращает неудачные заминки в речи, и более легкий для понимания стиль разговора помогают увидеть в ком-либо интеллектуально более развитого человека.[125] Следовательно, легко считать кого-то глупым, если вы не можете понять то, о чем он говорит. Так происходит и с машинами.
С юных лет Оби-Ван учился быть одним целым с Силой, которая объединяет лишь живое, то есть органическое – возможно, именно поэтому дроиды и не входили в зону его внимания. В противоположность этому Энакин и Люк могли взаимодействовать с дроидами еще до знакомства с Силой. А исследования в нашем с вами мире показывают, что эмпатия помогает увеличить степень взаимодействия между людьми или группами людей.[126]
Не менее важный вопрос: способны ли дроиды испытывать эмпатию по отношению к нам?
Эмоции в органических и искусственных системах
Еще один существенный вопрос о дроидах, помимо определения степени их разумности, состоит в их способности испытывать эмоции: могут ли они страдать и чувствовать боль? Наша культура допускает существование чего-то, что умеет думать, но ничего не чувствует. В нашем рутинном понимании психологии мы обычно разделяем такие понятия, как причина эмоции и сама эмоция. С этим легко согласиться, когда мы размышляем о таких чувствах, как грусть и радость, но это намного сложнее сделать, когда мы рассматриваем какие-либо пограничные душевные состояния. Является ли мотивация эмоцией? А как насчет возникновения желаний? Чувства подозрения? Интереса? Интуиции, помогающей выбрать наилучшее направление действий? Как только это приравнивается к разновидностям психического состояния, мы начнем задумываться о целесообразности наличия разума без эмоции. Не случайно знаменитый ученый Марвин Минский, занимавшийся изучением искусственного интеллекта, говорил: «Вопрос не в том, могут ли машины быть полностью лишены эмоций, а в том, возможно ли наличие разума без эмоций».[127]
Дроиды определенно ведут себя так, будто бы обладают широким спектром чувств. С-ЗРО, в частности, показывает радость, грусть и большую степень тревожности и стресса. Даже если мы не знаем языка R2-D2, природа интонаций маленького дроида напоминает мелодику человеческой речи, и мы с легкостью можем определить эмоций, услышав его речь.[128] Конечно, существует большая разница между собственно чувством счастья и просто манерой поведения, его напоминающей. Только 2 % людей считают, что современные роботы обладают потенциалом, позволяющим им испытывать чувства.[129] К сожалению, у когнитивистов и психологов не хватает точных знаний о том, как работают эмоции, чтобы решить, действительно ли дроид чувствует что-либо или просто имитирует действия человека. То же самое касается и сознания.
Программист Алан Тьюринг считал, что размышления на тему того, способны ли машины думать, представляют собой серьезную проблему, потому что в основном зависят от определения понятий «машина» и «думать». Вместо этого он предложил имитационную игру, при которой компьютер ведет разговор с человеком письменно и пытается имитировать человеческое существо. Когнитивисты называют это «тестом Тьюринга».[130] Хорошая новость, касающаяся этого теста, заключается в том, что его очень тяжело пройти (трудно обмануть такого знающего судью, как человек) и любая машина, справившаяся с ним, несомненно, показала бы какие-то эмоциональные проявления. А плохая новость заключается в том, что мы точно не знаем, что будет означать прохождение теста для самой машины. Будет ли это означать, что машина обладает сознанием? И хотя психологи узнают все больше и больше о природе сознания, мы до сих пор не можем понять, имеют ли дроиды (или любые другие искусственные создания, если уж на то пошло) сознательный опыт.
Проблема представляется особенно важной, когда дело доходит до страдания и боли.
Боль у неорганических существ
Могут ли дроиды испытывать страдание и боль? Реальная наука не дает ответа на этот вопрос, но в «Звездных войнах» ответ есть, и этот ответ – «да». Намек на это появляется в фильме «Звездные войны. Эпизод VI: Возвращение джедая», когда один из дроидов подвергается мучениям со стороны другого дроида во дворце Джаббы.[131] Когда ему на ноги выливают расплавленный металл, он начинает кричать от боли. В фильме «Звездные войны. Эпизод IV: Новая надежда» дроид С-ЗРО бьет R2-D2 по голове – предположительно для того, чтобы наказать. Хотя в других случаях дроиды, похоже, не чувствуют боли, например, в фильме «Звездные войны. Эпизод II: Атака клонов», когда дроид С-ЗРО лишается головы.
122
«Звездные войны. Эпизод II: Атака клонов (фильм, 2002 г.).
123
Borenstein (2007).
124
Только 27 % опрошенных в 2005 г. думали, что роботы способны к разумной деятельности. Странно, но то же исследование показало, что только 72 % считают, что люди в целом способны к разумной деятельности (Arras & Cerqui, 2005).
125
Reynolds & Gifford (2001).
126
Например, Dovidio et al. (2010).
127
Minsky (1986).
128
Barra et al. (2006).
129
Arras & Cerqui (2005), p. 10.
130
Turing (1950).
131
«Звездные войны. Эпизод VI: Возвращение джедая» (фильм, 1983 г.).