Страница 3 из 16
Я жил в Австралии, когда промелькнула новость о том, что пара, познакомившаяся в интернете – Ким Ю-Чул и Чой Ми-Сан, – позволила своей дочери умереть с голоду. Супруги, оба безработные, были одержимы компьютерной игрой «Приус Онлайн», в которой воспитывали виртуального ребенка. По данным полиции, они проводили в интернет-кафе в Сеуле по 12 часов кряду, ухаживая за «цифровой» дочерью, которую ласково называли Анима, в то время, как их родная реальная дочь оставалась запертой дома в полном одиночестве.
Легко счесть эту историю рассказом о людях, чья любовь к компьютерным играм зашла слишком далеко. Однако на самом деле в ней гораздо больше смысла, чем может показаться на первый взгляд. При внимательном прочтении вы увидите, что речь идет о самоидентификации, предназначении и близких отношениях в эпоху суперумных, эмоционально запрограммированных машин, а также о социальном взаимодействии, зависимости, смещении понятий и о том, что некоторые люди с трудом справляются с реальностью. Скорее всего, это связано с тем, что наш древний мозг не в состоянии четко различать реальные и парасоциальные, то есть воображаемые, отношения.
Сам Сеул завораживает, потому что на его примере можно понять, к чему идет весь остальной мир. Будучи самым интернетизированным и высокотехнологичным местом на земле, снаружи он кажется городом будущего, но его сердцевина застряла в 1950-х годах. Республика Корея, столицей которой и является Сеул, имеет самую большую среднюю скорость широкополосного подключения в мире, и уже есть планы по созданию сети 5G, которая будет в 1000 раз быстрее имеющейся. С другой стороны, вам потребуется выданный государственными органами идентификационный номер для того, чтобы пользоваться интернетом в Starbucks, и еженедельно цензоры закрывают от пользователей определенные части контента.
Вполне возможно, большинство правительств будет стремиться ограничить доступ обычных людей в интернет, а открытый и либертарианский характер сети укротить с помощью цензуры и регулирующих правил. Однако в равной степени возможно и то, что плохо контролируемые компании будут создавать настолько захватывающие виртуальные миры, что люди предпочтут их реальным отношениям и участию в жизни общества.
Некоторые игровые автоматы с экранами уже научены следить за тем, как люди играют, и воздействовать на их слабые места для того, чтобы игра продолжалась как можно дольше. Проще говоря, цель производителей – заставить людей играть до смерти. Именно это и произошло в случае с супругами Ким Ю-Чул и Чой Ми-Сан, погубившими свою родную дочь.
Япония, соседка Южной Кореи – это еще одна страна, где прошлое соперничает с будущим. Древний праздник цветения сакуры сосуществует с роботами в детских садах и домах престарелых. Автоматизация заполняет пробелы, с которыми не справляются демография, традиции человеческого общежития и сострадание.
Один из таких роботов – терапевтический робот Паро, имеющий вид пушистого детеныша тюленя. Его целью является общение, и программа меняет его поведение в зависимости от характера взаимодействия с конкретным человеком.
Паро используется наряду с уходом за больным силами человека – и это замечательная идея. Существуют также буксировочные роботы, которые способны самостоятельно перемещать тяжелые больничные тележки. Они спасают персонал от травм спины, но не имеют ни лица, ни рук, ни ног, к тому же начисто лишены обаяния. Они не улыбаются и не здороваются с пациентами, хотя можно было бы внедрить в них такую функцию. Вот два примера того, как технология замещает доброту и сострадание. Нам требуется не больше эффективной электроники, а больше человеческого тепла и сочувствия.
Профессор Шерри Теркл, занимающаяся социологическими исследованиями в области науки и техники в Массачусетском технологическом институте, считает опасным поощрять развитие отношений с машинами. По ее мнению, «нет смысла социализироваться с роботом». Уязвимые группы, такие как дети и пожилые люди, способны подружиться с роботом так, как если бы он был человеком, в результате возникают привязанности и необоснованные ожидания. Профессор Теркл делает тревожный вывод о том, что мы, похоже, попали в плен новой иллюзии, в которой нам кажется достаточной лишь имитация сострадания. Об этом говорит и название ее книги «Одинокие вместе: почему мы ожидаем большего от технологий, чем друг от друга».
В некотором смысле создание внимательных и заботливых роботов – скорее интеллектуальная или научная задача, чем практическая необходимость. Но если существуют люди, которые не могут завязывать отношения с себе подобными, люди, которые не против и даже предпочитают отношения с роботом, быть может, для них такие отношения и будут в чем-то полезными. Думаю, со мной согласятся все, кто смотрел научно-фантастический фильм «Двухсотлетний человек». Возможно, физическое присутствие и контакт с человеком не имеют значения вовсе, ну или имеют гораздо меньшее значение, чем мы привыкли думать.
В конце концов мы создадим роботов и другие машины, которые станут нашими близкими друзьями, имитирующими отзывчивость. Возможно, мы даже запрограммируем в них способность ошибаться. И может так случиться, что нас не будет волновать, являются эти черты подлинными или нет.
В настоящее время нас, похоже, не заботит тот факт, что многое из того, что мы с готовностью читаем в интернете о других людях, не соответствует реальности. Описывая себя и рассказывая истории в сети, мы редко упоминаем о страхе, сомнениях или уязвимости. При помощи фотошопа мы выглядим счастливее, красивее и успешнее, чем есть на самом деле. Мы предпочитаем цифровое пиксельное совершенство аналоговой неоднозначности. (Ежедневные новости – суть то же искривление реальности, только имеющее, как правило, обратный эффект – обычно в них преувеличены человеческие страдания и конфликты и игнорируются покой и счастье.)
Но прежде чем строить эмоциональные отношения с машинами, не должны ли мы спросить себя – для чего нам это? Разве не следует сначала разобраться в том, что значит быть человеком, и лишь потом оценивать, оказывают ли новые технологии на нас положительное или отрицательное влияние? В конце концов, технологии являются средством, а не самоцелью. Я говорю не о возврате к прошлому, а лишь о том, что ученые и разработчики должны встать рядом с философами, историками и специалистами по этике. Помимо знаний нам нужна мудрость, компьютерный код не должен существовать в отрыве от морального кодекса.
Если оглянуться на истоки современных технологий, становится ясно, что их первоначальная цель – делать то, чего люди сами делать не могут, либо избавить людей от рутинной, монотонной работы. Слово «робот» произошло от чешского слова «robota», что означает «принудительный труд». Машины используются для того, чтобы заменить людей на скучной или опасной работе, и это вполне разумно. Применение роботехнологий для улучшения общения между людьми и укрепления взаимосвязей между ними также разумно. Однако я подозреваю, что сейчас в социальном и культурном отношении происходит обесценивание человека, и мы принимаем это, поскольку нам сказали, что так эффективнее, или потому, что нам не оставили другого выбора.
История начала XXI века – это история машин. Они – не люди – вызывают уважение и почтение, хотя вроде бы все должно быть наоборот.
Недавно я смотрел телевизионную программу Би-би-си, в которой приводился отчет об исследовании Оксфордского университета. В нем говорилось, что в течение ближайших 20 лет около половины ныне существующих областей профессиональной деятельности может быть потеряно в результате автоматизации. Это не станет проблемой, если будут создаваться новые и лучшие рабочие места – так не раз происходило в истории. Промышленная революция уничтожила множество профессий, но создала другие, увеличила заработную плату и открыла новую эру высокой производительности и процветания. В то же время интернет может привести к абсолютно противоположному результату.