Страница 3 из 6
Наша главная цель – это здоровье и счастье, одним словом – благополучие. Если робот или машина помогает нам стать здоровее и счастливее – замечательно. Но если он делает нас более больными и несчастными, то это не очень хорошо. Мы бдительны и честны в отношении технологий и их воздействия на нашу жизнь, поэтому мы всегда оснащаем своих роботов выключателями.
А как насчет мрачного будущего?
Помимо роботизированных антиутопий, отраженных в таких фантастических фильмах, как «Матрица» и «Терминатор», где роботы сражаются с нами и порабощают нас, как выглядит реалистичный наихудший сценарий?
В мрачном будущем роботы – это наши хозяева. Они указывают нам, что делать. Они навязывают нам определенные модели поведения, и в большинстве случаев мы действуем в соответствии с этими рекомендациями. (Это скатывание в рабство уже происходит. Навигатор в автомобиле диктует нам маршрут. Алгоритмы платформы Amazon настойчиво предлагают нам, что купить, а алгоритмы социальных сетей и новостных сайтов указывают нам, что думать, а точнее – о чем думать.)
В темном будущем роботы, оснащенные искусственным интеллектом, будут давать нам непрерывный поток инструкций касательно нашего здоровья: займитесь спортом прямо сейчас! Касательно наших финансов: сделайте эту покупку прямо сейчас! Касательно наших межличностных взаимоотношений: позвоните своей теще или свекрови прямо сейчас! Поначалу такие советы будут приветствоваться, но вскоре мы потеряем самостоятельность и начнем просто выполнять приказы.
Роботы также могут превратить нас в сверхлюдей, экспоненциально увеличивая наши физические и умственные способности. Звучит неплохо, но, скорее всего, эти способности первыми получат богатые и привилегированные люди, что даст им непреодолимое преимущество над цифровым пролетариатом. В итоге мы можем получить два класса людей: небольшая группа, пользующаяся роботами, будет властвовать над остальными. Роботократия. (Подобное неравенство уже проявляется. Люди, живущие и работающие в крупных городах с высокоскоростным доступом в интернет, имеют значительное конкурентное преимущество перед жителями сельских регионов, где интернет медленный.)
Диктаторы и автократы могут применять технологии для выстраивания тотального контроля. Используя обработку данных, машинное обучение, камеры наблюдения, средства слежения и распознавания лиц, политические лидеры, помешанные на идее контроля, могут следить за своими гражданами. Они могут использовать эту информацию для подавления инакомыслия и принуждения к определенному социальному и экономическому поведению. Они знают, кто мы, куда мы ходим и что делаем каждую минуту дня. Они знают, что мы чувствуем и о чем думаем. По сравнению с такой системой Большой Брат покажется маленьким братишкой.
Работодатели могут эксплуатировать роботов в неблаговидных целях. Они могут заменить людей роботами, и у них есть для этого большой стимул. Они также могут задействовать роботов для детальнейшей слежки и для контроля за работой и поведением сотрудников. Они следят за тем, когда их сотрудники делают перерыв или выходят в туалет. Они могут использовать алгоритмы для оценки их работы, определения размера вознаграждения и даже увольнения. В крайнем случае они могут применять роботов, чтобы добиться от своих сотрудников максимальных усилий при минимальных затратах на персонал. Вот почему важно понимать, что роботы не просто заменяют людей на рабочих местах, а могут быть также использованы для дегуманизации и эксплуатации сотрудников. Все зависит от намерений работодателя.
Роботы могут лишить работы миллионы людей по всему миру, причем не только «синих воротничков», но и представителей всех профессий, включая юристов, врачей, актеров, писателей, инженеров и программистов. Поскольку алгоритмы машинного обучения учатся приобретать новые навыки все быстрее, они способны выполнять почти любую работу. Они не только станут умнее, но и сами смогут создавать более ловких роботов, способных выполнять точную ручную работу – от сбора помидоров до проведения операций на глазах.
Роботы смогут писать романы, сочинять музыку и рисовать акварельные пейзажи. Они будут работать медсестрами, водителями грузовиков, электриками и пилотами, и все это вызовет серьезные потрясения. Люди потеряют работу и доходы. Им нечем будет заняться. И в этом мрачном будущем сверхлюдям, контролирующим все, будет безразлична судьба остальных. Они просто наймут роботов-охранников, чтобы держать обездоленных людей подальше от своих яхт и огороженных резиденций.
В темном будущем роботы будут использоваться для дальнейшей эксплуатации наших природных ресурсов, чтобы извлекать их из недр еще интенсивнее и стимулировать рост потребления. Вместо того чтобы способствовать выстраиванию сбалансированных отношений с природой, более быстрые и мощные роботы дадут нам больше власти над ней, тем самым еще сильнее разрушая окружающую среду.
В этом будущем роботы играют первую скрипку. С каждым днем они становятся все умнее, быстрее и мощнее. Сначала мы думаем, что можем контролировать их, но в итоге они контролируют нас. И в этой ситуации мы даже не понимаем, что они делают и как они это делают. Мы становимся сперва зрителями, а затем жертвами.
Честно говоря, мрачное будущее более вероятно, потому что люди не умеют проактивно решать потенциальные проблемы. Мы склонны верить в лучшее и полагать, что наше расточительство не будет иметь отрицательных последствий, а если такие последствия и появятся, то мы рассчитываем справиться с ними. Это все равно что выкуривать по две пачки сигарет в день, надеясь, что химиотерапия спасет нас от рака легких.
Наш нынешний танец с роботами напоминает езду на диком тигре. Мы надеемся, что сможем удержаться, не упадем и тигр нас не съест.
Вот почему мы должны глубоко задуматься о наших отношениях с роботами. Мы хотим иметь с ними функциональные или дисфункциональные отношения? Как будут выглядеть эти отношения на каждом уровне: на личном уровне, на уровне нашей карьеры, нашего бизнеса и нашего общества?
Мы должны спросить себя: какого будущего мы хотим – светлого или темного? Конечно же, мы хотим светлого будущего, но нам придется над ним поработать. Роботы работают над своим будущим. Они никогда не спят. Поэтому и нам нужно проснуться и начать действовать.
В своем романе 1952 года «Механическое пианино» Курт Воннегут изобразил мир, где фабриками управляют роботы, а большинство людей являются безработными и нищими. Его роман поднимает важные вопросы: что произойдет, когда роботы начнут выполнять работу людей? Чем будут заниматься безработные? Как будет функционировать экономика, если безработные не смогут позволить себе покупать товары, производимые роботами? И самое главное: хотим ли мы жить в таком мире?
Будучи юным любителем научной фантастики, я в 12 лет с большим интересом прочел «Механическое пианино». Это был первый научно-фантастический роман, в котором шла речь об экономике, и он произвел на меня огромное впечатление. Его антиутопическое пророчество казалось весьма правдоподобным, потому что у компаний на самом деле есть отчетливое стремление избавляться от сотрудников и автоматизировать свою деятельность.
Однако сейчас я понимаю, что прогнозы Воннегута не были достаточно полными. Он рассказывал лишь об автоматизации производства. При этом он не описывал мир, в котором будет автоматизировано все: не только низкоквалифицированные рабочие места в сфере промышленности, но и остальные виды работ, даже наиболее сложные. Он не предугадал такие явления, как глобальный интернет, квантовые вычисления, искусственный интеллект, большие данные, алгоритмы машинного обучения или блокчейн. Он не предсказал такие изменения, в результате которых даже владельцы заводов могут разориться и оказаться на улице.
Но именно так может выглядеть мир, возникающий сегодня. Мы живем в эпоху, когда пианино больше не нуждается ни в исполнителе, ни в авторе песен, ни даже в слушателях. Это мир, в котором пианино производят сами себя, а затем исполняют друг другу собственные композиции. Люди не нужны.