Страница 9 из 19
Любая конкретная технология может дать удобства, развлечения, власть, продуктивность или комбинацию этих четырех элементов, но в итоге мы все хотим от технологий того же, чего от здоровой экономики, – улучшения нашей жизни. В первой главе мы отметили, что технологии должны расширять возможности, а не ограничивать их; что будущее должно формироваться людьми и для людей; что ценности должны быть достоинствами, а не недостатками технологий. На первом месте должно быть повышение уровня жизни. Если Четвертая промышленная революция приведет к усилению неравенства, бедности, дискриминации, нестабильности или вреда для окружающей среды; если произойдет маргинализация, порабощение или обесценивание людей, значит, мы пошли не тем путем.
К сожалению, усиливается ощущение, что весь мир идет на поводу у технического прогресса и экономических императивов, упуская из виду самое важное. Известные экономисты, такие как Эрик Бринолфссон (Erik Brynjolfsson) и Эндрю Макафи (Andrew McAfee), популяризовали идею «великого отделения» человеческого труда от продуктивности экономики в результате внедрения технологий{20}, и, по некоторым прогнозам, уже к 2020 году до 40 % рабочих мест перейдет на модель «гигномики», появившуюся благодаря технологиям{21}. Сокращение доли оплаты труда в национальном доходе стран – членов ОЭСР на 80 % связывают с влиянием технологий. Они способствуют усилению неравенства, и общественность все острее воспринимает политику, стимулирующую экономический рост в ущерб социальному единству и благосостоянию общества{22}. Вместо того чтобы спросить себя, чего мы хотим от технологических изменений, мы по-прежнему вынуждены бороться с их опасными последствиями.
Ценностно-ориентированный подход к технологиям поможет нам восстановить баланс и выйти из этого трудного положения. Во-первых, прямо признав политическую природу технологий, мы сможем сформировать требования к ответственному и эффективному управлению. Во-вторых, сделав приоритетом управления общественные ценности, мы сможем контролировать, как используются технологии и кому они несут выгоду. В-третьих, четко определив, где и как ценности становятся частью технологических систем, мы сможем лучше понять их и найти оптимальные стратегии внедрения ценностей в процесс разработки технологий.
Политика технологий
Связи между технологиями и ценностями нелегко сформулировать. Ценности абстрактны и неосязаемы, к тому же они сильно различаются у разных людей и обществ. А технологии распространились повсюду – от языков до космических ракет. При таких масштабах поиск связей становится сложной задачей. К сожалению, в попытках найти простое решение возникли две всем знакомые, но дезориентирующие позиции. Их можно вкратце изложить так:
Точка зрения № 1: технологии предопределяют будущее
Эта точка зрения предполагает, что технологии влияют на общество, мотивируя, направляя и ограничивая нас разными способами, а технический прогресс – это внешняя, почти неодолимая сила, которую нельзя изменить или остановить. Люди, принимающие эту точку зрения, часто говорят о технологиях так, будто они определяют историю и наши ценности, направляя нас к прогрессу или упадку, и считают, что нет смысла пытаться помешать этому.
Точка зрения № 2: технологии нейтральны по отношению к ценностям
Вторая точка зрения отрицает, что сами по себе технологии имеют какое-либо значимое влияние на общество, и характеризует их как нейтральные инструменты. Сторонники этой точки зрения утверждают, что на общество влияют отдельные личности, которые выбирают, как именно использовать инструменты. При этом обсуждение возможностей технологий и их влияния на людей несправедливо переключается на моральные качества исключительно пользователей, а не создателей и распространителей этих технологий.
Этих точек зрения недостаточно, чтобы задать направление Четвертой промышленной революции. Хотя в каждой из них есть зерно правды, обе они достаточно опасны в эпоху, когда технологии показывают динамику, описанную во второй главе, распространяясь все быстрее, предоставляя пользователям все больше власти, окружая нас со всех сторон и проникая в нас.
Сторонники первой точки зрения считают, что технологии находятся вне контроля общества, тогда как вторые снимают с общества ответственность за влияние, оказываемое технологиями. И те и другие упускают из виду, что технологии и общество формируют друг друга. Ядерные технологии – хороший пример, показывающий, как опасно полностью принять любую из этих точек зрения. Это определенно не «просто инструменты», ведь само существование ядерных технологий, позволяющих получать энергию и создающих угрозу ядерного уничтожения, создает огромную напряженность. Недавние обострения геополитических споров напомнили всем о ядерной опасности, а Нобелевскую премию мира в 2017 году присудили Международной кампании за запрещение ядерного оружия (International Campaign to Abolish Nuclear Weapons, ICAN). В то же время ядерные технологии не обязаны определять судьбу человечества, потому что общество способно решать, какие технологии разрабатывать, как это делать, кто при этом имеет право голоса и каким целям все это служит. И действительно, все больше стран решает отказаться от ядерной энергии, о чем свидетельствует обязательство правительства Германии закрыть к 2022 году последнюю ядерную станцию{23}.
Для продвижения по пути прогресса во время Четвертой промышленной революции требуется более вдумчивое и практичное отношение к технологиям, а также возможность подробно обсуждать их цели, риски и неопределенности. Необходима третья точка зрения: «Все технологии имеют политическую природу». О политике здесь говорится в описательном смысле. Мы не подразумеваем, что технологии олицетворяют правительства, связаны с определенной партией или каким-то образом вытекают из «левой» или «правой» идеологии. Мы имеем в виду, что технологии – это решения, продукты и воплощения идей, полученные в результате социальных процессов, поддерживающие и выражающие стремления людей и организаций, содержащие в себе целый ряд допущений, ценностей и принципов, которые, в свою очередь, могут повлиять (и влияют) на власть, структуру и состояние общества.
В итоге технологии связаны со всем, что мы знаем, с тем, как мы принимаем решения и как мы думаем о себе и других. Они связаны с нашей самоидентификацией, с нашим мировоззрением и вероятным будущим. Значение технологий, будь то ядерные разработки, космическая гонка, смартфоны, социальные сети, машины, медицина или инфраструктура, делает их политическими. Даже концепция «развитой» страны опирается на уровень применения технологий и на их экономическое и социальное значение.
Многие ученые и технологи уже признали политические аспекты технологий. Например, Институт инженеров по электротехнике и электронике (Institute of Electrical and Electronics Engineers, IEEE) в своей Глобальной инициативе по этическим соображениям относительно искусственного интеллекта и автономных систем (Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems) называет ИИ «социотехнической системой»{24}. Необходимость глубоких размышлений о ценности ИИ привела к появлению ряда общественных инициатив, координируемых академическими, правительственными и промышленными экспертами. Наффилдский совет по биоэтике определяет биотехнологии как «сочетание знаний, практик, продуктов и приложений»{25}. В объяснении этого определения указывается, что биотехнологии, как и люди, – это больше, чем сумма физических частей:
Несмотря на большое разнообразие биотехнологий, условия, приводящие к появлению только определенных сочетаний в конкретном социально-историческом контексте, рождают общий ряд проблем. К этим условиям относятся и естественные ограничения, и добровольный выбор (даже если он не всегда осознанный или очевидный). При этом выбор зависит от сложных суждений, включающих ценности, убеждения и ожидания, связанные с технологиями и их применением. То, как совершается этот выбор, как оцениваются, включаются или исключаются разные ценности, убеждения и ожидания, имеет важные этические и политические аспекты, как и сама природа этих соображений.
20
Бринйольфссон (Brynjolfsson) и Макэфи (McAfee) 2014.
21
The Boston Globe 2016.
22
Кили (Keeley) 2015.
23
Рэнкин (Rankin) 2015.
24
Институт инженеров электротехники и электроники (IEEE) 2017.
25
Nuffield Council on Bioethics 2014.