Технологии Четвертой промышленной революции

Вторая задача: необходимо контролировать негативные последствия и риски Четвертой промышленной революции. Во время предыдущих революций было сделано слишком мало для защиты уязвимых групп населения, окружающей среды и будущих поколений от непредвиденных последствий, издержек прогресса, вторичных воздействий и осознанного злоупотребления новыми возможностями.

Проблема негативных и непредвиденных последствий становится особенно острой с учетом мощи технологий Четвертой промышленной революции и неопределенности ее долгосрочных воздействий на сложные социальные и экологические системы. Наибольшие опасения вызывает риск внезапного и непоправимого ущерба биосфере в процессе геоинженерных работ, а также развитие искусственного интеллекта, цели которого могут не соответствовать человеческим. Квантовые компьютеры сделают бесполезными многие криптографические методы и могут создать серьезную угрозу личной жизни и безопасности пользователей новых компьютерных технологий. Массовое распространение частного беспилотного транспорта может еще больше загрузить дороги густонаселенных городов, а виртуальная реальность способна усугубить проблему онлайн-агрессии, увеличивая психологический ущерб от нее.

Третья задача: гарантировать, что Четвертая промышленная революция будет разворачиваться в интересах человека и под контролем человека. Необходимо уважать общечеловеческие ценности как таковые, а не рассматривать только с финансовой точки зрения. Кроме того, акцент на интересах человека означает, что возможности человечества, как значимой силы, способной повлиять на судьбу мира, должны расширяться, а не ограничиваться. Эта задача особенно важна, поскольку технологии Четвертой промышленной революции качественно отличаются от всех прежних. Как объясняется в главе 12, эти технологии могут вторгаться в пространство, которое до сих пор оставалось личным, в наш разум. Они могут предугадывать наши мысли и воздействовать на наше поведение. Они способны анализировать происходящее и принимать решения, используя для этого методы и данные, непонятные или слишком сложные для человека. Они могут менять клетки человеческого тела, влияя на еще не родившихся детей. При всем этом цифровые сети позволят технологиям распространяться гораздо быстрее, чем за всю предыдущую историю технического прогресса.

Новый образ мышления для руководителей

У трех названных задач – справедливого распределения благ, управления внешними эффектами и гарантии гуманистического будущего – вряд ли есть простые решения по принципу «сверху вниз», через законодательное регулирование и благонамеренные правительственные инициативы. Сегодняшнее сочетание международных и государственных учреждений, рыночных структур, организованных и спонтанных социальных движений и стимулов вряд ли приведет к тому, что новые мощные технологии станут широкодоступными, безвредными и полностью ориентированными на интересы потребителей. Мир все еще борется со множеством проблем, связанных с предыдущими тремя промышленными революциями: средние зарплаты в развитых странах остановились или даже падают; развивающиеся страны все еще пытаются перевести экономический рост в широкомасштабное повышение уровня жизни, и все же каждый десятый живет в крайней нищете{8}. Перефразируя Мадлен Олбрайт (Madeleine Albright), мы пробуем понять технологии XXI века и управлять ими с помощью образа мыслей XX века и набора государственных институтов XIX века. Очевидно, что для решения новых задач необходимы институциональные преобразования. Необходима и адаптация образа мыслей к вызовам XXI века.

И история предыдущих промышленных революций, и динамика технологий Четвертой указывают на четыре принципа, крайне важных для формирования нового образа мыслей:

1. Системы, а не технологии. Велик соблазн сосредоточить все внимание на самих технологиях, но на самом деле важнее всего системы, обеспечивающие благосостояние людей. При наличии политической воли, инвестиций и совместной работы всех заинтересованных групп технологии могут создать условия для построения новых систем, которые будут лучше выполнять свои задачи. Без этого новые технологии могут усугубить недостатки существующих систем.

2. Расширять возможности, а не ограничивать их. Велик соблазн думать, что технологический прогресс невозможно контролировать или направлять и что нам неподвластны технологии, способные влиять на поведение людей. Системы на основе новых технологий должны предоставить людям больше выбора, перспектив, свободы и контроля над собственной жизнью. Это особенно важно, поскольку некоторые из новых технологий способны принимать решения и действовать без управления людьми, а также влиять на наше поведение как явными, так и скрытыми способами.

3. По замыслу, а не по умолчанию. Велик соблазн отвергнуть любые попытки влиять на социальные и политические системы, считая это бесполезным проявлением тщеславия, а сами системы слишком сложными. Но мы не должны мириться с существующими системами. Конструктивное мышление, особенно с применением техники и философии гуманистического подхода, а также системное мышление помогут нам понять структуры, управляющие нашим миром, и придумать, как новые технологии могут перевести их в новые конфигурации.

4. Ценности как достоинство, а не недостаток. Велик соблазн рассматривать технологии как простые инструменты, которые могут быть использованы для добрых или злых целей, а сами по себе нейтральны. Но в реальности все технологии несут в себе определенные ценности, которые встраиваются в них с самого появления начальной идеи и зависят от того, как проходит разработка и внедрение. Нам следует признавать этот принцип и обсуждать эти ценности на всех стадиях инновационного процесса, а не только тогда, когда вред от новых технологий становится заметен. Третья глава подробно рассматривает роль ценностей, а также определяет, какие из них принесут наибольшую пользу в контексте Четвертой промышленной революции.

Эти четыре принципа сформировались в результате сотен бесед и интервью с учеными, предпринимателями, лидерами гражданского общества, политиками, топ-менеджерами компаний и представителями СМИ. Вместе они составляют основу для оценки, обсуждения и контроля технологий, которые уже воздействуют на нас сегодня и будут менять мир в будущем.

Ваша роль в развитии Четвертой промышленной революции

Перечисленные принципы необходимы, потому что социальные, законодательные, технические и корпоративные нормы и стандарты, определяющие пути развития Четвертой промышленной революции, обсуждаются и формулируются именно сейчас, во всех странах, будь то Руанда, Швейцария или Китай. Доказательства существования трех описанных выше проблем – несправедливости, негативных внешних последствий и ограничения возможностей – уже проявляются в разных формах, от предвзятости алгоритмов до сдвигов на рынках труда, в результате которых работники лишаются социальной защиты.

Многие технологии, несущие преобразования, пока только начинают выходить из лабораторий, гаражей и научно-исследовательских отделов по всему миру, а необходимые для их регулирования законы еще только пишутся и дорабатываются. Поэтому именно сейчас активные граждане и лидеры из всех отраслей имеют возможность повлиять на развитие систем Четвертой промышленной революции. Если у нас получится, мы сможем обеспечить благополучие более широких слоев населения, ослабить неравенство и восстановить доверие, нехватка которого создает политическую напряженность и раскол в обществе. Четвертая промышленная революция может породить системы, способные сделать общество более благополучным, увеличить продолжительность жизни, поднять уровень экономической и физической безопасности, открыть новые возможности для полезной и интересной деятельности в устойчивой экологической среде.

8

Всемирный банк 2017.