Страница 3 из 8
В мире – особенно в Китае – системы слежения, использующие распознавание лиц и другие технологии на основе ИИ, применяются для колоссального увеличения власти и влияния авторитарных правителей и уничтожения неприкосновенности частной жизни. В Соединенных Штатах были случаи, когда системы распознавания лиц демонстрировали предвзятость по расовому или гендерному признаку, как и алгоритмы, использующиеся для отбора резюме и даже предоставления рекомендаций судьям в системе уголовного правосудия.
Пожалуй, самая пугающая и близкая угроза – это разработка полностью автономного оружия, способного убивать без обязательного участия человека, санкционирующего его применение. Такое оружие в принципе может применяться против целых народов, и от него будет крайне трудно защититься, особенно если оно попадет в руки террористов. Многие представители сообщества исследователей ИИ являются убежденными противниками такого развития событий, и в ООН выдвинута инициатива по запрету подобных систем вооружений.
Не исключено, что в дальнейшем мы столкнемся с еще более серьезной опасностью. Может ли искусственный интеллект представлять экзистенциальную угрозу для человечества? Не создадим ли мы однажды «суперинтеллектуальную» машину – нечто, настолько превосходящее нас, что оно сможет – намеренно или случайно – нанести нам вред? Это, конечно, довольно умозрительное опасение, и данная проблема встанет лишь в случае, если нам когда-нибудь удастся создать действительно разумную машину. Пока это тема научной фантастики. Тем не менее реальный искусственный интеллект человеческого уровня – заветная мечта разработчиков, и немало очень умных людей относятся к этой опасности со всей серьезностью. Такие выдающиеся люди, как Илон Маск и покойный Стивен Хокинг, предупреждали об угрозе выхода ИИ из-под контроля. Маск, например, наделал немало шума в СМИ своим заявлением, что исследования в области искусственного интеллекта – это попытки «вызвать демона» и что «ИИ опаснее ядерного оружия»[8].
С учетом этих обстоятельств возникает вопрос, стоит ли нам открывать ящик Пандоры. Как бы то ни было, человечество не может позволить себе отказаться от искусственного интеллекта. Многократно расширяя наши умственные и творческие возможности, ИИ способствует инновациям практически в каждой области человеческой деятельности. Он позволяет нам ожидать появления новых лекарств и методов лечения, более эффективных источников чистой энергии и множества других важных прорывов. Безусловно, ИИ уничтожит рабочие места, но в то же время сделает более доступными (в ценовом и физическом отношениях) товары и услуги, которые производятся в экономике. По прогнозу консалтинговой фирмы PwC, к 2030 году ИИ добавит в мировую экономику около $15,7 трлн, что особенно необходимо сейчас, когда мы надеемся на восстановление после масштабного экономического кризиса, вызванного пандемией коронавируса[9]. Что, пожалуй, самое важное – искусственный интеллект превратится в незаменимый инструмент, имеющий ключевое значение для решения наших самых сложных проблем, включая изменение климата и деградацию окружающей среды, неизбежную новую пандемию, нехватку энергии и чистой воды, нищету и недоступность образования.
Следует в полной мере использовать потенциал искусственного интеллекта в интересах прогресса – но с открытыми глазами. Риски необходимо устранять. Требуется правовое регулирование и в некоторых случаях запрет определенных видов использования ИИ. Все это должно происходить уже сегодня, потому что будущее наступит значительно раньше, чем мы к нему подготовимся.
Было бы преувеличением утверждать, что эта книга предлагает «дорожную карту» для движения в будущее искусственного интеллекта. Никто не знает, насколько быстро будет развиваться ИИ и как именно использоваться, какие новые компании и отрасли появятся или какие угрозы окажутся наиболее серьезными. Будущее искусственного интеллекта непредсказуемо, поскольку это подрывная технология. «Дорожной карты» не существует. Нам придется действовать по ситуации. Надеюсь, эта книга поможет подготовиться к грядущему – верно понять происходящую на наших глазах революцию, отделить хайп и погоню за сенсациями от реальности и найти наилучшие способы обеспечения процветания каждому человеку и обществу в целом в будущем, которое мы создаем.
Глава 2
ИИ как новое электричество
Электричество, которое некогда воспринималось как занимательное явление, пригодное разве что для фокусов и экспериментов на потеху толпы, бесспорно, сформировало современную цивилизацию и обусловило саму возможность ее существования. В мире, где гарантированный доступ к электроснабжению часто воспринимается как данность, легко забыть, каким долгим и трудным было восхождение электричества к своему господствующему положению. Лишь в 1879 году – через 127 лет после знаменитого эксперимента Бенджамина Франклина с воздушным змеем в 1752 году – Томас Эдисон наконец довел до ума свою лампу накаливания. После этого развитие событий ускорилось. В том же году в Великобритании был принят Закон об электрическом освещении Ливерпуля, заложивший основы для устройства первого в стране уличного электрического освещения, а через три года введены в действие электростанции Pearl Street Power Plant в Нью-Йорке и Edison Electric Light Station в Лондоне. Однако к 1925 году была электрифицирована лишь половина домов в Соединенных Штатах. Потребовалось еще несколько десятилетий и принятие Франклином Рузвельтом Закона об электрификации сельских районов, чтобы электричество превратилось в привычное нам общедоступное удобство.
Для тех из нас, кто живет в развитом мире, практически все вокруг так или иначе связано с электричеством или вообще возможно лишь благодаря ему. Электричество является, пожалуй, лучшим – и, безусловно, самым долгоиграющим – примером технологии общего назначения: иначе говоря, инновацией, которая повсеместно масштабируется в экономике и обществе, трансформируя все их аспекты. К технологиям общего назначения относится также паросиловая установка, положившая начало промышленной революции, но сейчас имеющая сильно ограниченное применение, в частности на атомных электростанциях. Двигатель внутреннего сгорания также сыграл преобразующую роль, но сегодня нетрудно представить себе будущее без бензиновых и дизельных моторов, на смену которым придут электродвигатели. Если не разразится какая-нибудь апокалиптическая катастрофа, практически невозможно вообразить будущее без электричества.
Таким образом, было бы чрезвычайно самонадеянно утверждать, что искусственный интеллект превратится в технологию общего назначения, сопоставимую по масштабу и возможностям с электричеством. Тем не менее есть веские причины полагать, что именно к этому мы идем: ИИ во многом так же, как электричество, со временем затронет и преобразует практически все.
Искусственный интеллект уже оказывает влияние на все отрасли экономики, в том числе на сельское хозяйство, промышленное производство, здравоохранение, финансовый сектор и розничную торговлю. Эта технология проникает даже в области, которые мы считаем наиболее человеческими. Чат-боты на основе ИИ обеспечивают круглосуточный доступ к услуге психологического консультирования. Технология глубокого обучения приводит к появлению новых форм графического искусства и музыки. Удивляться тут нечему. В конце концов, практически все ценное, что было создано людьми, является продуктом нашего интеллекта – способности учиться, изобретать, творчески решать проблемы. Усиливая, дополняя или заменяя наш собственный интеллект, ИИ неизбежно превратится в самую могущественную и наиболее широко применяемую технологию. Возможно, он однажды станет одним из самых эффективных инструментов, который поможет нам выйти из кризиса, вызванного коронавирусом.
Более того, высоки шансы, что искусственный интеллект превратится в господствующую технологию намного быстрее, чем это было в случае электричества. Дело в том, что значительная часть инфраструктуры, необходимой для развертывания ИИ, – включая компьютеры, интернет, мобильные службы передачи данных и особенно мощнейшие ресурсы для облачных вычислений, поддерживаемые такими компаниями, как Amazon, Microsoft и Google, – уже имеется. Представьте, как быстро произошла бы электрификация, если бы большая часть электростанций и линий электропередачи уже была построена к тому времени, когда Эдисон изобрел лампу накаливания. Искусственный интеллект готов преобразовать наш мир – и это может случиться намного раньше, чем мы предполагаем.
8
Matt McFarland, “Elon Musk: ‘With artificial intelligence we are summoning the demon,’” Washington Post, October 24, 2014, www.washingtonpost.com/news/i
9
Anand S. Rao and Gerard Verweij, “Sizing the prize: What’s the real value of AI for your business and how can you capitalise?” PwC, October 2018, www.pwc.com/gx/en/issues/analytics/assets/pwc-ai-analysis-sizing-the-prize-report.pdf.