Добавить в цитаты Настройки чтения

Страница 2 из 14

Прошло не так много времени с публикации того моего «снобовского» цикла статей, а количество «критиков» уже существенно поубавилось.

То, что казалось каким-то совершенно отдалённым будущим: машины-беспилотники,

3D-принтеры, позволяющие работать практически с любыми материалами, чипы в человеческих головах, детальная персонализация человека по его поведению в сети и т. д., – всё это уже, так сказать, в дверях.

Речь идёт не о каких-то «нюансах», а о системной проблеме: перед нами не только собственно технологические риски, но и экономические, общественно-политические, экзистенциальные.

• Технологические риски связаны прежде всего с возможностью неконтролируемого развития искусственного интеллекта.

• Экономические риски связаны с массовой безработицей, обусловленной полной автоматизацией производства, что приведёт к системному кризису современной модели экономики.

• Общественно-политические риски – это и возможная кибервойна, и возникновение тоталитарных государств (квазигосударств), управляемых собственниками BigData.

• Экзистенциальные риски в грядущем цифровом мире связаны с утратой человечности в традиционном её понимании, а также с интеллектуальной деградацией общества.

Каждое из этих направлений разрабатывается независимыми экспертами, в университетской среде и исследовательскими компаниями. Идёт активная дискуссия, но общей картины пока, к сожалению, нет.

В этой книге я постараюсь рассказать о проблемах, связанных с наступлением «четвёртой промышленной революции», торжественно провозглашённой на Давосском экономическом форуме его бессменным президентом Клаусом Швабом.

Да, когда представители гигантского транснационального бизнеса самозабвенно рассказывают нам о грядущем счастье, я предпочитаю говорить о реальности. Мы должны оценить, насколько указанные риски взаимосвязаны и какова вероятность, что они вызовут эффект домино.

Ну и, конечно, я добавлю к этому скорбному списку свою «ложку дёгтя». Даже примеряя на себя роль футуролога, я не могу перестать быть врачом-психиатром, а на мой профессиональный взгляд, самой серьёзной проблемой нового времени будет деформация психики человека.

Этому аспекту, этому «слабому звену» обычно уделяется совсем мало внимания, но именно это «звено», как мне кажется, и запустит ту самую цепочку падающих друг на друга костяшек домино.

Но обо всех костяшках по порядку…

Глава первая

Цифровой рай

Лучший способ предсказать будущее – это изобрести его.

В этой главе мы рассмотрим скорое будущее, которое нам обещает главный пророк современных технологий – Рэй Курцвейл.

Рэй Курцвейл – личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США – Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году информационного Нобеля – National Medal of Technology.

Курцвейл создал первый музыкальный синтезатор, первый планшетный сканер, первую читающую машину для слепых, первым научил компьютеры распознавать человеческую речь. И это только некоторые из его личных достижений, не считая работы на Google, IBM ит. д.

Сейчас Курцвейл работает техническим директором Google, где возглавляет все работы по искусственному интеллекту. А в качестве хобби создаёт помощника, «способного отвечать на наши вопросы ещё до того, как вы их сформулируете». Нет, я не шучу. Это цитата.

Впрочем, Рэй Курцвейл, конечно, более известен широкой общественности как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью предсказывать – буквально по годам – достижения в области развития компьютерных технологий и искусственного интеллекта.

Да будет так!

Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми.

Согласно закону ускоряющейся отдачи, развитие технологий происходит экспоненциально: то есть чем мощнее становится та или иная технология, тем большее ускорение в своём развитии она приобретает.

«За семь лет проект “Геном человека”[2] собрал один процент генома, – рассказывает Курцвейл. – Мейнстримовые критики заявляли: “Я же говорил, что ничего не получится. За семь лет – один процент, значит, на весь геном уйдёт 700 лет”. Моя реакция была другой: “Ого, мы уже сделали один процент? Мы почти закончили!” Дело в том, что один процент – это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».

Чтобы представить себе, о чём говорит Курцвейл, вспомните знаменитую притчу о создателе шахматной игры – бедном мудреце и математике Сета.

Шахматы так впечатлили индусского царя Шерама, что он решил беспримерно наградить Сета.

– Я настолько богат, что могу исполнить любое твоё самое смелое желание, – сказал царь мудрецу Сету. – Назови награду, и ты получишь её.

– Велика доброта твоя, повелитель, – ответил мудрец. – Выдай мне за первую клетку шахматной доски одно пшеничное зерно.

– Одно пшеничное зерно? – изумился царь.

– Да, повелитель. За вторую клетку прикажи выдать два зерна, за третью – четыре, за четвертую – восемь, за пятую – шестнадцать, за шестую – тридцать два…

– Довольно, – с раздражением прервал его царь. – Ты получишь свои зёрна за все 64 клетки доски, согласно твоему желанию: за каждую вдвое больше против предыдущей. Но знай, что просьба твоя недостойна моей щедрости. Ступай! Слуги вынесут тебе твой мешок с пшеницей.

Сета улыбнулся, покинул залу и стал дожидаться последствий своей просьбы у ворот царского дворца. А развязку этой истории вы все, конечно, знаете.

Да, наше мышление, по самой сути своей, линейное – мы привыкли наблюдать постепенное приращение чего бы то ни было: вода в реке или в море поднимается или убывает медленно, растения, животные и даже наши дети растут год за годом и по чуть-чуть, так же незаметно меняются климат, отношения между людьми и т. д., и т. п. Всё постепенно.

Вот почему экспоненциальный рост, о котором говорит Курцвейл в своём законе ускоряющейся отдачи, для нас контринтуитивен: мы не привыкли так думать, а потому и не можем представить себе его последствий.

Царь Шерам решил, что мудрец Сета попросил у него мешок пшеницы, не больше. Но такова действительная реальность экспоненциального роста: если соблюсти последовательность, о которой просил мудрец, то к 64-й клетке количество зерна на доске будет в 1800 раз превышать ежегодный современный мировой урожай пшеницы.

То есть Сета попросил у наивного царя весь урожай пшеницы, собранный за всю историю человечества до настоящего момента, а общая масса этого зерна равнялась бы 1200 миллиардам тонн.

В своих прогнозах мы основываемся на опыте тех технологических трансформаций, которые произошли за последние десятилетия. Пережитый опыт диктует нам и наши представления о будущем – таковы особенности мышления человека, его, так скажем, интуиции.

Да, произошёл существенный скачок в развитии технологий – мы все это признаём. «Но что ещё может случиться, чтобы удивить нас? – рассуждаем мы по-стариковски. – Нет, мы уже всё видели…»

Но взгляните на эти два графика: на первом – мы с вами, вместе с тем самым индусским царём Шерамом, а на втором – экспоненциальная кривая технологического прогресса и те самые миллиарды тонн зерна, которые причитаются мудрецу Сете и о которых нас предупреждает Рэй Курцвейл.

2

Проект «Геном человека» (The Human Genome Project, HGP) – это научно-исследовательский проект по расшифровке последовательности нуклеотидов, составляющих ДНК (порядка 25 тыс. генов). Проект был начат в 1990 году под руководством нобелевского лауреата Джеймса Уотсона, а также Национальной организации здравоохранения США, и стал одной из крупнейших международных научных коллабораций.