Страница 6 из 8
3. Следовательно, нет оснований полагать, что алгоритмы органические могут что-то такое, что неорганические алгоритмы никогда не смогут повторить или превзойти. Если вычисления правильны, то какая разница, где работают алгоритмы – в углеродной или кремниевой среде?» [Харари Ю. Н. Указ соч., с. 373].
Приведенные положения почти не вызывают возражений. Становится понятно, что запускается действие железного принципа: всё, что может быть оцифровано, должно быть оцифровано. А потому чем больше будут оцифрованы и представлены в виде алгоритмов такие виды человеческой деятельности, как управление автомобилем (трактором, обрабатывающим центром, ракетой), диагностика заболеваний, подбор медикаментов для лечения, распознание различных образов и объектов, перебор огромных массивов информации в поисках нужной и т. п., – тем все больше человеческая деятельность будет замещаться машинной деятельностью.
Однако при этом возникают новые проблемы. «Самым важным для экономики XXI века может стать вопрос о том, что же делать с… бесполезными людьми. Чем будут заниматься человеческие существа с высокоразвитым сознанием, когда не обладающие сознанием сверхумные алгоритмы почти все станут делать лучше?.. Чем же мы займемся, когда алгоритмы будут учить, лечить и создавать сайты лучше, чем мы?» [Харари Ю. Н. Указ. соч., с. 372].
Неизбежно возникнет, кроме того, еще одна важная социальная проблема. По мере вытеснения алгоритмами людей с рынка труда богатство и власть будут концентрироваться в руках тонкого слоя элиты – владельцев всемогущих алгоритмов. Социальное и политическое неравенство достигнет небывалого уровня. Но если на смену миллионам водителей придет один алгоритм, то все доходы и влияние достанутся корпорации, владеющей алгоритмом и нескольким миллиардерам, владеющим корпорацией.
И тогда встает вопрос вопросов: все ли функции homo sapiens можно оцифровать, алгоритмизировать? Харари справедливо отмечает: нет – не все. Некоторые индивиды настолько нестандартны и креативны, что их нельзя будет ни заменить, ни расшифровать. Они-то и образуют малочисленную привилегированную элиту усовершенствованных людей. Эти сверхлюди будут обладать беспрецедентным мыслительным потенциалом, что позволит им принимать многие важные решений. Они будут предоставлять системе важнейшие услуги, в то время как система не сможет ни понимать их, ни управлять ими. Однако подавляющее большинство людей не будут усовершенствованы и, следовательно, станут низшей кастой, подчиненной как компьютерным алгоритмам, так и новым сверхлюдям.
Спасительные проекты человечества XX века – борьба с голодом, эпидемиями и войнами – ставили своей целью гарантировать универсальную норму благосостояния, здоровья и мира для всех без исключения. «Проекты XXI века – обретение бессмертия, счастья и божественности также предполагают облагодетельствование человечества в целом. Но поскольку эти проекты нацелены на то, чтобы превзойти норму, а не сохранить и гарантировать ее, они смогут привести к созданию новой касты сверхлюдей, которая откажется от своих либеральных корней и будет обращаться с обычными людьми не лучше, чем европейцы XIX века с африканцами» [Харари Ю. Н. Указ. соч., с. 406, 409].
Вот таким видит будущее человечества известный израильский ученый Юваль Ной Харари (который деликатно просит воспринимать свои предсказания не как пророчества, а как вероятности). Его суждения выглядят на первый взгляд убедительно. Ученый настойчиво проводит мысль о том, что человеку трудно, или даже невозможно, свернуть с магистрального пути, ведущего в компьютерный рай и одновременно закрепляющего невиданное социальное неравенство (с фантастическим могуществом высших каст и полной утратой своей идентичности и превращением в рабов или исчезновением в небытии миллиардов представителей низших каст). То же, между прочим, проповедуют и представители мировой капиталистической верхушки, которые мечтают о будущей власти, не демократической и даже не автократической, а магической; то же преподносится широким массам в литературных произведениях жанра фэнтези, вроде упомянутого романа Дэна Брауна, и фильмах типа «Гарри Поттер». Получается, что альтернативы описанным сценариям развития человечества – нет. Но так ли это?
Небольшой опыт нашей цивилизации (всего каких-нибудь 7 тысяч лет) свидетельствует о том, что, несмотря на тяжелейшие катаклизмы и бедствия, революционные потрясения и войны, homo sapiens в биологическом развитии не претерпел каких-либо изменений и, несмотря на многочисленные социальные язвы (непрекращающуюся агрессивность, преступность, коррупцию, наркоманию, алкоголизм и проч.) некоторая (едва заметная) ментальная эволюция человечества все же происходит. Все меньше остается государств и структур, в которых грубо попираются права человека, все больше народов строят свои отношения на основе равенства и партнерства. Похоже, что такова тенденция общечеловеческого развития. И никакой искусственный интеллект и формируемый им Homo Deus (Человек-Бог) не смогут эту тенденцию пресечь.
Поэтому вряд ли в будущем миллиарды представителей «низших каст» будут безропотно мириться с потерей своей индивидуальности. И в вероятностном компьютерном раю «высшим кастам» волей-неволей придется делиться социальными благами, в том числе властью, с «низшими». Но дело не только в этом.
Возможности чисто машинных систем, в том числе роботов с искусственным интеллектом, при всех успехах компьютерных технологий в выполнении операций, поддающихся алгоритмизации, пока несопоставимы с аналитическими и творческими потенциями человеческого мозга. Мозг человека незаменим. Более того, его возможности бесконечно велики, настолько, что изучить их полностью, как считают многие ученые, вероятно, не удастся никогда.
Сегодня все чаще ставится вопрос: сможет ли человек в будущем создать существо (гомункулуса, киборга, Голема или что-то подобное), которое намного будет превышать его собственные интеллектуальные способности? Если исходить из того, что человек на протяжении тысячелетий своего существования постоянно пытался преобразовать окружающий мир и создавал всевозможные механизмы, которые намного увеличивали его физические силы (от примитивных палок-копалок до современных машин, ракет и компьютеров), то, надо полагать, что тенденции НТП сохранятся, и человек непременно будет стремиться создать все более и более совершенные человеко-машинные и машинные интеллектуальные системы. Очевидно, это могут быть системы, значительно усиливающие отдельные его мозговые функции (память, вычислительные операции, сложные аналитические и логические действия и т. п.) – этим путем наука и техника двигаются уже сегодня. Но в итоге это будет всё тот же homo sapiens с тем же, или более развитым, биологическим мозгом, но дополненным и усиленным искусственным интеллектом.
А вопрос о создании искусственного сверхразума, более мощного, чем биологический мозг человека немного напоминает вопрос незабвенного шутника Ходжи Насреддина: может ли всемогущий Аллах создать гору, настолько большую, что Он сам не в состоянии будет ее сдвинуть? Создание всемогущего надчеловеческого искусственного суперразума невозможно еще и по той причине, что сегодня мы не знаем (и, возможно, никогда не узнаем), что такое Разум и, в частности, что такое Разум Человека.
Опираясь на достижения биологической инженерии, некоторые ученые стали возлагать большие надежды на создания генетически модифицированных растений и животных. Считается, что в сочетании с 3D-технологиями генное редактирование может обеспечить «биопечать» живых тканей для восстановления и регенерации организмов. Если это так – в добрый путь. Однако когда производят так называемые «высокоточные» манипуляции с геномом человека, взятого у жизнеспособного эмбриона с целью «спроектировать» младенцев, обладающих конкретными качествами и устойчивостью к определенным заболеваниям, то это направление вызывает много вопросов и сомнений.