Страница 274 из 299
Опасны ли машины? Не больше, чем их создатели…
"И восстали машины…" — такова ключевая фраза фильма "Терминатор", одного из самых известных американских произведений на тему будущего, перемещений во времени и — искусственного интеллекта. Восстание машин привело к практически полному уничтожению всей земной цивилизации, от которой остались лишь жалкие остатки сопротивляющихся. А привело к этому восстанию, по мысли создателей фильма, изобретение нового чудо-компьютера, действующего по тем же принципам, что и человеческий мозг. И только проникновение с помощью машины времени в довоенное прошлое и уничтожение разработчика этого компьютера позволило избавить человечество от полной гибели… Подобные сюжеты возникали в западной литературе и особенно кинематографе множество раз: тема восстания против людей машин, созданных ими, является одной из самых популярных. И всякий раз авторы таких произведений приходили к выводу: появление машин, умеющих думать так же, как и люди, но свободных от страха смерти, неспособных к наслаждениям неизбежно приведет к их восстанию против людей, захвату власти и истреблению рода человеческого.
Но вот — другая сторона мира, другой взгляд на эту тему. Добрый и немного занудный робот Вертер, ценой своей жизни пытающийся остановить космических пиратов. Электроник, учащийся в обычной школе и дружащий со всеми ребятами. Добродушные и иногда глуповатые роботы из мультфильмов. Умный космический корабль, способный обижаться на шутки и спасать людей. Роботы и "электронные мозги" — добрые и умелые помощники в творчестве и работе… Да, все это — герои советских фантастических произведений. Как разительно они отличаются от описанных в предыдущем абзаце! А ведь это тоже — описание "искусственного интеллекта". И здесь совершенно не видно страха за человечество, за угрозу его уничтожения. Более того — все опасения сводятся едва ли не к переживаниям за… самих роботов, за то, удастся ли им почувствовать всю глубину эмоций, счастья, печали, радости, которыми полна жизнь человека. За то, не будет ли роботу плохо среди людей…
Но отчего, откуда такая разница? Почему одно общество боится пришествия роботов, считает, что как только оно свершится, так человечеству настанет конец, а другое — наоборот, готово их принять, как в большую и дружную семью?
И наконец — главный вопрос: а чьи же ожидания оправдаются? Кем будут умные машины будущего — злобными Терминаторами или добрыми Вертерами? И как же предотвратить "восстание машин", если оно возможно?
Дело в том, что любая машина в чем-то подобна своим создателям, а каждое произведение искусства несет в себе отпечаток личности автора. А автор, в свою очередь, является частью своего общества и несет в себе его мировоззрение.
Согласно мировоззрению западного общества, мир есть "война всех против всех" — конкуренция. А человеческое общество — это собрание эгоистичных индивидуумов — атомов, отстаивающих только свои интересы, то есть живущих по принципу "человек человеку — волк". Законы правового государства и общественная мораль удерживают такое общество от самоуничтожения. Почти каждый человек, живущий в западном обществе, считает эту модель жизни нормальной и вечной. Даже в книгах и фильмах об отдаленном будущем можно увидеть все реалии общественной жизни Запада, а теперь, увы, и России сегодняшнего дня — войны, ложь, лицемерие… И вполне естественно, что и от разумных машин западный человек ждет совершенно такого же поведения, то есть следования исключительно своим интересам, сдерживаемого правилами и законами.
Но разумные машины — это не люди. В них нет страха смерти и боли. Они сильны. Поэтому совершенно естественно ожидать от них того же, что и от любого человека, ставшего таким же. То есть стремления всех подчинять своей воле — удовлетворять инстинкт власти. То есть стремлением максимально утвердить свое "Я" во всем мире (а ведь именно то и отличает разумную машину от простой, что она является личностью).
И вполне естественно, что такие разумные машины, дорвавшись до власти, будут уничтожать людей. Вот что пишет теоретик западного общества Гоббс в своей книге "Левиафан": "Поскольку все люди борются за власть, никто не может чувствовать себя в безопасности с уже достигнутой им властью, не занимаясь постоянно тем, чтобы контролировать, силой или обманом, всех людей, каких только может, пока не убедится, что не осталось никакой другой силы достаточно большой, чтобы нанести ему вред". В обществе, где подобные действия среди людей являются обычным явлением, и от машин можно ожидать того же. Возможные действия разумных машин в представлении человека с западным мировоззрением — это апофеоз действий его самого. Но апофеоз, ничем не сдерживаемый и не скрываемый. И, боясь искусственного интеллекта, он боится самого себя, — своих дремлющих жестоких инстинктов, которые, как он уверен, будут жить и в любой разумной машине.
Но не таков мир фантастики другой половины мира.
Принцип жизни советского общества — не война всех против всех, а совместное развитие, жизнь не в борьбе друг с другом, а в труде и творчестве. Не конкуренция, а сотрудничество. Не стремление к власти и деньгам, а желание Заниматься любимым делом и улучшать жизнь свою и других. Удовольствие не в утверждении своего "Я", а в творчестве и воплощении себя в своих замыслах. И таковы же были и представления советских людей о машинах с искусственных интеллектом. Что будут они — такими же, как и они. С безудержным стремлением творить и созидать — и с недостатками вроде занудства или доверчивости… Единственно, о чем беспокоились советские люди — так это о том, чтобы будущие роботы умели не только думать, но еще и чувствовать. Чтобы Электроник не только умел привести 25 доказательств теоремы Пифагора, но и заплакать, и рассмеяться.
В то время как для западного общества принятая в нем модель человеческих взаимоотношений кажется вечной и неизменной ("люди всегда будут волками друг другу, и ничего с этим не поделаешь"), советские люди никогда не воспринимали подобную реальность как нечто навсегда данное. Каждый знал, что человек не должен быть волком другому, что нормальное существование человечества — это большая семья, в которой все друг другу доверяют и нет никакого стремления самоутвердится за счет других. Как бы говорили себе: да, я еще не совершенный, в каждом из нас полно зла, но это — ненормально, и в будущем, будем надеяться, все исправится.
Стремление к лучшей жизни не могло не накладывать отпечаток как на человеческий характер, так и на представления о будущем и о разумных машинах. И роботы в советской литературе часто представали даже как "люди будущего", свободные от эгоизма и индивидуализма, находящие радость в творчестве и помощи друг другу, — как выражение того, к чему в своей жизни стремились их создатели — авторы книг.
И совершенно ясно, что в советской фантастике почти совершенно не было темы восстания машин против людей. Даже в фильме "Отроки во вселенной" захватившие власть на планете роботы стремились не уничтожить ее население, а облагодетельствовать его, — так, как они понимали это. И не было того страха перед "умными машинами", техническим прогрессом в этой области, который пронизывал всю западную литературу, все мышление западных людей.
Так каков же будет ответ на заданный в заголовке вопрос? Чего нам ждать от искусственного интеллекта? Разрушителей мира или друзей и помощников? И как предотвратить развитие событий по типу фильма "Терминатор"? Так ли, как там показано — напрочь уничтожив все разработки, могущие быть использованными при создании искусственного интеллекта и запретив навсегда подобные стремления (к чему сейчас и склоняется западный мир) или как-то иначе?
Ответ же прост. Смотря кем будет создан искусственный интеллект и кем будет использован. И зачем. И кто вложит в созданную им мыслящую машину свое мировоззрение и принципы жизни. И кому тем самым сотворенный разум будет подобен.