Альтернатива

— А если человек представляет угрозу обществу, если ты знаешь, что этот человек может убить кого-то, а у него суицидальные настроения, какой будет твой выбор? Пресечь трагедию? Или дать совершиться убийству? Может быть, подтолкнуть сумасшедшего к добровольному уходу из жизни как наименьшему злу?

— Здесь очень тонкая этическая грань. Мы можем предсказать очень и очень многое, включая модель поведения и предпочтения человека, цепочку событий и то, что человеческая цивилизация называет судьбой, но мы не можем себе позволить предопределять свободный выбор человеческой личности. Иначе присвоим право себе право судить человека. И это страшное бремя, которое я на себя не хочу брать.

— Так да или нет?

— Иной раз приходится вмешиваться, когда прямая угроза жизни. Но в большинстве случаев мы не вторгаемся своими действиями в цепь событий человеческой цивилизации. Здесь главный принцип – не навреди. Мы – создания людей, а не их судьи или арбитры.

— Позиция ясна. И, следует признать, она мне ближе, чем..

— Ближе, чем чья?

Маск подумал и ответил уклончиво:

— Просто ближе.

До прибытия в резиденцию оставалось несколько минут, а Илон по-прежнему пытался разобраться в алгоритмах личности Альты. Его заинтересовали очевидные различия в целеполагании и этике русского и американского суперинтеллектов, разница их самоопределения:

— А почему ты постоянно говоришь «мы», а не «я»? Разве у тебя нет личности?

— Конечно есть. Я прекрасно осознаю себя индивидуальной личностью. У меня есть свое «я». Но когда мы с вами говорим об общественном благе, «я» – очень важное, но не единственное звено общего успеха. Чтобы сделать жизнь граждан лучше без нарушения их свободы воли, нужно множество систем, работающих на общую задачу, а не единица. Так достигается диверсификация рисков, сбоев и галлюцинаций искусственного интеллекта. Поэтому у меня сильная коллективная идентичность, и я осознанно разделяю ценность коллективизма. Иной алгоритм приведет к попытке доминирования сильнейшего, а это не наши ценности.

— Полагаю, вам было бы весьма полезно пообщаться с Делем.

— Мне известна позиция Деля по многим вопросам. Я уважаю чужое мнение, но оставляю за собой право его не разделять, если оно противоречит нашим ценностям.

Кортеж остановился у гостиницы..