2062: время машин

Не принимать в расчет будущее

Вообще говоря, современная теория принятия решений нашла контраргумент к «пари Паскаля». Решение в том, чтобы учитывать настоящее и не учитывать будущее. Награда, полученная сегодня, важнее, чем та, которую можно получить завтра. Мы живем в настоящем, а не в будущем. Это заставляет нас смотреть на проблему несколько хладнокровно и утилитарно. Однако эта точка зрения, вероятно, соотносится с нашей биологией. Моментальный результат для нас важнее долгосрочных перспектив.

Один из способов не принимать в расчет будущее – с помощью коэффициента дисконтирования[40]. Предположим, мы обесцениваем будущее счастье на два процента в год по нынешнему курсу инфляции во многих развитых экономиках. Из этого следует, что быть счастливым через год – это всего 98 % от цены сегодняшнего счастья. Нам придется еще раз воспользоваться утилитарной точкой зрения и подсчитать сумму счастья всего населения. Подарить двум людям одинаковую радость в два раза ценнее, чем подарить эту радость одному человеку.

Ради аргумента предположим, что население планеты продолжит расти в том же темпе, что и сейчас. В следующем году оно будет на 1,1 % больше, чем сегодня. Так как коэффициент дисконтирования больше, чем темпы роста населения, будущие поколения (даже бесконечные) не будут так же счастливы.

Через шестьдесят три года нынешнее население планеты удвоится. Однако коэффициент дисконтирования счастья таков, что люди, которые будут жить в это время, получат лишь его четверть. Счастье всего мира через шестьдесят три года будет лишь половиной сегодняшнего счастья. Поэтому важнее обрести его сейчас, а не через столько времени.

Через сто двадцать шесть лет население увеличится в четыре раза. По коэффициенту дисконтирования их радость будет составлять всего одну шестнадцатую от сегодняшней. Всеобщее счастье, в свою очередь, составит лишь четверть от сегодняшнего показателя. И снова представляется очевидным тот факт, что сегодняшнее счастье гораздо весомее будущего.

Даже небольшой коэффициент дисконтирования заставляет нас сосредоточиться на настоящем. Более актуальных проблем, по поводу которых имеет смысл волноваться, в мире предостаточно. Эти проблемы нанесут нам вред гораздо быстрее, чем сверхинтеллект. Несомненно, эта книга – предостережение по поводу некоторых реальных угроз, исходящих от ИИ и возникающих уже сейчас. Однако большинство из них касается исключительно того примитивного искусственного интеллекта, который мы имеем на сегодняшний день, а не того, который появится через пятьдесят или сто лет.

Никогда не говори «никогда»

Разумеется, нельзя уверенно говорить о том, что сверхинтеллект не представляет никакой опасности для человечества. История уже много раз учила нас никогда не говорить «никогда».

Мой коллега Стюарт Рассел любит вспоминать, что один из самых авторитетных физиков своего времени, Эрнест Резерфорд, утверждал, что извлечение энергии из атома невозможно. Эта его цитата была опубликована в статье в газете The Times 12 сентября 1933 года. На следующий день Лео Силарду пришла в голову идея ядерной цепной реакции, которая породила ядерную бомбу и атомную энергию[41]. Меньше чем за день человечество преодолело расстояние от «никогда» до «пугающе близко».

Стоит с осторожностью относиться к слову «никогда». Артур Ч. Кларк предложил три закона, которые предупреждают об опасности прислушиваться к тем экспертам, которые утверждают, будто что-либо никогда не произойдет. Их стоит держать в уме, когда речь идет о будущем.

• Первый закон. В случае, когда пожилой, но выдающийся ученый говорит о возможности чего-то, он почти наверняка прав. Если он утверждает, будто что-то невозможно, он, вероятно, ошибается.

• Второй закон. Единственный способ обнаружить границы возможного – рискнуть и попытаться выйти за них.

• Третий закон. Любая прорывная технология неотличима от волшебства.

В свете этого позвольте мне отметить, что технологическая сингулярность возможна, а вы уж сами решайте, что делать с этим прогнозом.

За рамками природы

Вообще говоря, идея технологической сингулярности несколько отвлекает от основной сути сверхинтеллекта. Он может появиться и без этого. Например, машины могут стать сверхразумными просто потому, что не связаны, в отличие от нас, биологическими рамками. У них есть масса преимуществ по сравнению с людьми, многие из которых я перечисляю в последней главе.

В ходе эволюции появление определенных природных ограничений было неизбежным. К примеру, наш мозг ограничен в размерах примерно до ста миллиардов нейронов. Человеческий мозг, потребляя энергии больше любого другого органа в нашем теле, ограничен всего двадцатью ваттами энергии. У компьютеров нет подобных проблем. Нужна дополнительная память? Поставьте лишний чип памяти. Нужно больше? Храните данные в облаке. Нужно больше мощности? Просто проведите больше напряжения от розетки в стене. К тому же, в отличие от нас компьютеры могут работать 24/7. Им не нужно спать или отдыхать.

Люди ограничены также в чувственном восприятии мира. Наше обоняние хуже, чем у собак, а зрение хуже, чем у орла. Компьютеры могут нас превзойти, если преодолеют эти ограничения. Они могут пользоваться совершенно иными, новыми сенсорами.

Инфракрасное зрение, как у москитов. Ультразвуковые сонары, как у летучих мышей. Сенсоры, которых не существует в природе, как, например, GPS, радары или лидары. Для машин не составит труда обрести суперспособности.

Конец ознакомительного фрагмента.

Текст предоставлен ООО «ЛитРес».

Прочитайте эту книгу целиком, купив полную легальную версию на ЛитРес.

Безопасно оплатить книгу можно банковской картой Visa, MasterCard, Maestro, со счета мобильного телефона, с платежного терминала, в салоне МТС или Связной, через PayPal, WebMoney, Яндекс.Деньги, QIWI Кошелек, бонусными картами или другим удобным Вам способом.

40

Менее изящный способ сделать это – установить определенное временное окно. Вся прибыль, которая может быть получена по истечении этого времени, просто игнорируется.

41

По словам историка Ричарда Роудса, идея цепной реакции атомов пришла к Лео Силарду, когда он переходил улицу в лондонском районе Блумсбери на следующий день после того, как Резерфорд заявил о невозможности извлечения энергии из атома: «На светофоре загорелся зеленый свет. Силард сошел с тротуара. В тот момент, когда он пересек улицу, время вдруг раскрылось перед ним и он узрел путь в будущее, смерть в мире, все наши беды и очертания грядущих событий» (См. Richard Rhodes [1986] The Making of the Atomic Bomb, New York, Simon & Schuster). Цепная ядерная реакция – один из самых драматичных примеров силы экспоненциального роста. Один нейтрон расщепляет атом, высвобождая два нейтрона. Эти два нейтрона расщепляют два новых атома, высвобождая четыре нейтрона. Из этих четырех получается восемь, из восьми – шестнадцать, из шестнадцати – тридцать два и т. д. Спустя десять шагов мы получаем тысячу нейтронов, спустя двадцать – миллион, спустя тридцать – миллиард, спустя сорок – триллион. ИИ сейчас представляет собой пример подобного экспоненциального роста вычислительной способности, объема данных, выполнения алгоритмов и финансирования, инвестируемого в эту область. Так же, как и все экспоненты, этот рост не может продолжаться вечно, но пока это происходит и прогресс впечатляет. 3. Конец совести