Страница 41 из 47
Работа Нэша показала, что есть сценарии, в которых оптимальный результат не является следствием действий, кажущихся наиболее очевидными. Известный пример этого — так называемая дилемма заключенного, изобретенная Мелвином Дрешером и изложенная Альбертом Такером на лекции студентам-психологам. Сценарий при пересказывании изменился, но в его оригинальной форме двое мужчин были арестованы за нарушение закона и помещены в отдельные камеры. Если один из них признается, он будет вознагражден, а второй — оштрафован. Если оба признаются, то оба будут оштрафованы. Если ни один не признается, то они оба будут освобождены. Суть дилеммы в том, что оптимальной стратегией будет сохранять спокойствие, в результате чего оба будут выпущены на свободу, но страх, что такая стратегия может иметь неприятные последствия, если другой человек признается, вполне может вынудить обоих признаться, и тогда оба будут оштрафованы. Именно такие сценарии и стратегические игры используют на переговорах, будь то торговля, военные переговоры, бизнес или работа с персоналом. Экспериментально было выяснено, что люди отлично умеют находить теоретически оптимальные решения, и случайное отступничество ведет к быстрому и неотвратимому возмездию другой стороны — тактика, известная как «зуб за зуб».
Есть игры, в которых существует оптимальная стратегия, и как только она нащупывается, игра становится чрезвычайно тривиальной. Например, крестики-нолики — популярная детская игра, но как только ее стратегия становится понятной и каждый игрок начинает действовать согласно этой стратегии, интерес к игре сразу теряется.
Нэш доказал, что даже шахматы имеют оптимальную стратегию, но эта игра настолько сложна, что оптимальная стратегия все еще не найдена, даже не ясно, будет ли результат ничьей или победой для белых. Если оптимальная стратегия когда-либо будет найдена, шахматы станут столь же тривиальными, как крестики-нолики. Есть ли оптимальная стратегия для применения ядерного оружия? В течение нескольких коротких лет Америка была единственной ядерной державой, но страх, что Россия создаст ядерный арсенал, заставил некоторых мыслителей, вроде фон Неймана и даже Бертрана Рассела, протестовать против первого ядерного удара по России и призывать всемирный парламент добиваться глобального мира. Это не было осуществлено, и мир вскоре перешел к политике сдерживания и взаимно гарантированного уничтожения. Подобные стратегии были разработаны в секретном консультативном органе ученых Корпорации RAND.
Корпорация RAND была основана в 1945 году на оборонные фонды, оставшиеся после войны. Первоначально они были частью проекта «Дуглас Эркрафт». В 1948 году она была формально заявлена как некоммерческая организация с финансированием, осуществляемым военными и деловыми кругами. Это был типичный мозговой центр, ученые которого должны были «придумывать невероятное». Целью RAND были «исследования и развитие», большая часть его проектов была сосредоточена в области национальных ядерных стратегий. В 1940-е и 1950-е годы там какое-то время работали все известные математики США. Нэш познакомил их с семейством стратегических игр, включая «Кригшпиль». Была тщательно изучена логистика войны, были задействованы предохранительные механизмы, чтобы предотвратить любые случайности. Поскольку обе стороны выражали опасения относительно растущего запаса оружия, применение стратегии «зуб за зуб» казалось маловероятным — ядерная игра была одной из тех, в которую можно играть только один раз. Подобная политика привела к сильнейшему напряжению в жизни двух поколений населения мира и их лидеров.
RAND работал скорее как университет, чем как военное агентство, позволяя ученым свободно вести привлекательный для них образ жизни. Здание агентства было открыто круглосуточно. В RAND имелось процветающее издательство. Одной из самых популярных книг, изданных в 1954 году, была книга «Умелый стратег», написанная Джоном Д. Вильямсом, — популярное описание применения теории игр для непрофессионалов. В книге присутствовал столь типичный для этой корпорации черный юмор. Сейчас существует множество других мозговых центров, порожденных успехом RAND, но ни один из них не имел такого мощного коллектива математиков, занятых исключительно абстрактным мышлением.
Терминология, используемая в этих стратегических играх, включает сотрудничество и измену. Позднее теория игр много критиковалась за циничный взгляд на людей как на существ совершенно корыстных и пекущихся только о своей выгоде. Однако последующие исследования показали, что реальные стратегии людей действительно отражают их восприятие относительной пользы. В игре с нулевой суммой ничья оставила бы каждого игрока с теми же деньгами, с которыми он начал ее, но в игре с «ненулевой суммой», типа фондовой биржи, победа и проигрыш относительны, и там игра заключается скорее в получении максимального выигрыша, чем в уничтожении противника. Таким образом, сотрудничество становится более обычным делом, если обе стороны извлекают выгоду из сделки. Хотя поначалу теория игр развивалась довольно медленно, теперь это неотъемлемая часть анализа рыночной экономики. Недавно она была использована в глобальной продаже с аукциона лицензий предприятия коммунального обслуживания частным фирмам, в результате чего был получен очень необходимый доход и открыты новые рынки. Весь глобальный рынок — это сцена, где игроки колеблются между сотрудничеством и соревнованием. Это мир теории игр.
Я собираюсь рассмотреть вопрос: могут ли машины мыслить. Но для этого нужно сначала определить смысл терминов «машина» и «мыслить». Можно было бы построить эти определения так, чтобы они по возможности лучше отражали обычное употребление этих слов, но такой подход таит в себе некоторую опасность. Дело в том, что, если мы будем выяснять значения слов «машина» и «мыслить», исследуя, как эти слова определяются обычно, нам трудно будет избежать того вывода, что значение этих слов и ответ на вопрос «могут ли машины мыслить?» следует искать путем статистического обследования… Однако это нелепо. Вместо того чтобы пытаться дать такое определение, я заменю наш вопрос другим, который тесно с ним связан и выражается словами с относительно четким смыслом.
Эта новая форма может быть описана с помощью игры, которую мы назовем «игрой в имитацию». В этой игре участвуют три человека: мужчина (А), женщина (В) и кто-нибудь задающий вопросы (С), которым может быть лицо любого пола. Задающий вопросы отделен от двух других участников игры стенами комнаты, в которой он находится. Цель игры для задающего вопросы состоит в том, чтобы определить, кто из двух других участников игры является мужчиной (А), а кто — женщиной (В). Он знает их под обозначениями X и Y и в конце игры говорит либо: «X есть А и Y есть В», либо: «X есть В и Y есть А». Ему разрешается задавать вопросы такого, например, рода:
С: «Попрошу X сообщить мне длину его (или ее) волос».
Допустим теперь, что в действительности X есть А. В таком случае А и должен давать ответ. Для А цель игры состоит в том, чтобы побудить С прийти к неверному заключению. Поэтому его ответ может быть, например, таким:
«Мои волосы коротко острижены, а самые длинные пряди имеют около девяти дюймов в длину».
Чтобы задающий вопросы не мог определить по голосу, кто из двух других участников игры мужчина, а кто — женщина, ответы на вопросы следовало бы давать в письменном виде, а еще лучше — на пишущей машинке. Идеальным случаем было бы телеграфное сообщение между двумя комнатами, где находятся участники игры. Если же этого сделать нельзя, то ответы и вопросы должен передавать какой-нибудь посредник. Цель игры для третьего игрока — женщины (В) — состоит в том, чтобы помочь задающему вопросы. Для нее, вероятно, лучшая стратегия — давать правдивые ответы. Она также может делать такие замечания, как «Женщина — я, не слушайте его!», но этим она ничего не достигнет, так как мужчина тоже может делать подобные замечания.
Поставим теперь вопрос: «Что произойдет, если в этой игре вместо А будет участвовать машина?» Будет ли в этом случае задающий вопросы ошибаться столь же часто, как и в игре, где участниками являются только люди? Эти вопросы и заменят наш первоначальный вопрос «могут ли машины мыслить?».
24
Цит. по: А. Тьюринг. Может ли машина мыслить? С приложением статьи Дж. фон Неймана «Общая и логическая теория автоматов». Пер. и примечания Ю. А. Данилова. М.: ГИФМЛ, 1960.