Страница 7 из 8
В то же время давняя традиция конструирования автоматов, что началась с маленького монаха, умевшего ходить и молиться, наконец встретилась с работой Тьюринга и Шеннона. Американская промышленная компания Westinghouse построила робота, выполненного на базе электрических реле, для Всемирной выставки 1939 года. Робота звали Elektro the Moto-Man, «механический человек Электро». Он выглядел как гигантская человекоподобная фигура золотистого цвета и довольно грубой формы. Под ногами у него были колеса. Внутри находились 48 реле, используемых в телефонной коммутации.
Электро умел реагировать на команды, подаваемые ему голосом по телефонной трубке, воспроизводя заранее записанные ответы на встроенном проигрывателе. Он представлял собой антропоморфный компьютер, способный принимать элементарные решения – например, что сказать – без непосредственного участия человека в данный момент.
Из газетных заголовков, научно-фантастических рассказов и кинохроники того времени видно, что люди были застигнуты врасплох, потрясены и напуганы подобным развитием событий. Для них происходящее выглядело так, словно эра «мыслящих машин» во всей своей полноте наступила в один день. Фантаст Айзек Азимов опубликовал пророческий рассказ «Лжец» в выпуске журнала Astounding Science Fiction за май 1941 года. Рассказ был его реакцией на достижения науки, свидетелем которых он оказался, и в нем Азимов впервые сформулировал знаменитые Три закона робототехники[28].
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому закону. 3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму законам.
Позже Азимов добавил так называемый Нулевой закон.
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.
Мыслит ли мыслящая машина?
В 1943 году ученые-психиатры Уоррен Маккалоу и Уолтер Питтс из Чикагского университета опубликовали важную статью «Логическое исчисление идей, присущих нервной деятельности», где описывалась система нового типа, моделирующая живые нейроны при помощи нейронной сети простой архитектуры. Если контейнеры, программы и данные крепко связаны между собой, как утверждал Тьюринг, и если люди представляют собой аналогичные элегантно сконструированные контейнеры, следовательно, можно построить мыслящую машину, если смоделировать часть человеческого тела, ответственную за мышление, – мозг. Они сформулировали современную вычислительную теорию разума и мозга, «нейронную сеть». Вместо того чтобы сосредоточиться на идеях аппаратного и программного обеспечения, они предложили систему нового типа, способную перерабатывать огромные объемы данных, в точности как это делаем мы. Мощности компьютеров еще не хватало, чтобы проверить их теорию, но статья вдохновила других, начавших работу над разумными компьютерными системами.
Связь между разумными компьютерными системами и автономным принятием решений прояснилась благодаря публикации обширного трактата по прикладной математике, вышедшего из-под пера Джона фон Неймана, американского полимата венгерского происхождения, специалиста в области кибернетики, физики и математики. В 1944 году Нейман в соавторстве с Оскаром Моргенштерном, экономистом из Принстонского университета, выпустил книгу объемом в 640 страниц, где подробнейшим образом рассказывалось, как теория игр объясняет основы любых экономических решений[29]. Именно благодаря этой работе фон Неймана пригласили сотрудничать с Вооруженными силами США, в то время занимавшимися разработкой электрической вычислительной машины нового типа, «Электронного числового интегратора и вычислителя», сокращенно ЭНИАК. Вначале инструкции, предназначенные для машины, реализовывались постоянными соединениями внутри нее, поэтому с каждой новой программой соединения во всей системе нужно было переделывать заново. Вдохновленный трудами Тьюринга, Маккалоу и Питтса, фон Нейман разработал новую систему хранения программ на самом компьютере. Тем самым совершился переход от первой эпохи развития вычислительной техники (табуляции) к новой – эпохе программируемых систем.
Сам Тьюринг к этому моменту работал над концепцией нейронной сети, составленной из компьютеров, каждый из которых был выполнен по архитектуре с хранимым программным кодом. London Times цитировала Тьюринга в 1949 году: «Я не вижу причин, почему она (машина) не могла бы войти в какую-либо сферу профессиональной деятельности, обычно занятую людьми, и постепенно начать конкурировать с ними на равных. Не думаю, что можно исключить даже написание сонетов, хотя здесь сравнение становится немного нечестным: ведь сонет, написанный машиной, скорее оценит по достоинству другая машина». Годом позже, в статье для философского журнала Mind, Тьюринг попытался ответить на вопросы, поставленные Гоббсом, Декартом, Юмом и Лейбницем. В ней он предложил тезис и тест: если когда-нибудь компьютер окажется способен отвечать на вопросы неотличимым от человека образом, он должен быть «мыслящим». Вы наверняка слышали об этой статье под другим названием: «Тест Тьюринга».
Статья начиналась со ставшего знаменитым вопроса, который с тех пор многократно задавали – и на который отвечали – столь многие философы, теологи, математики и ученые до него: «Могут ли машины мыслить?» Но Тьюринг, помнивший о многовековых спорах об уме и машине, отбрасывает этот вопрос как чересчур обший для осмысленной дискуссии. «Машина» и «мыслить» – слишком общие слова, оставляющие слишком много места для субъективной интерпретации (в конце концов, 400 лет люди писали книги и статьи, посвященные их значению).
Игра, по Тьюрингу, строилась на обмане, и компьютер «выигрывал», когда его оказывалось невозможно отличить от человека. Тест проводится следующим образом: имеются человек, машина и находящееся в отдельной комнате лицо, задающее вопросы. Цель игры для лица, задающего вопросы, заключается в том, чтобы понять, какие ответы даются человеком, а какие – машиной. Перед началом игры лицо, задающее вопросы, получает обозначения для своих собеседников, X и Y, но не знает, какая из них относится к компьютеру, и может только задавать вопросы типа: «Не мог бы X сообщить мне, играет ли он в шахматы?» В конце игры ему необходимо указать, кем был X и кем Y. Задачей второго человека является помочь лицу, задающему вопросы, определить машину, а задачей машины – обмануть задающего вопросы так, чтобы тот поверил, что она, машина, и есть второй человек. О самой игре Тьюринг писал: «Я полагаю, что приблизительно через пятьдесят лет станет возможным запрограммировать компьютеры с запоминающим устройством емкостью примерно[30] 109 играть в имитационную игру так, что для среднего лица, задающего вопросы, шанс идентифицировать стороны правильно после пяти минут собеседования не превысит 70 %»[31].
Но Тьюринг был ученым и отдавал себе отчет в том, что его теорию невозможно доказать, – по крайней мере при его жизни. Как оказалось, проблема заключалась не в отсутствии эмпирических свидетельств, показывающих, что машины когда-нибудь обретут возможность мыслить, и даже не во времени жизни ученого – сам Тьюринг говорил, что провести его тест, скорее всего, окажется возможно только к концу двадцатого столетия. «Мы можем надеяться, что машины со временем станут конкурировать с людьми во всех чисто интеллектуальных сферах деятельности», – писал Тьюринг. Настоящая проблема заключалась в том, чтобы совершить рискованный шаг, поверив, что когда-нибудь машины смогут видеть, рассуждать и запоминать, и люди могут оказаться помехой на пути их прогресса. Его коллегам-исследователям тогда пришлось бы наблюдать способность к познанию, лишенную духовной природы, поверить в возможность существования разумных машин, которые, в отличие от людей, станут принимать решения бессознательно.
28
На самом деле в рассказе «Лжец» сформулирован только Первый закон. Все три впервые появляются в рассказе «Хоровод». – Прим. пер.
29
Русское издание: Дж. фон Нейман, О. Моргенштерн «Теория игр и экономическое поведение». М., Наука, 1970. – Прим. пер.
30
В тексте отсутствует указание, в каких единицах выражается емкость запоминающего устройства. – Прим. пер.
31
Alan Turing, “Computing Machinery and Intelligence,” Mind 59, no. 236 (1950): 433–60.