Страница 7 из 8
Возможно все. Просто надо вытащить свое сознание из коробки. На искусственный интеллект не стоит смотреть как на изолированный элемент в комнате, который тупо перекладывает бумажки. Он существует не в вакууме. Вместо этого представьте человечество и все, что мы производим, включая машины, в виде роя, муравейника, коллективного разума (ну или «Матрицы»). Сейчас в нашем рое есть интеллектуалы, ученые, прожигатели жизни, популярные блогерши, преступники, президенты стран и есть ноды искусственного интеллекта – точки, элементы роя, которые обслуживают только машины, не люди. Например, вы уже не знаете, как работает поиск по почтовому ящику, – это делает машина. Вы не представляете себе банковское приложение без службы поддержки, на которой первую линию всегда обслуживает машина, вы не умеете ездить в новые места без навигатора (мозг утратил эту способность и отдал ее машине), вы не в силах представить себе сложное устройство сотовой сети во всех деталях вроде идентификации абонентов, маршрутизации звонков, питания и еще множества вещей – ведь всем этим управляют машины. И мы постоянно учим их делать все больше работы и все лучше, ибо сами хотим делать все меньше, а желательно – вообще ничего. С таким подходом наш рой, коллективный разум постепенно будет «выращивать» все больше элементов под искусственным управлением. И однажды встанет простой вопрос: «А это чей вообще муравейник? Кто в нем главный?» И это так же очевидно, как и то, что потомок обезьяны, когда-то взявшей палку в руку, однажды ступит на Марс.
Не стоит списывать со счетов и тот факт, что отец-основатель компьютерной науки и понятия искусственного интеллекта в том виде, в котором оно употребляется на сегодняшний день, Алан Тьюринг считал, что машина рано или поздно сможет общаться с человеком на равных. И даже придумал так называемый тест Тьюринга, пройдя который, машина докажет, что неотличима от человека. Ни одна машина этот тест пока не прошла; вернее, были близкие прецеденты, но четкого мнения по вопросу нет: в 2014 году имел место кейс «Жени Густмана» – алгоритма, который, как заявлялось, формально прошел тест Тьюринга, так как смог убедить около трети судей в том, что он человек. Проблема в том, что сам Тьюринг описал критерии прохождения теста довольно туманно, не определяя долю обманутых собеседников-людей и ограничившись высказыванием, что «у среднего собеседника будет 70 % шансов определить, был ли его ИИ-собеседник человеком или машиной, после пятиминутного собеседования». Если критерий 70 %, то «Густман» не прошел. Главная же проблема в другом: успехи в прохождении теста Тьюринга мало связаны с приближением нас к AGI, ибо «Женя Густман» и все предыдущие претенденты на успешное прохождение теста всего лишь коммуникационные боты разной степени сложности, то есть они решают узкую задачу «обмануть человека, убедив его, что я не робот». Это может считаться версией ANI, но к AGI не имеет отношения.
Это натолкнуло многих на понимание узости подобного подхода к созданию ИИ. В настоящее время ведущие разработчики в области ИИ перестали ставить своей целью прохождение их детищами теста Тьюринга и сфокусировались в основном на изучении и описании самого понятия «разум». Они стремятся не просто скопировать поведение человека, а произвести на свет нечто имеющее именно зачатки разума, то есть сеть принятия решений, способную обучаться самостоятельно и менять свои представления о приоритетах, добре и зле не по указке сверху, а на основании получаемого опыта. Как ни странно, свою значимость и незаменимость на этом пути обнаружили другие науки, например нейробиология, психология (книга «Думай медленно… решай быстро»[9] нобелевского лауреата Даниеля Канемана никогда еще не была так актуальна), генетика, эволюционная биология и биоинформатика, так что сегодня ИИ пытаются создать не только математики или программисты. В их вселенной ИИ – это действительно «китайская комната», но, когда им помогают светила других наук, все меняется. И вопрос появления ASI – тоже, как ни странно, лишь вопрос времени.
ASI – это искусственный интеллект, который превосходит лучшего представителя людей в любой возможной области. Например, в математике ASI будет сильнее Григория Перельмана, в физике – умнее Альберта Эйнштейна (что представить даже страшно), в области инжиниринга и управления продуктом – совершеннее Илона Маска, в области борьбы за права человека (или машины?) – успешнее Харви Милка, Мартина Лютера Кинга и Александра Солженицына; еще он сможет писать книги лучше Льва Толстого, размышлять о Вселенной в разы увлекательнее, чем Митио Каку и Юваль Харари, снимать фильмы лучше Джеймса Кэмерона и да – готовить борщ лучше вашей бабушки. С появлением ASI, скорее всего, случится то, что предрекал коллега Тьюринга, британский математик Ирвинг Гуд, – это будет нашим последним изобретением. О возможностях суперинтеллекта и вероятных сценариях нашего сожительства с ним мы поговорим в заключительных главах. Сейчас же, когда мы понимаем типы ИИ, важно разобраться в том, где мы, человечество, находимся в том самом муравейнике и какую роль выполняем уже сейчас.
С точки зрения банальной индукции…
История науки знает множество несбывшихся прогнозов и предсказаний, но пальма первенства, несомненно, принадлежит французскому философу-позитивисту Огюсту Конту, в 1835 году приведшему в качестве примера вещи, недоступной для человеческого познания, вопрос о составе звезд: «Мы никогда и никоим способом не сможем изучить их химический состав и минералогическую структуру».
При этом его предсказание базировалось на прочном, как казалось, философском фундаменте: «Истинная наука, далеко не способная образоваться из простых наблюдений, стремится всегда по возможности избегать непосредственного исследования, заменяя последнее рациональным предвидением, составляющим во всех отношениях главную характерную черту положительной философии. Такое предвидение, необходимо вытекающее из постоянных отношений, открытых между явлениями, не позволит никогда смешивать реальную науку с той бесполезной эрудицией, которая механически накапливает факты, не стремясь выводить одни из других… Истинное положительное мышление заключается преимущественно в способности видеть, чтобы предвидеть, изучать то, что есть, и отсюда заключать о том, что должно произойти согласно общему положению о неизменности естественных законов»[10].
Злая ирония заключалась в том, что все «простые наблюдения», способные дать ключ к определению химического состава звезд, на тот момент были уже сделаны. В 1814 году баварский оптик Йозеф Фраунгофер, бившийся над задачей точного определения коэффициента преломления различных сортов стекол для разных длин световых волн, сконструировал спектроскоп, в котором свет, проходивший сквозь призму, разлагался в многоцветный спектр, и обнаружил, что в спектре излучения Солнца есть темные линии (их еще в 1802 году наблюдал английский физик Уильям Волластон, но решил, что это естественные контуры, обрамляющие цветные линии). В ходе исследований он выделил и описал в солнечном спектре 576 темных линий. Это диктовалось чисто практическими соображениями, ведь, изготавливая призмы спектроскопа из разных сортов стекла и замеряя расстояния между зафиксированными темными линиями, можно было определить показатель преломления для стекла для любой области спектра. Но Фраунгофер попутно обнаружил, что спектры других звезд, в частности Сириуса, обладают различным набором темных линий и что особенно четкая двойная темная линия солнечного спектра находится точно там же, где и яркая желтая двойная линия в спектре пламени масляной лампы. Следующий факт в копилку «бесполезной эрудиции» положил один из изобретателей фотографии Уильям Тальбот, в 1826 году обнаруживший, что при внесении в пламя солей различных металлов они дают различающиеся картины спектров.
Но лишь в 1859 году создатели спектрального анализа Роберт Бунзен и Густав Кирхгоф обнаружили, что каждый химический элемент не только испускает свет определенных спектральных частот, но и поглощает свет тех же длин волн от источника излучения, разогретого до более высоких температур. Загадка темных линий разрешилась – они появляются в результате поглощения части спектра веществом в поверхностных слоях Солнца, а обнаруженная Фраунгофером характерная двойная темная линия принадлежит натрию. Определение химического состава звезд было уже, как говорится, делом техники.
Эта история наглядно демонстрирует ограниченность индуктивного мышления, на которое опирался Конт в своих «рациональных предвидениях». Оно оперирует неким набором фактов (в случае предсказания Конта довольно произвольным и неполным), и результат определяется полнотой исходных данных. Искусственный интеллект в некотором роде индуктивная машина, результаты работы которой зависят от того, что называется big data, – данных на входе.
9
Канеман Д. Думай медленно… решай быстро. – М.: АСТ, 2013.
10
Конт О. Дух позитивной философии. – Ростов н/Д.: Феникс, 2003.