Страница 321 из 324
В-пятых, согласно распространенному мнению, высшие мыслительные способности человека опираются на систематические формы рассуждений (глава 10). Они предполагают применение формальных структур и систем правил, которые используются в логике и математике. Хотя некоторые исследователи по-прежнему считают, что наш мозг обладает врожденными системами символьной обработки, идеально приспособленными к формальной структуре этих дисциплин, мы рассматриваем систематические способы мышления как человеческие изобретения, которые призваны усилить и развить наши естественные способности к рассуждению, основанные на нейронных сетях. Более того, обширные исследования показывают: наша способность использовать эти интеллектуальные инструменты напрямую зависит от погружения в культурную и образовательную среду, которая поощряет их применение. Следовательно, чтобы искусственные нейронные сети освоили подобные когнитивные навыки, им необходим сопоставимый опыт погружения в специально созданную обучающую среду. Такое погружение уже создается и дает обнадеживающие результаты. Резкий скачок производительности систем ИИ в первой половине 2020-х годов отчасти объясняется включением в обучающие данные формально структурированных материалов. Среди них – учебники и статьи, которые излагают формальные системы математических рассуждений и демонстрируют примеры решения задач. Сюда же входят компьютерные программы, которые сами по себе представляют явные системы символьной обработки. Продолжающиеся попытки понять, как подобное воздействие формирует наши способности к познанию, могут подсказать оптимальные способы внедрения таких способностей в искусственные нейронные сети.
В-шестых, в стремлении достичь человеческого уровня решения задач исследователи ИИ к середине 2020-х годов все больше внимания уделяют концептуализации рассуждения как интенсивного, протяженного во времени процесса. Примечательным достижением стало побуждение моделей к пошаговой «цепочке размышлений». Этого добиваются, демонстрируя модели примеры поэтапных рассуждений и используя обучение с подкреплением для поощрения длинных цепочек логических шагов. И действительно, люди часто решают задачи поэтапно, и стимулирование моделей действовать аналогично порой приводит к существенным улучшениям. Главная сложность, однако, в том, что выбор следующего шага зачастую крайне труден. Люди умеют разбивать сложные задачи на более простые подзадачи, но механизмы нашей порой поразительной эффективности в этой сфере остаются предметом изучения. Исследователи ИИ осознают важность декомпозиции задач и экспериментируют с широким спектром подходов. Мы полагаем, что более глубокое понимание того, как люди выбирают промежуточные шаги решения – возможно, под влиянием целей (см. наш последний пункт) и разбиения целей на подцели, – будет взаимно обогащать прогресс в этой области как в человеческой психологии, так и в ИИ.
В-седьмых, в нашем мозге есть «поисковая» система, которая активируется детекторами потребностей (например, сигналами голода) и возможностями удовлетворить эти потребности в окружающей среде (глава 10). Эта система служит источником целенаправленной мотивированной активности, обеспечивающей обучение, проактивное решение задач, приоритизацию одних действий над другими и самостоятельное формирование целей. Другие мозговые системы отвечают за эмоции, которые совершенствуют механизм принятия решений и усиливают запоминание личностно значимых событий (глава 5). Системы ИИ середины 2020-х годов лишены этих поисковых и эмоциональных механизмов.
Наконец, одно из важнейших различий между людьми и машинами состоит в том, что наш мозг располагает системами, которые позволяют целям направлять все аспекты поведения и познания – от сбора информации до планирования, решения задач и рассуждения (глава 10). Системы ИИ середины 2020-х, как правило, не имеют собственных целевых систем. Цели, организующие их поведение, – это преимущественно цели разработчиков, которые отбирают обучающие данные и создают протоколы вознаграждения для тонкой настройки. И хотя наше поведение отчасти формируется схожим образом, способность организовывать мысли и действия для достижения собственных целей имеет колоссальное значение – не только для выживания, но и для высших человеческих свершений. Наша способность создавать великие произведения искусства или разрабатывать научные теории основана на постановке и упорном преследовании целей на протяжении долгих периодов – иногда десятилетий и более.
Внедрение человекоподобных поисковых, эмоциональных и целеполагающих систем может привести к созданию более автономных искусственных систем, расширяющих и дополняющих наши собственные возможности. Однако здесь необходима предельная осторожность. Как мы обеспечиваем друг друга механизмами контроля и надзора, так и системы ИИ будущего должны – это критически важно – иметь ограничители, гарантирующие, что они будут полезны для человека и не нанесут вреда. Будущие нейробиологические исследования того, как наш мозг приходит к конструктивным и просоциальным целям и результатам, помогут определить способы достижения этой цели.
Размышляя о путях, которые открываются перед ИИ будущего в результате более глубокого понимания человеческой природы, мы видим и светлые перспективы, и долгую дорогу впереди. Более полное понимание нейронных сетей, лежащих в основе человеческих способностей, поможет расширить возможности будущих систем ИИ. Но достижение такого понимания – непрерывный процесс, в ходе которого будут возникать новые вызовы по мере устранения существующих.
Несмотря на значительные успехи, наша способность создавать искусственный разум все еще находится в зачаточном состоянии. Технологии ИИ будут развиваться и совершенствоваться, обогащаясь новыми знаниями о мозговых механизмах, которые обеспечивают наши умственные способности. По мере развития этого процесса мы должны стремиться использовать понимание собственного разума для гармоничного сосуществования друг с другом. Мы также обязаны следить, чтобы наш ИИ соответствовал человеческим интересам и ценностям. От нашей способности достичь этих целей зависят перспективы процветания человечества как вида и совместной эволюции с системами ИИ.
Эпилог. Капли росы на острове