Страница 5 из 6
Мне хочется думать, что у меня функциональные отношения с моим навигатором Google. Он является неотъемлемой частью моей жизни. Я пользуюсь им каждый раз, когда сажусь за руль, даже во время коротких поездок. Я исхожу из того, что он подскажет мне оптимальный маршрут. Я больше не задумываюсь о том, насколько прекрасным изобретением является навигатор, точно так же, как я не прихожу в восторг при виде холодильника на своей кухне.
Мой танец с навигатором Google длится уже много лет. Я научился прислушиваться к нему, когда он подсказывает мне другой маршрут или неожиданно предлагает съехать с шоссе. Я стал верить, что он знает больше меня и стремится мне помочь. Я даже чувствую себя виноватым, когда не следую его советам, гадая, не накажет ли он меня в будущем за мое непослушание.
Благодаря навигатору Google мои деловые поездки стали более спокойными. Теперь, даже застряв в пробке, я знаю, что приеду на встречу вовремя. Я считаю, что навигатор – это замечательное изобретение, хотя мне прекрасно известно, что оно собирает данные обо мне и анализирует, куда я езжу и чем занимаюсь.
Но в последнее время я стал задумываться о том, куда нас приведут такие технологии, как навигатор Google. У меня есть деревенский бревенчатый дом в трех часах езды к северу от Торонто, где я часто уединяюсь, чтобы поразмышлять о Вселенной. Когда мы с женой Джинни только приобрели этот дом, я с раздражением обнаружил, что по нашей дороге ездит большое количество легковых и грузовых автомобилей, часто нарушая тишину и наше уединение. Но теперь эта дорога почти всегда пуста. Если не считать случайных машин, то единственными транспортными средствами на ней являются конные повозки, которыми управляют наши соседи-амиши.
Я не задумывался о том, почему дорога перестала быть оживленной, пока на днях не воспользовался навигатором Google для поездки домой в Торонто. Навигатор рекомендовал мне следовать совсем другим маршрутом, чем я ездил предыдущие 20 лет. Программа подсказала, что я сокращу время поездки на 30 минут. Теперь вся дорога укладывалась в два с половиной часа вместо трех.
Возвращаясь домой, я заметил, что по той новой дороге, по которой я ехал, движется значительный поток машин в обоих направлениях. Трасса была загружена. Затем меня осенило, что все люди едут по одной и той же дороге, потому что навигатор Google дает им одни и те же указания. Я также понял, что водители больше не выбирают мою дорогу, потому что Google им ее уже не предлагает.
Это хорошо для меня, но не очень хорошо для людей, проживающих вблизи от этой оживленной трассы. Они, наверное, удивлены, почему сотни машин теперь мчатся по их ранее сонной дороге. Я также думаю, что моя старая дорога была забыта, потому что на ней есть небольшой (хоть и весьма живописный) изгиб вокруг маленького озера. Алгоритм Google, вероятно, подсчитал, что этот изгиб добавляет несколько секунд к поездке, и поэтому уже не рекомендует нашу дорогу.
У этой ситуации весьма далеко идущие последствия. Во-первых, что, если людям, живущим рядом с загруженной дорогой, не нравится возросший трафик? Что они могут с этим сделать? Они не могут позвонить в местные государственные органы. Правительство не имеет власти над Google. Позвонить в офис Google эти люди тоже не могут. Компания не станет менять свои алгоритмы в угоду нескольким недовольным клиентам. Таким образом, машинный алгоритм лишил людей, проживающих вблизи от оживленной дороги, их права голоса.
Во-вторых, я заметил, что, выбирая новый маршрут, я больше не попадаю в расположенный на трассе ресторан быстрого питания Super Burgers, где я обычно с удовольствием делаю остановку на полпути. Следуя рекомендациям Google, я лишаюсь своих вкусных чизбургеров. Однако тот факт, что мои вкусовые рецепторы не получают привычных ощущений, меркнет перед следующим обстоятельством: из-за алгоритмов Google заведение Super Burgers потеряло клиента; и если оно потеряет достаточно много клиентов, то может вообще прекратить свою деятельность. Еще больше тревоги вызывает то обстоятельство, что администраторы ресторана не будут знать, почему они потеряли клиентов, и не будут иметь возможности исправить ситуацию.
В-третьих, что произойдет, если мы будем просто выполнять указания навигатора Google и других подобных приложений, управляемых искусственным интеллектом? Останемся ли мы людьми или превратимся в автоматы, выполняющие приказы своего цифрового повелителя? Эта ситуация напоминает мне старый киносериал «Флэш Гордон», основанный на комиксе 1930-х годов, где злой император поработил население, заставив людей надеть шлемы для промывки мозгов (посмотрите этот сериал на YouTube). Если мы будем продолжать движение по этой траектории и бездумно внедрять искусственный интеллект во все сферы нашей жизни, то не начнет ли он отдавать нам приказы в течение всего дня? Встать с кровати. Застелить постель. Почистить зубы. Пройтись между зубов зубной нитью. Съесть йогурт. Пойти на работу.
В своей книге 1996 года «Стратегический маркетинг в цифровую эпоху» (Strategic Marketing for the Digital Age; кстати, это первая в мире книга об интернет-маркетинге) я ввел понятие «технопия». Когда мы заражены технопией, мы бездумно внедряем новые технологии, не принимая во внимание потенциальные негативные последствия, которые могут возникнуть совершенно неожиданно. Мы освобождаем себя от всяких моральных или этических последствий, связанных с нашими технологическими увлечениями. Мы по умолчанию рассматриваем все новые технологии как благо.
Конечно же, мы все имели возможность убедиться, что технология не всегда является благом. В жизни все имеет как положительные, так и отрицательные стороны. Технологии не исключение. Большинство людей даже не представляли себе всех негативных последствий, вызванных интернетом и социальными сетями.
Сегодня технопия царит во всем мире. Десятки новых технологий набирают обороты, и при этом мало кто проявляет осторожность. Современные технологии включают в себя алгоритмы машинного обучения (считайте их роботами, которые непрерывно умнеют), аналитику больших данных (роботы знают о нас очень много), интернет вещей (у роботов есть множество способов шпионить за нами и собирать данные о нас) и нанотехнологии (роботы становятся все меньше и меньше в размерах). Не говоря уже о дронах (летающих роботах), квантовых вычислительных устройствах (роботах с неограниченной вычислительной мощностью) и блокчейне (роботах, осуществляющих высокоскоростные транзакции друг с другом). По мере экспоненциального развития этих технологий принимает ли кто-нибудь меры предосторожности, чтобы результаты такого технического прогресса были полезны для людей?
Вот почему отношения между человеком и роботом – это танец. Мы можем не участвовать в этом танце и остаться в одиночестве или же, наоборот, танцевать с каждым роботом, который появляется в нашем поле зрения. Но мы также можем научиться общаться с нашими роботами-партнерами умело и даже элегантно, что сделает этот мир лучше. А еще можем решить, каких именно роботов нам следует пригласить на танец.
Опасения по поводу стремительного развития робототехники небезосновательны. Роботы могут делать многие вещи лучше и быстрее, чем люди. Если мы владеем бизнесом, то имеем множество причин заменить своих сотрудников машинами. Роботы могут выполнять повторяющиеся задачи быстрее и эффективнее. Они могут работать 24 часа в сутки 7 дней в неделю, никогда не делают перерывов, не уходят на больничный и не бастуют. Кроме того, они постоянно учатся делать свою работу еще быстрее и качественнее. Нет ничего удивительного в том, что в ближайшее десятилетие миллионы рабочих мест будут потеряны по причине развития автоматизации.
Столкнувшись с этой проблемой, люди демонстрируют ментальную ошибку, которая им вредит. Она называется искаженное восприятие статус-кво. Даже если мы осознаем, что в прошлые времена уже случались кардинальные изменения, мы склонны думать, что наше будущее будет примерно таким же, как и настоящее (возможно, с реактивными ранцами и летающими автомобилями). Мы не можем себе представить, что будущее может быть радикально другим, поэтому и не готовимся к предстоящим изменениям.