Страница 30 из 68
Вы, должно быть, слышали о системе FICO, которая служит в качестве рейтинга кредитоспособности в Соединенных Штатах. Разработчик данного рейтинга, Fair Isaac Corporation, в настоящее время занимается созданием рейтинга приема лекарств пациентами. Компания не раскрывает все детали рейтинга, однако уже сейчас известны некоторые из параметров — например, сколько времени пациент прожил в одном месте, владеет ли он автомобилем,— которые будут использоваться для вычисления вероятности того, что он принимает предписанные лекарственные препараты. Задача рейтинга на настоящий момент,— рассылать наименее ответственным пациентам электронные сообщения с напоминанием о необходимости принять лекарство, но, естественно, со временем полученным данным найдется и иное применение. Врачи будут отказывать в приеме худшим пациентам, отчасти чтобы не терять на них время, отчасти чтобы их не мучило впоследствии чувство, что они не смогли вылечить пациента, а отчасти — в целях защиты своего собственного профессионального рейтинга. Но есть здесь и светлая сторона: рейтинги врачей могут быть откорректированы таким образом, что ими будут учитываться характеристики пациентов, благодаря чему часть врачей сможет специализироваться на худших и наиболее безответственных из них, чтобы попытаться сделать для них то, что может быть сделано.
А как же врачебная тайна? Нравится вам это или нет, но в будущем у вас вряд ли будет возможность хранить свой рейтинг пациента в тайне, как уже сегодня у вас нет возможности скрывать свой рейтинг кредитоспособности. Даже если вам удастся скрыть свой рейтинг от местного врача, его естественным предположением будет то, что если вы что-то скрываете, то это признак того, что вы — трудный пациент. Покладистые пациенты свой положительный рейтинг вряд ли будут скрывать, иначе их просто причислят к противоположной группе пациентов. Помните про фильмы, которые не были предоставлены «для просмотра представителями средств массовой информации»?
А как насчет «коэффициента проблематичности потребителя»? Совместите его с технологией распознавания лиц и походки. Как только покупатель приближается к продавцу в магазине Nordstrom, на экране смартфона последнего высвечивается полезная информация. Информация может быть следующей: «Тимоти О’Брайан обычно быстро совершает покупки и ваше время не тратит» или «За последние два года Сюзан Бойл вернула треть купленных товаров и дважды жаловалась на качество обслуживания». Потребителям придется уживаться с репутацией, которую они сами себе создают.
В настоящее время одним из основных бюро кредитных историй, агентством Equifax, осуществляется разработка «индекса дискреционных расходов», который указывает, располагает ли (предположительно, конечно) тот или иной потребитель денежными средствами, которые могут быть им потрачены не на товары первой необходимости, а сверх этого. Одна из целей разработки этого индекса — продажа подобной информации рекламодателям и компаниям, занимающимся рассылкой рекламы на дом, однако в эпоху умных машин информация эта найдет себе более широкое применение, в том числе и на рынке матримониальных знакомств. В США 60% работодателей проверяют кредитные истории соискателей, прежде чем принять решение о приеме их на работу — и это уже реальность, а не научно-фантастическая антиутопия, описывающая мир отдаленного будущего. Многие из тех, кто знакомится с серьезными намерениями, пожелают проверить потенциал дискреционных расходов человека, отношения с которым могут перейти у них в фазу романтических.
Наши (законные) опасения
Кена Ригана беспокоит наша все возрастающая способность измерять и оценивать качество выполнения нами тех или иных задач и значение этих оценок для профессиональной карьеры того или иного человека. Скажем, он может подвергнуть имеющиеся у него данные ретроспективному анализу, чтобы выяснить, какие характеристики шахматиста на ранних этапах его карьеры позволяют говорить о его перспективах или их отсутствии, и теперь какой-нибудь начинающий шахматист может поинтересоваться у Кена, стоит ли ему и дальше заниматься шахматами? Стоит ли ему бросить работу в офисе и стать профессиональным шахматистом? Возможно, Кен (с помощью программ, разумеется) и мог бы это выяснить. Но должен ли он сообщать о результатах своих расчетов? Плюсом здесь было бы то, что Кен мог бы дать недвусмысленный ответ. Мы ведь все равно используем информацию для оценки карьерных перспектив и для того, чтобы посоветовать или отсоветовать что-то другим.
Минусом же здесь является то, что излишек информации может помешать успеху. Что если бы компьютер был использован для оценки перспектив Эйнштейна стать великим ученым, когда тому было пять лет и он еще не умел говорить? Подобная правда, хотя это будет лишь несовершенной статистической оценкой правды, заставит многих опустить руки. С другой стороны, это может зажечь будущую звезду в человеке, которого день за днем уверяют, что в нем заложена искра божья. Для оценки карьерных перспектив молодежи не возбранялась бы некоторая степень двусмысленности, ведь в будущем мы потеряем часть той двусмысленности, которая помогает нам жить сегодня.
Думаю, нам следует умерить наше чрезмерное увлечение оценкой интеллекта. В своем пророческом романе 1952 г. «Механическое пианино» Курт Воннегут, описывая будущее мира машин, выдвигает еще одно опасение:
Что ж, я считаю, что вывешивать для общественного обозрения показатели интеллекта каждого — это трагическая ошибка. Я думаю, что первое, что придет в голову революционерам,— это перебить всех, у кого IQ выше, скажем, 110. Если бы я был на той стороне реки, я бы велел запереть под замок все книги с записями IQ, а мосты через реку взорвал бы...
Все сейчас подготовлено для классовой войны на сравнительно определенных демаркационных линиях. Я должен сказать, что главная основа нынешнего высокомерия и является главным подстрекателем к насилию: «чем ты дошлее, тем ты лучше». Критерий ума лучше денежного критерия, но лучше вот на сколько. — И Лэшер отмерил примерно одну шестнадцатую своего ногтя.
Персонаж под именем Лэшер, которому принадлежат эти слова, продолжает свою речь и указывает, кто именно, по его мнению, выиграет в мире точно измеренных человеческих качеств: те, кто отличается умом, но не просто умом: «дело здесь в определенной направленности этих умственных качеств. Человек не только должен быть умным, он должен быть умным в определенном, сверху утвержденном и полезном направлении; чаще всего в руководстве промышленностью и в инженерном деле».
Другими словами, какой бы полезной концепция стандартизации ни оказалась для работы, ее применение в социальных и экономических отношениях в целом может вызывать опасения. Это не тот мир, где каждый будет чувствовать себя комфортно.
Наш дискомфорт будет ощущаться сразу в ряде областей. Наиболее искусным связкам «человек—машина» гарантированы высокие заработки, однако ребром встанет вопрос о доверии общества, поскольку их господство над внешними условиями может превзойти нашу способность судить о них. Так, оценить уровень характеристик ряда лучших специалистов будет затруднительно. Мы будем лишь знать, что они очень и очень хороши, однако отслеживать уровень их характеристик с постоянной точностью или достаточной легкостью вряд ли будет возможно именно в силу того, что их показатели слишком велики применительно к критериям внешней оценки. Нам придется полагаться на их добрую волю и моральные качества в чрезмерной степени, способной вызвать беспокойство.
Их решения трудно будет предвосхитить. Представьте себе одну из лучших связок «человек—машина», занятых в области медицинской диагностики, скажем, в 2035 г. Ими принимаются решения, от которых зависит жизнь пациентов, а также действия врачебных учреждений и других медицинских специалистов. Но что можно рассматривать в качестве убедительного доказательства врачебной ошибки, совершенной связкой «человек—машина»? Суждения об их работе, вынесенного «лишь человеком» или «лишь машиной», будет недостаточно, поскольку по отдельности ни человек, ни машина не вправе судить о такой связке. Иногда можно будет выявить, что человеческая составляющая данной связки чрезмерно компетентна, однако именно диагностические решения связок «человек—машина» и будут представлять собой золотые стандарты того, что следует считать лучшим решением. Оспаривание одной такой связкой решения другой связки может помочь выявить ошибку, однако свидетельством злого умысла или преступной халатности не станет.