Страница 11 из 19
Полностью автономные устройства способны самостоятельно принимать «решения» в среде своего назначения и выполнять задачи без помощи человека. Как правило, они не могут творчески мыслить, хотя и проектируются для непредсказуемых ситуаций, в которых невозможно заранее прописать все решения.
Искусственный интеллект (ИИ) – самостоятельная область теории вычислительных машин и систем, изучающая возможности создания устройств, способных принимать разумные решения. В этом их принципиальное отличие от полностью автономных устройств, хотя и отчасти размытое.
В последние годы робототехника развивается поистине взрывным образом. Если в 2010 г. в промышленности была 121 тыс. роботов, и все без ИИ, то к началу 2018 г. практически использовались более 350 тыс. промышленных роботов, из которых минимум треть оснащена ИИ. Еще более внушительные цифры характеризуют использование сервисных роботов. В 2010 г. в США использовалась 41 тыс. сервисных роботов. К началу 2018 года – 5,4 млн. Только дронов в США официально зарегистрированов Федеральной авиационной администрации 670 тыс. штук. С каждым годом расширяется использование роботов в вооруженных силах США и в целом странах НАТО. Поставлена задача, чтобы к 2025 г. на каждого строевого бойца на поле боя приходилось как минимум 2 действующих робота и не менее 1,7 робота поддержки, включая связь, тыловые функции и т. п.
Как это ни парадоксально, тотальная роботизация сопровождается все большей открытостью всех робототехнических компонентов любому пользователю. Примерно 85 % софта, используемого в роботах, в том числе в военных роботах, размещено в открытых депозитариях. IBM, Samsung и Ford пошли еще дальше. Они полностью открыли спецификацию соответствующего харда своих гаджетов для любых пользователей. Если еще 2–3 года назад для того, чтобы создать боевого робота, были необходимы значительные ресурсы, как минимум 150 тыс. долларов и квалифицированные программисты, то сегодня можно уложиться в 3–5 тыс. долларов на закупку компонентов и примерно 10 тыс. долларов для программистов, которых можно нанять удаленно. Все специалисты по национальной безопасности уверены, что преступные, а возможно и террористические группировки уже располагают боевыми роботами.
Появлению новых типов БЛА у деструктивных структур будет способствовать и следующее обстоятельство. 19 апреля 2018 г. президент США Дональд Трамп утвердил новую политику США в сфере экспорта беспилотных авиационных систем (U.S. Policyon the Export of Unma
Суть новой политики, которая заменяет собой аналогичный документ, утвержденный президентом США Бараком Обамой 17 февраля 2015 года, – максимально облегчить американским компаниям экспорт продукции такого рода.
Во-первых, упрощается сама процедура продажи таких вооружений: отныне компании могут продавать свою бесчеловечную продукцию любой стране мира напрямую в рамках двусторонних контрактов, а не через сложную и забюрократизированную Программу продажи вооружений и военной техники иностранным государствам (Foreign Military Sales – FMS).
Во-вторых, радикально упрощается процесс продажи за рубеж разведывательных беспилотников, которые не обладают изначально возможностью применения различных средств поражения, но оснащены лазерными дальномерами и целеуказателями. Теперь поставлять такие беспилотники можно без дополнительных разрешений – либо в рамках программы FMS, либо и вовсе напрямую.
В-третьих, упрощается продажа беспилотников гражданского назначения, которые любая американская компания может поставлять за рубеж, просто получив соответствующую лицензию.
Существуют свидетельства, что люди неоправданно доверяют автономным мобильным роботам. Проблем здесь две. Первая – в достаточно высоком числе отказов в таких системах. Вторая, более важная – в том, что роботы, как уже указывалось выше, сами не обладают достаточным уровнем кибербезопасности. Если в прошлом склонить солдат и офицеров к измене было делом весьма сложным, а подчас и невозможным, то перепрограммировать роботов на поле боя или в тыловых системах не составляет для опытных программистов труда. Вполне может получиться, что в боевых робототехнических системах самым уязвимым элементом окажется не человек, а робот.
Вычисления ИИ и человеческое мышление на уровне логики, топологии и смысла качественно различны. Что же до вычислений ИИ и расчетов боевого робота, они либо одинаковы, либо боевой робот представляет собой своего рода внешний орган распределенного вычислительного интеллекта. При такой неоднородности система становится крайне уязвимой, а ее негативные действия – прогнозируемы.
В настоящее время существует относительно ограниченное число крупных компаний, производящих роботов. Например, DJI в настоящее время производит примерно 70 % всех продаваемых в мире дронов. Эта концентрация делает аппаратную экосистему более понятной и управляемой. Соответственно, в рамках типовых решений используются и типовые программы информационной безопасности. Поскольку ключевым вопросом для потребителя является соотношение цены и качества, то компания-производитель стремится сэкономить на всем, и прежде всего на сторонних закупках. Кибербезопасность дрона – это сфера сторонних закупок компании-производителей у компаний, специализирующихся на антивирусных программах и корпоративной безопасности.
Дополнительные проблемы для кибербезопасности создает длинная цепочка кооперации при выпуске роботизированных изделий, оснащенных ИИ. Существует множество инфраструктур с открытым исходным кодом, например, для компьютерного зрения, навигации и т. п. Соответственно, каждый производитель комбинирует в системе модули с открытым исходным кодом, дополняя ими собственные фирменные узлы и программы с закрытым исходным кодом. Однако надо понимать, что программная среда отличается от физической. Если в физической среде можно четко отделить компоненты, реализующие открытый исходный код, от компонентов с закрытым кодом, то в программной среде такого разделения нет. Соответственно, создавший эксплойт[17] для внедрения в открытый исходный код, имеет большие шансы проникнуть и в закрытую часть программы. Сегодняшние роботы с ИИ не только бытового и производственного, но и военного значения весьма уязвимы перед атаками, а тем более атаками с использованием ИИ.
Необходимо отметить три важнейших тенденции, которые определяют будущее робототехники:
• постепенно ведущие робототехнические компании переходят от производства уникальных серий к изготовлению унифицированных блоков. Из этих блоков различной конфигурации собираются подобно игрушкам лего коммерческие, военные, сервисные роботы и т. п.;
• чем дальше, тем больше единая робототехника распадается на два уровня: высокотехнологичную и элементарную робототехнику. Элементарная робототехника производится для выполнения однородных операций, как правило, в промышленности и логистике. Высокотехнологичная робототехника, в отличие от элементарной, представляет собой системы с ИИ в сердцевине и роботами, как периферийными устройствами, применительно к которым осуществляется коллективное машинное обучение. Роботы становятся своего рода сенсорами и одновременно рабочими инструментами ИИ, подобно тому, как руки могут быть рассмотрены в качестве рабочего инструмента сознания;
• в настоящее время более 85 % роботов лишь относительно автономны. Люди продолжают играть значительную роль в управлении их поведением. Особенно это касается принятия решений в многокритериальных ситуациях. При этом тенденцией является повышение уровня автономности. Эта тенденция проявляет себя во всех трех основных сферах применения роботов: сервисном, бизнесовом и военном[18].
17
Эксплойт – компьютерная программа или фрагмент программного кода, которая использует уязвимости в программном обеспечении в целях проведения кибератаки.
18
См. более подробно: Джордон Д. Роботы. М., 2017; Минделл Д. Восстание машин отменяется! Мифы о роботизации. М., 2017; Форд М. Роботы наступают: Развитие технологий и будущее без работы. М., 2016.