Страница 12 из 19
Обобщение полученных статистических данных о боевых роботах в зарубежных странах показывает, что на сегодняшний день:
• несмотря на то, что большинство разработанных роботов специального назначения по-прежнему представляют собой БЛА, доля специальных роботов наземного и морского применения на мировом рынке стремительно растет;
• основная часть разработанных РТК специального назначения представляет собой конструктивно новые дистанционно-управляемые образцы техники легкого и среднего класса, выполняющие разведывательные (осмотровые) задачи тактического уровня.
Специалисты прогнозируют, что в опытноконструкторских работах по созданию роботов специального назначения третьего поколения будут реализованы:
• повышенная ресурсная автономность;
• модульность построения и реконфигурируемость;
• конструктивная и технологическая унификация образцов и их ключевых функциональных компонентов;
• помехозащищенные многоканальные средства и системы информационно-управля-ющего взаимодействия и опознавания;
• интеллектуальные программно-алгоритмические средства, позволяющие обеспечить распознавание объектов и рабочей обстановки, рефлексивное прогнозирование развития событий, планирование рационального (оптимального) поведения и, как следствие, адаптивное контролируемое функционирование роботов специального назначения в неопределенных, динамически изменяющихся разнородных условиях применения;
• интеллектуальные программно-алгоритмические средства, позволяющие обеспечить интеграцию разнотипных роботов специального назначения в единую группу с последующим управлением их совместными действиями в однотипных, разнотипных и смешанных боевых порядках;
• интеллектуальные системы человеко-машинного интерфейса и поддержки принятия решений операторами управления роботами специального назначения при решении боевых (ударных, огневых), обеспечивающих и специальных задач.
Существующие темпы развития обширного спектра прорывных разработок в области информационных технологий и робототехники к 2030 году способны обеспечить значимый прогресс в развитии базовых тактико-технических возможностей военных роботов, а также разработку и внедрение роботов специального назначения третьего и последующих поколений. Можно прогнозировать, что массовое и многомерное применение робототехники на поле боя будет инициировать в военной теории, искусстве и практике революционные изменения, соизмеримые с последствиями внедрения ракетного и ядерного оружия, автоматики и радиолокации в середине прошлого столетия[19].
Несмотря на проведение нескольких конференций ООН относительно добровольного ограничения странами производства автономных боевых роботов, в настоящее время такого рода системы производятся США, Великобританией, Францией, Израилем, Россией, Китаем и Ираном. Автономные боевые роботы отличаются от относительно автономных роботов тем, что самостоятельно, т. е. на основе программ, написанных в рамках подходов ИИ, принимают решения о нанесении огневых ударов по противнику или применению наступательного кибероружия. Главная причина, почему не сработали рекомендации ООН, состоит в том, что в 2015–2016 гг. в ходе маневров и натурных военных игр, проведенных в целом ряде стран, выяснилось, что полностью автономные дроны с ИИ побеждают дроны, удаленно управляемые человеком в 9 случаях из 10. Главное преимущество дронов с ИИ состоит в быстроте оценки ситуации. Соответственно, страны, имеющие технический потенциал для производства полностью автоматизированных боевых дронов и других военных робототехнических систем, активно встали на этот путь, поскольку в противном случае оказались в заведомо проигрышном положении в отношении потенциальных конкурентов и противников.
Дилемма о повышенном риске, связанном с автономными боевыми дронами – с одной стороны, и их превосходстве над робототехническими системами, где важнейшие решения удаленно принимает человек, является своего рода моделью принятия решения в более широкой области. Вне зависимости от моральных оценок, в разделенном и враждебном мире не будут работать какие-либо технологические запреты и ограничения на применение технологий, в том числе, связанные с ИИ. В условиях отсутствия доверия и цивилизационного раскола мира, пришедшего на смену двуполярному миру, каждая страна, чей научно-технологический потенциал позволяет воплотить в реальность эффективную, пусть и самую рискованную, технологию, обязательно сделает это по той причине, что в противном случае может оказаться беззащитной перед конкурентами.
Аппаратные части роботов уже производятся в 47 странах мира. Софт для роботов пишется во всех уголках планеты, а не менее половины софта выложено в депозитариях, как открытый программный код. Единственным исключением являются законченные решения в области ИИ. Несмотря на то, что программы и компоненты ИИ широко представлены в открытых депозитариях, самые продвинутые решения в этой сфере относят к числу наиболее охраняемых ноу-хау. В настоящее время они являются монополией пяти стран мира, в основном США и Великобритании, и до некоторой степени Япония, Израиля и Китая. Ни она другая страна мира сегодня не способна изготовить по-настоящему продвинутые системы ИИ.
Необходимо различать два типа угроз. Что касается создания оснащенных элементарным ИИ дронов, вооруженных минибомбами, отравляющими веществами и т. п.,то это уже реальность и контролировать данный процесс практически невозможно. Наиболее рациональной стратегией является заблаговременное производство систем оперативного обнаружения и уничтожения подобных дронов и других типов относительно элементарных боевых роботов, которые либо уже имеются, либо в ближайшие годы окажутся в распоряжении террористических сетей и злонамеренных государств.
Идея использовать робота как орудие убийства[20] – тривиальная. Первым человеком, погибшим от робота, стал американский рабочий С. Форд в 1970-е гг. Он работал на автоматизированном предприятии, выполнявшем покрасочные работы для автомобильной индустрии. В результате нарушения программы, отвечающей за координацию автоматических манипуляторов одного из роботов, последний вместо дверцы схватил за шею рабочего и удушил его. В 2016 г. произошло первое целенаправленное убийство с использованием робота. В палате интенсивной терапии госпиталя ордена иезуитов в Сан-Мигеле больной умер от подачи в капельницу смертоносного состава вместо предписанного лекарства. Полицейские не смогли бы обнаружить данное преступление, если бы не случайность. Программист, которого банда подрядила, чтобы взломать программу, управляющую автоматической раздачей лекарств, поделился информацией в одном из закрытых чатов. В нем присутствовал осведомитель городской полиции. Благодаря ему программист был задержан, а позднее вырисовалась вся картина.
В течение 2015–2016 гг. агенты под прикрытием и осведомители ФБР и полиции США неоднократно сообщали, что преступные синдикаты по-прагматичному серьезно обсуждали различные варианты убийств, используя насыщенные электроникой автомобили, умные дома, медицинские комплексы и т. п. Поскольку у преступников обычно мысли не расходятся со словом, а слово – с делом, вполне можно ожидать появления в Америке принципиально нового явления.
ФБР всерьез готовится к появлению подпольного синдиката, специализирующегося на заказных высокотехнологичных убийствах, замаскированных под технические инциденты различного рода. Принимая во внимание объем рынка заказных убийств в США, составляющий около 2 млрд, долларов в год, мы ожидаем появление такого сетевого синдиката, а скорее всего не одного, а нескольких, во временном интервале одного-двух лет.
Главным инструментом подобных синдикатов должны быть не хакерские программы сами по себе, а ИИ. Тонкость здесь в следующем. Различного рода автоматизированные автономные системы в подавляющем большинстве управляются из единого вычислительного центра, функционирующего как ИИ. Это позволяет осуществлять роевое обучение. Соответственно, подключиться и заместить команды одного ИИ может только другой. Программисту это не под силу. Он будет распознан из-за большей медлительности и меньшей алгоритмичности действий и операций.
19
Чиров Д.С., Новак К.В. Перспективные направления развития робототехнических комплексов специального назначения. http://e-notabene.ru/nb/article_22737.html.
20
Подробно эти проблемы рассмотрены в работе: Е. Ларина, В. Овчинский. Роботы-убийцы против человечества. Киберапокалипсис сегодня. М., 2016.