Страница 10 из 19
Прежде всего, стремясь минимизировать издержки и привлечь к развитию собственного продукта максимальное количество внешних, в значительной степени бесплатных, разработчиков, большинство ведущих производителей платформ ИИ уже выпустили платформы с открытым кодом: Tensorfl ow, BigSur, Torch, SciKit, Caffe, CNTK, DMTK, Deeplearning4j, H2O, Mahout, MLLib, NuPIC, Project MalmoMicrosoft DeepMindGOOGLE.
По мнению аналитиков ФБР, использование ИИ криминалом в США в течение ближайших пяти лет будет иметь место в нескольких приоритетных сферах. Их объединяет наиболее благоприятное для криминала соотношение трех переменных: полученный преступный доход, совокупные приведенные издержки на подготовку, совершение и сокрытие преступления, и уровень риска.
1. Использование ИИ для компрометации и имплантации вредоносного софта в действующие платежные системы, в основном использующие протокол блокчейн.
Большая четверка (Visa, MasterCard, American Express и Di
Программы ИИ в данном случае крайне важны. Они позволяют использовать методы глубокого обучения нейронных сетей для взлома и перепрограммирования платежных протоколов, построенных на блокчейне. Эксперименты, проведенные в университете Санта-Фе и Дармурдском университете, показали, что программы ИИ справляются с этой задачей эффективнее, чем люди-программисты. Уязвимость заключена в блокчейне. Он, как любой код, базируется на правилах и алгоритмах. Именно на них построены игры – от шахмат до покера, где ИИ победил человека.
2. На долю высокотехнологичного киберкриминала, извлекающего прибыль из торговых операций крупнейших финансовых институтов, приходится 40–50 млрд, долларов ежегодно. Это – наиболее прибыльная, хотя и достаточно рискованная сфера организованной киберпреступности.
Поскольку в последние несколько лет развернулась настоящая гонка финансовых вооружений, выражающаяся в совершенствовании всеми крупнейшими финансовыми институтами своих платформ на основе ИИ, преступникам даже для того, чтобы хотя бы сохранить долю доходов, необходимо участвовать в этой гонке. В этой связи использование преступными группами ИИ для операций на финансовых рынках путем проникновения и компрометации торговых платформ не оставляет для криминала другой возможности, как использовать лучшие решения ИИ с открытым кодом. В отличие от ситуации в платежном бизнесе, где в 2017–2020 гг. следует ожидать резкого увеличения размеров и доли преступных доходов в обороте платежных систем, в алгоритмическом трейдинге в краткосрочной перспективе доля преступников будет снижаться. Вряд ли в ближайшие годы им удастся не только вырваться вперед, но и просто сохранить паритет в оснащенности программами с ИИ по сравнению с ведущими финансовым институтами.
3. Есть основания полагать, что по мере развертывания технологической гонки интерес киберпреступников к интеллектуальной собственности будет только нарастать. Известно также, что для вскрытия сегодняшних мощных систем корпоративно-информационной безопасности все шире используются многофункциональные программы, в основе которых лежат самосовершенствующиеся алгоритмические модули. Подобные модули – это ключевой элемент ИИ.
Эксперты ФБР констатируют, что США оказалась не готова к отпору хакерским группировкам, нацелившимся на интеллектуальную собственность, принадлежащую корпорациям, федеральному правительству и университетам.
Средний срок пребывания хакерского софта в корпоративных сетях в тех случаях, когда он в итоге бывает все-таки обнаружен, увеличился с 2014 по 2016 гг. с примерно 150 до 230 дней. При этом, по оценке экспертов ФБР, удается обнаружить примерно 30–40 % от общего числа активных проникновений в корпоративные сети. И это – в крупнейших компаниях.
4. Использование ИИ для разведывательной деятельности организованной преступностью против полиции и ФБР.
Колумбийский наркокартель Кали еще в начале 90-х годов прошлого века приобрел мощную компьютерную систему IBMAS/400, стоившую в те времена полтора миллиона долларов, и обзавелся штатом сисадминов и программистов, разрабатывающих специализированный софт для datamining.
Техника была нужна для того, чтобы прочесать краденые базы данных с рабочими и домашними телефонами сотрудников американских спецслужб и дипломатических работников в Колумбии, сопоставить их с полным списком всех телефонных звонков, которые совершаются в стране, и выявить потенциальных информаторов, подлежащих ликвидации.
Если ОПГ не могут уничтожить базы правоохранителей, то они, очевидно, пойдут другим путем. В любой системе самый уязвимый фактор – это человек. В течение 2016–2017 гг. ФБР внимательно отслеживало попытки на черном рынке купить те или иные базы изображений с видеокамер, установленных в кафе, торговых центрах, рядом с полицейскими участками, зданиями ФБР и т. п. Это наводит нас на мысль, что преступники начали создание собственной базы данных с использованием примерно тех же решений ИИ, что и правоохранительные органы. Первая – это база агентов под прикрытием и осведомителей. В делах, относящихся к компетенции ФБР, более чем в 70 % случаев успех был связан с работой этих отважных людей.
Также ожидаются попытки создания криминалом баз данных на сотрудников информационных центров полиции штатов и ФБР. То есть людей, допущенных в святая святых. С учетом того, что у каждого, даже самого преданного и отважного правоохранителя есть уязвимые места, создание подобных баз могло бы иметь гибельные последствия.
§ 5. Робототехника: риски и угрозы
Энциклопедия «Британика» определяет робота как «любую автоматическую машину, выполняющую работу человека». В соответствии с определением Международной федерации робототехники (International Federation of Robotics, IFR) «робот – это рабочий механизм, программируемый по нескольким осям с некоторой степенью автономности и способный передвигаться в пределах определенной среды, выполняя поставленные задачи. В представлении большинства ученых и практиков робот – «любая машина, способная воспринимать окружающую среду и реагировать на нее на основе самостоятельно принимаемых решений»[16].
Ключевым отличием роботов от других машин считается «автономность»: робот способен интерпретировать среду, в которой находится, и адаптироваться под поставленные задачи. Роботы эволюционируют от запрограммированного автоматизма к полуавтономным и более автономным сложным системам. Полностью автономные системы могут действовать самостоятельно и принимать «решения» без участия человека.
Исходя из общего определения, дистанционно управляемые устройства не могут считаться «роботами». Тем не менее, некоторые из них все же признаются таковыми. В число «дистанционных» устройств робототехники входят роботы телеприсутствия, управляемые на расстоянии андроиды, роботизированные хирургические устройства, экзоскелеты и беспилотные летательные аппараты (БПЛА) (их также называют «дронами»). Это же относится к некоторым игрушкам и учебному оборудованию.
Полу автономные устройства частично управляются людьми, однако, в отличие от «дистанционных», предоставляют информацию, которая облегчает операторам выполнение задач и помогает в управлении такими системами. Например, в эту группу входят полуавтоматические устройства, все чаще используемые в автомобилях, и некоторые промышленные роботы, нуждающиеся в получении четких инструкций от оператора.
16
См.: Кайснер Э. Робототехника: прорывные технологии, инновации, интеллектуальная собственность. Форсайт, т.10. № 2,