Человечество вступает в новую эру ведения войн, в которой главную роль играет искусственный интеллект. Он во много раз повышает эффективность армий. Но если его не контролировать, он станет глобальной угрозой.
Гонка вооружений с использованием искусственного интеллекта (AI) уже идет полным ходом – это предупреждение недавно прозвучало от министра иностранных дел ФРГ Хайко Маса (Heiko Maas). “Мы находимся посредине этой гонки – это реальность, с которой нам всем приходится иметь дело”, – заявил он в интервью, ставшем частью нового документального фильма DW “Будущие войны – и как их предотвратить”.
Реальность, о которой говорит Мас, является результатом борьбы между ведущими мировыми державами. “Эта гонка охватывает и военную, и гражданскую сферы, – убежден Амандип Сингх Джилл, бывший председатель группы правительственных экспертов ООН по автономному оружию. – Это вопрос нескольких триллионов долларов”.
Борьба за искусственный интеллект
Мнение министра иностранных дел ФРГ подтверждает недавний доклад Комиссии национальной безопасности США по искусственному интеллекту. В нем говорится о “новой парадигме ведения боевых действий”, в которой “алгоритмы противостоят алгоритмам”, и о масштабных инвестициях “для постоянного опережения потенциальных противников”.
Созданию искусственного интеллекта отведено центральное место и в последнем пятилетнем плане Китая, охватывающем сферу научных исследований и инновационных разработок, а Народно-освободительная армия КНР уже готовится к будущему с его “AI-войнами”. Пристальное внимание развитию AI уделяет и Россия – президент РФ Владимир Путин еще в 2017 году заявил, что тот, кто станет лидером в этой сфере, сможет править миром.
Но не только мировые державы участвуют в соревновании по разработке искусственного интеллекта для военных целей. Для некоторых стран эта новая эра уже стала реальностью, проверенной в боях.
Революция дронов неизбежна
В сентябре 2020 года, когда внимание всего мира было поглощено борьбой с пандемией, между Арменией и Азербайджаном с новой силой вспыхнул военный конфликт из-за Нагорного Карабаха. Боевые столкновения в этом регионе случались и раньше, но для многих наблюдателей последняя война в Карабахе стала отправной точкой, способной изменить стратегию и тактику военных действий во всем мире.
“Действительно важным аспектом конфликта в Нагорном Карабахе, на мой взгляд, было использование барражирующих боеприпасов, так называемых автономных “дронов-камикадзе”, – говорит Ульрике Франке (Ulrike Franke), военный эксперт при Европейском совете по международным отношениям.
Зависшие в воздухе бомбы
Усовершенствованные модели барражирующих боеприпасов обладают высокой степенью автономности. После запуска они летят в район, выбранный объектом нападения, и “замирают” в воздухе, сканируя цель, – как правило, это системы ПВО. Обнаружив цель, они пикируют на нее и уничтожают с помощью заряда взрывчатки – отсюда и прозвище “беспилотники-камикадзе”.
“Такие дроны и раньше использовались в той или иной форме – но здесь они действительно показали свою эффективность, – поясняет Франке. – Стало ясно, насколько сложно бороться с этими системами”.
Эксперты Центра стратегических и международных исследований установили, что на вооружении у Азербайджана находилось более 200 беспилотных летательных аппаратов (БПЛА) израильской сборки, что дало азербайджанской армии огромное преимущество в этом способе ведения военных действий. В распоряжении армянских военных была лишь одна модель отечественного производства.
За “войной дронов” с пристальным вниманием наблюдали в других странах. “После недавнего конфликта вокруг Нагорного Карабаха интерес к барражирующим боеприпасам повысился, – говорит Ульрике Франке. – Все больше армий по всему миру приобретают или хотят приобрести беспилотные летательные аппараты”.
“Рои беспилотников” и “войны-вспышки”
И это только начало. Эксперты уверены, что в военных конфликтах будущего основную роль будут играть именно беспилотные средства поражения, например, “рои дронов” – беспилотники, объединенные в единую систему, что позволит им действовать как единое смертоносное целое.
“Этим способом можно вывести из строя целую систему ПВО, – объясняет DW сотрудник аналитического Центра новой американской безопасности Мартин Рейссер. – Вы направляете на нее такое количество БПЛА, что система оказывается перегруженной и не может с ними справиться. Это, конечно, дает огромное преимущество в боевых действиях. Неудивительно, что многие страны более чем заинтересованы в использовании такого рода возможностей”.
Масштабы “роев дронов” и скорость их передвижения открывают перспективу военных столкновений настолько быстрых и сложных, что человек не может уследить за ними, и это еще больше усиливает динамику гонки вооружений.
Критический фактор скорости может даже спровоцировать войны, вспыхивающие буквально из ниоткуда: автономные системы будут реагировать друг на друга, раскручивая спираль эскалации. “В литературе мы называем это “войнами-вспышками”, – говорит Франке, – случайный военный конфликт, которого никто не хотел”.
Попытка остановить “роботов-убийц”
Бонни Дочерти поставила перед собой задачу предотвратить такое будущее. Преподаватель Гарвардской школы права стала инициатором кампании по остановке роботов-убийц – альянса неправительственных организаций, требующих заключения глобального договора о запрете смертоносного автономного оружия.
“Главным обязательством договора должно быть сохранение значимого человеческого контроля над применением силы, – говорит Дочерти в интервью DW. – Это соглашение должно регулировать применение всего автономно действующего оружия, которое выбирает цели и наносит удар по ним без вмешательства человека, основываясь лишь на показаниях датчиков”.
Участники кампании внимательно следят за переговорами в Женеве под эгидой Конвенции ООН по некоторым видам обычного оружия, целью которых является установление контроля над вооружениями, “причиняющими неоправданные страдания”.
Дочерти опасается, что заключение подобного договора может быть заблокировано незаинтересованными в нем державами. Особенно активно, по словам активистки, возражает Россия. Но новое соглашение не поддерживают и другие государства, разрабатывающие автономные системы вооружений, такие как Израиль, США, Великобритания и ряд других.
Бонни Дочерти призывает к созданию нового подхода, если следующий раунд переговоров в Женеве, который должен состояться в конце этого года, не принесет прогресса. Она предлагает начать независимый процесс контроля над автономными системами вооружения под управлением государств, которые “серьезно относятся к этому вопросу и готовы разработать устойчивые стандарты для регулирования этих систем оружия”.
Контроль за автономным оружием
Но пока что консенсуса по этому вопросу достичь не удалось. По мнению Франке, лучшее, на что может надеяться мир, – это принятие норм, которые регулируют использование подобных технологий.
“Вы соглашаетесь, например, использовать определенные возможности только в оборонительных целях, или только против машин, а не против людей, или только в определенных контекстах”, – объясняет она.
Но даже это будет непростой задачей. “Согласиться с этим, а затем реализовать – гораздо сложнее, чем придерживаться некоторых из старых соглашений о контроле над вооружениями”, – говорит эксперт.
А пока дипломаты не знают, как подступиться к этому вопросу, технология не стоит на месте. “В мире должны осознать, что мы движемся к ситуации, когда каждый, кто обладает кибернетическим или автономным оружием, сможет делать все, что захочет, – предупреждает министр иностранных дел ФРГ Хайко Мас. – И мы не должны этого допустить”.