Як зупинити дрони-камікадзе та роботів-убивць на полі бою?

Гонка озброєнь у сфері штучного інтелекту (ШІ) вже в розпалі, попереджає міністр закордонних справ Німеччини Гайко Маас (Heiko Maas). "Ми вже в епіцентрі цих подій. Це реалії, з якими доводиться мати справу", - сказав Маас в інтерв'ю DW, записаному для документального фільму "Війни майбутнього і як їм запобігти".

"Це питання на трильйони доларів", - каже Амандіп Сінгх Гілл, колишній очільник групи експертів ООН з летальних автономних видів озброєння, говорячи про гонку "розумних" видів зброї, що розгортається між провідними державами світу. Про необхідність масштабних інвестицій у розробку технологій штучного інтелекту для армії останніми роками вже відкрито заявляє влада США, Китаю і Росії. Але подекуди у суперновітні технології озброєння вже вкладаються й країни "другого ешелону".

Наприкінці 2020 року нова роль штучного інтелекту у війні проявилася повною мірою у конфлікті між Вірменією і Азербайджаном навколо Нагірного Карабаху. "Справді важливим аспектом конфлікту у Нагірному Карабаху, на мою думку, було використання керованих бомб, так званих "дронів-камікадзе". Це значною мірою автономні системи", - зазначає Ульріке Франке (Ulrike Franke), експертка з питань бойових безпілотників у Європейській раді міжнародних відносин.

Бомби, що чатують у повітрі

"Просунуті" керовані ударні системи є значною мірою автономними. Після запуску вони летять у заданий сектор, в якому має бути ціль. На місці вони зависають у повітрі і сканують місцевість, очікуючи моменту удару по цілі. Виявивши об'єкт, вони буквально кидаються на нього. У момент зіткнення з об'єктом відбувається вибух - безпілотники начинені зарядом вибухівки, через що їх і називають "дронами-камікадзе". 

"Поодинокі приклади використання таких систем були і раніше, однак у Нагірному Карабаху вони дійсно показали свою дієвість. Стало очевидно, як важко протистояти таким системам", - зазначила Франке.

Дослідження, проведене американським Центром стратегічних та міжнародних досліджень засвідчило, що Азербайджан має на озброєнні цілу низку ударних безпілотних систем - понад двісті дронів чотирьох моделей ізраїльського виробництва. У Вірменії була лише одна система вітчизняного виробництва.

Збройні сили інших країн взяли до відома побачене в конфлікті на Кавказі. "З моменту цього збройного протистояння відбувся сплеск інтересу армій різних держав до таких безпілотників. Ми бачимо, що такі повітряні керовані ударні системи хочуть придбати армії з різних куточків світу", - констатує Франке.

Читайте також: Польща придбає 24 турецькі бойові безпілотники

Рої дронів та "блискавичні війни"

І це лише початок. У майбутньому військові візьмуть на озброєння такі базовані на ШІ технології, як роїння (коли багато дронів діють спільно для досягнення мети місії). "Так можна вивести з ладу, наприклад, систему протиповітряної оборони", - каже Мартайн Рассер з Центру за нову американську безпеку, що в Вашингтоні.

"Ви кидаєте (в атаку. - Ред.) таку масу, таку велику кількість дронів, що це перевантажує систему ППО. Це, звичайно, дає низку тактичних переваг на полі бою, - розповів він DW. - Не дивно, що багато країн зацікавлені в придбанні таких озброєнь".

Масштаб та швидкість роїння відкривають перспектву настільки швидких та складних військових конфліктів, що люди просто не зможуть стежити за ними. І це ще більше пришвидшує гонку озброєнь. 

"Деяким країнам доведеться перейти до певного рівня автономності в обороні, оскільки люди просто не здатні так швидко реагувати на автономні атаки", - пояснює Франк.

Цей критичний чинник швидкості може навіть призвести до воєн, які  вибухатимуть просто нізвідки, бо автономні системи зреагували одна на одну, призвівши до спіралі ескалації. "У науковій літературі ми називаємо це "блискавичними війнами" - випадковими збройними конфліктами, яких ніхто не хотів", - зазначає Франке.

Читайте також: 116 фахівців зі штучного інтелекту закликали ООН заборонити виробництво бойових роботів

Заклик "зупинити роботів-убивць"

Місія Бонні Дочерті - запобігти такому майбутньому. Викладачка Гарвардської школи права є ініціаторкою кампанії "Зупинити роботів-убивць" - альянсу неурядових організацій, які вимагають укладення всесвітньої угоди, котра заборонить летальне автономне озброєння.

"Всеосяжним зобов'язанням угоди має стати збереження реального людського контролю над використанням сили, - пояснює Дочерті DW. - Це має бути угода, яка стосуватиметься всіх систем озброєнь, які автономно обирають цілі та вражають їх, відповідаючи на дані сенсорів, а не на команди людини".

Кампанія зараз особливу увагу приділяє переговорам, які проходять у Женеві під егідою Конвенції ООН із заборони та обмеження застосування конкретних видів звичайної зброї. Ця конвенція має на меті контроль над зброєю, котра завдає невиправданих страждань.

Переговори просуваються повільно. Сторони переговорів поки досягли згоди щодо набору "основоположних принципів". У них ідеться, зокрема, про те, що автономна зброя має регулюватися законодавством про права людини, а також, що саме люди несуть відповідальність за її використання. Але це лише фундамент для подальших дискусій.

Дочерти побоюється, що країни, які не зацікавлені в угоді, можуть зірвати женевський процес, рішення в якому ухвалюють консенсусом. "Особливо різко виступає проти Росія", - каже Дочерті. І РФ тут не самотня. "Деякі інші країни, які розробляють автономні системи озброєнь, як-от Ізраїль, США, Великобританія та інші, явно не підтримують нову угоду", - зазначає вона.

Читайте також: Дрони в законі: як використовують безпілотники в Німеччині

Час переосмислення?

Дочерті закликає до нового підходу, якщо наступний раунд женевських переговорів пізніше цього року не досягне прогресу. Вона пропонує "незалежний процес під егідою держав, які насправді серйозно ставляться до цього питання та готові розвивати жорсткі стандарти регулювання таких систем озброєння".

Але багато хто обережно ставиться до цієї ідеї. Міністр закордонних справ ФРН є прихильником заборони, але не підтримує кампанію "Зупинити роботів-убивць". "Ми не відкидаємо її по суті - ми просто кажемо, що хочемо участі інших. - заявив Гайко Маас DW. - Участі військово потужних держав, які технологічно здатні не тільки розробляти, але й використовувати автономну зброю".

Маас погоджується, що головною метою є укладення угоди. "Як нам вдалося багато десятиліть регулювати ядерну зброю, точно так само ми повинні створити міжнародні угоди щодо нових збройних технологій", - сказав він. "У них ми повинні чітко вказати, що погоджуємося: деякі системи, які технічно можливі, є неприйнятними, і їх треба заборонити в усьому світі", - підсумовує міністр.

Читайте також: Ер-Ріяд: Нафтопереробні заводи атакували дрони іранського виробництва

Що далі?

Поки що ж консенсусу нема. На думку Франке, найкращим, на що може сподіватися світ, могли би бути норми щодо використання технологій. "Ви погоджуєтеся, наприклад, використовувати деякі системи тільки для оборони або тільки проти техніки, а не людей, або тільки в певному контексті", - каже вона.

Навіть це буде викликом. "Погодитися на ці умови, а потім виконувати їх буде значно складніше, ніж досягнути старих угод про контроль над озброєннями", - зазначає Франке. А поки дипломати ходять навшпиньки навколо цих перешкод, технології розвиваються.

"Світ має проявити зацікавлення тим фактом, що ми рухаємося до ситуації, коли кожен зможе використовувати кібер- або автономну зброю, як заманеться, - каже Маас. - Ми не хочемо цього".