Забрана за роботите-убијци?

Во краткиот фиктивен филм снимен и постиран на Јутјуб од противниците на автономното оружје, досега прегледан од преку дваипол милиони луѓе, минијатурните дронови со голема ефикасност се упатуваат кон целите одредени од алгоритми и со немилосрдност на одлични беспрекорно функционирачки машини ги убиваат лицата кои им се идентификувани како цел. Во филмот станува збор за политички противници на имагинарен режим.

Филмот навистина е имагинарен, но не е далеку од стварноста. Според зборовите на Томас Кихенмајстер, еден од истакнатите противници на борбените роботи, „до тоа е потребен само уште мал чекор.“

Оружјето кое располага со одреден степен на автономија денес е веќе стандард кој може да се види на бројни саеми за вооружување. На пример ракети кои сами бараат можни цели и на крајот сами одлучуваат која од нив ќе биде уништена. Начелно, со нив сѐуште управуваат луѓе, но за конкретен напад по правило човекот веќе не дава непосредна наредба. А кога нападот е започнат, веќе не може да биде запрен. Кихенмајстер напоменува дека „ваквото оружје воопшто не може јасно да разликува помеѓу воени и цивилни возила“. А тоа е едно од основните начела на меѓународното право во воени ситуации.

Сѐ поголемиот степен на автономија на различните системи на оружје секако е поврзан со растечкиот напредок во развојот на т.н. вештачка интелигенција и роботиката. Во меѓувреме, машините се во состојба да учат и меѓусебно да комуницираат, слично на човечкиот мозок.

Оружјето станува сѐ побрзо и поефикасно, додека истовремено се намалува опасноста за војниците. Таа комбинација е исклучително привлечна за војските ширум светот. Но, тука стануваат нејасни и границите меѓу машините и човекот: додека роботите кои самостојно пронаоѓаат и уништуваат мини се прифатливи, роботи кои самостојно пронаоѓаат и убиваат луѓе тешко може да се доведат во согласност со одредбите на меѓународното право. 

Токму тоа е тема за која на интернационално ниво се дебатира уште од 2014. година, во рамки на преговорите за Конвенцијата за ограничување на конвенционалното вооружување, ЦЦВ. Новата рунда преговори се одржува во Женева, од денеска, 27. до 31. август, а главна тема се убиствените автономни оружени системи (Lethal Autonomous Weapon Systems – LAWS). Со оглед на брзиот развој на технологијата, многу време за договор нема.

За какво оружје станува збор?

Официјалното име е Смртоносни автономни оружени системи (Lethal Autonomous Weapon Systems – LAWS). Често под тоа се подразбираат борбени роботи, дронови, беспосадни подморници и возила без возачи. Критичарите главно зборуваат за - роботи - убијци.

Што се подразбира под тоа?

Општа дефиниција не постои. Меѓународниот комитет на Црвениот крст укажува на оружје кое самостојно, значи без човечко влијание, пронаоѓа и напаѓа цели.

Постои ли веќе такво оружје?

Целосно автономни системи кои би убивале луѓе уште не постојат. Но, со оглед на многу брзиот развој на вештачката интелигенција и роботиката, може да се очекува тоа да биде само прашање на време. 

Што постои уште сега?

Бројни оружја кои се користат денес, располагаат со ограничени автономни функции. Веќе постојат ракети способни за самостојно наоѓање и напаѓање цели. А беспосадни подморници бараат мини. Освен тоа, дроновите веќе сега се во состојба да се спојат во јата или самостојно да извршуваат одредени задачи.

Повеќе: 

Забрзана трка во нуклеарно вооружување

Блескави времиња за трговците со оружје

Кои сценарија се во игра?

Можно е на борбен робот да му се дадат на располагање податоци за поединец, кого потоа тој самиот го пронаоѓа и убива - без далечинско управување, како што е моментен случај со големите дронови, на пример во Авганистан. Автономните системи управуваат сами со себе, не им е потребна наредба за пукање. Никој не знае кога тие ќе тргнат во напад.   

Што е тука ново?

Тоа е промена на парадигмата на водење војна, зашто во тој случај одлука за живот или смрт не носи човекот, туку машината. Фактот што човекот ја произвел и програмирал машината, тука ништо не менува.

Што вели меѓународното хуманитарно право?

Една од најважните одредби е дека јасно мора да се разликува кој е борец, а кој цивил. Цивилите и цивилните објекти мораат да се поштедуваат колку што е максимално можно. Автономните оружени системи тоа не можат да го разликуваат. Поради тоа заговорниците на меѓународното право бараат секогаш човекот да мора да го има последниот збор.

Како се развиваат преговорите?

Меѓународната заедница е поделена во три табори: додека едните се залагаат за забрана за такво оружје, другите се против. Третата група земји, меѓу кои се и Германија и Франција, се обидува да пронајде компромисно решение. Иако во коалицискиот договор на владејачките партии во Германија јасно стои дека владата отфрла такво автономно оружје, во Женева Германија не настапува одлучно. Претствниците на Берлин се залагаат за необврзна политичка декларација како прв степен на подоцнежен договор за забрана.

Договор засега не е на повидок, а време има сѐ помалку, предупредува американскиот информатичар Стјуарт Расел, кој веќе 35 години истражува во областа на вештачката интелигенција. Тој нагласува дека уште сега различни војски експериментираат со јата дронови, додека други, меѓу останатите и германскиот Бундесвер, развиваат средства за одбрана.