Roboții Ucigași Sunt Deja Pe Front, Posibil și în Ucraina. Experții Spun De Ce Aceștia Trebuie Reglementați, înainte Ca Lucrurile Să Scape De Sub Control

Armatele de roboți care au capacitatea de a ucide oameni nu mai reprezintă doar subiect de science-fiction. Sistemele de arme letale autonome (LAWS) sunt deja funcționale, scriu Robert F. Trager, profesor de științe politice la Universitatea din California și Laura M. Luca, absolventă de științe politice la aceeași instituție.

Cei doi au fost reprezentanți la Convenția ONU privind anumite arme convenționale, un organism care are rolul de a susține interzicerea sau limitarea utilizării armelor convenționale considerate a fi capabile să provoace daune excesive combatanților sau să-i lovească fără discriminare pe cei care nu sunt implicați în conflicte armate.

În Ucraina, spun cei doi, Moscova ar fi desfășurat dronele kamikaze Kalașnikov ZALA Aero KUB-BLA cu inteligență artificială, în timp ce Kievul a folosit drone Bayraktar TB2 de fabricație turcească, care au la rândul lor unele capacități autonome.

Deși este întotdeauna dificil de stabilit dacă modul autonom al unei arme este utilizat, se pare că aceste tehnologii au fost folosite în cel puțin un conflict.

Anul trecut, un raport al Națiunilor Unite a sugerat că Turcia a folosit tirul autonom al dronelor sale Kargu-2 în războiul civil din Libia, pentru a vâna soldații care fugeau. Directorul executiv al companiei turcești care a produs drona neagă că aceasta ar fi capabilă de așa ceva.

Recomandări

EXCLUSIV Juliette Binoche, interviu pentru publicul românesc despre noul film al său, o poveste de „senzualitate culinară”. De ce doi chefi celebri au stat lângă ea pe platou

Spre deosebire de dronele tradiționale, aceste sisteme au capacitatea de a naviga singure, iar unele pot selecta ținte.

Deși un om poate decide în continuare dacă să lovească sau nu ținta selectată, aceste arme dobândesc capacități tot mai autonome. Acum, că armatele și grupările paramilitare din întreaga lume au observat acest lucru, tehnologiile sunt pe punctul de a se răspândi în lume, la scară largă.

Un viitor sumbru

În curând, versiuni mult mai avansate ale acestor tehnologii vor deveni omniprezente, avertizează Trager și Luca.

Până în prezent, se presupune că Israel, Rusia, Coreea de Sud și Turcia ar fi desfășurat arme cu capacități autonome – deși se contestă dacă acest mod a fost activ.

Iar Australia, Marea Britanie, China și Statele Unite investesc masiv în dezvoltarea de LAWS de diverse dimensiuni și cu o gamă mare de capabilități.

Deja, unele sisteme autonome pot cerceta o zonă pentru a găsi ținte pe care algoritmii de învățare le-au antrenat să le recunoască, inclusiv sisteme radar inamice, tancuri, nave și chiar persoane.

Recomandări

Mircea Geoană a anunțat că va ajuta, omenește, familia cumnatului urmărit general Ionuț Costea, condamnat pentru corupție. Cine ajută însă familiile românilor plecați să muncească, nu ca să fugă de închisoare?

Aceste arme pot avea un aspect foarte diferit.

De exemplu, drona turcească Kargu-2, care a fost introdusă în 2020 și utilizată în războiul din Libia, are o lungime de 1,5 metri, cântărește aproximativ 1,5 kilograme și poate ataca în grupuri.

Sistemele autonome pot fi, de asemenea, mult mai mari.

Spre exemplu, avioanele de vânătoare fără pilot cu inteligență artificială, precum modelul L-39 Albatros modificat, sau mult mai mici – dronele comerciale rudimentare, modificate cu ajutorul unui software ce le oferă autonomie.

Odată ce aceste tehnologii se vor răspândi la scară largă, vor fi greu de controlat, prin urmare, lumea are nevoie urgentă de o nouă abordare, spun cei doi experți.

Marile puteri se opun unui regim de neproliferare

Ceea ce trebuie să facă comunitatea internațională este să urmeze exemplul folosit în cazul armelor nucleare și să stabilească un regim de neproliferare pentru armele autonome.

În prezent însă, țările aflate în prima linie a dezvoltării armelor autonome se opun oricăror apeluri pentru interzicerea lor.

Statele Unite susțin că legile umanitare internaționale existente sunt suficiente pentru a reglementa sistemele autonome de arme. Politica Departamentului american al Apărării spune că aceste arme trebuie să fie concepute astfel încât să asigure „un nivel adecvat de rațiune umană în ceea ce privește utilizarea forței”.

Recomandări

REPORTAJ. „Turcul pleacă în Europa, se bucură de democrație, dar spune că e mai bine dincolo”. Al doilea tur de alegeri, prin ochii „micului Istanbul” din București

China a rămas ambiguă, afirmând importanța „luării în considerare pe deplin a aplicabilității normelor juridice generale”, insistând în același timp asupra unei definiții înguste a armelor autonome

Iar Rusia refuză să ia în considerare problema, folosind instrumente procedurale diplomatice pentru a trage de timp și a reduce timpul pe care ONU îl dedică dezbaterii subiectului, spun experții.

Însă majoritatea țărilor au cerut interzicerea dezvoltării și utilizării armelor autonome – sau au făcut apel la reglementarea acestora.

În 2019, spre exemplu, secretarul general al ONU, António Guterres, a declarat că sistemele de arme letale autonome sunt „inacceptabile din punct de vedere politic, respingătoare din punct de vedere moral și ar trebui să fie interzise de dreptul internațional”.

De ce ar trebui să fim îngrijorați de roboții ucigași

Există multe motive pentru care țările, organizațiile internaționale neguvernamentale, cercetătorii și experții în Inteligență Artificială sunt îngrijorați de aceste sisteme autonome.

Deși previziunile privind modul în care astfel de arme ar putea afecta omenirea diferă, există un consens din ce în ce mai mare cu privire la faptul că răspândirea lor ar putea avea consecințe substanțiale și nocive.

În primul rând, armele autonome ar putea facilita violența pe scară largă, deoarece nu sunt limitate de numărul de persoane disponibile pentru a le manevra.

În al doilea rând, aceste arme – care pot folosi recunoașterea facială și alte tehnologii – pot fi folosite pentru asasinate politice și epurări etnice.

În al treilea rând, aceste arme pot permite celor care le controlează să își ascundă mai ușor identitatea.

Astfel, armele letale autonome au potențialul de a răsturna ordinea politică sau de a impune un control autoritar mai strict asupra societății. În plus, ele pot funcționa defectuos, spre exemplu confundând civilii cu combatanții.

Tentative fără succes de reglementare

Până în prezent, comunitatea internațională a încercat – fără succes – să reglementeze aceste sisteme de arme. În decembrie 2021, după opt ani de discuții tehnice, reprezentanții guvernelor și ai societății civile s-au întâlnit la sediul ONU din Geneva pentru a stabili pentru prima dată o agendă pentru reglementarea armelor autonome – considerată drept o „oportunitate istorică”.

Majoritatea participanților s-au pronunțat în favoarea unor norme legale obligatorii care să se aplice în mod echitabil tuturor statelor, pentru a reglementa dezvoltarea și utilizarea acestor tehnologii.

Cu toate acestea reuniunea a eșuat. În ciuda anilor de discuții pregătitoare în cadrul Convenției ONU privind anumite arme convenționale (CCAC), participanții abia au reușit să ajungă la un acord pentru a prelungi dezbaterea pentru alte 10 zile în martie și iulie anul acesta.

Acest rezultat era de așteptat, având în vedere pozițiile marilor puteri și regulile CCAC, care impun un consens înainte de a se lua măsuri, admit cei doi experți în textul publicat de Foreign Policy.

În semn de răspuns, o gamă largă de actori – de la Amnesty International și Human Rights Watch până la unele state favorabile interzicerii LAWS, inclusiv Argentina și Filipine – solicită acum un proces de elaborare a unor interdicții obligatorii din punct de vedere juridic privind aceste arme, în afara CCAC.

Abordările alternative la tratatele de interzicere au avut un oarecare succes în trecut, atunci când țările au fost de acord să renunțe la minele terestre (Convenția de la Ottawa din 1997), la munițiile cu dispersie (Acordurile de la Oslo din 2008) și chiar la armele nucleare (Tratatul privind interzicerea armelor nucleare din 2017).

Însă în timp ce multe state au semnat aceste tratate și și-au asumat obligațiile, majoritatea statelor puternice nu au făcut acest lucru.

Chiar și acest succes limitat ar fi greu de obținut în cazul sistemelor autonome de armament. Motivul principal este că statele sunt din ce în ce mai conștiente de faptul că aceste tehnologii pot deveni cruciale pentru securitatea lor și, prin urmare, este puțin probabil să renunțe unilateral la ele.

Exemplul armelor nucleare

Stabilirea unui regim de neproliferare a funcționat relativ în trecut în cazul regimului de control al tehnologiei rachetelor, al armelor biologice, al armelor chimice și al armelor nucleare, așa că ar putea funcționa și acum, spun Trager și Luca.

Tratatul de referință privind neproliferarea armelor nucleare (TNP), care a intrat în vigoare în 1970, a îndeplinit cerințele puterilor mari și mici. Nu le cerea celor care dețineau arme nucleare să renunțe imediat la ele, permitea altor state accesul la beneficiile energiei nucleare folosite în scopuri civile și se baza pe o organizație internațională de încredere, însărcinată cu dubla responsabilitate de a promova și controla tehnologia nucleară.

Un regim similar de neproliferare pentru armele autonome ar putea reglementa dezvoltarea, transferul și utilizarea acestora – chiar și de către puterile care nu renunță la ele. Reglementarea ar putea reduce utilizarea acestor tehnologii în scopuri teroriste spre exemplu și, ca și în cazul nuclear, ar crea posibilitatea de a elabora norme împotriva utilizării lor, spun cei doi experți.

Acest lucru ar fi evident complicat. Regimul de neproliferare nucleară a avut până acum succes deoarece a fost un pilon central al strategiei marilor puteri.

Roboții ucigași sunt deja pe front, posibil și în Ucraina. Experții spun de ce aceștia trebuie reglementați, înainte ca lucrurile să scape de sub control — O dronă Zala 1421-16E5 la o expoziție din Rusia, în 2017 FOTO: EPA

Detensionarea din timpul Războiului Rece a implicat acordul superputerilor. Garanțiile de securitate au liniștit țările care altfel s-ar fi simțit prea nesigure pentru a renunța la armele nucleare. Iar amenințările și promisiunile au convins țări, cum ar fi Iranul – atunci când a semnat acordul nuclear – să accepte limite mai stricte pentru programul său nuclear.

Fără această atenție concentrată, regimurile de neproliferare și de embargo ar eșua în mod constant.

Armele autonome ce ar fi fost folosite în Libia au fost exportate de Turcia, încălcând un embargo al ONU asupra armelor. Un regim de succes de neproliferare a armelor autonome ar necesita, prin urmare, ca statele să acorde prioritate acestei probleme mai mult decât o fac în prezent în strategiile lor de securitate națională.

O altă problemă cu care se confruntă regimurile de neproliferare este dubla utilizare a tehnologiei.

În decembrie 2020, Forțele Aeriene ale SUA au utilizat un algoritm numit MuZero cu scopul de a selecta ținte pentru lovituri cu rachete, în cadrul unui exercițiu de antrenament. MuZero a fost dezvoltat și făcut public de DeepMind, o filială a companiei-mamă a Google, Alphabet, care s-a angajat să nu lucreze la arme autonome.

DeepMind a folosit algoritmul pentru a învăța computerele să joace jocuri precum șah sau Go la niveluri supraomenești, dar utilizarea tehnologiei de către Forțele Aeriene ale SUA a stârnit îngrijorare.

Regimurile de neproliferare existente încearcă să contracareze această problemă prin acorduri de restricționare a exporturilor specifice pentru tehnologiile cu dublă utilizare. Problema restricționării exportului de software, care poate fi copiat, este mai dificilă. Dar acest lucru este important, deoarece mulți actori ar putea folosi software-ul care permite autonomia împreună hardware-ul disponibil în comerț, pentru a produce cu ușurință arme.

Odată stabilit un regim de neproliferare, acesta ar putea fi combinat chiar cu o interdicție, pentru a reglementa mai ferm aceste tehnologii periculoase. Un regim de neproliferare pentru armele autonome ar încuraja unele state să semneze un tratat de interzicere a acestora.

Este imposibil de imaginat Tratatul privind interzicerea armelor nucleare, de exemplu, fără regimul de neproliferare nucleară. Multe state nu l-ar fi semnat dacă regimul de neproliferare nu ar fi oferit mai întâi garanții de securitate și nu și-ar fi convins rivalii să renunțe la armele nucleare.

În mod clar, această dublă abordare a mai funcționat înainte, chiar dacă acum lumea este îngrijorată de potențialul de escaladare nucleară în Ucraina. Poate că neproliferarea nu reprezintă idealul, dar poate face lumea mult mai sigură, spun cei doi experți.