Infractori prinși cu ajutorul inteligenței artificiale. Profesor dr. Vlad Niculescu Dincă: Trebuie să înțelegem aceste „unelte”, altfel există un risc real să fim toți tratați ca suspecți | Interviu
Adaugă-ne ca sursă preferată în Google
Urmărește Libertatea in Google Discover
Inteligența artificială ne surprinde din ce în ce mai des. Auzim parcă zilnic despre câte un nou serviciu sau companie cu rezultate surprinzătoare. Tuturor ne e teamă de un Big Brother digital... Pe lângă toate controversele, o problemă stringentă se ridică: cum sunt noile tehnologii digitale folosite de poliție și securitate? Dr. Vlad Niculescu Dincă, cercetător și profesor la Haga, în Institutul pentru Securitate și Afaceri Globale al Universității Leiden din Olanda, a explicat într-un interviu pentru Libertatea care sunt scenariile la care putem ajunge pe măsură ce puterea lor crește.
Cuprins:
Tehnologiile folosite cel mai des de polițiști
Ionuț Baiaș: Ați făcut o cercetare și ați publicat recent o carte care a inclus și poliția din România. Ați studiat mai multe astfel de noi tehnologii. Ce gen de infracțiuni pot anticipa? Care le sunt „puterile”, să spunem așa? Și unde se preconizează să ajungă?
Dr. Vlad Niculescu Dincă: Într-adevăr, polițiile contemporane explorează și experimentează din ce în ce mai mult cu noile tehnologii. În ultimii ani am văzut o creștere a acestui interes, dar el vine pe fondul unei reorientări mai largi a domeniului către abordări proactive bazate pe informații. În ultimii ani am studiat etnografic mai multe forțe de poliție din România, Olanda și Marea Britanie folosind un set variat de tehnologii digitale, de la cele larg răspândite și periodic actualizate, până la ultimele tehnologii de inteligență artificială, realitate virtuală, deepfake, și proiecte-pilot care le combină.
De exemplu sistemele GIS (Sisteme de Informații Geospatiale) sunt deja folosite pe scară largă, dar nu mai puțin complexe și interesante: Gândiți-vă la ele ca la un Google Maps pentru criminalitate. Poliția le folosește pentru a cartografia unde se întâmplă infracțiunile, pentru a identifica tipare de criminalitate și pentru a decide unde să-și concentreze resursele.
Tehnologiile de monitorizare a rețelelor sociale: Polițiile sunt și pe Facebook, și X. Ele folosesc aceste tehnologii de monitorizare a emoțiilor bazate pe datele publice (sentiment analysis), mai ales când vine vorba de anumite evenimente speciale, potențiale amenințări sau activități ale grupurilor infracționale.
Rețele de senzori: De exemplu, recunoașterea automată a plăcuțelor de înmatriculare (ANPR) - camere specializate scanând constant plăcuțele de înmatriculare și verificându-le în bazele de date ale poliției. Iar peste ele au venit algoritmii de recunoaștere a comportamentelor suspecte.
Tehnologiile VR: Tehnologiile de Realitate Virtuală, din ce în ce mai populare în forțele de poliție, ajută la crearea unor scenarii realiste care pot fi folosite în nenumărate programe de antrenament: gestionarea unor mulțimi de oameni, intervenții în situații de violență domestică, tactici de de-escaladare a unor conflicte, sau gestionarea unor pacienți cu probleme de sănătate mintală.
Profilarea algoritmică: Acestea sunt chestiunile de tip Minority Report. Algoritmii procesează tone de date pentru a prezice unde și când este cel mai probabil să se comită o infracțiune.
Sunt multe astfel de tehnologii și aplicații. Dar deși toate pot fi utile într-un mod sau altul pentru combaterea criminalității, trebuie să fim foarte atenți la modul în care le înțelegem, dezvoltăm și folosim. Altfel există un pericol real ca acest lucru să ne erodeze intimitatea sau să ducă la o societate în care oamenii sunt tratați ca suspecți înainte de a face ceva greșit.
Tehnologia mediază munca polițiștilor, le modelează percepțiile, experiențele, deciziile și acțiunile
- Supraveghere nu (mai) fac azi doar oamenii, am putea să vedem și tehnologia ca actor de supraveghere. Ce ar însemna asta?
- Vedem o schimbare semnificativă în modul în care funcționează supravegherea în societatea contemporană. În mod tradițional, supravegherea a fost efectuată în primul rând de agenți umani - ofițeri de poliție, detectivi privați, agenți de securitate - care observă și colectează informații în mod activ. Acum, odată cu proliferarea tehnologiilor digitale, tehnologia în sine devine din ce în ce mai mult un jucător-cheie în supraveghere, capabil să monitorizeze și să înregistreze informații în mod autonom.
Mai mult, tehnologia „performează” suspiciunea, ceea ce înseamnă că modul în care sunt prezentate informațiile poate influența percepția ofițerilor. Hărțile generate sau alertele automate pot face ca situațiile să pară mai urgente sau mai suspecte, chiar dacă datele pe care se bazează sunt incomplete sau ambigue.
De exemplu, o persoană semnalată ca „suspect” de tehnologie este mai probabil să fie examinată, chiar dacă nu există altfel de dovezi concrete în acest sens. Tehnologia mediază munca polițiștilor, le modelează percepțiile, experiențele, deciziile și acțiunile, iar infrastructurile tehnologice pot „solidifica” suspiciunea... Această mediere digitală a suspiciunii are implicații semnificative asupra modului în care poliția înțelege situațiile și interacționează cu noi.
- „Accesul forțelor de poliție este din ce în ce mai mediat tehnologic”. Cum se întâmplă mai exact?
- Gândiți-vă la exemplele de mai sus. Aceste tehnologii și multe altele transformă practicile polițienești și sunteți justificat să puneți întrebări: noile tehnologii schimbă radical modul în care forțele de poliție accesează informații și interacționează cu lumea.
În mod tradițional, poliția s-a bazat foarte mult pe observații directe și mărturii. Dar acum, la fel ca și în alte profesii sau practici, tehnologia joacă un rol din ce în ce mai mare în colectarea, analizarea și interpretarea informațiilor. Sistemele GIS și algoritmi predictivi permit ofițerilor să vizualizeze evoluții și trenduri de criminalitate, iar tehnologia identifică „punctele fierbinți" unde ar trebui să patruleze. Sistemele ANPR urmăresc automat mișcările vehiculelor, semnalându-le pe cele care sunt considerate suspecte.
Tehnologiile de monitorizare a rețelelor sociale permit supravegherea activității online, indicând potențiale amenințări sau riscuri. Această schimbare înseamnă că accesul poliției este din ce în ce mai mediat, mai filtrat prin straturi de date și algoritmi, modelându-le înțelegerea evenimentelor și a situațiilor.
Mai mult, tehnologia VR necesită chiar și o nouă categorie în cadrul teoriei medierii tehnologice. Asta pentru că tehnologia nu mediază pur și simplu între individ și lumea reală, ci între individ și o lume simulată, dar despre care urmărim să tragem concluzii despre comportamentul polițistului din lumea reală.
Teoria medierii tehnologice ne ajută să explicăm modul în care tehnologia modelează experiențele și acțiunile ofițerilor de poliție. Tehnologiile acționează ca mediatori între polițiști și lume, influențând ceea ce văd, cum interpretează și cum răspund.
Această mediere înseamnă că accesul poliției la informații și persoane nu mai este direct, ci este modelat de capacitățile, dar și de limitările tehnologiilor pe care le folosesc. Pe de o parte, tehnologia poate spori eficiența și le poate îmbunătăți conștientizarea situației. Dar pe de altă parte, poate induce o încredere excesivă în date, o erodare a prezumției de nevinovăție și poate amplifica potențialul de discriminare.
Limita dintre democrație și dictatură în supravegherea pe bază de AI
- Îmi vin totuși în minte sistemele de supraveghere din China, care folosesc un sistem similar (AI, recunoaștere facială, predicția comiterii unei infracțiuni). Acolo toată lumea e supravegheată (1,4 miliarde de oameni). Care ar fi diferențele dintre cele două sisteme? Mai putem fi optimiști?
- Categoric, da! Condiția este să ne informăm și să punem întrebări. Tocmai pentru a evita genul de supraveghere practicată acolo. China a investit masiv în recunoașterea facială, integrând-o în diverse aspecte de reglementare ale vieții de zi cu zi, inclusiv în aplicarea legii, ceea ce nu se întâmplă aici. Cadrul legal din China oferă protecții mai puțin solide ale confidențialității în comparație cu AI Act și GDPR din UE. Sunt mult mai puține limitări legale privind colectarea și utilizarea datelor.
În general sistemele de supraveghere ale Chinei sunt caracterizate de un grad ridicat de opacitate, de centralizare și control guvernamental. Iar faptul că eu și alți cercetători putem face cercetări etnografice cu polițiile din România, Olanda și Anglia demonstrează totuși că avem un context politic, social și juridic diferit în Europa în ce privește supravegherea, dar pe care trebuie să îl menținem.
- Și cum ar putea înțelege publicul aceste schimbări?
- În primul rând avem nevoie să înțelegem din ce în ce mai mult tehnologia ca pe un actor activ, nu doar ca pe un instrument pasiv. Avansul tehnologic permite o supraveghere din ce în ce mai automatizată. Sistemele de predicție geospațială a criminalității, de recunoaștere automată a plăcuțelor de înmatriculare (ANPR), rețelele de senzori, tehnologiile de inteligență artificială pot colecta și procesa cantități mari de date fără intervenție umană directă. Acest lucru creează o situație în care supravegherea poate avea loc autonom.
Prin urmare, un pas important este să ținem cont de agenția tehnologiei. Rămânem nepregătiți în măsura în care continuăm să vorbim despre tehnologie ca despre un instrument neutru și pasiv, și ca atare plasând dezvoltatorii în afara comunității morale. Va trebui să recunoaștem modul în care tehnologia în sine devine un actor, capabil să influențeze activ modul în care indivizii sunt monitorizați, clasificați și, în cele din urmă, tratați de autorități. Fără a cădea în determinism, această înțelegere are implicații semnificative pentru dezbaterile despre confidențialitate, responsabilitate și potențialul discriminatoriu încorporat în sistemele de supraveghere.
Cum ajută cercetarea implementarea AI în munca Poliției
- Ajungem astfel și la titlul cărții dumneavoastră „Cum îi mai supraveghem pe cei care ne supraveghează”.
- Eu pot oferi aici răspunsul cercetătorilor: cercetarea aplicată la studiul practicilor polițienești și de securitate. Avem astfel metodele și o cale de a găsi răspunsuri fundamentate la problemele și temerile legate de supraveghere. Și asta ajută și autoritățile în a deveni mai eficiente.
De exemplu, în studiul în care am folosit tehnologia VR am putut urmări polițiștii în timp ce supraveghează oamenii într-o piațetă recreată în mediul virtual. Cu alte cuvinte supravegheam supraveghetorii. Iar tehnologia deepfake ne-a ajutat în cercetare. Deepfake-urile - aceste imagini create artificial în care asemănarea unei persoane este înlocuită cu cea a alteia - sunt de obicei văzute ca o problemă. Ei bine, pe noi ne-au ajutat în cercetare pentru a schimba doar fața unora dintre persoanele din comunitate întâlnite de ofițerii de poliție în mediul virtual, menținând constante toate celelalte variabile. Astfel am putut să comparăm comportamentul ofițerilor fără potențiale alte interferențe. Rezultatele sunt foarte interesante și vă invit să citiți studiul și cartea.
Asta înseamnă că prin astfel de cercetări putem ajunge într-o poziție mai bună de a propune soluții concrete față de practicile de supraveghere. De exemplu, putem spune că avem nevoie de o implicare mai largă a comunității în proiectele de cercetare. O continuare a proiectului VR implică și poliția, și comunitatea în experiența VR.
Dar în general, avem nevoie să creștem transparența în utilizarea tehnologiilor de supraveghere. Pentru poliție, dar și pentru public este esențială încrederea reciprocă. Iar în al doilea rând avem nevoie de integrarea considerentelor privind confidențialitatea chiar în proiectarea tehnologiilor de supraveghere. Trebuie să creștem gradul de înțelegere a algoritmilor și pentru poliție, și pentru public. Asta poate contribui la asigurarea faptului că datele sunt utilizate numai în scopuri legitime.
Prin dialog și recunoașterea acestor riscuri, agențiile de aplicare a legii pot valorifica potențialul tehnologiei pentru a îmbunătăți siguranța publică, și în același timp să protejeze drepturile și valorile fundamentale.
Dr. Vlad Niculescu Dincă este cercetător și profesor la Haga, în Institutul pentru Securitate și Afaceri Globale al Universității Leiden din Olanda. În acest cadru, lucrează în cadrul unei echipe multidisciplinare de studii polițienești cu scopul de a contracara fragmentarea domeniului și de a crea profunzime științifică. Și-a dat doctoratul la Universitatea din Maastricht cu o cercetare de filosofia tehnologiei și supravegherii, bazate pe studii etnografice în diferite organizații de poliție europene. Pentru o lucrare derivată din această cercetare a fost distins cu premiul Early Career Award de către Societatea pentru Filosofie și Tehnologie, organizație internațională care promovează reflecția filosofică față de tehnologie. Pentru realizările sale academice, precum și pentru activitățile extracurriculare mai ample legate de înființarea și conducerea Școlii Românești din Eindhoven, a fost inclus de Președinția României în Ordinul „Meritul pentru Educație” în grad de Cavaler.
nobody 07.11.2024, 17:08
Delirul progresisto-wokist legat de AI va lua sfarsit in perioada urmatoare. Militienii trebuie sa-si faca treaba in continuare prin mijloacele clasice, adica sa-si foloseasca creierul din dotare. AI-ul nu gandeste si nu va gandi niciodata pentru ei. Utopia wokista legata de supravegherea totala arata de fapt frustrarile unor creiere minuscule ce sperau ca stiinta sa le compenseze handicapul natural.
jonradu 07.11.2024, 17:12
Pài si in cazul Dincà,polititia si procuratura inseamnà cà asteptau sa le spunà inteligenza artificiala ce sà facà. Cà; Aia di dotare, cu care ia inzestrat 'mama naturà' dàdea reset. Morala ; Iteligenza artificialà il,anuntà pe d-nul infractor si pe Garcea cà in momentul de fatà se intamplà o infractiune,sau o tentativà de infrangere a legii. O altà l---à.
LucaRegio1 07.11.2024, 18:15
Din ce am inteles AI-ul asta functioneaza pe baza de algoritmi, daca exista o mana "criminala" pe acolo atunci acesti algoritmi pot schimba radical date problemei si sa ajungem toti infractori. Unde ar fi garantia ca AI asta se va folosi in scopuri legitime? Doar cadrul legal?! Ca pe langa AI software-ul ala israelian de intrat in telefoane e pistol cu apa.
Sfantul__Cuvios_Pafnutie 07.11.2024, 20:19
Iar dacă eşti săltat nevinovat, va fi din cauza ta. De ce ai dat clear la cache şi cookies? TU ai perturbat algoritmul, ceea ce probabil va fi la rându-i infracțiune.