CSM decretează că inteligența artificială „nu este și nu ar trebui folosită” de judecători la motivarea sentințelor. Ce este aplicația TEXT, implementată de același for în instanțele din România

Într-un răspuns pentru Libertatea, Consiliul Superior al Magistraturii susține că folosirea instrumentelor de inteligență artificială în motivarea hotărârilor judecătorești nu are bază legală. 

CSM susține că inteligența artificială „nu este și nu ar trebui folosită” de judecători în motivarea hotărârilor. Surse din magistratură susțin însă că sunt judecători care folosesc astfel de instrumente. 

Cazul cu suspiciuni de utilizare nelegală a inteligenței artificiale

Libertatea a dezvăluit recent că, la solicitarea unui avocat dintr-un dosar DNA, Curtea de Apel București i-a cerut Tribunalului București să comunice dacă, la redactarea deciziei din primă instanță, a fost folosit un program cu inteligență artificială. 

Cererea Curții de Apel București a fost făcută la sesizarea avocatului Alexandru Morărescu, care a reclamat că, în motivarea primei instanțe, cuvinte neutre precum „manipulativă”, „stipula” și „Sfatul Popular” au apărut cenzurate drept termeni cu potențial înțeles obscen.

Avocatul care a ridicat problema utilizării AI în motivarea Tribunalului București a declarat pentru Libertatea că, în urmă cu aproximativ jumătate de an, i s-a propus spre vânzare un soft cu inteligență artificială, iar dezvoltatorul programului i-ar fi spus că e într-o colaborare deja de un an cu CSM-ul și că este implementat un program-pilot la nivelul Tribunalului Militar Iași. 

Ce spune CSM despre folosirea inteligenței artificiale în justiție

Libertatea a solicitat Consiliului Superior al Magistraturii să comunice dacă există programe de inteligență artificială (chiar și sub formă de proiecte-pilot) folosite de judecători la motivarea hotărârilor și dacă există vreo decizie/recomandare a CSM referitoare la utilizarea instrumentelor de inteligență artificială de către judecători. 

Într-un amplu răspuns transmis Libertatea, Consiliul Superior al Magistraturii arată că în Regulamentul UE privind Inteligența Artificială, adoptat în iunie 2024 și intrat parțial în vigoare, este atinsă și problema utilizării AI în justiție, concluzia fiind că „anumite sisteme de IA destinate administrării justiției și proceselor democratice ar trebui să fie clasificate ca prezentând un grad ridicat de risc, având în vedere impactul potențial semnificativ al acestora asupra democrației, statului de drept și libertăților individuale, precum și asupra dreptului la o cale de atac efectivă și la un proces echitabil”. 

CSM mai arată în răspunsul pentru Libertatea că Regulamentul UE mai prevede că „utilizarea instrumentelor de IA poate sprijini puterea de decizie a judecătorilor sau independența sistemului judiciar, dar nu ar trebui să le înlocuiască: procesul decizional final trebuie să rămână o activitate umană”. 

„Clasificarea sistemelor de IA ca prezentând un grad ridicat de risc nu ar trebui, totuși, să se extindă la sistemele de IA destinate unor activități administrative pur auxiliare care nu afectează administrarea efectivă a justiției în cazuri individuale, cum ar fi anonimizarea sau pseudonimizarea hotărârilor judecătorești, a documentelor sau a datelor, comunicarea între membrii personalului, sarcini administrative”, se mai arată, potrivit CSM, în Regulamentul UE privind utilizarea inteligenței artificiale.

„Procesul decizional final, o activitate umană”

Consiliul Superior al Magistraturii subliniază că în România „nu există încă un cadru legal complementar regulamentului adoptat la nivelul Uniunii Europene, acesta din urmă aplicându-se în mod direct la nivel național”. 

Prin Hotărârea de Guvern 832/2024 a fost adoptată Strategia națională în domeniul inteligenței artificiale pentru perioada 2024-2027, iar unul dintre obiectivele generale vizează dezvoltarea unui sistem de guvernanță și de reglementare a inteligenței artificiale. 

„În aceste coordonate, se constată că, în prezent, în România nu există un cadru normativ specific care să reglementeze modalitatea de folosire a inteligenței artificiale în sistemul judiciar. Așadar, nu există implementări oficiale la scară largă a unor sisteme IA pentru susținerea actului de justiție propriu zis”, a transmis Consiliul Superior al Magistraturii pentru Libertatea.

CSM a concluzionat că „în conformitate cu legislația europeană în domeniu, în activitatea de motivare a hotărârilor judecătorești pronunțate în instanțele din România nu este și nu ar trebui să fie utilizată de către judecători inteligența artificială (IA), procesul decizional final trebuind să rămână o activitate umană”.

Softurile cu AI folosite în instanțele din România

Consiliul Superior al Magistraturii mai arată în răspunsul transmis Libertatea că prin două hotărâri din 2022 și 2024, Secția pentru Judecători a CSM a decis implementarea unui sistem de inteligență artificială dedicat anonimizării automate a hotărârilor judecătorești.

CSM susține că acest instrument „este folosit punctual de către personalul instanțelor din cauză, urmând a fi extins, după mici adaptări, la nivelul întregii baze de date, prin înlocuirea vechiului mecanism de anonimizare, bazat pe algoritmi tehnici, cu noul sistem bazat pe inteligență artificială”.

„În același timp, în vederea facilitării activității instanțelor judecătorești Consiliul a implementat aplicația TEXT, ce poate fi accesată la adresa text.rejust.ro, aceasta reprezentând o soluție unitară, la nivelul tuturor instanțelor, ce permite conversia documentelor scanate, încărcate în ECRIS, în text, pentru prelucrarea acestora în partea introductivă a considerentelor hotărârii. Utilizarea este facilă, prin indicarea unui număr de dosar și selectarea documentului din listă. 

Mai mult decât atât, aplicația permite adăugarea diacriticelor specifice limbii române cuvintelor scrise fără diacritice. Mecanismul implementat utilizează algoritmi IA pentru identificarea corectă a cazurilor în care este necesară adăugarea diacriticelor, înțelegând contextul paragrafelor prin folosirea tehnicilor de prelucrare a limbajului natural (NLP) și modele Deep Learning”, a mai transmis CSM. 

Soft cu inteligență artificială pentru rezumatul susținerii părților 

Consiliul susține că se află „în curs de dezvoltare” un sistem de inteligență artificială care poate să realizeze rezumatul susținerilor părților în cadrul procedurilor judiciare. 

„Aceste susțineri constituie partea introductivă a unei hotărâri judecătorești, fiind esențiale pentru prezentarea cadrului factual și juridic în care se încadrează litigiul, înainte de expunerea raționamentului judecătorului avut în vedere la deliberare și pronunțare”, a explicat CSM.

Proiectul, susține CSM, urmărește să automatizeze procesul de sintetizare a pozițiilor părților – cererile, apărările, excepțiile și concluziile – într-o formă clară și concisă, respectând cerințele formale ale redactării hotărârilor.

„Un astfel de instrument are potențialul de a reduce semnificativ volumul de muncă administrativă al judecătorilor și al personalului auxiliar, permițându-le judecătorilor să se concentreze mai atent asupra aspectelor esențiale ale deliberării și redactării raționamentului juridic propriu-zis”, a mai explicat CSM pentru Libertatea. 

CSM subliniază că, „redactarea opiniilor și a hotărârilor (secțiunea care conține partea de expunere a raționamentelor juridice), furnizarea elementelor necesare procesului decizional, precum și pronunțarea deciziilor, rămân și trebuie să rămână în responsabilitatea exclusivă a judecătorilor, fără a fi asistate de sisteme de inteligență artificială, întrucât ele implică exercițiul nemijlocit al funcției jurisdicționale”.

„De altfel, prin Regulamentul (UE) 2024/1689 privind inteligența artificială, astfel de activități au fost catalogate ca fiind asociate unui grad ridicat de risc, tocmai din cauza impactului lor direct asupra drepturilor fundamentale ale persoanelor și asupra principiului independenței autorității judiciare”, a punctat Consiliul Superior al Magistraturii.

Potrivit forului care garantează independența justiției, soluțiile implementate într-un cadru restrâns sau aflate în prezent în curs de dezvoltare, atât în ceea ce privește anonimizarea hotărârilor judecătorești, cât și în ceea ce privește realizarea rezumatului susținerilor părților, sunt gestionate cu modele de AI locale, prin antrenarea algoritmilor pe date interne ale sistemului judiciar român. 

„Aceste tehnologii sunt dezvoltate fără a implica partajarea datelor cu entități străine, ceea ce asigură un nivel sporit de confidențialitate și protecție a informațiilor sensibile. Această abordare permite păstrarea datelor în cadrul sistemului național de justiție, reducând riscurile asociate transferului sau expunerii informațiilor către terți”, dă asigurări CSM. 

Consiliul susține că prin dezvoltarea unor tehnologii noi, destinate sprijinirii activităților auxiliare și administrative din justiție, „fără a interfera cu exercițiul nemijlocit al funcției jurisdicționale”, se urmărește „strict optimizarea proceselor de anonimizare și de structurare a informațiilor, fără a furniza elemente sau sugestii care să afecteze sau să influențeze raționamentul juridic propriu-zis al judecătorului”. 

Avocatul Alexandru Morărescu, care a reclamat folosirea inteligenței artificiale în motivarea deciziei de la Tribunalul București, a declarat pentru Libertatea că softul care i-a fost propus spre vânzare avea capacitatea să consemneze declarațiile date de martori, de inculpați în fața instanței, fără ca grefierul să mai scrie ce se declară, să facă sinteze și să elimine chestiuni din declarații care n-au legătură cu cauza. 

Avocatul susține că a cerut un exemplu concret, iar dezvoltatorul softului i-a spus că dacă un martor afirmă „nu îmi amintesc exact, dar e posibil să fie ziua de 14 octombrie”, în declarație apare „e posibil să fie ziua de 14 octombrie”.

Practic, ar fi eliminate „chestiunile considerate ca fiind reziduale”. „Eu mi-am exprimat surprinderea, pentru că întotdeauna depoziția martorului sau inculpatului poate să surprindă și chestiuni care țin de capacitatea lui de a înțelege, de capacitatea lui de a memora, de starea în care se află la momentul depoziției. A spus că astea sunt chestiuni reziduale și se reține doar esența”, a mai declarat avocatul.

Abonați-vă la ȘTIRILE ZILEI pentru a fi la curent cu cele mai noi informații.

ABONEAZĂ-TE

Ați sesizat o eroare într-un articol din Libertatea? Ne puteți scrie pe adresa de email eroare@libertatea.ro