Sistemele judiciare globale traversează o perioadă de transformare tehnologică prin adoptarea inteligenței artificiale pentru gestionarea volumului de documente și automatizarea fluxurilor administrative. Deși tehnologia promite o eficiență sporită în instanțele supraaglomerate, delegarea atribuțiilor de justiție către algoritmi ridică probleme etice profunde. Există temeri că înlocuirea discernământului uman cu formule matematice poate fragiliza pilonii statului de drept, afectând echitatea, transparența și dreptul la un proces imparțial.
Un risc major este perpetuarea prejudecăților prin antrenarea algoritmilor pe date istorice care conțin inechități. În Statele Unite, algoritmul COMPAS, utilizat pentru evaluarea riscului de recidivă, a fost criticat după ce o investigație ProPublica a arătat că acuzațiile de culoare erau clasificate eronat cu un risc aproape dublu față de cele pentru albi. Acest caz a ajuns în fața Curții Supreme din Wisconsin, în procesul State v. Loomis, punând sub semnul întrebării constituționalitatea delegării deciziei către cod software.
Opacitatea algoritmilor de învățare profundă, cunoscută sub numele de problema „cutiei negre”, reprezintă o altă barieră în calea transparenței. Modul în care o aplicație de IA corelează variabilele pentru a ajunge la o recomandare este adesea imposibil de decodat, chiar și de către dezvoltatori. Această lipsă de explicabilitate intră în contradicție cu dreptul la un proces echitabil, deoarece o hotărâre judecătorească trebuie motivată detaliat pentru a permite părților din litigiu să formuleze o cale de atac.
Fenomenul „halucinațiilor” IA, prin care sistemele inventează fapte sau legi, pune în pericol integritatea proceselor. În cazul Whiting v. City of Athens, avocați au fost amendați cu zeci de mii de dolari după ce au depus documente cu citate juridice fictive generate de IA. Similar, Curtea Supremă din India a intervenit după ce un magistrat a integrat în o hotărâre patru decizii complet fictive, obținute prin intermediul unui instrument de inteligență artificială.
Tehnologia generativă facilitează și manipularea probelor digitale prin utilizarea deepfakes, care pot simula înregistrări audio sau capturi de ecran pentru a fabrica recunoașteri de datorii sau abuzuri. Pentru a contracara aceste riscuri, normele europene impun respectarea principiului controlului uman obligatoriu, cunoscut sub denumirea de „human-in-the-loop”. Inteligența artificială trebuie să rămână un instrument administrativ de optimizare logistică, în timp ce responsabilitatea morală și raționamentul juridic trebuie să aparțină exclusiv magistraților.
Implementarea tehnologiilor avansate în cadrul instituțiilor de stat necesită un echilibru strict între viteza procesuală și siguranța juridică. În contextul evoluțiilor actuale, reglementările internaționale și europene subliniază necesitatea ca decizia finală să nu fie delegată complet mașinilor. Menținerea unui control uman riguros este esențială pentru a preveni transformarea tribunalelor în centre de calcul care funcționează fără echitate sau responsabilitate juridică reală.