Despre AI in justiție - lecții din Tobosaru/Tofan

1. Extrădarea și AI

Am scris anterior despre cazul Tobosaru/Tofan din UK: în soluționarea unui dosar privind cererile de extrădare a doi cetățeni români procurorii invocaseră două precedente judiciare inventate de AI. Problema a fost că profesioniști implicați în lanțul finalizat cu depunerea documentelor la instanță nu le-au verificat.

În România, deși nu se recunoaște oficial, AI este deja utilizat de avocați, polițiști, procurori și judecători. În acest an principalele instituții ale sistemului judiciar românesc au început să formuleze explicit reguli, limite și proiecte privind integrarea AI. Totul se învârte în jurul a două întrebări: „Cum ne poate ajuta AI în activitatea judiciară?” și „Cine răspunde atunci când AI greșește?”

 2. AI Act: Justiția – domeniu cu grad ridicat de risc

2.1. Regulamentul (UE) 2024/1689 privind inteligența artificială – AI Act[1] a intrat în vigoare la 1 august 2024, iar aplicarea lui a fost etapizată:

a)  Unele dispoziții, inclusiv cele privind alfabetizarea în domeniul AI și anumite practici interzise, au început să se aplice încă din 2025;

b)  De la 2 august 2026 se aplică cea mai mare parte a regulamentului, inclusiv importante reguli de transparență și mecanismele de aplicare a legii;

c)  Pentru justiție există însă un regim special.

AI Act nu se aplică direct speței Tobosaru/Tofan, soluționată în Regatul Unit. Speța rămâne însă relevantă pentru dreptul UE și pentru România ca exemplu concret al unui risc pe care AI Act îl califică drept sensibil în administrarea justiției.

2.2. Anexa III pct. 8 lit. a) califică drept sisteme AI cu grad ridicat de risc sistemele destinate să fie utilizate de o autoritate judiciară sau în numele acesteia pentru a o asista în cercetarea și interpretarea faptelor și a dreptului și în aplicarea dreptului la o situație concretă.

Motivul este explicat în considerentul 61 al Regulamentului: asemenea sisteme pot avea un impact semnificativ asupra democrației, statului de drept, libertăților individuale, dreptului la o cale de atac efectivă și dreptului la un proces echitabil. Textul european identifică expres trei riscuri: părtinirea, eroarea și opacitatea. Și mai important, Regulamentul formulează aici o regulă care ar trebui să constituie punctul de plecare al oricărei discuții despre AI și judecător: AI poate sprijini puterea de decizie a judecătorului, dar nu o poate înlocui; decizia finală trebuie să rămână o activitate condusă de om.

2.3. AI poate fi folosit în instanțe în mai multe scopuri. Activitățile pur auxiliare – anonimizarea hotărârilor, comunicarea internă, transcrierea, anumite operațiuni administrative – pot rămâne în afara categoriei de risc ridicat atunci când nu influențează soluționarea concretă a cauzei. În schimb, un sistem care analizează faptele unui dosar, identifică legislația și jurisprudența aplicabile și sugerează modul lor de aplicare sau redactează proiecte de motivare intră în nucleul utilizărilor cu risc ridicat. Comisia Europeană oferă asemenea exemple în anexa III din Regulament.[2]

Aici se vede legătura evidentă cu Tobosaru/Tofan: identificarea jurisprudenței relevante pentru o situație concretă nu mai este, în termenii Regulamentului european, o simplă operațiune tehnică indiferentă din punct de vedere juridic[3].

2.4. Prin modificările din acest an la Regulament s-a stabilit că regimul detaliat aplicabil sistemelor AI cu grad ridicat de risc utilizate în administrarea justiției va deveni aplicabil la 2 decembrie 2027.

Regulamentul AI nu înlocuiește drepturile fundamentale, normele procesuale, regulile privind protecția datelor, secretul profesional, independența judecătorului sau răspunderea profesională. Iar instituțiile românești au început deja să formuleze propriile limite.

3. Reacții instituționale: : „AI asistă și omul decide”.

3.1. CSM

Pentru activitatea instanțelor, CSM a adoptat în octombrie 2025, una dintre cele mai restrictive poziții instituționale românești. Comisia nr. 3 – Digitalizare a CSM și-a însușit o notă potrivit căreia utilizarea AI „nu trebuie să interfereze cu exercițiul nemijlocit al funcției jurisdicționale” și nu trebuie să furnizeze elemente sau sugestii capabile să afecteze ori să influențeze raționamentul juridic propriu-zis al judecătorului[4]. CSM a admis utilizarea acestor componente pentru activități auxiliare actului de judecată și pentru activități administrative. Mai mult, în privința serviciilor publice de AI – fiind menționate expres ChatGPT, Perplexity și Gemini – poziția CSM a fost că acestea pot fi folosite numai pentru prelucrarea unor date care nu fac parte din dosarele aflate pe rol și care nu conțin informații confidențiale. Excepția privește soluțiile dezvoltate în interiorul sistemului judiciar, pe modele găzduite intern și cu scop definit instituțional.

Așadar, sunt două niveluri diferite de protecție: a) Primul privește datele: dosarul și informațiile confidențiale nu trebuie introduse în instrumente publice; al doilea privește judecata însăși: AI nu trebuie să interfereze cu raționamentul juridic propriu-zis. Din această perspectivă, standardul românesc formulat de CSM este chiar mai exigent decât simpla obligație de verificare a rezultatului AI.

3.2. UNBR: de la diligența profesională la „diligența tehnologică”

În septembrie 2025, Consiliul UNBR a decis constituirea unei comisii de lucru dedicat AI și a indicat printre direcțiile necesare elaborarea unei poziții oficiale, adoptarea unor ghiduri etice și de conformitate, crearea unei grile de evaluare a instrumentelor AI, formarea digitală a avocaților și adaptarea cadrului normativ la AI Act.

În aprilie 2026, UNBR a introdus în dezbaterea profesională sintagma „diligență tehnologică”, prezentată ca o nouă dimensiune a obligației profesionale a avocatului.

În mai 2026, UNBR a anunțat că are în vedere standarde profesionale pentru utilizarea AI, cu accent pe competență, confidențialitate, loialitate, răspundere și mecanisme de verificare.

Iar datele empirice arată că problema nu mai este teoretică. În sondajul UNBR publicat în iunie 2026, avocații indicau printre principalele preocupări protecția datelor, secretul profesional și utilizarea AI în activități confidențiale.

Poziția UNBR în cadrul Just.AI Forum este poate și mai interesantă. Președintele Uniunii avertiza asupra unui risc mai puțin vizibil decât halucinațiile: dacă sistemele AI devin tot mai performante, dependența de ele poate eroda capacitatea umană de analiză și sinteză, iar instrumentul riscă să devină un substitut al gândirii juridice.

Pentru avocați, cazul Tobosaru/Tofan se poate traduce într-o regulă foarte simplă: o hotărâre indicată de AI nu este încă jurisprudență verificată. Înainte de utilizarea într-o cerere, întâmpinare, concluzii trebuie verificat cel puțin următoarele aspecte: dacă hotărârea există; dacă instanța, numărul și data sunt corecte; dacă documentul poate fi identificat într-o sursă oficială sau juridică fiabilă; dacă pasajul invocat există; dacă spune ceea ce AI afirmă că spune; dacă soluția mai este relevantă în raport cu dreptul în vigoare și jurisprudența ulterioară.

Este evident că aceste obligații de verificare a surselor existau și înainte de a apărea ChatGPT, dar acum ne confruntăm cu un risc epistemic: în contextul AI juridice, profesionistul dreptului primește o informație care pare credibilă și juridic bine formulată, dar este falsă, incompletă, depășită sau scoasă din context. Aceasta pentru că un model generativ poate produce în câteva secunde numele părților, instanța, anul, numărul hotărârii și chiar un aparent citat din motivare, toate perfect plauzibile, deși hotărârea nu a existat niciodată. Adică exact ceea ce s-a întâmplat în Tobosaru/Tofan.

3.3. Președinția

La 5 mai 2026, Administrația Prezidențială a organizat la Palatul Cotroceni prima ediție a Forumului Just.AI – Inteligența artificială în serviciul sistemului judiciar. Pentru prima dată, principalele instituții ale sistemului judiciar, organizațiile profesionale și reprezentanți ai mediului academic și tehnologic au fost reuniți într-un mecanism comun dedicat utilizării AI în justiție.

Forumul s-a încheiat cu semnarea unui memorandum interinstituțional, conturat în jurul ideii: că utilizarea AI în sistemul judiciar va avea un caracter auxiliar, în timp ce puterea de decizie va rămâne a omului. Au fost prevăzute grupuri interinstituționale permanente, evaluarea riscurilor, proiecte pilot și elaborarea unui plan național de acțiune.

3.4. Parchetul

Au avut loc deja întâlniri organizate de procurori, la care au participat și polițiști, pentru a se stabili impactul tehnologiilor bazate pe AI în faza de urmărire penală. Mă refer la cea găzduită la data de 21 mai 2026 de către Parchetul de pe lângă Înalta Curte de Casație și Justiție și la cea găzduită la data de 10 iunie 2026 de către DNA.

Este foarte important să se discute despre AI în activitatea parchetelor, căci un astfel de sistem poate ajuta procurorul la căutarea jurisprudenței, organizarea unui volum mare de informații sau redactarea preliminară. Dar dacă o hotărâre fictivă ajunge într-un rechizitoriu, într-o cerere adresată judecătorului sau în concluziile scrise, faptul că referința a fost generată de AI nu schimbă natura actului: actul rămâne al procurorului care și l-a însușit.

În această materie, Tobosaru/Tofan este o avertizare foarte concretă. Incidentul britanic s-a produs tocmai în cadrul unei autorități publice de urmărire penală – Crown Prosecution Service – și într-o procedură privitoare la libertatea persoanei.

Sursa tehnică a formulărilor cuprinse în act și autorul legal al acestuia sunt două lucruri diferite. AI poate explica cum a apărut eroarea, dar nu stabilește cine răspunde pentru actul judiciar în care eroarea a fost introdusă. Tobosaru/Tofan arată necesitatea unor proceduri instituționale: politici privind instrumentele admise, protecția datelor, validarea surselor, formarea personalului, auditul utilizărilor și trasabilitatea intervenției AI. CPS a înțeles aceasta după incident și a verificat alte 78 de dosare lucrate de același jurist, a revizuit procedurile interne și a diseminat concluziile în instituție. Aceasta este diferența dintre tratarea unei halucinații ca simplă greșeală personală și tratarea ei ca risc instituțional.

4. Folosirea AI de către judecător

4.1. Pentru judecător, problema utilizării AI este cea mai sensibilă. În timp ce avocatul și procurorul prezintă argumente instanței, judecătorul este cel care își asumă actul jurisdicțional. Evident, dacă o hotărâre sau un text de lege inventat de AI ajunge într-o hotărâre judecătorească, informația falsă poate deveni parte a justificării oficiale a unei soluții pronunțate în numele legii.

Iar dacă AI merge mai departe –  selectează probe, recomandă interpretarea unei norme, propune calificarea faptelor, indică jurisprudență relevantă, generează motivarea soluției  – suntem în domeniul pe care AI Act îl clasifică drept de grad ridicat de risc. Aici se pune chiar problema legitimității hotărârii.

Merită amintit un precedent tehnologic înainte de apariția AI: copy/paste-ul din rechizitoriu. Instanțele de control judiciar române au sancționat hotărârile în care judecătorul a preluat integral situația de fapt și analiza probelor din actul de sesizare, limitându-și contribuția proprie la individualizarea pedepsei sau la câteva formule standard. Problema nu era folosirea materialului redactat de procuror, ci absența unei analize judiciare proprii[5]. Curtea Constituțională formulase demult fundamentul acestei exigențe: motivarea este „un act inerent funcției judecătorului cauzei” și reprezintă expresia independenței sale.[6]

Aceeași logică ar trebui să guverneze azi utilizarea AI. Dacă o hotărâre nu este considerată cu adevărat motivată atunci când judecătorul reproduce analiza procurorului fără a o transforma prin propria judecată, cu atât mai dificil ar fi de acceptat că exigența motivării este îndeplinită prin preluarea unui raționament generat de un sistem AI. Schimbarea autorului extern — procurorul este înlocuit de algoritm — nu schimbă exigența: judecătorul trebuie să rămână autorul intelectual al motivării.

Evident, nu orice preluare din rechizitoriu este interzisă. Există jurisprudență care admite că o hotărâre poate prelua o parte importantă din actul de sesizare dacă instanța face totuși propria analiză a probelor și formulează propriile concluzii[7].

4.2. Folosirea AI va produce erori, fără îndoială. Vor fi critici publice, căi de atac exercitate de nemulțumiți sau revoltați, hotărâri desființate și chiar investigații disciplinare. Dar nu orice informație greșită furnizată de AI și ajunsă într-un document profesional va constitui automat abatere disciplinară.

Unele erori vor fi descoperite și eliminate în procesul intern de lucru, altele vor ajunge în documentele procedurale. Dacă e ceva izolat și care a fost corectat imediat, e una. Dacă însă e o conduită repetată sau unaa evident neglijentă, asta e altceva. Oricum, abaterea disciplinară constând în „folosirea AI” trebuie atent stabilită prin lege, nu prin practici ale Inspecției Juciare sau ale CSM.

Până atunci, instruirile tehnice și etice în domeniul digital, dar mai ales AI, nu trebuie să lipsească din formarea magistraților. Chiar și acum, nu cred că un profesionist se poate apăra spunând că nu știa că AI poate inventa surse juridice: după Mata v. Avianca[8], după zecile și apoi sutele de hotărâri internaționale privind citațiile fictive și după avertismentele instituțiilor profesionale, halucinația nu mai poate fi tratată ca un comportament imprevizibil al tehnologiei. Aceasta este de acum un risc cunoscut și trebuie gestionat.

De altfel, atât OpenAI pentru ChatGPT, cât și Anthropic pentru Claude avertizează explicit că modelele lor pot genera informații false sau înșelătoare, inclusiv citări și referințe inexistente, și că output-ul nu trebuie tratat ca sursă autonomă de adevăr. OpenAI precizează că ChatGPT poate „halucina” fapte, studii sau surse și recomandă verificarea informațiilor importante[9], iar Anthropic arată că afirmațiile factuale produse de Claude nu trebuie considerate corecte fără verificare independentă, întrucât pot fi false, incomplete ori înșelătoare[10]; pentru utilizările cu risc ridicat, inclusiv juridice, ambele companii insistă asupra necesității controlului uman asupra rezultatului.

4.3. Mai există o problemă asupra căreia Tobosaru/Tofan atrage atenția, în mod indirect: trasabilitatea. În speța britanică a fost necesară o investigație pentru a afla de unde proveneau cele două hotărâri fictive.

Pe măsură ce utilizarea AI se extinde în instanțe, parchete și avocatură, instituțiile și cabinetele vor trebui să știe nu numai dacă un instrument este permis, ci și unde, în ce scop și sub controlul cui a fost utilizat. Așadar, trebuie regândite fluxurile instituționale, pentru a exista în orice moment posibilitatea de a se identifica instrumentul digital folosit, a funcției pentru care a fost folosit și a persoanei care a verificat rezultatul. În acest fel se va putea stabili neîndoielnic implicarea omului și cea a mașinii.

5. Concluzii: diligența tehnologică

Inteligența artificială schimbă ceea ce înseamnă diligența concretă  a profesionistului dreptului și cred că aici se află adevărata lecție a cazului Tobosaru/Tofan pentru România.

Profesionistul care alege un instrument AI trebuie să îi cunoască limitele esențiale, să protejeze datele care îi sunt încredințate, să verifice rezultatele și să nu permită tehnologiei să substituie judecata profesională pe care numai el este autorizat să o exercite. Este ceea ce UNBR a început să numească „diligență tehnologică”, adaptând o exigență profesională deja consacrate internațional sub denumiri precum technology competence sau duty of technological competence[11].

În Tobosaru/Tofan, AI a furnizat două hotărâri care nu existau, dar High Court a identificat că problema reală a fost lipsa verificării umane. Această distincție ar trebui păstrată și în dreptul românesc: AI poate asista juristul, dar juristul răspunde pentru ceea ce introduce în proces cu ajutorul AI.

NOTE:

[1]Regulamentul (UE) 2024/1689 – AI Act, versiunea consolidată după modificările din 2026.

 [2] Pct. 6 din anexa III se referă la utilizarea AI în activitățile de aplicare a legii: pentru a evalua riscul ca o persoană fizică să devină victima unor infracțiuni; ca poligrafe sau instrumente similare sau de către instituțiile, organele, oficiile ori agențiile Uniunii în sprijinul autorităților de aplicare a legii; pentru a evalua fiabilitatea probelor în cursul investigării sau al urmăririi penale a infracțiunilor; pentru evaluarea riscului ca o persoană fizică să comită infracțiuni sau să recidiveze, nu doar pe baza creării de profiluri ale persoanelor fizice, sau pentru a evalua trăsături și caracteristici de personalitate ori comportamentul infracțional anterior al unor persoane fizice sau grupuri; pentru crearea de profiluri ale persoanelor fizice, în cursul depistării, investigării sau urmăririi penale a infracțiunilor. Pct. 8 lit. a) din Anexa IV se referă la utilizarea AI în justiție: pentru a asista o autoritate judiciară în cercetarea și interpretarea faptelor sau a legii, precum și în aplicarea legii la un set concret de fapte sau destinate a fi utilizate în mod similar în soluționarea alternativă a litigiilor.

[3] Pct. 8 lit. a) din Anexa IV se referă la utilizarea AI în justiție: pentru a asista o autoritate judiciară în cercetarea și interpretarea faptelor sau a legii, precum și în aplicarea legii la un set concret de fapte sau destinate a fi utilizate în mod similar în soluționarea alternativă a litigiilor.

[4] Este de remarcat că hotărârile adoptate în comisiile CSM nu au valoare legală dacă nu sunt însușite.

[5] Curtea de Apel Bacău, Decizia nr. 591/2024 din 5 iunie 2024, rejust.ro, cod RJ 986d7292g: Instanța de apel a constatat că motivarea sentinței consta, în esență, în copierea integrală a rechizitoriului, atât asupra situației de fapt, cât și asupra încadrării juridice, iar contribuția proprie a primei instanțe era extrem de redusă. Curtea a subliniat lipsa unei analize proprii a probelor și faptul că apărărilor inculpaților nu li se răspunsese. Pentru o practică generalizată în acest sens, a se vedea mențiunea de la par. 210 al Deciziei CCR nr. 633/2018, publicată în M.Of. nr. 1020 din 29 noiembrie 2018.

[6]  „Motivarea hotărârii judecătorești este un act inerent funcției judecătorului cauzei, constituie expresia independenței sale și nu poate fi transferată către o terță persoană. Motivarea nu constituie doar premisa unei bune înțelegeri a hotărârii, dar și garanția acceptării sale de către justițiabil, care se va supune actului de justiție având încrederea că nu este un act arbitrar. Ea reprezintă un element esențial al hotărârii judecătorești, o puternică garanție a imparțialității judecătorului și a calității actului de justiție, precum și o premisă a exercitării corespunzătoare de către instanța superioară a atribuțiilor de control judiciar de legalitate și temeinicie. Or, în condițiile în care hotărârea judecătorească ar fi redactată/motivată de o altă persoană decât judecătorul cauzei, justițiabilul este lipsit tocmai de aceste garanții” (par. 178 din Decizia CCR nr. 33/2018, publicată în M.Of. nr. 146 din 15 februarie 2018).

[7] „Motivarea hotărârii fiind o problema de continut si nu de volum, este corespunzătoare chiar daca a preluat  o mare parte din rechizitoriu, ca act de sesizare, atunci când probele administrate  pe parcursul cercetării judecătorești confirma acuzația penala formulata, susțin temeinicia  soluției de trimitere in judecata. Pe lângă situația de fapt  preluata din actul de sesizare si confirmata de altfel prin  probele administrate in cursul cercetării judecătorești, prima instanța a  formulat si propriile concluzii pe baza  ansamblului probator,  evidențiind  elementele de tipicitate obiectiva si subiectiva extrase din  activitatea de cercetare judecătorească. Deși este succinta,  motivarea din hotărârea apelata este clara, logica, susținuta de probele administrate, fiind  o consecința logica a  acestora” (Curtea de Apel Craiova, Decizia nr. 874/17 iunie 2021, cod RJ 88e5e8e4)

[8] United States District Court for the Southern District of New York, hotărârea din 22 iunie 2023, Mata v. Avianca, Inc., No. 22-cv-1461 (PKC), 2023 WL 4114965.  Mata v. Avianca, Inc. Este unul dintre primele și cele mai cunoscute cazuri judiciare în care avocați au fost sancționați pentru depunerea la instanță a unor hotărâri inexistente generate de ChatGPT. Avocații nu s-au limitat la a cita cazurile fictive, ci au depus inclusiv pretinse texte ale hotărârilor și au continuat o vreme să susțină autenticitatea lor după ce instanța și partea adversă au ridicat semne de întrebare. Instanța a subliniat un principiu care seamănă foarte mult cu ideea din Tobosaru/Tofan: nu este în sine impropriu ca un avocat să folosească un instrument AI, dar avocatul are o obligație de verificare a exactității documentelor depuse la instanță. Hotărârea la: https://law.justia.com/cases/federal/district-courts/new-york/nysdce/1:2022cv01461/575368/54/

[9] „Does ChatGPT tell the truth?”, 2026, la https://help.openai.com/en/articles/8313428-does-chatgpt-tell-the-truth.

[10] Pct.C.3 din „Anthropic on Bedrock - Commercial Terms of Service”, 2024, la www-cdn.anthropic.com/files/4zrzovbb/website/6b68a6508f0210c5fe08f0199caa05c4ee6fb4dc.pdf

[11] Conceptul are rădăcini cel puțin în Model Rule 1.1, Comment [8], al American Bar Association: www.americanbar.org/groups/professional_responsibility/publications/model_rules_of_professional_conduct. De acolo a fost preluat expres de International Bar Association, care vorbește despre necesitatea dezvoltării unei  competențe tehnologice adecvate practicii avocatului. A se vedea www.ibanet.org/AI-lawyers-and-law-firm-responsibilities.