Un avocat australian a fost nevoit să se retragă și să-și exprime regretul profund în fața instanței după ce a depus un memoriu care conținea citate juridice inventate de un program de inteligență artificială. Incidentul a avut loc în cadrul unui proces pentru crimă, derulat la Curtea Supremă din Victoria.
Rishi Nathwani, avocat cu titlul prestigios de King’s Counsel, a recunoscut că informațiile eronate au fost incluse în documentele transmise justiției. El și-a asumat întreaga responsabilitate, declarând: „Ne pare extrem de rău și ne simțim stânjeniți de ceea ce s-a întâmplat”.
În memoriile prezentate s-au regăsit citate fabricate, atribuite unor decizii judecătorești care nu există în realitate, precum și fragmente inventate dintr-un discurs parlamentar. Erorile au fost sesizate de reprezentanții procurorii, care au solicitat clarificări și copii ale surselor menționate.
Deși avocații apărării au verificat inițial o parte din referințe, au presupus în mod eronat că toate sunt corecte, fără a le confirma pe fiecare în parte. Acest lucru a condus la amânarea soluționării cauzei cu o zi.
În încheierea procesului, instanța a stabilit că acuzatul, un minor a cărui identitate a fost protejată, nu poate fi considerat vinovat din cauza unor probleme de sănătate mentală.
Judecătorul a evidențiat pericolul reprezentat de utilizarea necontrolată a tehnologiei în practica juridică, subliniind că încrederea sistemului de justiție în exactitatea materialelor depuse de avocați este esențială. De asemenea, a reamintit că instanța a emis anul trecut recomandări specifice privind verificarea independentă a oricărui conținut produs cu ajutorul inteligenței artificiale.
Acest caz nu este izolat. În Statele Unite, de exemplu, doi avocați au fost amendați pentru prezentarea unor referințe false generate de ChatGPT. De asemenea, documente similare au apărut și în dosarul lui Michael Cohen, fidelul avocat al fostului președinte Donald Trump.
Instanțele din Marea Britanie au emis avertismente clare: furnizarea de materiale false poate atrage pedepse severe, inclusiv acuzația de obstrucționare a justiției.
Scenariile de acest gen pun sub semnul întrebării încrederea publică în corectitudinea și transparența sistemului juridic atunci când instrumentele automate sunt utilizate fără o verificare riguroasă.
