Un avocat din Australia și-a exprimat regretul profund după ce a prezentat în instanță un memoriu conținând citate juridice inventate de un program de inteligență artificială. Incidentul a avut loc în cadrul unui proces pentru crimă, unde instrumentele automate au produs referințe inexistente, perturbând desfășurarea normală a ședinței.
Deținătorul titlului de King’s Counsel, Rishi Nathwani, și-a asumat întreaga răspundere pentru includerea unor date false în dosarul unui minor acuzat de omor. El a declarat că echipa sa a verificat parțial conținutul, dar a presupus în mod eronat că toate sursele sunt autentice.
„Ne aflăm într-o situație extrem de stânjenitoare și cerem scuze pentru neatenție”, a recunoscut avocatul în fața Judecătorului James Elliott.
Memoriul conținea citate atribuite unor discursuri parlamentare și hotărâri judecătorești care, de fapt, nu existau. Asistenții judecătorului au detectat discrepanțele atunci când nu au reușit să localizeze deciziile menționate. La confirmarea erorii, procesul a fost amânat cu o zi.
În ciuda acestui impediment, tribunalul a stabilit în cele din urmă că acuzatul, un minor a cărui identitate a fost protejată, nu poate fi condamnat din cauza unor probleme de sănătate mentală.
Judecătorul Elliott a subliniat că încrederea sistemului juridic în exactitatea materialelor prezentate de avocați este esențială. El a reamintit că instanța a emis anul trecut recomandări specifice privind utilizarea tehnologiei inteligente, insistând asupra verificării independente a oricărui conținut generat automat.
„Utilizarea inteligenței artificiale este permisă doar dacă rezultatele sunt supuse unei examinări riguroase și manuale”, a precizat magistratul.
Acest caz nu este izolat. Anul trecut, în Statele Unite, doi avocați au fost sancționați pentru a fi folosit cercetări fictive create de ChatGPT într-un dosar de despăgubiri. De asemenea, fostul consilier al președintelui Donald Trump, Michael Cohen, a recunoscut că a utilizat fără să știe un instrument online care a produs decizii ireale.
În Marea Britanie, instanțele au emis avertismente severe cu privire la riscurile dezinformării prin tehnologie. Furnizarea de documente false poate duce la acuzații de insultă adusă justiției sau chiar la acuzații de obstrucționare a legii, infracțiuni pedepsite cu închisoarea pe viață în cazuri extreme.
Expertii avertizează că abuzul de sisteme automate în domeniul juridic poate submina încrederea publică în întregul sistem de justiție.
