Un avocat australian a fost nevoit să-și exprime regretul public după ce a depus la tribunal un memoriu care conținea citate juridice inventate de un algoritm de inteligență artificială. Incidentul a avut loc în cadrul unui proces pentru crimă, derulat la Curtea Supremă din statul Victoria.
Rishi Nathwani, avocat cu titlul prestigios de King’s Counsel, și-a asumat întreaga responsabilitate pentru introducerea de informații eronate în dosar. El a declarat, în numele echipei de apărare, că se simte „profund îndurerat și jenat” de situație.
Materialele eronate includeau citate atribuite în mod fals unui discurs parlamentar, precum și decizii judecătorești care nu existau în realitate. Greșelile au fost sesizate de reprezentanții instanței, care au solicitat clarificări imediate.
Deși inițial unele surse au fost verificate, altele au fost presupuse a fi corecte fără a fi confirmate independent. Acest lucru a condus la amânarea cu o zi a soluționării cauzei.
Judecătorul a stabilit, în cele din urmă, că acuzatul – un minor a cărui identitate a fost protejată – nu poate fi condamnat din cauza unor probleme de sănătate mentală.
Instanța a reamintit că accuratețea materialelor depuse de avocați este esențială pentru buna funcționare a sistemului juridic. S-a menționat, de asemenea, că deja anul trecut au fost emise recomandări privind utilizarea responsabilă a tehnologiilor automate în practica legală.
„Utilizarea inteligenței artificiale este permisă doar dacă rezultatele acesteia sunt verificate temeinic și independent”, a subliniat reprezentantul instanței.
Acest caz nu este izolat. În Statele Unite, de exemplu, doi avocați au fost amendați după ce au prezentat o anchetă juridică falsă generată de un chatbot într-un dosar de despăgubiri. De asemenea, documente similare au apărut și în alte procese de amploare, inclusiv în dosare legate de personalități publice.
Specialiștii avertizează că furnizarea de materiale false poate fi considerată o formă de disrespect față de instanță, iar în cazuri extreme, poate atrage pedepse severe. Abuzul de tehnologie în astfel de contexte poate submina încrederea publică în întregul sistem de justiție.