Umělá inteligence nemůže nahradit soudce.

Rychlý rozvoj umělé inteligence (AI) v posledních letech proměnil situaci v mnoha klíčových odvětvích, od zdravotnictví a vzdělávání až po finance. S tím, jak se tato technologie začíná dostávat do soudních síní, se však objevily hluboké obavy ohledně spravedlnosti a etických základů systému soudnictví.

Workshop o využití umělé inteligence v estonském soudním systému (FOTO: AVALIK)

Není to vždycky dobré.

Používání umělé inteligence v soudních rozhodnutích s sebou nese vážná rizika. Nepřesné výsledky pramenící z „iluzorných“ informací, diskriminační rozhodnutí a nedostatek transparentnosti jsou obavy. I když by umělá inteligence mohla pomoci vyřešit miliony probíhajících případů, rizika narušování lidské spravedlnosti představují pro právní systémy značnou výzvu.

Zpočátku byl největším impulsem pro přítomnost umělé inteligence v soudnictví obrovský tlak z přetíženého soudního systému. V Indii bude do roku 2026 v zemi přes 55 milionů nevyřízených případů, což je téměř dvojnásobek oproti přibližně 29 milionům případů v roce 2018. Z nich se více než 17 milionů případů táhne déle než 5 let. Odhaduje se, že vyřešení tohoto nahromaděného počtu případů by mohlo trvat více než 300 let. Umělá inteligence se stala digitálním „záchranným lanem“.

Po celém světě se na mnoha místech experimentuje s umělou inteligencí pro řešení případů s nízkým rizikem nebo mechanicky řízených případů. Estonsko zavedlo poloautomatický systém pro méně závažné občanskoprávní spory. V Německu frankfurtský soud testuje systém Frauke, který mu pomáhá s přípravou rozsudků. Vrchní britský soudce Geoffrey Vos navrhl možnost využití umělé inteligence k rozhodování, jako je výpočet výživného nebo náhrady škody, a tím úspora nákladů.

Spoléhání se na umělou inteligenci však vedlo k mnoha závažným chybám. Pozemkový spor v Ándhrapradéši (Indie) se stal varovným signálem, když soudce případ vyřešil na základě čtyř zcela neexistujících precedentů. Tato rozhodnutí zněla logicky, doplněna vlastními jmény a ostrými argumenty, ale ve skutečnosti se jednalo pouze o smyšlené produkty vytvořené umělou inteligencí. Věc byla odhalena až poté, co se obžalovaný odvolal k Nejvyššímu soudu, kde soudci označili čin za „protiprávní jednání“ spíše než za pouhou profesionální chybu. Podobně v Kolumbii soudce přiznal, že v případu týkajícím se lékařské péče o autistické děti používal ChatGPT k podpoře svých argumentů. V New Yorku byli dva právníci potrestáni za předložení právních shrnutí s odkazem na šest případů „vytvořených“ chatbotem GPT... Tyto incidenty ukazují, že když se umělá inteligence účastní soudního procesu, hranice mezi pomocí a nahrazením se stává nebezpečnější než kdy dříve.

Nedostatek lidskosti

Největším problémem při používání umělé inteligence v klinických studiích, a to i v případech považovaných za jednoduché, je riziko systémového zkreslení. Umělá inteligence sama o sobě zkreslení nevytváří; pouze odráží a zesiluje to, co je již v datech přítomno.

Podle německé televizní stanice DW prohlásil Mimansa Ambastha, expert na strategii umělé inteligence z právní poradenské firmy Starlex Consultants (Indie), že umělá inteligence nemůže nahradit lidské svědomí při výkonu spravedlnosti. Pokud je umělá inteligence nadužívána, mohla by zkreslovat úsudky.

Brazilský právník a výzkumník Matheus Puppe, který se specializuje na prolínání umělé inteligence a práva, navíc varoval před nebezpečím „ vědeckého vzhledu“, který umělá inteligence přináší. Tvrdil, že soudci by si měli dávat pozor na to, aby analýzy umělé inteligence nepovažovali za neutrální, protože umělá inteligence se může spoléhat na minulé chybné úsudky.

Podle právních expertů navíc rozhodování není jen o aplikaci matematických vzorců na zákon. Je to komplexní proces vyžadující přímé mezilidské argumenty a psychologickou empatii. Umělá inteligence, bez ohledu na to, jak pokročilá je, nedokáže „pochopit“ náladu svědka prostřednictvím jeho očí nebo hlasu. To jsou právě prvky spravedlnosti, které umělé inteligenci chybí.

Podle mezinárodních právních expertů musí soudní systém dodržovat zásadu, že technologie slouží lidstvu, nikoli nahrazuje svědomí. Zachování dohledu nad soudci z masa a kostí má nejen zabránit technickým chybám, ale také chránit humanistické hodnoty práva.

Sestavil KHANH MINH

Zdroj: https://www.sggp.org.vn/tri-tue-nhan-tao-khong-the-thay-the-quan-toa-post848882.html