Sudnica kao laboratorij budućnosti
Računska točnost i pravednost nisu isto, premda se u suvremenim raspravama o umjetnoj inteligenciji i algoritamskom upravljanju društvom često tretiraju kao da jesu. Točnost označava sposobnost sustava da uspješno prepoznaje obrasce u podacima i na temelju njih predviđa buduće ishode. Pravednost, međutim, pripada sasvim drugoj kategoriji. Ona nije matematička funkcija, nego moralna prosudba. Dok algoritam mjeri vjerojatnosti, pravednost procjenjuje ljudske situacije.
Upravo u toj razlici nalazi se jedna od najvažnijih dilema digitalnog doba. Algoritam može biti iznimno uspješan u predviđanju ponašanja pojedinaca na temelju golemih skupova podataka, a da pritom ostane potpuno slijep za ono što ljude čini ljudima. Može prepoznati obrasce, ali ne može razumjeti motive. Može identificirati korelacije, ali ne može protumačiti značenje. Može izračunati rizik, ali ne može procijeniti moralnu odgovornost.
Ova tema nalazi se u središtu filma Bez milosti (Mercy) redatelja Timura Bekmambetova, u kojem glavne uloge tumače Rebecca Ferguson i Chris Pratt. Film prikazuje sudnicu budućnosti u kojoj presuda više nije rezultat ljudskog promišljanja, nego algoritamskog izračuna. Ono što je nekada bilo prostor sukoba argumenata, interpretacija i moralnih procjena pretvara se u laboratorij podataka i statističkih modela.
Razumijevanje nije isto što i shvaćanje
Film otvara pitanje koje nadilazi samu tehnologiju. Može li sustav koji raspolaže gotovo beskonačnom količinom podataka zaista razumjeti čovjeka?
Ljudska pravednost uvijek uključuje povijest slučaja. Ne samo ono što se dogodilo, nego i kako se dogodilo, zašto se dogodilo i pod kojim okolnostima. Sudac ne procjenjuje samo čin, nego i njegov kontekst. U tome se krije jedna od najvažnijih funkcija pravosuđa.
Algoritamski sustavi djeluju drugačije. Oni ne razumiju motive, namjere, strahove ili unutarnje sukobe. Njihova logika počiva na statističkoj vjerojatnosti. Kada se govori o „moralnim modelima“, zapravo se ne radi o modelima morala, nego o modelima predviđanja. Oni mogu izgledati impresivno precizni, ali njihova preciznost ne proizlazi iz razumijevanja ljudske situacije, nego iz sposobnosti da pronalaze obrasce u podacima.
U jednom od ključnih dijaloga filma sukobljavaju se upravo dva koncepta: „understanding“ i „comprehension“. Naizgled sinonimi, oni predstavljaju dvije različite razine odnosa prema stvarnosti. Algoritam može shvatiti strukturu problema, ali ne može razumjeti ljudsko iskustvo koje se iza njega skriva. Upravo u toj razlici otkriva se granica umjetne inteligencije kada se suoči s pitanjima pravde.
Zločin kao nelinearni događaj
Jedan od temeljnih problema algoritamskog odlučivanja proizlazi iz činjenice da ljudski život nije linearni sustav. Većina modela umjetne inteligencije temelji se na pretpostavci da se budućnost može procijeniti na temelju prošlih obrazaca. Takav pristup funkcionira u brojnim područjima – od prepoznavanja lica do predviđanja potrošačkih navika.
No zločin nije običan statistički događaj.
Po svojoj prirodi, kriminalni čin često više nalikuje kreativnom činu nego matematičkom obrascu. Ljudi ne djeluju uvijek racionalno. Donose odluke pod utjecajem emocija, straha, impulsa, traume ili moralnih dilema. Upravo zato mnogi zločini predstavljaju događaje koji odstupaju od svih očekivanih obrazaca.
U takvim situacijama algoritam nailazi na granice vlastitog modela svijeta. On može procijeniti koliko je neko ponašanje statistički vjerojatno, ali teško može razumjeti zašto se dogodilo. A upravo je odgovor na pitanje „zašto“ često presudan za donošenje pravedne presude.
Milost kao temelj ljudske pravde
Povijest prava pokazuje da pravednost nikada nije bila svediva na puku primjenu pravila.
Od antičkih tragedija i hebrejske tradicije, preko rimskog prava i srednjovjekovnih pravnih sustava pa sve do modernih kaznenih politika, milost je bila sastavni dio pravde. U njezinu središtu nalazi se ideja da čovjek nikada nije samo zbroj svojih postupaka.
Postoje trenuci slabosti, očaja, straha, emocionalnog sloma ili moralnog kajanja koji se ne mogu u potpunosti pretočiti u pravne kategorije. Upravo zato su ljudski sudovi kroz povijest zadržavali prostor za olakotne okolnosti, individualnu procjenu i mogućnost oprosta.
To nije posljedica ljudske nesavršenosti, nego priznanje složenosti ljudskog života.
Pravo koje izgubi sposobnost razumijevanja čovjeka prestaje biti izvor legitimnosti. Ono postaje mehanički sustav naredbi koji može biti formalno ispravan, ali više ne djeluje moralno obvezujuće.
Činjenica kao firewall protiv milosti
Algoritamski sustavi upravo taj prostor ljudske procjene nastoje eliminirati.
U njihovoj arhitekturi nema mjesta za ono što je neizračunljivo. Nema mjesta za trenutak oklijevanja, za emocionalni slom, za paničnu reakciju ili za unutarnje preispitivanje koje nastupa nakon počinjenog djela. Takve kategorije ne mogu se jednostavno prevesti u numeričke vrijednosti.
Sustav ne vidi razliku između osobe koja djeluje iz zle namjere i osobe koja djeluje iz straha ako oba ponašanja proizvode slične statističke obrasce. Kada se presuda temelji isključivo na optimizaciji podataka, pravednost se postupno pretvara u upravljanje rizikom.
U takvom modelu činjenica postaje svojevrsni firewall protiv milosti.
Sve što nije mjerljivo prestaje biti relevantno. A upravo ono što nije mjerljivo često čini samu srž ljudske odgovornosti.
Od digitalizacije do automatizacije presude
Premda je Bez milosti fikcionalna priča, svijet koji prikazuje više nije daleka budućnost.
Posljednje desetljeće obilježila je digitalizacija administracije. Državne institucije ubrzano su prelazile na elektroničke registre, digitalne identitete i automatizirane procese odlučivanja. Sljedeća faza razvoja mogla bi biti mnogo ambicioznija – automatizacija same presude.
U brojnim državama umjetna inteligencija već sudjeluje u procjenama rizika, rangiranju predmeta, predviđanju ishoda sporova i određivanju prioriteta sudskih postupaka. Granica između administrativne pomoći i stvarnog odlučivanja postaje sve tanja.
Istodobno, umjetna inteligencija sve se manje promatra kao alat, a sve više kao infrastruktura upravljanja.
Globalna utrka za algoritamsku državu
Sjedinjene Američke Države predvode transformaciju kroz koncept „AI-first“ sigurnosne strategije. Pentagon intenzivno razvija autonomne sustave, prediktivne modele ratovanja i analitičke platforme koje omogućuju donošenje odluka u stvarnom vremenu. Logika delegiranja procjene stroju već je duboko ugrađena u sigurnosni sektor.
Ako umjetna inteligencija može procjenjivati vojne prijetnje i sigurnosne rizike, tada se postavlja pitanje koliko će vremena proći prije nego što slični modeli postanu dominantni i u pravosuđu.
Kina i Indija razvijaju vlastite verzije istog procesa. U obje zemlje umjetna inteligencija postupno postaje sastavni dio upravljanja javnim sustavima. Automatizacija nije predstavljena kao eksperiment, nego kao logičan nastavak razvoja državne infrastrukture.
Zaljevske države otišle su još dalje. Ujedinjeni Arapski Emirati među prvima su integrirali umjetnu inteligenciju u pravosudne procese. Sustavi već sudjeluju u procjeni sporova, analizi predmeta i predviđanju sudskih ishoda. U Abu Dhabiju i Dubaiju umjetna inteligencija djeluje kao svojevrsni „tihi sudac“ koji ubrzava pravni proces i oblikuje način na koji se odluke donose.
Ono što je nekada bilo pitanje tehnološke inovacije danas postaje pitanje političke arhitekture.
Tko ima pravo suditi?
Najvažnije pitanje koje otvara film Bez milosti nije tehnološko nego političko i civilizacijsko.
Pravosuđe je jedna od jezgrenih institucija moderne države. Ono ne određuje samo tko je kriv, nego i tko ima pravo tu krivnju utvrditi. Presuda nije samo administrativna odluka. Ona je čin kojim društvo potvrđuje legitimnost vlasti i vlastito razumijevanje pravednosti.
Zbog toga rasprava o umjetnoj inteligenciji u pravosuđu nije rasprava o učinkovitosti. Nije čak ni rasprava o točnosti.
To je rasprava o tome može li društvo prepustiti moralne odluke sustavima koji ne razumiju moral.
Kako umjetna inteligencija postaje temelj nove infrastrukture moći, sve je jasnije da se budući sukobi neće voditi oko algoritama, nego oko pitanja tko kontrolira njihove kriterije, njihove vrijednosti i njihove presude.
Borba za pravosuđe tako postaje dio mnogo šire borbe za političku budućnost. A upravo zato ono predstavlja jedno od najvažnijih bojnih polja 21. stoljeća.
....
Tekst: Petar Kolovrat
Infografika:Vidmir Raič
Foto naslovnice: AI generirano