Algoritem Compas, ki je za ameriško policijo delal od leta 1998, je analiziral podatke obdolžencev, nato pa na podlagi prejetih informacij pomagal na primer pri odločitvi, ali naj bi bil kriminalec izpuščen pod varščino ali bi moral biti pridržan. Pri izbiri ukrepa zadrževanja je sistem upošteval starost, spol in dosežke na področju kaznivih dejanj. Za 20 let "službe" je algoritem ocenjevalo več kot milijon ljudi, a nedavno je bil razglašen za nesposobnega, nakar je bil takoj odpoklican.
Znanstveniki s kolidža Dartmouth so preizkusili, kako natančen je sistem in ali mu je mogoče zaupati. V ta namen so zaposlili svobodnjake, navadne ljudi brez pravne izobrazbe, da se sami odločajo na podlagi kratkih informacij o ljudeh in subjektom dajejo informacije o spolu, starosti, zgodovini kaznivih dejanj in številnih drugih parametrih.
Natančnost napovedi svobodnjakov, ki so imeli majhen dosje, je bila skoraj 70-odstotna, medtem ko je program za ljudmi zaostal za pet odstotkov, medtem ko se je zanašal na 137 biografskih točk. Analiza presoj algoritma je pokazala, da program verjetneje osumljuje temnopolte zapornike.
"Napake v takih primerih so lahko zelo drage, zato je vredno razmisliti, ali bi bilo treba ta algoritem sploh uporabiti za izdajo sodnih odločb," pravi eden od avtorjev študije.
Po preučevanju načela algoritma so raziskovalci prišli do zaključka, da mlajši kot je obtoženec in več aretacij ima za seboj, večja je verjetnost ponovitve bolezni, zato so strokovnjaki za umetno inteligenco tehnologijo prepoznali kot nezanesljivo.
Viacheslav Larionov
