Algoritmul Compas, care a funcționat pentru poliția americană din 1998, a analizat datele inculpaților și apoi, pe baza informațiilor primite, a ajutat să decidă, de exemplu, dacă criminalul ar trebui eliberat pe cauțiune sau ar trebui ținut în custodie. La alegerea unei măsuri de reținere, sistemul a luat în considerare vârsta, sexul și istoricul în arena penală. Timp de 20 de ani de „serviciu”, algoritmul a fost evaluat de peste un milion de persoane, dar recent a fost declarat incompetent, după care a fost imediat reamintit.
Oamenii de știință de la Colegiul Dartmouth au testat cât de precis este sistemul și dacă poate fi de încredere. Pentru a face acest lucru, au recrutat profesioniști independenți, oameni obișnuiți fără educație juridică, pentru a lua propriile decizii pe baza informațiilor scurte despre oameni, oferind subiecților informații despre sex, vârstă, antecedente penale și câțiva alți parametri.
Acuratețea prognozei independenților care dețineau un dosar mic a fost de aproape 70%, în timp ce programul a rămas în urma oamenilor cu cinci%, în timp ce se bazează pe 137 de puncte de biografie. Analiza hotărârilor algoritmului a arătat că prizonierii negri sunt mai susceptibili de a fi suspectați de program.
„Greșelile în astfel de cazuri pot fi foarte scumpe, așa că merită să ne gândim dacă acest algoritm ar trebui să fie utilizat deloc pentru a emite verdicte în instanță”, spune unul dintre autorii studiului.
După ce au studiat principiul algoritmului, cercetătorii au ajuns la concluzia că cu cât inculpatul este mai tânăr și cu cât are mai multe arestări în spate, cu atât este mai mare probabilitatea unei recidive, prin urmare, specialiștii în AI au recunoscut tehnologia ca fiind de încredere.
Viacheslav Larionov
