Algorytm Compasa, który pracuje w amerykańskiej policji od 1998 r., Przeanalizował dane oskarżonych, a następnie na podstawie otrzymanych informacji pomógł zdecydować np., Czy przestępca powinien zostać zwolniony za kaucją, czy powinien zostać zatrzymany. Przy wyborze środka przymusu system uwzględniał wiek, płeć i historię przestępstw. Przez 20 lat „służby” algorytm oceniało ponad milion osób, ale ostatnio uznano go za niekompetentny, po czym natychmiast go przywołano.
Naukowcy z Dartmouth College sprawdzili, jak dokładny jest ten system i czy można mu ufać. W tym celu rekrutowali freelancerów, zwykłych ludzi bez wykształcenia prawniczego, aby podejmowali własne decyzje w oparciu o krótkie informacje o ludziach, podając badanym informacje o płci, wieku, historii kryminalnej i kilku innych parametrach.
Trafność prognozy freelancerów, którzy mieli małą dokumentację, wynosiła prawie 70%, podczas gdy program pozostawał w tyle za ludźmi o 5%, opierając się na 137 punktach biograficznych. Analiza ocen algorytmu wykazała, że program zwiększa prawdopodobieństwo podejrzeń wobec więźniów czarnoskórych.
„Błędy w takich przypadkach mogą być bardzo kosztowne, dlatego warto się zastanowić, czy ten algorytm w ogóle powinien być używany do wydawania wyroków sądowych” - mówi jeden z autorów badania.
Po przestudiowaniu zasady algorytmu badacze doszli do wniosku, że im młodszy oskarżony i im więcej aresztowań ma za sobą, tym większe prawdopodobieństwo nawrotu, dlatego specjaliści AI uznali technologię za zawodną.
Viacheslav Larionov