Nowe badanie wykazało, że okazywanie uprzedzeń wobec innych nie wymaga specjalnej inteligencji i może łatwo rozwinąć się w sztucznie inteligentnych maszynach.
Psychologowie i informatycy z University of Cardiff i MIT wykazali, że grupy autonomicznych maszyn mogą wykazywać uprzedzenia, po prostu definiując takie zachowanie, kopiując je i ucząc się wzajemnie.
Może się wydawać, że uprzedzenia są zjawiskiem czysto ludzkim, wymagającym od ludzkiej inteligencji formułowania opinii lub stereotypów na temat osoby lub grupy. Podczas gdy niektóre typy algorytmów komputerowych wykazały już uprzedzenia, takie jak rasizm i seksizm, w oparciu o badanie rejestrów publicznych i innych danych generowanych przez ludzi, nowe prace pokazują zdolność sztucznej inteligencji do samodzielnego tworzenia grup z uprzedzeniami.
Wyniki badań zostały opublikowane w Scientific Reports. Opiera się na komputerowych symulacjach pokazujących, jak stronniczy wirtualni agenci mogą tworzyć grupy i wchodzić ze sobą w interakcje. Podczas symulacji każda osoba decyduje, czy pomóc komuś ze swojej grupy, czy innej, w zależności od reputacji tej osoby, a także własnej strategii, która obejmuje poziom uprzedzeń wobec osób z zewnątrz. Po przeprowadzeniu tysięcy symulacji, każda osoba uczy się nowych strategii poprzez kopiowanie innych - niezależnie od tego, czy są członkami własnej grupy, czy całej „populacji”.
Względna skumulowana częstość cech agentów według poziomu uprzedzeń / Roger M. Whitaker.
„Po przeprowadzeniu tych symulacji tysiące razy z rzędu, zaczęliśmy rozumieć, w jaki sposób rozwija się uprzedzenia i jakie warunki są potrzebne, aby je uprawiać lub im zapobiegać” - powiedział współautor badania, profesor Roger Whitaker z Institute for Crime and Security Research oraz School of Computer Science and Computer Science na Cardiff University. „Nasze symulacje pokazują, że uprzedzenia są potężną siłą natury i poprzez ewolucję mogą być stymulowane w wirtualnych populacjach, aby zaszkodzić szerszym powiązaniom z innymi. Ochrona przed grupami uprzedzonymi może w niezamierzony sposób doprowadzić do powstania innych grup uprzedzonych, powodując większy podział ludności. Trudno odwrócić takie powszechne uprzedzenia”.
Dane badawcze obejmują również osoby, które zwiększają poziom uprzedzeń poprzez preferencyjne kopiowanie tych, którzy uzyskują najlepsze krótkoterminowe wyniki, co z kolei oznacza, że takie decyzje niekoniecznie wymagają specjalnych umiejętności.
„Jest całkowicie prawdopodobne, że autonomiczne maszyny, zdolne do identyfikowania się z dyskryminacją i kopiowania innych, mogą w przyszłości być podatne na zjawiska uprzedzeń, które obserwujemy w społeczeństwie” - kontynuuje profesor Whitaker. „Wiele zmian w sztucznej inteligencji, które widzimy dzisiaj, wiąże się z autonomią i samokontrolą, co oznacza, że na zachowanie urządzeń wpływają również osoby wokół nich. Najnowsze przykłady obejmują transport i Internet przedmiotów. Nasze badania zapewniają teoretyczny wgląd w to, gdzie symulowani agenci okresowo zwracają się do innych po zasoby”.
Film promocyjny:
Naukowcy odkryli również, że w pewnych warunkach, w tym w obecności bardziej podzielonych subpopulacji tego samego społeczeństwa, nastawienie jest trudniejsze do wzmocnienia.
„Przy dużej liczbie subpopulacji bezstronne związki grupowe mogą współpracować bez wykorzystywania. Zmniejsza również ich status mniejszości, jednocześnie zmniejszając ich skłonność do ustanawiania uprzedzeń. Wymaga to jednak również okoliczności, w których agenci są bardziej przychylni interakcjom poza swoją grupą”- podsumował profesor Whitaker.
Vladimir Guillen