Brytyjska firma Cambridge Analytica pomogła Donaldowi Trumpowi wygrać wybory prezydenckie w USA, korzystając z technologii Big Data i spersonalizowanych reklam online. Wcześniej ta sama firma współpracowała ze zwolennikami Brexitu w Wielkiej Brytanii, a teraz podpisała kontrakt z francuskim Frontem Narodowym. Czy to prawda, że nieoczekiwane wyniki głosowania w różnych krajach nie są porażką socjologii, ale zwycięstwem nowego typu socjologii? Rozmówca Radia Wolność Michał Kosiński, którego badania są pośrednio związane z działalnością Cambridge Analytica, uważa, że to przesada, ale technologie Big Data i spadek prywatności zapowiadają globalne zmiany na świecie.
Pod koniec września, w środku wyborów, przemawiając w Nowym Jorku podczas Concordia Summit, corocznego wydarzenia dla wpływowych polityków i biznesmenów z całego świata, założyciel Cambridge Analytica, Alexander Nix, mówił o tym, jak nowa technologia poprawiła skuteczność kampanii republikańskiej nominacji Trumpa, Teda Cruz., na początku wyścigu, prawie nieznany kandydat. Nix mówił o tym, jak np. Ludzie o różnym temperamencie powinni na różne sposoby przedstawiać opinię kandydata na temat ustawy o darmowej dystrybucji broni: przerażeni ludzie o wysokim poziomie neurotyzmu mogą myśleć o broni jako o źródle bezpieczeństwa, a bogatym konserwatywnym ekstrawertykom można pokazać obraz polowania na kaczki.
Później Cambridge Analytica pomogła samemu Trumpowi i, według Nyx, za stosunkowo skromną nagrodę, w sumie około 15 milionów dolarów. Analizując dane, które wszyscy internauci zostawiają w sieci, specjalistom firmy udało się znaleźć nieoczywiste powiązania i wzorce (na przykład, że osoby preferujące amerykańskie samochody są gotowymi wyborcami Trumpa) i wykorzystać je do targetowania reklam w Internecie, personalizacji przekazów. wychodzący z siedziby republikańskiego kandydata. Mieszkańcom dzielnicy Little Haiti w Miami pokazano informację o odmowie Hillary Clinton udziału w łagodzeniu trzęsienia ziemi na Haiti, Afroamerykanie - film, w którym Clinton porównuje czarnych mężczyzn do drapieżników. Wolontariusze Trumpa otrzymali szczegółowy profil mieszkańców domów,gdzie zamierzali prowadzić bezpośrednią kampanię.
Trudno powiedzieć, jak duży wpływ na wynik wyborów w USA wywarła praca Cambridge Analytica, ale ta kampania nie jest jedynym przykładem zwycięzców, którzy zostali zatrudnieni przez firmę. Na przykład w 2015 roku radykalny zwolennik Brexitu Nigel Farage zaczął korzystać z Cambridge Analytica. Szwajcarskie wydanie Das Magasin, które niedawno opublikowało śledztwo w sprawie działalności Cambridge Analytica (można to przeczytać w języku rosyjskim tutaj), podaje, że firma otrzymała teraz kontrakt z francuskim Frontem Narodowym, dodatkowo niektóre siły polityczne w Szwajcarii, Niemczech i być może we Włoszech.
Jednym z bohaterów publikacji Das Magasin jest Michał Kosiński, badacz polskiego pochodzenia, były zastępca dyrektora Center for Psychometrics na Uniwersytecie Cambridge, a obecnie adiunkt na Uniwersytecie Stanforda w USA. Kosiński i jego koledzy z Cambridge od kilku lat rozwijają system, który na podstawie aktywności użytkownika w sieci społecznościowej zestawia szczegółowy profil psychologiczny osoby. System jest w stanie nie tylko opisywać cechy charakteru, ale także przewidywać m.in. płeć, orientację seksualną, kolor skóry, a nawet preferencje polityczne użytkownika.
Jak podają szwajcarscy dziennikarze, na początku 2014 roku do Kosińskiego zwrócił się kolega Alexander Kogan, który zaprosił młodych badaczy do zastosowania stworzonego przez niego modelu do analizy kilku milionów profili obywateli amerykańskich na zlecenie pewnej firmy. Jak się później okazało, firma ta była powiązana z Cambridge Analytica. Kosiński odmówił współpracy, ale metody zastosowane przez Cambridge Analytica podczas referendum w Wielkiej Brytanii i wyborów prezydenckich w USA są co najmniej bardzo podobne do modeli wymyślonych przez Michała Kosińskiego.
Radio Liberty zadzwoniło do Kosińskiego w Kalifornii i zapytało go, co dokładnie można powiedzieć o osobie na jego „cyfrowym szlaku”, na ile ufać głośnym wypowiedziom Cambridge Analytica, czy przegrana jest wojna o prywatność i czy sztuczna inteligencja jest groźniejsza od Donalda Trumpa.
- Co to jest psychometria? Co robisz jako badacz?
Film promocyjny:
„Sama psychometria jest starożytną nauką, myślę, że ma dwa lub trzy tysiące lat. W istocie jest to nauka o pomiarach psychologicznych, próba jak najdokładniejszego ustalenia różnych aspektów psychologicznych, osobowości, zdolności intelektualnych, szczęścia, skłonności do depresji i tak dalej. Tradycyjnie takie pomiary dokonywano za pomocą kwestionariuszy, testów psychologicznych, ale stosunkowo niedawno ja i kilku innych psychometrów zdaliśmy sobie sprawę, że można to zrobić, oceniając cyfrowy ślad osoby - i wtedy nie można zadawać żadnych pytań, nie są potrzebne żadne kwestionariusze i testy. I to jest rewolucyjny moment. Znaczenie historii Cambridge Analytica, o której pisał Das Magasin, nie polega tak naprawdę na tym, że firma pomogła Trumpowi w wyścigu wyborczym. To firma handlowa, mają technologię, chcą zarabiać, wszystko jest jasne. To się liczyże jeśli wcześniej chciałeś skomponować czyjś profil psychologiczny, to trzeba było poprosić tę osobę o wypełnienie ankiety, wykonanie testu - a badany dobrze zrozumiał, że właśnie teraz, w tej chwili, ktoś mierzy jego cechy psychologiczne. A teraz możesz zrobić to samo, ale osoba nie rozpoznaje, że jej najbardziej intymne cechy są teraz przez kogoś oceniane i mierzone. Wystarczy spojrzeć na ślad cyfrowy: posty w mediach społecznościowych, polubienia, historię przeglądania stron internetowych, historię wyszukiwania. Na podstawie tych danych można skompilować niezwykle dokładny portret psychologiczny. Z jednej strony wydaje się to czymś przerażającym, z drugiej może być bardzo przydatne. Na przykład jakaś platforma internetowa może zaproponować najbardziej odpowiednią pracę dla twojej postaci i umiejętności lub polecić film,które na pewno ci się spodoba. To normalne. Ale kiedy otwierasz swoją stronę na Facebooku i widzisz tam reklamy, które są osobiście skierowane do Ciebie na podstawie Twojego szczegółowego profilu psychologicznego, który został opracowany bez Twojej wiedzy i zgody, nie jest to już normalne.
- Czy mógłbyś więc osobiście stworzyć mój pełny profil psychologiczny, znając tylko moje imię, na podstawie śladu, który zostawiłem w Internecie?
„Jestem naukowcem i po prostu bym tego nie zrobił. Jeśli zgłosisz się na ochotnika do pomocy w moich badaniach i dostarczeniu swoich danych, z przyjemnością umieściłbym je w mojej bazie danych, zanonimizowałem i obiecałem, że nigdy nie sprzedam ani nie udostępnię nikomu. Ale wiele firm oczywiście stale zbiera informacje o Tobie bez pytania i wykorzystuje je, na przykład, do ukierunkowanej reklamy.
- Te informacje oczywiście nie są przechowywane w jednym miejscu - jedna firma zna moje dane geolokalizacyjne, inna - transakcje finansowe, trzecia - lubi na Facebooku. Czy to wszystko można połączyć?
- Po pierwsze, zwykle nie jest to konieczne. Zwykle wystarczy jedno, aby zbudować dokładny profil - na przykład Twoje zainteresowania na Facebooku lub historia przeglądania z przeglądarki. Po drugie, firmy, które zbierają informacje o Tobie, zwykle wymieniają je między sobą lub po prostu sprzedają na ogólnym rynku danych. Istnieją projekty, takie jak Acxiom, które składają wszystko razem i sprzedają firmom takim jak Cambridge Analytica. Możesz po prostu przyjść i powiedzieć - potrzebuję danych o 10 milionach Amerykanów z takiego a takiego regionu i chętnie te dane sprzedadzą. Po trzecie, do prowadzenia kampanii z targetowaniem osobistym nie jest wcale konieczne posiadanie indywidualnych danych użytkownika. Możesz skorzystać z tzw. Targetowania behawioralnego. Na przykład nie możesz poprosić Facebooka o wyświetlanie określonych reklam wszystkim osobom,skłonny do określonego typu zachowań. Ale możesz mieć model łączący tego typu zachowania z jakimś profilem psychologicznym, a nawet możesz zbudować ten model całkiem uczciwie - zapłaciłeś kilkudziesięciu tysiącom ludzi niewielką opłatę za wypełnienie kwestionariusza. A kiedy model jest już zbudowany, pytasz: jak znaleźć emocjonalnych ekstrawertyków? Modelka odpowiada - nie ma sprawy, to ci, którzy polubili taką a taką 10 książek, taką a taką 10 filmów i taką a taką 10 muzyków. Teraz ponownie wchodzisz na Facebooka ze swoją reklamą, tylko że nie musisz już prosić o pokazanie jej emocjonalnym ekstrawertykom, czego Facebook by nie zrobił. Zamiast tego prosisz o wyświetlanie reklam osobom, które mają określony zestaw polubień. W efekcie okazuje się, że nie miałeś żadnych danych osobowych,ale prowadziłeś reklamy kierowane do osób.
- Czy są firmy, które próbują skompilować psychologiczny profil całej ludzkości, a przynajmniej każdego, kto pozostawia cyfrowe ślady?
- Mało kto myśli w takich globalnych kategoriach, ale do pewnego stopnia zajmuje się tym Facebook, Google, Microsoft, Visa, Mastercard, ten sam Acxiom. A wszystkie te dane są szeroko przedmiotem obrotu na rynku.
- To znaczy gdzieś na rynku sprzedaje się np. Mój profil psychologiczny i jest on niesamowicie trafny. W komentarzu dla Das Magazin powiedziałeś, że wystarczy kilka polubień na Facebooku, aby system rozpoznał Cię lepiej niż najbliższego przyjaciela. Czy naprawdę tak jest?
- Tak, było interesujące badanie na ten temat. Wystarczy dziesięć polubień (zainteresowań), aby system lepiej rozpoznał Twoją osobowość niż kolega z pracy, a przy 230-240 polubieniach komputer będzie wiedział o Tobie więcej niż Twój współmałżonek.
„Ale co to właściwie znaczy wiedzieć więcej?
„Oznacza to, że jeśli poprosisz komputer o wypełnienie kwestionariusza psychologicznego za Ciebie, popełni on mniej błędów niż Twoja żona.
- To są odpowiedzi na pytania typu „Czy boisz się ciemności”?
- Tak, typowe pytania kwestionariuszy psychologicznych. Więc naprawdę, gdzieś na rynku możesz kupić bardzo dokładne informacje o swojej osobowości, w tym o swoich uprzedzeniach politycznych, religijności, orientacji seksualnej, IQ. Możesz z grubsza zrozumieć, co o Tobie wiadomo na podstawie Twoich zainteresowań na Facebooku, korzystając ze strony Applymagicsauce.com, ale to oczywiście nie jest kompletne.
- Przejdźmy do historii z Cambridge Analytica. Powiedz mi, naprawdę nie masz nic wspólnego z tą firmą?
- Nie, i nigdy tego nie robiłem. O jego istnieniu dowiedziałem się z prasy.
- Alexander Kogan, który według Das Magazin oferował technologię profilowania psychologicznego Cambridge Analytica, był Twoim kolegą?
- Tak, był moim kolegą, a raczej był adiunktem na wydziale psychologii Uniwersytetu w Cambridge w czasie, gdy byłem tam doktorantem. Ale nasze drogi już dawno się rozeszły, on założył małą firmę i, o ile zrozumiałem z prasy, sprzedawał dane Cambridge Analytica, a ja pozostałem w świecie akademickim.
- Czy możemy założyć, że Cambridge Analytica korzysta z opracowanych przez Ciebie modeli?
- Powiedziałbym, że używają podobnych modeli, ale widzisz, do opracowania takiego modelu nie potrzeba szczególnie głębokiej nauki, nie ma w tym żadnej magii. Każdy, kto ma podstawowe umiejętności programistyczne, trochę pieniędzy i komputer podłączony do Internetu, może to zrobić - w rzeczywistości to sprawia, że problem jest tak duży. Stosowane są tutaj najbardziej standardowe metody statystyczne, nic specjalnego. Główną ideą moich publikacji jest to, że jest to łatwe, ważna jest tylko zmiana punktu ciężkości: do psychometrii nie są już potrzebne kwestionariusze i testy, wystarczy mieć cyfrowy ślad osoby. A to daje ogromne korzyści, można usprawnić marketing, planowanie kariery, metody pomocy psychologicznej i wiele więcej. Ale ta sama technologia może być użyta przeciwko ludziom. Jestem pewien, że Alexander Kogan był świadomy moich badań ichociaż mogę to tylko osądzić na podstawie raportów dziennikarzy, zrobił dokładnie to, co zaproponowałem i sprzedał wynik Cambridge Analytica. Wielokrotnie mówiłem i wyraźnie zaznaczałem w swoich artykułach, że nie chciałem nikogo inspirować do tego typu działań, ponadto jestem pewien, że ludzie zajmowali się cyfrowym profilowaniem psychologicznym na długo przede mną, po prostu nie mówili o tym tak aktywnie jak Cambridge Analytica. Wzywam tylko do opracowania zasad i procedur, które określiłyby etyczne użycie tej technologii.że ludzie zajmowali się cyfrowym profilowaniem psychologicznym na długo przed mną, po prostu nie mówili o tym tak aktywnie, jak Cambridge Analytica. Wzywam tylko do opracowania zasad i procedur, które określiłyby etyczne użycie tej technologii.że ludzie zajmowali się cyfrowym profilowaniem psychologicznym na długo przed mną, po prostu nie mówili o tym tak aktywnie, jak Cambridge Analytica. Wzywam tylko do opracowania zasad i procedur, które określiłyby etyczne użycie tej technologii.
- Czy uważasz, że Cambridge Analytica naprawdę mogłaby znacząco wpłynąć na wyniki wyborów prezydenckich w USA?
- Szczerze nie wiem. Wyraźnie widać, że Cambridge Analytica jest zainteresowana jak najgłośniejszym trąbieniem o swoim sukcesie, ale ostatecznie o wynikach wyborów decydują nie metody Big Data, ale kandydaci, a ponadto, jak widać teraz szczególnie wyraźnie, wyborcy, którzy nie idą na wybory. Być może działalność Cambridge Analytica była ostatnią kroplą, która zadecydowała o ostatecznym wyniku, ale najprawdopodobniej sam Alexander Nix nie wie tego na pewno. Z drugiej strony musimy mieć świadomość, że istnieje technologia i prawie niemożliwe jest przed nią obronienie. Możesz przestać korzystać z Facebooka, ale nadal będziesz pisać e-maile. Zdecyduj się na pocztę gołębi - bez karty kredytowej nie możesz się obejść. Może kraje mogłyby uchwalić prawa ograniczające takie praktyki,ale to też może nie działać. Nawiasem mówiąc, nie wiem na pewno, ale słyszałem, że to, co zrobiła Cambridge Analytica dla Trumpa, było sprzeczne z obecnym prawem amerykańskim, dlatego przeprowadzili bezpośrednią analizę danych w Wielkiej Brytanii. Wiesz, jestem naukowcem, zajmuję się psychometrią, nie jestem ekspertem od polityki, demokracji i wolności, ale wydaje mi się, że będziemy musieli zaakceptować fakt, że nie będzie już prywatności. Zamiast wdawać się w kolejną walkę o prywatność, warto przyznać, że wojna już została przegrana i lepiej zwrócić uwagę na to, że świat staje się sprzyjającym środowiskiem dla osoby pozbawionej prywatności. Wiesz, jestem naukowcem, zajmuję się psychometrią, nie jestem ekspertem od polityki, demokracji i wolności, ale wydaje mi się, że będziemy musieli zaakceptować fakt, że nie będzie już prywatności. Zamiast wdawać się w kolejną walkę o prywatność, warto przyznać, że wojna już została przegrana i lepiej zwrócić uwagę na to, że świat staje się korzystnym środowiskiem dla osoby pozbawionej prywatności. Wiesz, jestem naukowcem, zajmuję się psychometrią, nie jestem ekspertem od polityki, demokracji i wolności, ale wydaje mi się, że będziemy musieli zaakceptować fakt, że nie będzie już prywatności. Zamiast wdawać się w kolejną walkę o prywatność, warto przyznać, że wojna już została przegrana i lepiej zwrócić uwagę na to, że świat staje się korzystnym środowiskiem dla osoby pozbawionej prywatności.
- Ciekawe, na ile budowanie profilu psychologicznego przy użyciu celowania osobistego może wpływać na rzeczywisty świat.
- Z naukowego punktu widzenia trudno to uzasadnić, bo trudno jest ustawić eksperymenty. To znaczy, jeśli sprzedajesz jakiś żel pod prysznic, możesz porównać liczbę kliknięć, ale bardzo trudno jest ocenić np. Skuteczność metod Big Data w kampanii politycznej, która bardziej przypomina promocję marki niż kampanię sprzedażową. Przeprowadziliśmy kilka eksperymentów nie z politykami, bo uważam, że to nieetyczne, ale z konkretnymi produktami konsumenckimi i okazało się, że targetowanie personalne, czyli wykorzystanie indywidualnego przekazu reklamowego opartego na profilu psychologicznym, podwaja skuteczność reklamy. I to jest niesamowity wynik, zwykle walka polega na zwiększeniu wydajności o jakieś trzy procent, a nawet to oszczędza firmom setki milionów dolarów. A potem dwa razy!
- To dziwne, że jeszcze nie zostałeś miliarderem.
- Mam już wspaniałe życie. Nawiasem mówiąc, istnieje wiele prac psychologicznych, które udowadniają, że szczęście nie wymaga tak dużych pieniędzy, no cóż, potrzebujesz oczywiście wystarczającej ilości na wakacje. W rzeczywistości, prawdopodobnie nie wszystko jest tak proste, jak mi się wydaje jako naukowiec, jestem po prostu gotów porozmawiać o tych sprawach otwarcie, podczas gdy inni pracują nad prawdziwymi projektami, nikomu nic nie mówiąc.
- Dla mnie idea profilowania psychologicznego opartego na odcisku cyfrowym wydaje mi się całkiem naturalna, jestem pewien, że wiele osób używa go już w reklamie. Nasz świat mógł się już bardzo zmienić, po prostu jeszcze tego nie zauważamy.
- Prawdopodobnie i raczej cieszę się z tych zmian. Mieliśmy wynalazki i straszniejsze od Big Data, poradziliśmy sobie z energią jądrową - jakoś sobie z tym radzimy, choć chyba nie bez wyrzeczeń. Jak powiedziałem, wydaje mi się, że wojna o prywatność już została przegrana, żyjemy w świecie postprywatności, co oznacza, że warto inwestować w zapewnienie wszystkim równych praw i możliwości, aby nikt nie chciał niczego ukrywać. Miejmy nadzieję, że większa tolerancja może rozwiązać problem braku prywatności.
- Ale problem polega nie tylko na tym, że inni poznają wszystkie sekrety człowieka i zaczną go inaczej traktować, ale też pojawiło się potężne narzędzie do manipulacji.
- Z tym moim zdaniem powinna sobie radzić edukacja. Łatwo jest manipulować tymi, którzy niewiele wiedzą, mało czytają, mało podróżują. Takiej osobie można powiedzieć, że w Syrii nie ma wojny i rzeczywiście wszyscy Syryjczycy są krwawymi przestępcami i chętnie w to uwierzy.
- Moim zdaniem ludźmi wykształconymi też można manipulować, np. Za pomocą próżności i seksu.
„Nie sądzę. Więc prawdopodobnie znasz dobrze swoją żonę, czy to ułatwia ci manipulowanie nią?
- Nie wiem, chyba po prostu nie mam takiego celu, ale na pewno znajdzie się wielu ludzi, którzy byliby zainteresowani jak najskuteczniejszym manipulowaniem mną, abym poszedł i zagłosował np. Na Putina.
- Oczywiście będzie, i to się dzieje cały czas, cała reklama, cały marketing to tego rodzaju manipulacja i nie wiem, co możemy z tym zrobić. Jednak trudno jest manipulować ludźmi wykształconymi, otwartymi i szczęśliwymi. A na rezygnację z Facebooka, e-maili, kart kredytowych jest już za późno, a to po prostu głupie. Facebook to wspaniała rzecz, więc dużo w życiu mówiłem o ryzyku związanym z jego używaniem, ale używam go sam i z przyjemnością, a nawet zapłaciłbym za to, gdybym musiał.
- Przy okazji, zaproponowano ci pracę na Facebooku?
- Tak, to prawda. Nie przeszkadza mi moja praca na uniwersytecie, ale tak naprawdę dla badacza behawioralnego, który chce zmienić życie ludzi na lepsze, kariera w firmie takiej jak Facebook czy Google to świetna droga. Wymyślam modele i badam je, a gdybym pracował na Facebooku, faktycznie mógłbym je wykorzystać do zmiany życia milionów ludzi i wcale nie trzeba im czegoś sprzedawać.
- To przerażające, że kilkoma kliknięciami można zmienić życie milionów ludzi.
- Rzeczywiście, aby wpłynąć na miliony ludzi, byłeś autorytarnym dyktatorem, ale teraz możesz być inżynierem pracującym dla jakiejś firmy internetowej. Ale to nie jest przerażające. Wszystkie te algorytmy - wyszukiwania w Google, systemy rekomendacji itd. - są oparte na najbardziej podstawowej matematyce, ale dotyczą ogromnych ilości danych. I ostatecznie nikt nie rozumie, jak to wszystko zasadniczo działa, nawet sami programiści. Tutaj w Rosji są pewne prawa, które wszyscy uważają za złe, ale są to oczywiste prawa, które można poprawić. A algorytmy komputerowe same się uczą i stają się tak złożone, że jeśli działają nieprawidłowo, nie jest jasne, co i gdzie je naprawić.
- Czy jesteśmy tak daleko od momentu, w którym tacy wymykający się spod kontroli, niedostępni dla naszego systemu zrozumienia, zaaranżują wojnę nuklearną?
- Wiesz, na razie Donald Trump ma znacznie więcej możliwości i szans na zniszczenie ludzkości niż Big Data, ale w przyszłości … Patrz, są gołębie i mrówki, myślisz, że wiedzą, że światem rządzi człowiek? Czy zgadują, że Donald Trump może nacisnąć czerwony przycisk? Oczywiście nie. Warto o tym pamiętać, bo kiedy sztuczna inteligencja zacznie rządzić światem, równie dobrze możemy tego nie zauważyć. W końcu nie możemy już pojmować i analizować ilości danych, które sami wytwarzamy - i musimy ufać komputerowi. Możesz zapytać maszynę: czy możesz coś przewidzieć na podstawie tych danych? Odpowie: tak, oczywiście. Pytasz: jak to robisz? Powie: przepraszam, ale nie zrozumiesz. A wszystko to już jest rzeczywistością. Wiesz, że amerykańskie sądy używają systemów komputerowych,decydowanie o warunkowym zwolnieniu więźniów? Komputery decydują, czy przyznać ci kredyt, czy nie. Komputer ląduje samolotem, co jest świetne, bo ludzie łatwo mogą sprawić kłopoty. Życie 800 pasażerów Boeinga 787 leży w rękach komputera, a nie człowieka i taka jest dzisiejsza rzeczywistość.