Pewnego sierpnia 2010 roku 34-letni londyńczyk Demis Hassabis wszedł na scenę w sali konferencyjnej nad brzegiem Zatoki San Francisco. Wchodząc na podium udawanym krokiem mężczyzny próbującego opanować nerwy, zacisnął usta w krótkim uśmiechu i powiedział: „Cóż, dziś chcę porozmawiać o różnych podejściach do tworzenia…”. Zatrzymał się, jakby zdając sobie sprawę, jak głośno deklaruje swoje ambicje. A on to powiedział: „AGI”.
AGI to skrót od General Artificial Intelligence, hipotetycznego programu komputerowego, który może wykonywać zadania intelektualne równie dobrze jak człowiek, a nawet lepiej. AGI będzie w stanie wykonywać określone zadania, takie jak rozpoznawanie ludzi na zdjęciach czy tłumaczenie języków, które obecnie są w stanie wykonywać wiele oddzielnych sztucznej inteligencji w naszych telefonach i komputerach. Potrafią jednocześnie prowadzić rozmowę, grać w szachy i mówić po francusku. Będą w stanie rozumieć książki o fizyce, pisać powieści, opracowywać strategie inwestycyjne i prowadzić swobodne rozmowy z nieznajomymi. Będą monitorować reakcje jądrowe, zarządzać sieciami elektroenergetycznymi i ruchem oraz bez wysiłku odnosić sukcesy we wszystkim innym. AGI sprawi, że najbardziej zaawansowana sztuczna inteligencja będzie dziś wyglądać jak kieszonkowe kalkulatory.
Jedyny intelekt, który jest obecnie zdolny do wykonywania wszystkich tych zadań, należy do człowieka. Ale ludzki umysł jest ograniczony rozmiarem czaszki, w której znajduje się mózg. Jego moc jest ograniczona niewielką ilością energii, którą może dostarczyć organizm. Ponieważ AGI będzie działać na komputerach, nie będzie cierpieć z powodu tych ograniczeń. Jego inteligencja będzie ograniczona tylko liczbą dostępnych procesorów. AGI można rozpocząć od monitorowania reakcji jądrowych. Ale wkrótce odkryje nowe źródła energii, trawiąc więcej fizyki na sekundę, niż człowiek może przez tysiąc lat. Inteligencja na poziomie ludzkim, poparta szybkością i skalowalnością komputerów, pozwoli nam zaoszczędzić kłopotów. Hassabis powiedział brytyjskiej gazecie Observer, że spodziewa się, że AGI zajmie się takimi kwestiami, jak „rak,zmiany klimatyczne, energia, genomika, makroekonomia i systemy finansowe”.
Konferencja, na której przemawiał Hassabis, została nazwana Singularity Summit. Osobliwość - pierwsza część nazwy - odnosi się według futurologów do najbardziej prawdopodobnej konsekwencji pojawienia się AGI. Ponieważ AGI będzie przetwarzać informacje z dużą prędkością, bardzo szybko stanie się bardzo inteligentny. Szybkie cykle samodoskonalenia doprowadzą do eksplozji inteligencji maszynowej, pozostawiając ludzi do wąchania pyłu krzemowego. Ponieważ ta przyszłość opiera się wyłącznie na niezweryfikowanych założeniach, niemal religijnie zakłada się, że Osobliwość okaże się albo utopią, albo piekłem.
Sądząc po tytułach wystąpień, uczestnicy konferencji bardziej wierzyli w pierwszy wynik: „Umysł i jak go budować”, „AI przeciw starzeniu się”, „Zastępowanie naszych ciał”, „Modyfikacja granicy między życiem a śmiercią”. Z drugiej strony przemówienie Hassabisa wydawało się nudne: „Systemowe podejście neuronaukowe do tworzenia AGI”.
Hassabis krążył między podium a ekranem, mówiąc tupotem. Miał na sobie bordowy sweter i białą zapinaną koszulę jak uczeń. Jego niski wzrost wydawał się tylko podkreślać jego inteligencję. Jak wyjaśnił Hassabis, do tej pory naukowcy podchodzili do AGI z dwóch stron. Jedno podejście, znane jako symboliczna sztuczna inteligencja, próbowało opisać i zaprogramować wszystkie reguły potrzebne dla systemu, który mógłby myśleć jak człowiek. To podejście było popularne w latach 80-tych i 90-tych, ale nie przyniosło pożądanych rezultatów. Hassabis uważał, że architektura mentalna mózgu jest zbyt subtelna, aby można ją było opisać w ten sposób.
Inne podejście zgromadziło naukowców próbujących cyfrowo odtworzyć fizyczne sieci mózgu. To miało pewien sens. W końcu mózg jest łożem ludzkiej inteligencji. Ale ci badacze również poszli złą drogą, powiedział Hassabis. Ich zadanie było zbliżone do stworzenia mapy wszystkich gwiazd we wszechświecie. Co więcej, skupiali się na niewłaściwym poziomie funkcjonowania mózgu. To tak, jakby próbować dowiedzieć się, jak działa Microsoft Excel, włamując się do komputera i ucząc się, jak współdziałają tranzystory.
Zamiast tego Hassabis zaoferował kompromis: AGI powinno czerpać inspirację z szerokich sposobów przetwarzania informacji przez mózg, a nie z systemów fizycznych lub konkretnych reguł, które stosuje w określonych sytuacjach. Innymi słowy, powinien skupić się na zrozumieniu oprogramowania mózgu, a nie jego sprzętu. Nowe techniki, takie jak funkcjonalne obrazowanie metodą rezonansu magnetycznego (fMRI), które umożliwiły wgląd w działający mózg, sugerują, że takie zrozumienie jest możliwe. Ostatnie badania, powiedział Hassabis, pokazują, że mózg uczy się, odtwarzając swoje doświadczenia podczas snu, aby odkryć ogólne zasady. Badacze sztucznej inteligencji muszą naśladować taki system.
Film promocyjny:
W prawym dolnym rogu slajdu otwierającego obnosi się logo w postaci okrągłego, niebieskiego wiru. Dwa słowa obok niego są wydrukowane poniżej: DeepMind. To była pierwsza publiczna wzmianka o firmie. Hassabis spędził ponad rok, starając się o zaproszenie na Singularity Summit. Wykład był jego przykrywką. W rzeczywistości potrzebował minuty z Peterem Thielem, miliarderem z Doliny Krzemowej, który sfinansował konferencję. Hassabis chciał inwestycji Thiela.
Hassabis nigdy nie mówił o tym, dlaczego potrzebował wsparcia Thiela. Ale Thiel wierzył w AGI nawet bardziej niż Hassabis. Przemawiając na Singularity Summit w 2009 roku, Thiel powiedział, że jego największym lękiem przed przyszłością nie było powstanie robotów. Bardziej martwił się, że Osobliwość nie nadejdzie szybko. Świat potrzebował nowych technologii, aby powstrzymać spowolnienie gospodarcze.
DeepMind zebrał 2 miliony funtów, z czego Thiel wyniósł 1,4 miliona. Kiedy Google kupił firmę w styczniu 2014 r. Za 600 milionów dolarów, Thiel i inni pierwsi inwestorzy osiągnęli zwrot z inwestycji w wysokości 5000%.
Dla wielu założycieli byłoby to szczęśliwe zakończenie. Można było odpocząć, zrobić krok do tyłu, spędzić czas sam na sam z pieniędzmi. Dla Hassabisa przejęcie Google było tylko kolejnym krokiem w jego dążeniu do AGI. Większość 2013 roku spędził na negocjowaniu warunków umowy. DeepMind musiał działać niezależnie od swojego właściciela. Musiała czerpać korzyści z posiadania Google, takie jak dostęp do przepływów pieniężnych i mocy obliczeniowej, bez utraty kontroli.
Hassabis pomyślał, że DeepMind może stać się hybrydą: miałby silnik startowy, mózgi największych uniwersytetów i głębokie kieszenie jednej z najcenniejszych firm na świecie. Każdy składnik był na miejscu, aby przyspieszyć przybycie AGI i wyeliminować przyczyny ludzkiego cierpienia.
Hu od pana Hassabisa
Demis Hassabis urodził się w północnym Londynie w 1976 roku w chińskiej rodzinie pochodzącej z Greków cypryjskich i Singapuru. Był najstarszym z trójki rodzeństwa. Jego matka pracowała w brytyjskim domu towarowym John Lewis, a jego ojciec prowadził sklep z zabawkami. Sam Hassabis zaczął grać w szachy w wieku czterech lat, obserwując, jak grają jego ojciec i wujek. Za kilka tygodni bił już dorosłych. W wieku 13 lat został drugim najlepszym szachistą na świecie w swoim wieku. W wieku ośmiu lat nauczył się programować na prostym komputerze.
Hassabis otrzymał wyższe wykształcenie w 1992 roku, dwa lata przed planowanym terminem. Dostałem pracę jako programista gier wideo w Bullfrog Productions. Hassabis napisał Theme Park, w którym gracze tworzą i zarządzają wirtualnym parkiem rozrywki. Gra odniosła wielki sukces i sprzedała się w 15 milionach egzemplarzy, tworząc cały gatunek gier symulacyjnych, w których celem nie było pokonanie wroga, ale optymalizacja funkcjonowania ogromnego złożonego systemu, takiego jak biznes czy miasto.
Oprócz tworzenia gier Demis grał w nie dobrze. Jako nastolatek biegał między piętrami w grach planszowych, rywalizując w pojedynkach szachów, scrabble, pokera i backgammona. W 1995 roku, podczas studiów informatycznych na Uniwersytecie w Cambridge, Hassabis brał udział w turnieju studenckim. Go to starożytna strategiczna gra planszowa, która jest znacznie trudniejsza niż szachy. Mistrzostwo musi wymagać intuicji zdobytej przez wiele lat doświadczenia. Nikt nie wiedział, czy Hassabis kiedykolwiek wcześniej grał w Go.
Najpierw Hassabis wygrał turniej dla początkujących. Następnie pokonał zwycięzcę doświadczonych graczy, aczkolwiek z handicapem. Charles Matthews, mistrz go z Cambridge, który był gospodarzem turnieju, wspomina szok spowodowany zniszczeniem przez 19-letniego debiutanta. Matthews wziął Hassabisa pod swoje skrzydła.
Inteligencja i ambicja Hassabisa zawsze były widoczne w grach. Gry z kolei na nowo rozpaliły jego pasję do inteligencji. Obserwując swój rozwój w szachach, zastanawiał się, czy komputery można zaprogramować tak, aby uczyć się w ten sam sposób, co robił, zdobywając doświadczenie. Gry oferowały środowisko uczenia się, którego nie dorównywał rzeczywisty świat. Byli surowi i zamknięci. Ponieważ gry są oddzielone od prawdziwego świata, można je ćwiczyć bez ingerencji i skutecznie się ich uczyć. Gry przyspieszają czas: gracze tworzą syndykat przestępczy w kilka dni i walczą nad Sommą przez kilka minut.
Latem 1997 roku Hassabis udał się do Japonii. W maju tego roku komputer Deep Blue IBM pokonał Garry'ego Kasparowa, mistrza świata w szachach. Po raz pierwszy komputer pokonał arcymistrza. Mecz przyciągnął uwagę całego świata i wzbudził obawy o rosnącą moc i potencjalne zagrożenie ze strony komputerów. Kiedy Hassabis poznał Masahiko Futszuvera, japońskiego mistrza gier planszowych, opowiedział o planach, które połączyłyby jego zainteresowania grami strategicznymi i sztuczną inteligencją: pewnego dnia stworzy program komputerowy, który pokona największego gracza go.
Hassabis podchodził do swojej kariery metodycznie. „W wieku 20 lat Hassabis uważał, że pewne elementy muszą być na miejscu, zanim sztuczna inteligencja osiągnie wymagany poziom” - mówi Matthews. „Miał plan”.
W 1998 roku założył własne studio gier o nazwie Elixir. Hassabis skupił się na jednej niezwykle ambitnej grze Republic: The Revolution, złożonej symulacji politycznej. Kilka lat wcześniej, będąc jeszcze w szkole, Hassabis powiedział swojemu przyjacielowi Mustafie Suleimanowi, że świat potrzebuje imponujących symulacji, aby modelować swoją złożoną dynamikę i rozwiązywać najbardziej złożone problemy społeczne. Teraz próbował to zrobić w grze.
Trudniej było zakodować jego aspiracje, niż oczekiwano. Ostatecznie Elixir wypuścił okrojoną wersję gry, aby uzyskać ciepłe recenzje. Inne gry zawiodły. W kwietniu 2005 roku Hassabis zamknął Elixir. Matthews uważa, że Hassabis założył firmę tylko po to, aby zdobyć doświadczenie w zarządzaniu. Hassabisowi brakowało teraz tylko jednego ważnego obszaru wiedzy, zanim mógł rozpocząć poszukiwania AGI. Musiał zrozumieć ludzki mózg.
W 2005 roku Hassabis uzyskał tytuł doktora neurologii na University College London. Opublikował bardzo wpływowe badanie pamięci i wyobraźni. Jedno z badań, które od tamtej pory było cytowane ponad 1000 razy, wykazało, że osobom z amnezją trudno jest również wyobrazić sobie nowe doświadczenia, co sugeruje związek między pamięcią a tworzeniem obrazów mentalnych. Hassabis zbudował zrozumienie mózgu potrzebne do opanowania AGI. Wiele z jego prac sprowadzało się do jednego pytania: w jaki sposób mózg ludzki otrzymuje i zachowuje koncepcje i wiedzę?
Hassabis formalnie założył DeepMind 15 listopada 2010 roku. Misja firmy była taka sama jak obecnie: „rozwiąż inteligencję”, a następnie użyj jej do rozwiązania wszystkiego innego. Jak powiedział Hassabis na Singularity Summit, oznacza to przełożenie naszego zrozumienia, w jaki sposób mózg wykonuje zadania, na oprogramowanie, które może wykorzystywać te same metody do nauczania.
Hassabis w żadnym wypadku nie twierdzi, że nauka w pełni ogarnęła ludzki umysł. Planu wdrożenia AGI nie można było wyciągnąć z setek badań neuronaukowych. Ale on wyraźnie wierzy, że całkiem możliwe jest rozpoczęcie pracy nad AGI w sposób, który mu odpowiada. Jednak możliwe jest również, że jego pewność siebie przeważa nad rzeczywistością. Nadal niewiele wiemy na pewno o tym, jak faktycznie funkcjonuje mózg. W 2018 roku zespół australijskich naukowców zakwestionował własne ustalenia Hassabisa. Oczywiście to tylko jeden dokument, ale pokazuje, że nauka stojąca za pracą DeepMind jest daleka od udowodnienia.
Suleiman i Shane Legg, nowozelandczyk z obsesją na punkcie AGI, którego Hassabis spotkał również na uniwersytecie, dołączyli jako współzałożyciele. Reputacja firmy szybko wzrosła. Hassabis rozkwitał. „Przyciąga jak magnes” - mówi Ben Faulkner, były dyrektor Deep Mind. Wielu rekrutów pochodzi z Europy. Być może największym osiągnięciem DeepMind było wczesne rekrutowanie utalentowanych ludzi i zatrzymywanie najzdolniejszych i najlepszych z nich.
Jedna z technik uczenia maszynowego, na której skupiła się firma, wyrosła z podwójnej pasji Hassabisa do gier i neuronauki: uczenia się przez wzmacnianie. Taki program ma na celu zbieranie informacji o środowisku, a następnie uczenie się z niego, powtarzając w kółko swoje doświadczenia - tak jak Hassabis opisał aktywność mózgu podczas snu w swoim wykładzie na Singularity Summit.
Uczenie się ze wzmocnieniem zaczyna się od czystej karty. Program jest pokazywany w wirtualnym środowisku, o którym nie wie nic poza zasadami, na przykład symulator szachów czy gra wideo. Program zawiera co najmniej jeden komponent zwany siecią neuronową. Składa się z warstw struktur obliczeniowych, które przeszukują informacje w celu zidentyfikowania określonych cech lub strategii. Każda warstwa bada środowisko na swoim własnym poziomie abstrakcji. Początkowo sieci te odnoszą minimalny sukces, ale ich błędy - i to jest ważne - również są w nich zakodowane. Stopniowo stają się coraz mądrzejsi, eksperymentując z różnymi strategiami i otrzymując nagrody, jeśli im się uda. Jeśli program przesunie figurę szachową iw rezultacie przegra partię, to już więcej nie popełni takiego błędu. Duża część magii sztucznej inteligencji polega na szybkości, z jaką powtarza te zadania.
Praca DeepMind osiągnęła apogeum w 2016 r., Kiedy zespół opracował program sztucznej inteligencji, który wykorzystywał uczenie się przez wzmacnianie wraz z innymi metodami gry w go. Program o nazwie AlphaGo podniósł brwi po pokonaniu mistrza świata w meczu pięciu meczów w Seulu w 2016 roku. Zwycięstwo maszyny, które oglądało 280 milionów ludzi, nastąpiło dziesięć lat wcześniej, niż przewidywały maszyny. W następnym roku ulepszona wersja AlphaGo pokonała chińskiego mistrza Go.
Podobnie jak Deep Blue w 1997 r., AlphaGo zmieniło postrzeganie ludzkich osiągnięć. Ludzcy mistrzowie, genialne umysły planety, nie stali już na szczycie intelektualnej piramidy. Prawie 20 lat po tym, jak Hassabis ogłosił swoje ambicje w Fuzuvere, spełnił je. Hassabis powiedział, że ten mecz doprowadził go do łez. Był wdzięczny Matthewsowi.
DeepBlue wygrał dzięki brutalnej sile i szybkości obliczeniowej, ale styl AlphaGo był artystyczny, prawie ludzki. Jego elegancja i wyrafinowanie, wyższość mocy obliczeniowej zdawały się wskazywać, że DeepMind wyprzedzał konkurencję w tworzeniu programu, który mógł leczyć choroby i zarządzać miastami.
DeepMind i sztuczna inteligencja
Hassabis zawsze mówił, że DeepMind zmieni świat na lepsze. Ale nie ma pewności co do AGI. Jeśli kiedykolwiek się pojawi, nie wiemy, czy będzie lepiej, czy gorzej, czy podda się ludzkiej kontroli. Jeśli tak, kto przejmie stery?
Hassabis od samego początku próbował bronić niezależności DeepMind. Zawsze nalegał, aby DeepMind został w Londynie. Kiedy Google kupił firmę w 2014 roku, kwestia kontroli stała się pilniejsza. Hassabis nie musiał sprzedawać DeepMind Google. Mając wystarczającą ilość gotówki, nakreślił model biznesowy, w którym firma miałaby opracowywać gry w celu finansowania badań. Obiecali w Google dużo pieniędzy, ale on nie chciał przenosić firmy, którą założył. W ramach umowy DeepMind zawarł umowę, która uniemożliwi Google jednostronne przejęcie kontroli nad własnością intelektualną firmy. Źródła podają, że w roku poprzedzającym przejęcie obie strony podpisały porozumienie - Porozumienie w sprawie etyki i bezpieczeństwa. Umowa ta została sporządzona przez starszych prawników w Londynie.
Umowa przenosi kontrolę nad podstawową technologią AGI DeepMind, jeśli taka istnieje, na Radę Zarządzającą ds. Etyki. Według tego samego źródła Rada ds. Etyki nie jest bynajmniej kosmetycznym ustępstwem od Google, ale raczej zapewnia firmie DeepMind solidne wsparcie prawne w celu utrzymania kontroli nad jej najcenniejszą i potencjalnie najbardziej niebezpieczną technologią. Nazwiska komisarzy nie zostały ujawnione, ale inne źródło bliskie zarówno DeepMind, jak i Google powiedziało, że wszyscy trzej założyciele DeepMind są w zarządzie. Sama firma niczego nie ujawnia.
Hassabis może określić los DeepMind na inne sposoby. Jednym z nich jest oddanie. Pracownicy, byli i obecni, twierdzą, że program badawczy Hassabisa jest jedną z największych zalet DeepMind. Jego program, który oferuje ekscytującą i ważną pracę bez presji ze strony środowiska akademickiego, przyciągnął setki najbardziej utalentowanych ekspertów na świecie. DeepMind ma filie w Paryżu i Albercie. Wielu pracowników czuje się bardziej związanych z firmą Hassabis i jej misją niż z jej korporacyjnym rodzicem, który chce tylko dochodów. Dopóki Hassabis zachowuje osobistą lojalność, ma znaczną władzę nad swoim jedynym udziałowcem. Lepiej pozwolić talentowi pracować zdalnie dla DeepMind, niż skończyć na Facebooku lub Apple.
DeepMind ma inne źródło wpływu, chociaż wymaga ciągłego uzupełniania: pomyślnej aureoli. Firmie się to udało. AlphaGo była świetną reklamą. Od czasu przejęcia Google firma wielokrotnie dokonywała cudów, które przyciągały uwagę całego świata. Jeden z przykładów oprogramowania może wykryć wzorce skanowania oczu, które są wskaźnikami zwyrodnienia plamki żółtej. Inny program nauczył się grać w szachy od zera, używając architektury podobnej do AlphaGo i stał się najlepszym graczem wszechczasów po zaledwie dziewięciu godzinach gry. W grudniu 2018 roku AlphaFold okazał się dokładniejszy niż konkurenci w przewidywaniu trójwymiarowej struktury białek na podstawie listy związków, które mogą potencjalnie leczyć choroby, takie jak choroba Parkinsona i Alzheimera.
Firma DeepMind jest szczególnie dumna z opracowanych przez siebie algorytmów obliczających najbardziej wydajne rozwiązania chłodzące dla centrów danych Google, które zawierają około 2,5 miliona serwerów komputerowych. W 2016 roku firma DeepMind podała, że obniżyła rachunki Google za prąd o 40%. Ale niektórzy wtajemniczeni twierdzą, że to przesada. Google wykorzystywał algorytmy do optymalizacji swoich centrów danych na długo przed pojawieniem się DeepMind. Uważa się, że DeepMind przecenia swoje zalety, aby zyskać wartość w oczach Alphabet. Firma macierzysta Google, Alphabet, płaci DeepMind za podobne usługi. W 2017 roku ten ostatni wystawił Alphabet fakturę na 54 miliony funtów. Te liczby bledną w porównaniu do kosztów ogólnych DeepMind. W tym samym roku wydała na pracowników 200 milionów funtów. Ogólnie,w 2017 roku DeepMind stracił 282 miliony funtów.
To grosz dla bogatego giganta. Ale inne spółki zależne Alphabet zwróciły uwagę Ruth Porat, skąpego dyrektora finansowego Alphabet. Google Fiber, próba zbudowania dostawcy usług internetowych, została wstrzymana, gdy stało się jasne, że inwestycja będzie się zwracać przez dziesięciolecia. Badacze AI zastanawiają się również, czy DeepMind zostanie schrzaniony.
Stopniowe ujawnianie postępów DeepMind w dziedzinie sztucznej inteligencji jest częścią strategii, która stopniowo buduje reputację firmy. Jest to szczególnie cenne w momencie, gdy Google jest oskarżany o łamanie prywatności użytkowników i rozpowszechnianie fałszywych wiadomości. DeepMind ma również to szczęście, że ma wsparcie na najwyższym szczeblu: Larry Page, jeden z dwóch założycieli Google, obecnie dyrektor generalny Alphabet. Paige jest bardzo blisko Hassabis. Ojciec Page, Karl, badał sieci neuronowe w latach sześćdziesiątych XX wieku. Na początku swojej kariery Page powiedział, że stworzył Google wyłącznie po to, aby założyć firmę AI.
Ścisła kontrola DeepMind nad prasą nie jest zgodna z akademickim duchem, który przenika firmę. Niektórzy uczeni narzekają, że trudno jest im opublikować swoją pracę: muszą przezwyciężyć warstwy wewnętrznej akceptacji, zanim będą mogli nawet przesłać artykuł na konferencję lub czasopismo. DeepMind uważa, że należy postępować ostrożnie, aby nie przestraszyć opinii publicznej perspektywą AGI. Jednak zbyt surowe oskarżenia mogą zrujnować akademicką atmosferę i osłabić lojalność pracowników.
Pięć lat po przejęciu Google kwestia, kto kontroluje DeepMind, staje się krytyczna. Założyciele i pierwsi pracownicy firmy zbliżają się do progu, w którym mogą odejść z rekompensatą finansową, którą otrzymali z zakupu firmy (akcje Hassabisa są warte prawdopodobnie około 100 mln funtów). Ale źródło bliskie firmie sugeruje, że Alphabet od kilku lat opóźnia płatności na rzecz założycieli. Biorąc pod uwagę jego nieustępliwe skupienie, jest mało prawdopodobne, aby Hassabis wyskoczył ze statku. Pieniądze interesują go tylko o tyle, o ile pomagają mu w zbliżeniu się do celu całego życia. Ale niektórzy z moich kolegów wyszli. Trzech inżynierów AI opuściło firmę od początku 2019 roku. Ben Laurie, jeden z najwybitniejszych inżynierów bezpieczeństwa na świecie, wrócił do Google. To z pewnością niewieleAle DeepMind oferuje tak niesamowitą misję i przyzwoite wynagrodzenie, że nikt nie powinien go opuszczać.
Jak dotąd Google tak naprawdę nie przeszkadzał DeepMind. Jednak jeden z ostatnich wydarzeń wzbudził obawy co do tego, jak długo firma będzie w stanie utrzymać swoją niezależność.
DeepMind, medycyna i sztuczna inteligencja
DeepMind zawsze planował wykorzystanie sztucznej inteligencji do poprawy opieki zdrowotnej. W lutym 2016 r. Powstał nowy oddział DeepMind Health, na którego czele stoi Mustafa Suleiman, jeden ze współzałożycieli firmy. Sulejman, którego matka była pielęgniarką, miał nadzieję stworzyć program o nazwie Strumienie, który ostrzegałby lekarzy o pogarszaniu się stanu zdrowia pacjenta. DeepMind byłby nagradzany na podstawie wskaźników. Ponieważ praca ta wymagała dostępu do poufnych informacji o pacjentach, Suleiman utworzył niezależny panel weryfikacyjny (IRP), który rekrutował dobrze angielskich specjalistów w dziedzinie zdrowia i technologii. DeepMind był na tyle mądry, żeby być ostrożnym. Następnie brytyjski komisarz ds. Informacji odkrył, że jeden z partnerów szpitala naruszył prawo w zakresie przetwarzania danych pacjentów. Jednak do końca 2017 roku Sulejman podpisał umowy z czterema głównymi szpitalami.
8 listopada 2018 Google ogłosił utworzenie własnego działu zdrowia - Google Health. Pięć dni później ogłoszono, że DeepMind Health dołączy do wysiłków firmy macierzystej. DeepMind nie został ostrzeżony. Zgodnie z informacjami uzyskanymi na podstawie wniosków FOI, poinformowała o zmianie tylko szpitale partnerskie z trzydniowym wyprzedzeniem. DeepMind odmówił ujawnienia, kiedy rozpoczęły się dyskusje na temat fuzji, ale powiedział, że krótki czas między powiadomieniem a publicznym ogłoszeniem leży w interesie przejrzystości. W 2016 roku Suleiman napisał, że „dane pacjentów nigdy nie będą powiązane z kontami, produktami ani usługami Google”. Wydawało się, że jego obietnica została złamana.
Aneksja Google rozgniewała pracowników DeepMind Health. Według osób bliskich personelowi medycznemu więcej pracowników planuje odejść z firmy po zakończeniu procesu przejęcia.
Ten odcinek pokazuje, że peryferyjne części pracy DeepMind są podatne na ataki Google. DeepMind stwierdził, że „wszyscy zgodziliśmy się, że sensowne jest połączenie tych wysiłków w jeden wspólny wysiłek ze zwiększonymi zasobami”. To nasuwa pytanie, czy Google zastosuje tę samą logikę do pracy DeepMind nad AGI.
Na dużą skalę firma DeepMind poczyniła wielkie postępy. Stworzyła już oprogramowanie, które może nauczyć się wykonywania zadań na poziomie nadludzkim. Hassabis często odnosi się do Breakout, gry wideo na konsolę Atari. Gracz steruje nietoperzem, który może poruszać się poziomo i za jego pomocą odbijać kulki, kierując je na bloki powyżej, które ulegają zniszczeniu przy zderzeniu. Gracz wygrywa, gdy wszystkie bloki zostaną zniszczone. Przegrywa, jeśli piłka spadnie poza platformę. Bez ludzkich instrukcji DeepMind nie tylko nauczył się grać w grę, ale także rzucać piłkami w przestrzeń za blokami, aby wykorzystać odbicie. To pokazuje siłę uczenia się przez wzmacnianie i nadprzyrodzone moce programów komputerowych DeepMind.
Demonstracja jest z pewnością imponująca. Ale Hassabis o czymś milczy. Jeśli platforma wirtualna zostanie podniesiona nawet nieco wyżej, program popełni błąd. Umiejętność, którą nabył DeepMind, jest tak ograniczona, że nie może reagować nawet na drobne zmiany w środowisku, które człowiek mógłby z łatwością pokonać. Ale na świecie jest wiele subtelności. Jeśli chodzi o inteligencję diagnostyczną, żadne dwa organy ciała nie są takie same. Jeśli chodzi o inteligencję mechaniczną, dwa podobne silniki nigdy nie będą takie same podczas strojenia. Dlatego wypuszczanie programów na wolność jest trudne.
Drugi, o którym DeepMind rzadko mówi, to fakt, że sukces w środowiskach wirtualnych zależy od funkcji nagrody: sygnału, który pozwala oprogramowaniu mierzyć postępy. Program uczy się, że odbijanie się od tylnej ściany zwiększa jego wynik. Duża część pracy DeepMind z AlphaGo polegała na stworzeniu funkcji nagrody, która jest kompatybilna z tak złożoną grą. Niestety, prawdziwy świat nie oferuje prostych nagród. Postęp rzadko mierzy się w poszczególnych punktach. Mózg ludzki otrzymuje sygnał o powodzeniu zadania już w trakcie jego realizacji, a nie po.
Firma DeepMind wymyśliła sposób na obejście tego problemu, wykorzystując ogromne ilości mocy obliczeniowej. AlphaGo gra w gry od tysięcy lat, aby się czegoś nauczyć. Wielu filozofów sztucznej inteligencji podejrzewa, że takie rozwiązanie jest nie do przyjęcia w przypadku zadań, które oferują słabsze wynagrodzenie. DeepMind uznaje takie niejasności. Niedawno zajęła się StarCraft 2, komputerową grą strategiczną. Decyzje podejmowane na początku gry mają konsekwencje, które pojawiają się później, co jest dość charakterystyczne dla zawiłych i spóźnionych reakcji na rzeczywiste problemy. W styczniu oprogramowanie DeepMind pokonało jednych z najlepszych graczy na świecie i pomimo restrykcyjnych ograniczeń było imponujące. Programy zaczęły również badać funkcje nagradzania, śledząc opinie ludzi. Jednak włączenie ludzkich instrukcji w pętlę stwarza ryzyko utraty skali i szybkości.
Zarówno obecni, jak i byli badacze z DeepMind i Google, pod warunkiem zachowania anonimowości, wyrazili sceptycyzm, że DeepMind będzie w stanie osiągnąć AGI przy użyciu takich metod. Dla nich chęć osiągnięcia wysokiej wydajności w symulowanych środowiskach utrudnia rozwiązanie problemu funkcji nagrody. Jednak właśnie to podejście leży u podstaw DeepMind. W firmie istnieje wewnętrzna konkurencja, w której programy rywalizujących drużyn rywalizują o dominację.
Hassabis zawsze postrzegał życie jako grę. Sporą część swojej kariery poświęcił ich tworzeniu, większość wolnego czasu spędzał na ich graniu. W DeepMind wykorzystuje je do rozwijania potężnej sztucznej inteligencji. Podobnie jak oprogramowanie, Hassabis uczy się na podstawie własnego doświadczenia. Pogoń za AGI może ostatecznie doprowadzić do ślepego zaułka, wynalezienia po drodze użytecznej technologii medycznej i pokonania najlepszych graczy w ich umiejętnościach. Ale może również tworzyć AGI tuż pod nosem Google, ale poza jego kontrolą. A jeśli mu się to uda, Demis Hassabis wygra najtrudniejszą grę ze wszystkich.
Ilya Khel