„The Rise of the Machines”, „The Terminator Returns” … Wiele science fiction opiera się na fakcie, że komputery stają się tak inteligentne, że rozumieją, że będzie im lepiej bez osoby. Bajki? Jak wyglądać. Do 2050 r. Typowy komputer domowy będzie w stanie przetwarzać tyle informacji, ile razem zgromadzą wszyscy ludzie na ziemi.
Ale rok 2050 jest pod warunkiem stopniowego rozwoju maszyn. To nie działa w ten sposób. Nasze relacje ze światem elektronicznym rozwijają się skokowo. Kiedyś - do samochodu była przyczepiona mysz. Kiedyś - pojawił się Internet. Kiedyś - były smartfony z tabletami.
Następny przełom nadejdzie, gdy komputer będzie w stanie zrozumieć ludzi. Smartfony mają już aplikacje takie jak Siri i Cortana, które umożliwiają z nami prostą rozmowę. Ale problem polega na tym, aby komputer zrozumiał, a nie to, co mówimy, ale co mamy na myśli! Najprostszy przykład: wyrażenie „Zostawił mnie” wypowiedziane przez splamioną łzami kobietę i szefa mężczyzny ma zupełnie inne znaczenie.
A więc: gdy tylko maszyny nauczą się rozpoznawać niuanse ludzkiej mowy, z jednej strony nasze ręce zostaną rozwiązane w sensie dosłownym i przenośnym. Rozmawiałem z komputerem i zrobił wszystko. Z drugiej strony, czy nie zbliżamy się do niebezpiecznej linii, usuwając ostatnią barierę w komunikacji między ludźmi i bezdusznym żelazem?
Od dawna chciałem o tym porozmawiać ze znanym naukowcem, dyrektorem badań lingwistycznych w firmie ABBYY, kierownikiem wydziałów lingwistyki komputerowej na Rosyjskim Państwowym Uniwersytecie Humanistycznym i Moskiewskim Instytucie Fizyki i Technologii Vladimirem Selegeyem. Ale kiedy powiedziałem mu o swoich apokaliptycznych obawach, zmarszczył brwi.
„Tak, science fiction jest pełna mrocznych prognoz na temat tego, jak maszyny wyszkolone przez ludzi poradzą sobie bez tego. Ale nie jest dla mnie jasne, dlaczego wzrost ilości wiedzy zawartej w programach prowokuje komputer do podejmowania decyzji bez pytania o zgodę osoby?
W rzeczywistości problem nie polega na tym, że komputer nauczy się radzić sobie bez ludzi, ale że ludzie będą chcieli obejść się bez siebie podczas rozwiązywania pewnych problemów. Oto Czarnobyl …
Film promocyjny:
A co ma z tym wspólnego Czarnobyl?
- Reaktor jądrowy to bardzo złożony model fizyczny. Wydaje się, że wszystkie parametry sterowania reaktorem są znane, wszystko podlega ścisłym prawom fizycznym, a podejmowanie decyzji można całkowicie powierzyć komputerowi. Ale…
W 1986 roku, tydzień po wypadku, uczestniczyłem w seminarium poświęconym wykorzystaniu sztucznej inteligencji w przemyśle. Już wtedy było jasne, że powierzając podejmowanie decyzji komputerowi, grozi nam poważne ryzyko. Programy często zawierają błędy. Nawet satelity mają usterki oprogramowania.
Czyli człowiek jest bardziej niezawodny niż komputer, chociaż „myśli” znacznie szybciej?
- Osoba, oprócz wszystkiego innego, ma motywację. Rozwiązuje swoje problemy - edukacja, prokreacja, kariera, umie się czuć …
Ale czy jakiś przebiegły programista może napisać program, który nauczyłby maszynę agresji …
- Możesz spróbować stworzyć np. Wojskowego robota, który sam będzie podejmował decyzje, analizując to, co widzi i słyszy. I będzie to bardzo niebezpieczne. Ale nie dlatego, że robot nagle zapragnie zniszczyć, jak napisali pisarze science fiction. Jednak z powodu błędu programisty zaniedbanie niektórych czynników może prowadzić do nieprzewidywalnego zachowania robota.
Ale jak dotąd jesteśmy bardzo daleko od umiejętności tworzenia programów samouczących się, które są w stanie generować zupełnie nową wiedzę. Z grubsza mówiąc, samodzielnie przechodzisz od tabliczki mnożenia do umiejętności rozwiązywania złożonych równań.
W drugiej połowie XX wieku dużą popularnością cieszyły się futurystyczne przepowiednie z dziedziny nauki. Wszystko, co dotyczy inteligencji komputera, przedostało się do mleka. Nikt nie przewidział Internetu, niesamowitej swobody dostępu do informacji, telefonów komórkowych. Ale wszyscy mówili o myślących komputerach.
Na przykład pod koniec lat 60. nasz pierwszy system szachowy KAISA z powodzeniem wystąpił na Mistrzostwach Świata wśród komputerów. Uważano, że aby maszyna pokonała człowieka, konieczne było zasymulowanie algorytmów ludzkiej gry. Położyć umysł, intelekt, bardzo tajemniczą intuicję, która sprawia, że szachista podejmuje właściwe decyzje.
Dziś komputer bije człowieka. Ale nigdy nie uczono go intuicji. Miliard rozegranych gier, całe doświadczenie gry, wszystkie decyzje, które kiedykolwiek podjęli szachiści, zostały wczytane do jego pamięci. Nauczyli ich używać tego przy wyborze optymalnego planu gry, zapewniając im niesamowitą szybkość wyliczania i oceny opcji. Komputer bije mistrzów świata, ale nie sprawia mu to przyjemności. Wszystko jest zupełnie inne niż ludzie.
Ale jesteś jednym z tych, którzy właśnie uczą komputer „włączać głowę”
- Staramy się tylko nauczyć programy „rozumienia” tekstów, aby mogły wydobywać z nich informacje, gromadzić je i uogólniać. Aby ludzie otrzymywali wiedzę przefiltrowaną, wybraną z miliardów źródeł. Jest to bardzo trudne, ponieważ sam człowiek nie bardzo dobrze wie, jak układa się jego zdolność językowa, na której opiera się jego rozumienie innych ludzi.
Popularne jest teraz statystyczne tłumaczenie maszynowe. Komputer w ogóle nie rozumie, o co chodzi w tłumaczonym tekście, po prostu wie, jak znaleźć najbardziej prawdopodobne warianty tłumaczenia małych fragmentów (w kilku słowach), analizując ogromne tomy ludzkich tłumaczeń przechowywanych w jego pamięci. Ogólnie tekst jest jasny. Ale podjęcie odpowiedzialnej decyzji na podstawie takiego tłumaczenia byłoby niepoważne.
OK, czy komputer może przetłumaczyć instrukcje?
- Instrukcje? Czy to jest niebezpieczne.
- Tak, do prostej lodówki!
- Nawet do lodówki! Chciałbym, aby nasze programy tłumaczyły, starając się zrozumieć tekst, wybierając między opcjami opartymi na wiedzy, a nie tylko dlatego, że ta korespondencja najczęściej znajduje się w naszej bazie danych.
Okej, powiedzmy, że rozwiązałeś problem i stworzyłeś system, dzięki któremu komputery nauczą się rozumieć niuanse naszej mowy, a nawet dokładnie przetłumaczyć ją na inny język. A potem nowe niebezpieczeństwo zagraża ludziom - nie będzie potrzeby myślenia. Nie będzie potrzeby trenowania pamięci, mózgu. Potrzebujesz informacji - proszę, Wikipedia. Musisz porozmawiać z obcokrajowcem - tłumaczem …
- Im wyższy poziom inteligencji i wiedzy człowieka, tym bardziej przydatny będzie dla niego kolejny „sprytny asystent”. A im niższa, tym więcej okazji wydaje się, aby w ogóle nie myśleć. Technologie komputerowe prowadzą do polaryzacji społeczeństwa. Z grubsza mówiąc, pojawienie się kalkulatora nie doprowadziło do degeneracji matematyków. Ale u niektórych uczniów oczywiście nastąpił spadek już niskiego poziomu umiejętności.
- Wiesz, dla mnie poważnym wskaźnikiem spadku poziomu wykształcenia jest liczba osób, które piszą niepiśmiennie lub nie potrafią wyrazić swoich myśli i uczuć bez pomocy mate
- Tak, ludzie zaczęli pisać mniej kompetentnie. Po prostu dlatego, że ogólnie mniej czytanych jest zredagowanych tekstów i dużo więcej takich zasobów, w których pisownia jest bardzo niewyraźna. Czy to czyniło ludzi głupszymi? Prawdopodobnie nie.
Czy widzisz związek między faktem, że osoba niepiśmiennie wyraża swoje myśli w swoim ojczystym języku, a faktem, że stał się głupszy?
„Nie posunąłbym się tak daleko. Chociaż jest to oczywiste: ponieważ dzieci zaczęły mniej czytać, pojawiły się problemy z transferem wiedzy i kultury między pokoleniami. To jest problem. Dziś widzimy, że współczesny uczeń z takim samym stopniem jak 30 lat temu gorzej zna literaturę.
Tutaj! …
„… Ale z drugiej strony, dużo lepiej zna wiele innych rzeczy, o których nikt nie sądził, że mógłby wiedzieć.
Czy to naturalny proces?
- Tak. Co więcej, po raz pierwszy w historii ludzkości wiedza nie może być przekazywana od starszych do młodszych, jak to się dzieje od wieków. Nastąpił transfer wiedzy od młodszych do starszych, co wcześniej wcale nie było charakterystyczne dla kultury ludzkiej. Dziecko, które uczy tatę lub mamę pracy na komputerze, z telefonem komórkowym, jest dla rodziców źródłem różnorodnej wiedzy. A jeszcze więcej dzieci podróżuje po całym świecie. Bardzo często są źródłem wiedzy geograficznej i kulturowej.
Posłuchaj, ale tutaj wszystko zaczęło się od komputerów. Uwolnili ludzi nawet od konieczności zapamiętywania elementarnych reguł gramatyki
- Dopiero na początku lat 90. pracowałem w zespole, który opracował jeden z pierwszych systemów sprawdzania pisowni w języku rosyjskim. Czy było to pomocne czy szkodliwe? Bardzo przydatne z mojego punktu widzenia. Ten system pozwolił na szybsze tworzenie dokumentów. A potem wszystko zależy od poziomu odpowiedzialności danej osoby. Kto powiedział, że po samochodzie nie ma w ogóle potrzeby sprawdzania? System tylko pomaga uczynić go znacznie bardziej wydajnym.
Ale ufamy komputerowi
- Oznacza to tylko tyle, że osoba, która stworzyła program, nie poinformowała Cię, że istnieje wiele zjawisk, których maszyna nie może zweryfikować. Na przykład negocjacje.
Niestety, nowe technologie często prowadzą do utraty tradycyjnych umiejętności. Robiłem naprawy w mieszkaniu. Chciałem zamontować okna drewniane, które były wcześniej zamontowane. Ale okazało się to niemożliwe. Wszyscy instalują okna z podwójnymi szybami. Niestety ludzie przestają robić wiele rzeczy rękami. Co robić, tak właśnie działa życie. Niestety.
Więc jesteś konformistą?
- Nie. Uważam, że robienie absolutnie szkodliwych rzeczy nie jest dobre. Ale kiedy masz zarówno zyski, jak i straty, musisz ocenić ryzyko … Jeśli produkujesz narkotyki, nie myślisz, że nie tylko dobrzy ludzie, ale także źli ludzie przeżyją w wyniku ich używania.
W naszym przypadku, równolegle z rozwojem technologii, konieczne jest zaangażowanie się w szkolenie tych, którzy z nich korzystają. Negatywne konsekwencje nowych technologii odbijają się przede wszystkim na tych, którzy nie wykonują swojej pracy zbyt dobrze na żadnym poziomie technologicznym.
Weźmy na przykład lekarstwa. Chcemy pomóc lekarzowi w podjęciu decyzji, tworzymy komputerowy system ekspercki w oparciu o analizę dużej liczby rzetelnych diagnoz, postawionych przez najlepszych lekarzy. Daje to profesjonalistom możliwość sięgnięcia po większą ilość wiedzy niż on sam. Ale ostateczna decyzja należy do niego, a nie do komputera! Dla złego lekarza wszystko jest inne - zaufa temu, czego nie może rzetelnie sprawdzić. Ale średnio, wraz z pojawieniem się takich technologii, wydaje mi się, że medycyna wciąż się poprawia, a nie gorsza.
Cóż, byliśmy przekonani, że intelektualny system rozumienia człowieka przez komputer przyniesie więcej korzyści niż szkody. Ale kiedy się pojawi?
- To bardzo trudne zadanie, którego nie da się rozwiązać od razu. Konieczne jest nauczenie komputerowej wiedzy o języku i wiedzy o świecie, metod wnioskowania i porównywania wartości. Coś, co teraz wiemy, zajmie lata. Na przykład potrzebujemy wiarygodnych danych na temat używania języka, uwzględniających różnice indywidualne i społeczne. A te różnice są bardzo znaczące. Na przykład wykonaliśmy specjalny projekt poświęcony różnicom regionalnym w języku rosyjskim. Zebrano słownik, w którym znajduje się prawie 10 tysięcy słów, które są normą dla mieszkańców tylko niektórych regionów naszego kraju
Kim jesteśmy?
- To wspólny projekt „Języki miast rosyjskich”, w którym biorą udział specjaliści ABBYY, lingwiści, pasjonaci z różnych części Rosji i rosyjskojęzycznej zagranicy. Przeanalizowaliśmy język regionalnych mediów, portali społecznościowych, dekretów i decyzji władz lokalnych. A to tylko niewielka część wiedzy, której należy nauczyć komputer!
Jaka jest podstawowa różnica między Twoim podejściem do tłumaczenia a systemami, których używa na przykład Google?
- Systemy statystyczne nie budują struktur językowych. Szukają odpowiedników tłumaczenia dla małych fragmentów po 5-7 słów. Ale język jest tak ułożony, że bardzo często powiązane słowa znajdują się znacznie dalej, a jeśli ten związek nie jest brany pod uwagę, pojawiają się błędy. Ale bardzo często takie szczegóły są ważne w tłumaczeniu, których zaniedbanie może całkowicie zmienić znaczenie. Aby wziąć wszystko pod uwagę, konieczne jest zidentyfikowanie w trakcie analizy całego systemu powiązań językowych między wyrazami, który nazywamy strukturą zdania. Nie tłumaczymy fragmentów zdań z języka na język, staramy się zidentyfikować strukturę semantyczną zdania, a następnie syntetyzować tę strukturę za pomocą innego języka.
Ale te struktury semantyczne są wykorzystywane nie tylko i nie tyle do celów tłumaczenia maszynowego. Są również potrzebne do skutecznego rozwiązywania problemów związanych z inteligentnym wyszukiwaniem i analizą informacji, które są dziś ważniejsze dla ABBYY jako firmy komercyjnej. Przykładowo, niedawno wydane pierwsze rozwiązania dla rynku korporacyjnego oparte są na tych technologiach: pozwalają one po prostu wyszukiwać i analizować dane w ogromnym strumieniu informacji przechowywanych w organizacjach.
A który język z twojego punktu widzenia jest trudniejszy do zrozumienia?
- Powszechnie przyjmuje się, że trudniejsze są te języki, w których trzeba nauczyć się więcej zasad. Ale w przypadku rozumienia komputera tak nie jest.
Coś, co jest trudne dla człowieka, na przykład bogaty system fleksyjny w języku rosyjskim lub litewskim, upraszcza zadanie dla komputera na niektórych etapach analizy.
Na przykład język chiński jest bardzo trudny, ponieważ nie ma w nim morfologii, a stąd duża ilość niejednoznaczności, z jaką boryka się komputer. Dlatego do komputerowej analizy języka chińskiego bardzo ważne jest posługiwanie się wiedzą o świecie, ważniejszą niż np. Przy analizie języków o rozwiniętej morfologii.
Udało nam się pracować z językiem rosyjskim, niemieckim, angielskim, francuskim, hiszpańskim, chińskim. Analiza języka jest podzielona na etapy. Niektóre etapy mają specyfikę, trudności dla jednego języka, inne dla innego. Zasadniczo jednak technologie, z którymi pracujemy, mają zastosowanie we wszystkich językach.
Twoim zdaniem, kiedy nadejdzie dzień, w którym równolegle z rozmową będziemy mogli otrzymać szybkie i zrozumiałe tłumaczenie na komputerze. Powiedzmy, że rozmawiamy teraz i od razu otrzymujesz transkrypcję naszej rozmowy po hiszpańsku?
- Wkrótce będzie to możliwe. Nie sądzę, żeby za dwa lata. Ale … Co jest potrzebne, aby rozwiązać ten problem? Musimy ulepszyć nasze systemy analizy mowy. Nie możemy jeszcze przeprowadzić spontanicznej rozmowy, oddzielić ją od szumu i uzyskać pożądany tekst. I co roku następuje postęp w tym kierunku.
Ale mimo wszystko będą takie rzeczy, których maszyna nie może zinterpretować jednoznacznie. I tu dokładność rozumienia i tłumaczenia będzie zależała od dostępności systemu wiedzy o świecie, od mechanizmów wnioskowania logicznego.
Ale w każdym razie niebezpieczeństwo całkowitego zaufania do takiego programu pozostanie. Błędem jest myśleć, że powiedzmy za pięć lat można podyktować list do komputera, on go przetłumaczy, wyśle do partnera biznesowego i wszystko będzie dobrze. Nikt nie gwarantuje, że maszyna nie umknie gdzieś „nie” ani nie popełni innych błędów, po których współpracę biznesową można uznać za zakończoną.
Czyli osoba jako administrator nadal powinna być?
- Na pewno. Ślepe ufanie technologii jest niebezpieczne.
