Zdjęcie: Dota 2 / OpenAI
Po zwycięstwie komputera nad człowiekiem w szachy i go wydawało się, że nie ma już barier, które nie może wziąć sztuczna inteligencja. Ale ludzie zadali pierwszy cios
W końcu sierpnia w Vancouver odbył się mistrzostwa świata w grze Dota 2. Szczęśliwi finaliści zdobyli $11,2 mln Ale dla świata jest ważniejsze wydarzenia, które miały miejsce poza ligowej tabeli. Na tych mistrzostwach odbywają się oficjalne pojedynki pomiędzy zespołami ludzi i systemem komputerowym na bazie sztucznej inteligencji (AI). Czy może się powstrzymać człowieka przed siłą “głębokiego uczenia się”, “нейросетями” i innych magią nowoczesnych technologii?
Komputer pokonał najsilniejszego szachisty świata, ponad 20 lat temu, następnego osiągnięcia AI trzeba było czekać aż 19 lat: w 2016 roku program AlphaGo wygrała 4 z 5 meczów u zdobywcy najwyższej rangi w tej dyscyplinie. Mimo długiego oczekiwania, stało się to znacznie wcześniej, niż przewidywano, — uważano, że komputer jest w stanie pokonać człowieka w roku, nie wcześniej 2020-2025 roku.
Nowy poziom Ilona Maska
Następny poziom trudności — gry komputerowe. W grze strategii Dota 2 rywalizują dwie drużyny z pięciu osób. Cel — zniszczyć bazę przeciwnika. O trudności gry można mówić na przykład to, że jeszcze żaden zespół na świecie nie udało się stać się mistrzami więcej niż dwa razy. To właśnie złożoność gry i różnorodność stosowanych strategii sprawia, że zadanie stworzenia algorytmu, który mógłby pokonać zespół ludzi, taka skomplikowana.
Jednym z głównych katalizatorów postępu w świecie AI jest organizacja OpenAI, która postawiła przed sobą ambitny zadanie — zbudować algorytm, który będzie w stanie pokonać w walce z zespołem ludzi. OpenAI została założona w roku 2015 twórcą Tesla i SpaceX Илоном Маском i prezydentem z najbardziej znanych na świecie firm-przyspieszenia Y Combinator Samem Альтманом. Wśród celów firmy — zapobiec koncentracji wiedzy o AI w rękach jednej grupy ludzi. Stwierdzono, że spółka będzie monitorować pojawienie się nowych przełomowych technologii, ukrytych przez twórców od ogółu społeczeństwa. Sama OpenAI zdobyła sławę dzięki AI, tworzonego dla zwycięstwa w Dota 2.
Pierwsze wyniki zostały osiągnięte w 2017 roku, zaledwie dwa lata po utworzeniu firmy, kiedy opracowany przez nią łódź pokonał topowego gracza światowego rankingu Dota 2 w pojedynku “jeden na jeden”. Warto wspomnieć, że gra toczyła się według uproszczonych zasad, na przykład, nie można było używać zaklęć, aby ukryć bohaterów. Teraz OpenAI stawia bardziej ambitny zadanie — pokonać w pełnym zespołowym konkursie, gdy w grze biorą udział pięć osób.
Wewnętrzna konkurencja
Chociaż łódź w 2018 roku przegrał profesjonalnym drużynom, bardzo znaczny postęp jest oczywisty: w sierpniu 2018 roku boty OpenAI zdobyli w dwóch meczach drużyny graczy-weteranów, które odeszły od regularnego udziału w zawodach. Co prawda przegrali w dwóch pokazowych walkach drużyn, z których jedna zajęła ostatnie miejsce w puli nagród przyznamy generalnej, a druga nawet nie znalazła się na liście zwycięzców. Od dalszego uczestnictwa organizacja odmówiła.
Myślę, że to dopiero początek, i szybkość, z jaką rozwijają się algorytmy, a także zmniejszenie kosztów sprzętu zmienią nasz świat nie do poznania. Przykład z AlphaGo dobrze ilustruje stwierdzenie Billa Gatesa, że zawsze przeceniamy wydarzenia kolejnych 20 lat, ale doceniamy tego, co się stanie w ciągu najbliższych pięciu.
Jeden z najważniejszych składników postępu — obecność konkurencji. Poza OpenAI badania w dziedzinie gier prowadzą i inne firmy. Na przykład, jednostka Google DeepMind, który tworzył pokonał mistrza świata w grze w go łódź, tworzy boty do gier komputerowych strzelanek z perspektywy pierwszej osoby. Oni już są w stanie pokonać zwykłych graczy.
Trudności uczenia się
Strona techniczna cechą współczesnych algorytmów, które grają w gry, — uniwersalność i w planie rozwiązanych zadań i sprzętowe. Po pomyślnym zastosowania w grach można je zastosować i w zastosowaniach praktycznych.
Można porównać podejście Deep Blue, komputera, który pokonał Kasparowa w 1997 roku, i współczesną realizację. Deep Blue został zaprojektowany i zbudowany jako szachowy komputer, zostały nawet opracowane specjalne mikroprocesory, które wziął na siebie część obliczeń. Stosowane algorytmy nie można było użyć więcej w żadnych wyzwaniach, z wyjątkiem szachów.
W przeciwieństwie do Deep Blue nowoczesne podejście wykorzystuje standardowe żelazo i oprogramowanie dostępne dla wszystkich. W szczególności, AlphaGo pracował w chmurze Google Cloud. Ale najbardziej niesamowite jest algorytmy. Są one ułożone tak, że na początku AI nic nie wie o zadaniu, które musi rozwiązać. Nie ma informacji ani o zasadach gry, brak interakcji z otoczeniem i partnerami w zespole, itp. Program powinien nie tylko tego nauczyć, ale i “znaleźć” strategii postępowania dla zwycięstwa.
W dużym uproszczeniu opisać zasadę uczenia SI tak: algorytm, zwany “bardzo precyzyjna sieć neuronowa”, jest odpowiedzialny za wzrok. Zapewnia on łączność innych części programu w środowisku gry. Inny algorytm, zwany “szkolenie z posiłkami”, sprawia, że wiele przypadkowych działań, liczonej milionami, i otrzymuje punkty za każde: zrobił ruch do przodu — otrzymał +1 punkt, wyrządził szkodę bohatera przeciwnika — otrzymał +1 punkt. Otrzymał uszkodzenie — wynik odejmuje, itp. Algorytm zyskuje doświadczenie, grając wiele partii sam ze sobą. Na tej samej zasadzie został umieszczony i AlphaGo, zwycięzca osobę w roku.
Ograniczenie możliwości AI
W ogóle cała nowoczesna branża porusza się po drodze standaryzacji. Tak, jeśli wcześniej szkolenia AI przeprowadzono na procesorach centralnych różnych producentów lub specjalnie tworzonych нейропроцессорах, to w ciągu ostatnich kilku lat standardem stało się szkolenie na kartach graficznych firmy Nvidia. Początkowo były one stosowane do grafiki, ale okazały się skuteczne pomocnikami procesorów centralnych w różnych obliczeniach.
Również i algorytmy OpenAI i DeepMind będzie można zastosować w praktyce. Wiele AI-algorytmy są dostępne dla wszystkich, którzy chcą dosłownie kilkoma kliknięciami myszy. W szczególności, niezwykle precyzyjny sieci neuronowe są szeroko stosowane w programach rozpoznawania obrazów, są one używane wewnątrz Google Photo, albumach Apple, autonomicznych samochodach itp.
Ale istniejące algorytmy dopóki nie są uniwersalne, mają swoją specjalizację. W tej samej Dota 2, stosuje się rozwiązania, które uwięzieni specjalnie pod pewne cechy świata gry. To znaczy, że dla innych zadań, na przykład gier innej klasy, należy nie tylko tuning istniejących algorytmów, ale i tworzenie zupełnie nowych, które wymagają dodatkowych badań.
Również i zastosowanie w praktyce — wszelkie algorytmy dopóki mają узкоспециализированное zastosowanie, choć naukowcy marzą o tworzeniu uniwersalnych AI, który, jako człowiek, jest w stanie rozwiązać każde zadanie. Ale szybkość, z jaką następuje rozwój самообучающихся algorytmów, powoduje niepokój o tym, jak będą one stosowane.
Dylemat moralny
Moralne pytania nurtują badaczy AI nie mniej niż twórców bomby atomowej. Są gotowi rozwijać technologię, ale myśli o konsekwencjach jej stosowania wcześniej kolegów z projektu Manhattan. W 2014 roku przy zakupie przez firmę Google firma DeepMind (kwota transakcji około 400 milionów dolarów, według Reuters) warunkiem umowy było utworzenie w dostęp do internetu-gigante kolegium ds. etyki. Plany firmy w tym roku wrócić do Chin doprowadziły prawie do buntu pracowników, którzy nieprawidłowe filtrować treści. Pracownicy Microsoft i Google masowo protestowali przeciwko kontraktów z wojskowymi, co pokazuje zaangażowanie przemysłu do otwartości.
Możliwe, OpenAI i Google DeepMind czołowi gracze na rynku AI, ale na pewno nie jedyne, oni po prostu są publiczne. Trudno ocenić, co dzieje się w Chinach i Korei, wraz z USA będących największymi ośrodkami przyciągania utalentowanych specjalistów SI z całego świata. Tak, w 2017 roku Chiny ogłosił zamiar stać się liderem w dziedzinie AI do 2030 roku, wydając na to 22 mld $tylko ze środków publicznych.
Teraz świat stoi przed problemem, co zrobić z wiedzą, AI: otwarcie rozpowszechniać jak OpenAI lub chować w tajnych projektach w azjatyckim przykład? Rzecz w tym, że skutki stosowania AI przewyższają wpływ na świat tworzenie bomby atomowej. Bo aby stworzyć elektrownię atomową lub ładunek termojądrowy, wymagane zasoby całych krajów. A pożyteczne lub szkodliwe aplikacja na bazie AI może być stworzony przez jednego programistę za pomocą dostępnych w otwartym dostępie gotowych narzędzi.
OpenAI uważa, że AI powinien być dostępny dla wszystkich bez ograniczeń. Dobrym przykładem z historii może być uzyskanie ZSRR zachodnich tajemnic bomby atomowej — rdzeniowy parytet na długie lata fundamenty światowej stabilności.
Inny pogląd — takie podejście jest bardziej jak na rozdanie “jądrowych чемоданчиков” dużej ilości ludzi. Nie bardzo trudno sobie wyobrazić, co mogą zrobić kilku zdolnych chłopaków, разочаровавшихся w nowoczesnym budowie świata, na istniejących mocy obliczeniowych. I nawet nie chcę myśleć, co może zrobić grupa silnych naukowców przy państwa wsparciu w jakimś zamkniętym ekosystemie.
Udział OpenAI w mistrzostwach Dota 2 wykazało, że aż nawet u tych, którzy znajdują się w czołówce badań w dziedzinie sztucznej inteligencji, nie ma algorytmów, pozwalających zbudować uniwersalną maszynę, która będzie zarządzać znacznymi zasobami i wygrać człowieka w 100% przypadków. Jest to dobra wiadomość. Mamy jeszcze czas, aby rozwiązać nie tylko technologiczne, ale i moralne pytania: co można pozwolić AI, aby się nie zniszczył życie swoich twórców.
redakcja poleca
Homo ludens: dlaczego e-sport może stać się alternatywą dla pracy