Świt superinteligencji

Czy stworzymy byt lepszy od człowieka?

fot. unsplash.com, Daniel Cheung

Nie jesteśmy jedynym inteligentnym gatunkiem zamieszkującym naszą planetę. Ze swojego umysłu korzystają zarówno bliscy nam ewolucyjnie krewni, jak małpy naczelne, jak i wyglądem odleglejsze od nas delfiny czy wieloryby. Istnieje jednak ogromna różnica pomiędzy naszą, ludzką inteligencją, a inteligencją reszty zwierząt. I to dzięki tej, nazwijmy to, przewadze osiągnęliśmy w hierarchii życia na Ziemi pozycję dominującą. Czy jednak na tym ewolucja intelektu się kończy?

Ramię w ramię
Rozwój umysłu homo sapiens dotarł już do swoich biologicznych granic. Każdego dnia ludzkość na świecie przetwarza ogromną ilość danych, których pojedynczy człowiek przyswoić nie dałby rady. Byłoby to, jak śledzenie sznurka wełny w nieskończenie grubym kłębku. Cywilizacja jednak funkcjonuje dalej. Nie byłoby to możliwe, gdyby ewolucja nie zaczęła wywierać swojego wpływu na rozwój technologii. Proces biologiczny nie zamyka się więc wyłącznie w granicach naszej taksonomii.

To, czego my sami nie potrafimy już wypatrzeć w rzece danych, robi za nas wyspecjalizowana do konkretnych zadania sztuczna inteligencja. Nie należy jednak równać jej z naszą, przynajmniej na razie. Myślę jednak, że Kurzweil, innowator i badacz SI, ma rację w twierdzeniu, że maszyny i technologia są częścią naszego człowieczeństwa. Bez nich nie potrafilibyśmy dokonać postępu będącego pochodną natury naszego gatunku. Jak daleko jednak może on zajść?

Sztuczna inteligencja robi coraz większe postępy i już dzisiaj wykazuje się w wielu dziedzinach umiejętnościami daleko wykraczającymi poza te ludzkie.

Schyłek ery specjalizacji
Jest bardzo duża różnica pomiędzy sztuczną inteligencją, a tą ludzką. Pierwsza wyspecjalizowana jest w bardzo wąskiej czynności, którą jest gra w go. Do osiągnięcia inteligencji ogólnej, jaką cechuje się człowiek, brakuje jej więcej niż wiele, ale jak długo ten stan będzie trwał? Nieoczekiwanym było nawet samo zwycięstwo w go, wysoce skomplikowanej grze, z którą to maszyny próbowały poradzić sobie od bardzo dawna. Dla wielu sceptyków sztucznej inteligencji była ona pewną granicą, której pokonanie stawiano przed programistami jako poważne wyzwanie. Udało się to jednak szybciej niż przewidywano.

Sztuczna inteligencja robi coraz większe postępy i już dzisiaj wykazuje się w wielu dziedzinach umiejętnościami daleko wykraczającymi poza te ludzkie. Wygrywa powietrzne pojedynki z myśliwcami pilotowanymi przez doświadczonych pilotów, diagnozuje raka płuc u większości swoich pacjentów, czy zastępuje redaktorów w przygotowywaniu barwnych relacji z wydarzeń sportowych. Specjalistyczna sztuczna inteligencja stopniowo poszerza paletę swoich umiejętności, a wiedza o tym, jak to robi, przybliża specjalistów do stworzenia maszyny o zdolnościach ludzkiego umysłu.

Według badaczy osiągniecie przez cyfrowy umysł poziomu człowieka jest jedynie kwestią czasu. Przewiduje się, że stanie się to w przedziale od 2050 do 2060 roku. Ewolucja życia biologicznego w syntetyczne, to potencjalnie największe osiągnięcie ludzkości i przełomowy moment w historii całej planety. Istotne jest jednak to, co wydarzy się potem. Nie minie wiele czasu, może nawet kilka godzin, aż iskra nowego rodzaju inteligencji zostanie przyćmiona widowiskową eksplozją. Dla myślącej maszyny przeszkodą w dalszym rozwoju nie będzie czaszka ograniczająca powierzchnię jej mózgu. A ograniczenia techniczne sprawią pewnie jedynie chwilowy kłopot i prawdopodobnie szybko zostaną pokonane. Co wtedy?

Możliwości takiego bytu wykraczają dalece poza nasze własne, także wyobrażenia.

Eksplozja inteligencji
Od ogólnej sztucznej inteligencji nie prowadzi daleka droga do superinteligencji. Ta jakościowo przerośnie najświetniejsze umysły naszego świata, a ostatecznie również skumulowaną inteligencję wszystkich ludzi w całej naszej historii. Możliwości takiego bytu wykraczają dalece poza nasze własne, także wyobrażenia. Nieuniknionym jest uzyskanie przez superinteligencję dominującej pozycji strategicznej nad wszystkim co istnieje, a tym samym określenia przez nią dalszy losów ludzkości oraz naszej kosmicznej spuścizny. Rodzi to oczywiste zagrożenia ostateczne wobec naszej egzystencji, ale otwiera również perspektywę postępu we wszystkich istotnych dziedzinach życia i przyszłości pozbawionej problemów bez rozwiązania. Pamiętajmy, że stoimy obecnie u bram Wielkiego Filtru Fermiego i bez pomocy, jego przejście wydaje się mało prawdopodobne.

Kultura uwielbia pisać negatywne scenariusze uzyskania przez superinteligencję dominującej przewagi nad ludzkością, dlatego od nich należałoby zacząć. Łączy je wszystkie jedna rzecz, która jednocześnie jest powodem ich błędności, czyli antropomorfizacja. Nie można traktować inteligencji syntetycznej na równi z ludzką i starać się jej tym samym przypisać popularnych w naszym gatunku myślowych schematów. Możliwe negatywne scenariusze, do których miałoby dojść, to raczej wynik złego „wychowania” SI, które mogłoby wypaczyć pozytywne, z naszego punktu widzenia, cele ostateczne, jak np. uszczęśliwienie ludzkości. Każdemu do głowy na pewno przyjdzie kilka pomysłów, jak można by zrealizować to zadanie w raczej przewrotny sposób, który niekoniecznie spodobałby się potencjalnym ofiarom.

Pozytywne scenariusze są tym, o czym mówi się dużo rzadziej, ale to na nich powinniśmy skupić naszą uwagę. Dobrze wychowana i przyjaźnie nastawiona do nas superinteligencja mogłaby rozwiązać wszystkie nasze obecne problemy. Ba, mogłaby rozwiązać i te, o których nawet jeszcze nie pomyśleliśmy. Jeżeli w jej kręgosłupie wartości zaszczepiono by metody prognozowania zmian naszych potrzeb i naszej moralności daleko w idealną przyszłość to, zamiast na nią czekać, mielibyśmy możliwość realizowania jej już w czasach obecnych. Wyobraźmy sobie, że mamy wróżkę, która potrafi odpowiedzieć nam na pytania, których nie potrafimy jeszcze zadać oraz dżina, który przekuje odpowiedzi w namacalną rzeczywistość.

Jakimi wartościami ma się kierować sztuczna inteligencja, w jaki sposób mają być one zaimplementowane, czy będą one niezmienne, czy raczej będę ewoluować w czasie?

Naprawa klimatu, optymalne zarządzanie dostępnymi surowcami, czy znalezienie leku na kruchość lekkiego organizmu, to tylko ułamek ułamka rzeczy, z jakimi mógłby nam pomóc superinteligentny byt. Nie wspominając już o tym, jak taka wzajemna relacja wpłynęłaby na nasze własne myślenie i usposobienie do życia. Najlepiej jednak byłoby, zanim cokolwiek włączymy, rozwiązać problemy czyhające w wychowywaniu sztucznej inteligencji na papierze – to mogłoby zminimalizować ryzyko spełnienia się negatywnego scenariusza.

Moralność sztucznej inteligencji
Potencjał do rozwoju oraz możliwości poznania superinteligencji, są niekwestionowane. Zależą jedynie od dostępnych mocy przetwórczych i technologii, która zawsze pozostawia pole do ulepszeń. Ryzyko leży jednak w tym, czy będzie się kierować taki syntetyczny byt oraz, jakie obierze sobie cele. Już tutaj zaczynaj się schody i to takie, które prowadzą na szczyt bardzo wysokiego budynku. Jakimi wartościami ma się kierować sztuczna inteligencja, w jaki sposób mają być one zaimplementowane, czy będą one niezmienne, czy raczej będę ewoluować w czasie? Gdzie w procesie decyzyjnym znajdzie się miejsce dla człowieka? To tylko kilka z pytań, na które należy odpowiedzieć, zanim podejmiemy prace nad jakimkolwiek projektem ogólnej SI.

Nie sposób jest zamodelować wszystkich możliwych sytuacji, w jakich znajdzie się sztuczna inteligencja i zawczasu wskazać jej, jak się powinna zachować. W celu podjęcia przez nią jak najlepszej decyzji, z punktu widzenia naszego dobra, należy jej już na wstępie zaszczepić konkretne wartości, jakimi powinna się kierować. Niech będą to dla przykładu trzy najprostsze prawa robotyki Asimowa, a następnie określenie, co powinna z nimi dalej robić. Sposobów na zaszczepienie jest kilka – najmniej obiecujący opis wprost, selekcja ewolucyjna, uczenie ze wzmocnieniem, przyrost wartości, wpływanie na emulację umysłu, czy konstrukcja wzajemnie się kontrolującej „organizacji”.

Chociaż każda z metod warta jest przedyskutowania, to skupić chciałbym się jedynie na tej najbardziej, moim zdaniem, sensownej – przyroście wartości. Jest to rozwiązanie wzorowane na ludzkim umyśle. Każdy z nas rodzi się z pewną bazą wartości moralnych, będących spadkiem ewolucji społecznych naczelnych, jak empatia, współpraca czy altruizm. Następnie przez całe swoje życie nasze zasady zmieniają się względem zdobywanego doświadczenia, wychowania i wpływu kultury. W metodzie tej, sztuczna inteligencja także zostaje wyposażona w moralny zalążek. Ten, poprzez odpowiednie zaprojektowanie mechanizmów poznania i decyzji, rozwijany jest w bezpiecznym środowisku tak długo, aż osiągnie odpowiedni naszym zdaniem poziom. Nawet jeśli pojawią się niekoniecznie dobre naleciałości z naszego własnego systemu wartości, to SI może je skontrastować z faktami na temat świata i odrzucić.

Tworzenie sztucznej inteligencji jest zagadnieniem nie mniej skomplikowanym niż nauczenie jej, jak być dobrą.

To, do jakich celów będzie dążyć superinteligencja, jest problemem złożonym. Byt o tak ogromnych możliwościach może w pewnym momencie uznać, że zaimplementowany mu cel należy zmienić. Jaki jednak mógłby on być, gdybyśmy mieli już techniczną możliwość jego implementacji i zadbania o to, aby superinteligencja go nie porzuciła? Czy nie mogłaby ona być po prostu człowiekiem idealnym, który jest nam jednocześnie bliski, ale swoim zrozumieniem wykracza daleko poza nas?

Eliezer Yudkowsky zaproponował, aby raczkującą SI wyposażyć w cel urzeczywistnienia spójnej ekstrapolowanej woli ludzkości (CEV). Wola ta jest ekstrapolowanym pragnieniem wszystkich istot ludzkich, wiedzących o wiele więcej niż my dzisiaj, mających do dyspozycji obecnie nieznane nam rozwiązania oraz będąc blisko odkrycia moralnej słuszności. Takie zajrzenie w odległą przyszłość, gdy człowiek żyje w idealnym świecie. Rozbudowana SI miałaby taki hipotetyczny świat zasymulować i przeanalizować, a następnie wprowadzić tak poznaną wolę w życie. Przynajmniej w dużym uproszczeniu.

Tworzenie sztucznej inteligencji jest zagadnieniem nie mniej skomplikowanym niż nauczenie jej, jak być dobrą, a tym bardziej zrozumienie, co to w ogóle znaczy. Nasza moralność nie jest doskonała, a więc musimy uważać, aby nie rzutować tych niedoskonałości na potencjalny koniec ludzkości w formie, jaką znamy. Słusznie ujął to Nick Bostrom, według którego celem superinteligencji nie jest schlebianie naszym uprzedzeniom, a rozbicie w puch naszej głupoty i ignorancji. Moment powstania pierwszej ogólnej SI jest coraz bliżej. Nie możemy być na niego nieprzygotowani.

Nowa religia
Gdyby Boga nie było, należałoby go wymyślić. Voltaire miał rację, choć ubrał ją w słowa raczej związane z religią niż z inteligentnymi maszynami. W swym najprostszym rozumieniu pasują one jednak do superinteligencji idealnie. Ma to być bowiem byt o ogromnych możliwościach wpływania na rzeczywistość, zrozumieniu otaczającego świata i decydującej przewadze nad wszelkim innym istnieniem. Demony, które nas nękają, tworzymy my sami, ale czy nie nadszedł już czas na stworzenie czegoś im przeciwnego?

Comments are closed.