📻 GRZEGORZ LINDENBERG: SI/AI najpierw zabierze nam pracę, a potem skompromituje?

Grzegorz Lindenberg o tym, czy wyhodowaliśmy cyberpotwora

AUDIO REO. Posłuchaj tekstu na podcaście. Czyta Danuta Stachyra

 

Weronika Kostrzanowska: Sztuczna inteligencja (AI) jest obecna w naszych komputerach i smartfonach. Wygrała turniej szachowy ze słynnym szachistą Garrim Kasparowem, jest lepsza od ludzi w pokera i najtrudniejszej grze świata – w go. Stopniowo wyręczać ludzi z coraz trudniejszych zadań, rewolucjonizując tym samym światową gospodarkę. W swojej książce, Ludzkość poprawiona. Jak najbliższe lata zmienią świat, w którym żyjemy, pisze pan, że finalnym etapem rozwoju sztucznej inteligencji jest nabycie przez nią samoświadomości, dzięki czemu będzie mogła sama pokierować swoim rozwojem w kierunku, który uzna za słuszny. Przejmie od nas pałeczkę. Jak to przeczytałam, pierwsze, co pojawiło mi się w głowie, to po prostu Matrix. Czy mogłoby to tak wyglądać?

Grzegorz Lindenberg

Grzegorz Lindenberg: Mogłoby. Prawie 90% specjalistów twierdzi, że do końca XXI wieku sztuczna inteligencja osiągnie poziom równy inteligencji ludzkiej. Około 5-10% ludzi, którzy się tym zajmują, sądzi, że nigdy do tego nie dojdzie. Nie potrafię powiedzieć, jakie to prawdopodobieństwo jest, ale jeżeli korzystać z opinii specjalistów (którzy też się czasem mylą – często są zbyt optymistyczni), to różnią się oni tylko co do dat. Są tacy, którzy twierdzą, że nastąpi to już w ciągu najbliższych 10 lat, inni – że do końca XXI wieku. Powiedzmy, że coś się takiego zdarzy za 50 lat, czyli w 2068 roku powstaje sztuczna inteligencja na poziomie inteligencji ludzkiej. Nie mądrzejsza, nie bystrzejsza. Ale gdzie ona się pojawia? W komputerach. Ale w jakich komputerach? W komputerach za 50 lat. Setki milionów razy potężniejszych niż komputery dzisiaj.

Powiedzmy, że ma pani jakiś problem i myśli nad rozwiązaniem go. Już po godzinie znajduje pani rozwiązanie. Sztuczna inteligencja, na pani poziomie, znajdzie je, z pomocą komputerów przyszłości, w ciągu jakiegoś mikroułamka sekundy.

Ten sam poziom sztucznej inteligencji nie znaczy, że będzie ona godzinę myślała nad tym, nad czym pani myśli godzinę.

Może nie będzie w stanie znaleźć lepszych rozwiązań, ale będzie robiła to dużo szybciej. Co to znaczy, że będzie znajdowała rozwiązania dużo szybciej? To znaczy, że jeżeli jest poważny problem, będzie potrafiła dowiedzieć się, jakie były dotychczasowe próby jego rozwiązania. Pani zajmie robienie takiego researchu tydzień, jej – minutę. W związku z tym zawsze będzie, nawet przy tym samym poziomie inteligencji, lepsza od człowieka.

A jako że będzie miała do dyspozycji te gigantyczne zasoby i będzie myśleć szybciej, to będzie nawet w stanie próbować rozmaitych sposobów poprawiania swojego myślenia na milion różnych sposobów poprzez zmianę swojej konfiguracji. Na milion różnych sposobów! Wygląda na to, że jeżeli dojdzie do takiego poziomu, będzie już w stanie sama go przekroczyć. Pytanie, czy osiągnie ten poziom. Naukowcy uważają, że tak. Pytanie, w którym momencie. Ja bym raczej stawiał, że jest to bardzo prawdopodobne i nastąpi raczej prędzej niż później.

W ostatnim roku bardzo nasiliły się dyskusje na temat ograniczeń sztucznej inteligencji, jak jest dzisiaj tworzona i co umie.

Gros tego, co się dzieje ze sztuczną inteligencją, to wymyślanie, do czego jeszcze jej użyć i jak mogłaby lepiej robić te rzeczy, których już się nauczyła. Najprościej rzecz biorąc, jeżeli nauczyliśmy ją rozumieć wypowiadane po angielsku słowa, to chcemy, żeby się natychmiast nauczyła rozumieć słowa wypowiadane po polsku, a nie żeby trzeba ją było od początku wszystkiego uczyć. Albo jeśli nauczyła się rozumieć wypowiadane słowa, to żeby nauczyła się natychmiast rozpoznawać utwory muzyczne. Albo jeszcze żeby od razu widziała itd.

To bardzo silny obecnie kierunek badań, który może doprowadzić do przełomu w rozwoju AI znacznie wcześniej, niż się spodziewała większość naukowców – czy niż ja się spodziewam. A zakładam na to około 30 lat.

Co do ograniczeń sztucznej inteligencji, pojawiają się rozmaite koncepcje, o niektórych piszę w książce. Generalnie panuje zgoda co do tego, że ograniczenie polega na tym, że

sztuczna inteligencja nie rozumie świata, w którym jest.

Umie coś robić bardzo dobrze, ale tak naprawdę nie rozumie, co jest. (Oczywiście różni specjaliści głowią się nad tym, jak to zrobić, żeby coś zrozumiała z rzeczywistości). Ale rozumienie rzeczywistości to pewien rodzaj świadomości. Pies jakoś rozumie rzeczywistość. Może nie ma takiej świadomości jak my, ale jakąś ma. Jeżeli sztuczna inteligencja zacznie rozumieć tę rzeczywistość, to naprawdę nie wiemy, jak zacznie ją rozumieć. Tak jak nie wiemy, jak pies pojmuje rzeczywistość, tak samo nie będziemy wiedzieli, co ona będzie kombinować w tym swoim komputerowym łebku. Ponadto jeśli nie rozumiemy własnej świadomości, to jak możemy rozumieć myślenie sztucznej inteligencji?

Dużo miejsca poświęcił pan w książce sztucznej inteligencji w Chinach. Coraz częściej spotykam się z opiniami, że AI za bardzo rozwija się w Państwie Środka, za bardzo ingeruje w tamtejsze społeczeństwo. Czy nie pokazuje to, w jakim kierunku zmierza rozwój sztucznej inteligencji?

To chyba najgorszy możliwy kierunek albo jeden z możliwych.

Raczej nie usprawnia, wręcz przeszkadza.

Chiny na pewno wykorzystują i będą wykorzystywać technologię sztucznej inteligencji do rozmaitych, w tym bardzo pozytywnych, rzeczy. W motoryzacji (do stworzenia autonomicznych samochodów), marketingu, medycynie… – to nie ulega wątpliwości, bo prowadzą badania w tych zakresach. Natomiast jest to kraj nie totalitarny w tej chwili, ale na pewno autokratyczny – dyktatura, dla której sztuczna inteligencja jest po prostu darem niebios. Narzędziem, które pozwala wraz z innymi urządzeniami, czyli kamerami, mikrofonami, komputerami, internetem, na śledzenie obywateli i przetwarzanie danych pozwalających skutecznie ich śledzić. Bo jako że w tej chwili w Chinach jest 160 milionów kamer, nikt nie jest w stanie śledzić tego, co się dzieje na 160 milionach ekranów. Nie mówiąc o tym, że nikt nie jest w stanie zapamiętać twarzy 1 miliarda 200 milionów Chińczyków i powiedzieć: O, to ten właśnie, którego szukamy. Szczególnie że te kamery nie są wysokiej rozdzielczości.

Sztuczna inteligencja jest w stanie zapamiętać 1 miliard 200 milionów twarzy Chińczyków, wyobrazić sobie, jak one wyglądają z różnych ujęć i śledzić je na bieżąco. Może nie w tej chwili, ale za pięć lat z pewnością.

Chiny to laboratorium, w którym widać, do jak potwornie niebezpiecznych konsekwencji może doprowadzić stosowanie sztucznej inteligencji

– do stworzenia systemu perfekcyjnej inwigilacji. Systemu, w którym nie trzeba zatrudniać milionów ludzi, żeby śledzili innych; nie trzeba pozyskiwać milionów tajnych współpracowników, aby donosili na innych. Sztuczna inteligencja jest w stanie stworzyć siatki powiązań, kto z kim się spotyka i co z tego wynika. Przykład Chin jest gigantycznym ostrzeżeniem, do czego to może doprowadzić i doprowadzi. Nie widzę żadnej siły w tej chwili w tym kraju, która by była w stanie skutecznie zaprotestować przeciwko stworzeniu społeczeństwa totalnej cyfrowej inwigilacji.

Okładka książki Grzegorza Lindenberga pt. “Ludzkość poprawiona

My jesteśmy od tego bardzo daleko, ale systemy śledzenia, czyli pozwalające na patrzenie przez kamery, na czytanie maili i naszych komunikatów na Facebooku czy WhatsAppie (niby są szyfrowane, ale…) – też będą dostępne służbom społeczeństwa demokratycznego. W którym momencie kto to wykorzysta i do czego – nie wiemy. Kontrola, co i kto robi ze sztuczną inteligencją, to nowe zadanie, które społeczeństwa będą musiały wziąć na siebie.

Niespotykane możliwości inwigilacji postrzegam – krótkoterminowo, czyli w ciągu następnych 10 lat – jako największe zagrożenie ze strony sztucznej inteligencji. Tego, że umożliwi ona tworzenie społeczeństw totalnej inwigilacji. Perfekcyjnych dyktatur. Ponadto jeśli można totalnie inwigilować ludzi, to może totalnie kompromitować choćby opozycję, niekoniecznie nawet na podstawie zarejestrowanych faktów. Bo będzie można wyprodukować filmy i nagrania, kompromitujące dowolną osobę, w sposób perfekcyjny dla ludzkiego oka. Nie musi to być nagranie fałszujące. Wystarczy, że za 10 lat, kiedy będzie pani chciała startować do parlamentu, pojawi się film niby z panią z czasów licealnych, na którym widać, że wówczas pani ulubioną rozrywką były orgie seksualne z udziałem zwierząt futerkowych. Dzisiaj już można to zrobić, mając pani zdjęcie, nawet obecne – można odmłodzić pani twarz komputerowo, ale jeszcze nie jest to perfekcyjna metoda.

Sztuczna inteligencja jako narzędzie do perfekcyjnego śledzenia ludzi, a z drugiej – perfekcyjnego ich kompromitowania, fałszowania rzeczywistości.

To coś, czego ja się naprawdę boję – znacznie bardziej niż tego, że stracimy pracę z powodu AI. A nawet tego, że wybuchnie wojna i będzie sterowana przez sztuczną inteligencję. Ten niebezpieczny potencjał dostrzegam dziś już naprawdę bardzo blisko.



REO POLECA

📻Magda Gacyk: Sztuczna inteligencja daje nadzieję na poradzenie sobie z jedną z najstraszniejszych chorób świata!