– Mówi się, że przed 2040 rokiem sztuczna inteligencja dorówna ludzkim możliwościom. Jakie szanse i zagrożenia się z tym wiążą?  

– To zależy, w czym dorówna. Od dawna maszyny przewyższają nas wydolnością fizyczną, a także możliwościami obliczeniowymi. Od pewnego czasu zaczęły nas przewyższać np. w grach kombinacyjnych (jak szachy czy go). Są sprawniejsze, nieporównywalnie więcej zapamiętują, lepiej rozpoznają wzorce, mogą nas wyprzeć z różnorodnych nisz – np. w różnych sektorach zatrudnienia (przewiduje się związane z tym narastające bezrobocie), jak inżynieria budowlana, diagnostyka chorób itp., ale są to algorytmy sztucznej inteligencji, które działają według narzuconego im oprogramowania (oczywiście są też algorytmy ewolucyjne, samouczące się, w dalszej perspektywie zaś samoprogramujące się, samotworzące się). 

– Mają one jednak swój słaby punkt… 

– Wciąż są to algorytmy naśladujące nasze aktywności w sposób bezrefleksyjny, pozbawione samoświadomości. To jest tzw. słaba sztuczna inteligencja. Algorytmy owe robią wiele rzeczy świetnie, ale nie bardzo wiedzą – po co. Wykonują czynności niezwykle sprawnie, ale nie czują płynącej z tego powodu satysfakcji. Czy fenomen świadomości swojego istnienia, celowości działania, długofalowego planowania kiedykolwiek stanie się udziałem sztucznej inteligencji? Czy stanie się ona silną SI, „osobliwością”, jak określił to jeden z proroków sztucznej inteligencji, Ray Kurzweil? Być może, ale rok 2040 wydaje mi się dość optymistyczną prognozą. Zresztą ta data jest nieustannie odsuwana (podobnie jak data załogowej wyprawy na Marsa – czy nastąpi ona w ogóle w pierwszej połowie XXI stulecia – zaczynam w to powątpiewać) – mówiło się już przecież o roku 2030. 

– A co jeśli jednak do tego dojdzie? 

– Co jeśli Osobliwość objawi się światu – jeśli wizja samoreprodukującej się, samoprogramującej się, a przede wszystkim świadomej SI stanie się faktem? Przy założeniu (o którym wspomina Kurzweil), że będzie to inteligencja podwajająca swe możliwości kognitywne w tempie wykładniczym? 

– Tak… Co wtedy? 

- No cóż, może wydarzyć się literalnie wszystko. Umysł wielokrotnie przewyższający człowieka inteligencją jest niemożliwy do kontrolowania – od jego dobrej lub złej woli uzależniony będzie los naszego gatunku. Oczywiście nacechowane konwencjonalną aksjologią (dualizm dobra i zła) scenariusze działania „sztucznego boga” są dość prymitywne; raczej jego motywacja znajdzie się poza/ponad naszymi możliwościami rozpoznawczymi – może z tego wyniknąć, jak już wspominałem, dosłownie wszystko. W znanej noweli Stanisława Lema, zatytułowanej „Golem XIV”, myślące superkomputery powstają na zapotrzebowanie przemysłu militarnego, jednak – zamiast genialnymi strategami – okazują się filozofami czy poetami. To żart Lema z naszych oczywistych oczekiwań, tymczasem SI to technologia, którą filozofowie techniki nazywają „nieoczekiwaną” – czyli wymykającą się konwencjonalnej i spodziewanej celowości. 

– Co pan sobie pomyślał, gdy ogłoszono, że Sophia, będąca robotem, otrzymała obywatelstwo Arabii Saudyjskiej? To przełom? Czy tylko gest, który o niczym nie świadczy? 

- Poczułem się trochę nieswojo, jak w momencie, kiedy Kasparow przegrał mecz szachowy z Deep Blue, ale szybko mi przeszło. Sophia jest znakomitym dziełem inżynierii robotycznej, doskonale imituje ludzkie zachowania, mimikę, emocje, ale tych uczuć w istocie nie żywi. Akt nadania jej obywatelstwa miał charakter promocyjny i medialny, równie dobrze można by nadać obywatelstwo lodówce. Do myślących androidów z filmu „Blade Runner”, opartego na prozie znakomitego pisarza Philipa K. Dicka, droga jeszcze daleka. Ale zapewne czasy, w których będziemy się mierzyć z takimi problemami, nadejdą.   

– Czytałam kiedyś wywiad z Aleksandrą Przegalińską, którą pytano o niebezpieczeństwa związane z zastępowaniem człowieka maszynami – o to, czy będziemy narażeni na bezrobocie lub konieczność przekwalifikowania się. Powiedziała wtedy, że w starciu z technologią bardziej bezpiecznie mogą czuć się kobiety, bo one od wieków wykonują pracę opartą na relacjach społecznych. A tę jednak nieco trudniej oddać w „sztuczne” ręce. Zgadza się pan z tą tezą?  

– Chyba tak, choć przewrotnie bym zapytał – czy nie oznacza to dewolucji ideałów feminizmu – czyli cofnięcia kobiet do ich tradycyjnie pojmowanych kompetencji społecznych? Ale być może nie będziemy mieli innego wyjścia – będziemy poszukiwać przeróżnych nisz aktywności społecznej. Myślę, że tzw. miękkie kompetencje oparte na zachowaniach empatycznych będą dość długo w naszych rękach – i tu oczywiście ewolucyjnie rozwinięte możliwości kobiet w tym zakresie będą stanowić ich niewątpliwy atut. Choć można też sobie wyobrazić – przy narastającej szybkości obróbki danych, przy analizie behawioralnej zachowań ludzkich, na poziomie dla nas niewyobrażalnym – imitujące zdolności w zakresie miękkich kompetencji algorytmów pozbawionych świadomości porównywalnych lub przewyższających zdolności ludzkie w tym zakresie. Możliwe będzie okazywanie „czułości” i „zrozumienia”, paradoksalnie, bez zrozumienia.   

– A co z artystami? Algorytmy generują nam – na polecenie – grafiki, piszą teksty. Czy to oznacza, że na naszych oczach upada jeden argumentów związanych z niezwykłością naszego gatunku? Skoro nie tylko my, ludzie, tworzymy sztukę…? 

– No cóż, gdyby nie my, ludzie, nie byłoby SI, więc mimo wszystko jesteśmy dość niezwykłym gatunkiem. Nawet jeśli to SI w końcu nas przewyższy. Są różne opinie na temat przyszłości sztuki w dobie sztucznej inteligencji – grafik Piotr Cieśliński uważa, że SI nie zagraża artystom malarzom, a w każdym razie nie w większym stopniu niż wynalazek fotografii, który rzeczywiście wpłynął i zmienił sztukę obrazowania, ale jej nie wyplenił, choć były w XIX wieku formułowane takie obawy. Więc SI być może nie zniszczy sztuki malowania, ale ją zmieni? Jacek Dukaj, pisarz SF, w swoim zbiorze esejów zatytułowanym znamiennie „Po piśmie” ubolewa z kolei nad tym, że algorytmy SI będą za jakiś czas w stanie napisać powieść w ciągu kilku sekund, podczas gdy pisarzowi zajmuje to rok, chyba że nazywa się Remigiusz Mróz (zaczynam podejrzewać, że za panem Mrozem kryje się jakiś zmyślny algorytm SI). Jaki jest zatem sens pisania – zadaje Dukaj dramatyczne pytanie. Ja myślę, że problem jest innego rodzaju – i on rzeczywiście jest poważny. Algorytmy SI długo jeszcze nie będą w stanie napisać prozy klasy Dostojewskiego czy nawet Dukaja, ale zarazem ludzkość zostaje tymi algorytmami opleciona (to już się stało); algorytmami, które reagują na nasze zapotrzebowanie – wybierają nam filmy do obejrzenia, książki do przeczytania, zaczną w końcu produkować uproszczone fabuły, które będą nam zarazem polecać, a my im zaufamy. Nietrenowany mięsień obumiera, to samo dzieje się z umysłem. Umysł karmiony prostotą sam staje się prostacki. To może w jakiejś perspektywie oznaczać koniec kultury wysokiej. 

– Z jakimi problemami filozoficznymi będziemy musieli się zmierzyć za kilkanaście lat, kiedy – zgodnie z przewidywaniami – to, co uznajemy za algorytmy, okaże się nową rozumną istotą? Domyślam się, że w grę wchodzić będą np. dylematy etyczne, które dziś znamy z filmów i literatury science fiction: np.: jakie prawa przyznać sztucznym ludziom? 

– Te pytania natury etycznej już się pojawiają – np. kiedy mówi się o oprogramowaniu autonomicznych samochodów – czy ma to być oprogramowanie deontologiczne czy pragmatyczne; albo: kogo ratować ma system sterujący autem – pasażera czy przechodniów? I czym się kierować w takich przypadkach? Znany pisarz SF, Isaac Asimov, stworzył jeszcze w ubiegłym wieku dla potrzeb swojej prozy system etyczny dla robotów, tzw. prawa robotyki. Przyjął oczywiście punkt widzenia ludzki (dzisiejsza perspektywa posthumanistyczna jest zupełnie odmienna, ale też bardzo, moim zdaniem, niebezpieczna) – roboty, pomimo posiadania jakiegoś stopnia inteligencji i świadomości, traktowane są jak narzędzia, jak niewolnicy, co już samo w sobie wydaje się nieetyczne. Czy my mamy w ogóle prawo pętać aksjologicznie istoty nam dorównujące lub nas przewyższające? W tym drugim wypadku problem sam się rozwiąże – nie będziemy mieli możliwości ograniczania wyższych rozumów, o czym już pani mówiłem. Z drugiej strony, jest to oczywiście z naszej strony element jakiejś samoobrony (sądzę, że niezbyt skutecznej). My sami jesteśmy algorytmami podlegającymi oprogramowaniu – uniwersalny program przetrwania, samozachowania warunkuje nasz sposób istnienia od setek tysięcy lat. Ale też, jako istoty świadome, potrafimy to oprogramowanie obejść, przełamać. A cóż dopiero inteligentna SI? 

Ja bym postawił więc inny problem, chyba stosunkowo rzadko poruszany. Jaki być może system etyczny sztucznych inteligencji? Jaką etykę, jaką aksjologię, jaką ontologię czy w ogóle filozofię rozwiną? Jaką teorię poznania, przy założeniu, że ich sensorium będzie o wielokroć potężniejsze od naszego? Czy znajdzie się w ich etyce miejsce dla nas? Jak będą nas postrzegać? Oceniać? Boję się, że dość surowo – zasłużyliśmy sobie na to. W każdym razie tu rysuje się niezwykła perspektywa. 

– Wspomniałam o filmach i literaturze, które chętnie przecież rozwijają wizję buntu maszyn. Jak sprawić, by sztuczna inteligencja nie stała się dla ludzkości zagrożeniem?  

– Wydaje mi się, że jesteśmy trochę niewolnikami antropocentrycznego sposobu postrzegania świata. Myślimy w kategoriach nas charakteryzujących, w czym nie ma zresztą niczego niezwykłego. Tymczasem świat nie musi tak działać, jak tego oczekujemy, np. nie musi być celowy. Także nasze negatywne oczekiwania są dość konwencjonalne. Ma pani rację – literatura i filmy SF aż puchną od tych buntowniczych knowań przeróżnych Terminatorów. Ja bardziej się boję, że SI okaże nam obojętność. Że potraktuje nas jak element krajobrazu, który można zachować, ale wcale nie trzeba. Nie będzie sztucznymi rozumami kierować intencyjna złośliwość w stosunku do nas, raczej pragmatyczna obojętność. Co możemy zrobić? Starać się nie być uciążliwymi. Nie rzucać się w oczy. Żyć mądrze. Albo zaprzestać badań nad SI – w to ostatnie nie wierzę. 

– W styczniowym numerze „Nowej Fantastyki” ukazało się pańskie opowiadanie - czy oznacza to, że pracuje pan nad kolejnymi tekstami?  

– Tak, reaktywowałem się twórczo jakiś czas temu – ciągle chce mi się pisać, ciągle znajduje się ktoś, kto chce mnie drukować. Mam plany. Piszę fantastykę dość nietypową (nieżyjący już niestety, legendarny redaktor „Fantastyki” Maciej Parowski, dla podkreślenia mej osobności i osobliwości twórczej nazwał kiedyś prozę, którą uprawiam „sobota fiction”), nie jest to fantastyka naukowa sensu stricto, raczej fantasy z silnymi elementami filozoficzno-teologicznymi, eksperymentująca z ontologią przedstawionego świata. Niebawem z tych nowych tekstów utkana zostanie zapewne książka – jeszcze nie wiem, gdzie ją wydam. Mam plany – nie mam natomiast czasu. 

Rozmawiała: Daria Bruszewska-Przytuła 

Dr Jacek Sobota – adiunkt w Instytucie Filozofii. Wśród swoich zainteresowań badawczych wskazuje m.in. filozofię i aksjologię literatury, filozofię kultury masowej, aksjologię trendów społecznych i ontologię światów fantastycznych. W 2022 roku ukazała się kolejna książka, w której daje wyraz tych fascynacji: „O fantastyce – filozoficznie”. Wydał dwa zbiory opowiadań („Padlina” i „Wieczór trzech psów”) oraz powieść zatytułowaną „Głos Boga”. 

W lutym redakcja „Wiadomości Uniwersyteckich” jako temat przewodni numeru wybrała sztuczną inteligencję. Zapytaliśmy przedstawicieli naszego Uniwersytetu, którzy na co dzień przyglądają się SI, jakie szanse i zagrożenia towarzyszą rozwojowi algorytmów. Przedstawiliśmy także kilka przykładów badań prowadzonych na UWM, które z powodzeniem wykorzystują osiągnięcia w dziedzinie sztucznej inteligencji. Jak co miesiąc nie zabrakło też informacji z życia uczelni oraz wiadomości o sukcesach społeczności akademickiej. Elektroniczne wydanie „Wiadomości Uniwersyteckich” można pobrać ze strony internetowej UWM.