Żyjemy w epoce, w której gwałtowny, permanentny rozwój sztucznej inteligencji przeobraża i będzie zmieniał nasze życie w wielu dziedzinach, wymuszając adaptację społeczeństwa do nowych warunków.
Zdaniem wielu uczonych, filozofów, ludzi biznesu (np. S. Hawkinga, M. Tegmarka, N. Bostroma, B. Gatesa, E. Muska, J. Glenna) ludzkość wchodzi w nową erę, gdy ludzi zastąpią modyfikowani przez sztuczną inteligencję postludzie, tych zaś zastąpią w dalszej perspektywie syntetyczne superinteligencje. Niektórzy futurolodzy wieszczą nadejście momentu tzw. osobliwości technologicznej, czyli hipotetycznego stanu cywilizacji, kiedy maszyny osiągną poziom inteligencji przewyższający ludzi, a ich rozwój będzie dla człowieka już całkowicie nieprzewidywalny. Tym trendom patronuje transhumanizm, ruch społeczny o charakterze filozoficznym i politycznym, głoszący, iż nauka i technika pozwolą kierować ewolucją ludzkości, dając początek radykalnym zmianom natury ludzkiej: od poszerzenia zakresu percepcji, po zatrzymanie chorób i procesów starzenia, aż do uzyskania nieśmiertelności biologicznej1.
SUSAN SCHNEIDER w eseju Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów (w oryginale Artificial You: AI and the Future of Your Mind, University Press, Princeton 2019) podejmuje wszechstronnie i wieloaspektowo problem świadomości sztucznej inteligencji oraz potencjalnych społecznych i filozoficznych następstw tego zjawiska, które jest etycznym wyzwaniem: Jeśli bowiem nie będziemy ostrożni, możemy doprowadzić do pojawienia się jednej lub wielu przewrotnych konsekwencji SI – do sytuacji, w której nie będzie ona ułatwiać nam życia, ale sprawi, że będziemy cierpieć, doprowadzi do naszej zagłady albo wyzysku innych świadomych bytów (s. 10).
Spór o możliwość sztucznej (resp. maszynowej, syntetycznej, cyfrowej) świadomości jest sensowny, merytoryczny, gdy panuje przynajmniej przybliżona zgoda co do zakresu i treści terminu świadomość. Na oblicze współczesnej dyskusji o świadomości znacząco wpłynęła dystynkcja wprowadzona przez amerykańskiego filozofa umysłu N. Blocka na świadomość fenomenalną i świadomość dostępu2. Możemy zatem operować mocniejszym (świadomość fenomenalna) lub słabszym pojęciem świadomości (świadomość dostępu)
i stosownie do przyjętych założeń konkluzja o świadomości SI może jawić się nam jako oryginalna lub banalna. Pisząc o świadomości, Schneider odnosi się do świadomości fenomenalnej, którą odróżnia od funkcjonalnej (resp. poznawczej), czyli w sensie zbliżonym do świadomości dostępu w ujęciu N. Blocka.
Wstępnie należy stwierdzić, że sztuczna świadomość jeszcze nie istnieje, nie wiadomo nawet, czy w ogóle kiedyś powstanie – bo nie dla wszystkich jest to oczywiste3. Spór toczy się zatem między zwolennikami tezy o możliwości sztucznej świadomości, jej przeciwnikami oraz tymi, którzy pozostawiają tę kwestię jako otwartą. Naturalizm biologiczny4 definiuje Schneider jako stanowisko negujące możliwość sztucznej świadomości (np. S. Blackmore, M. Gazzaniga), głoszące, że substratem świadomości mogą być wyłącznie struktury biologiczne. Słusznie, jak sądzę, odrzuca wniosek z zaproponowanego przez J. Searle’a eksperymentu myślowego chiński pokój, jako rzekomo przesądzającego niemożliwość świadomości SI. Technooptymizm (np. R. Kurzweil, D. Chalmers, D. Dennet, J. Bach) to stanowisko, które głosi, że powstanie świadomości maszynowej jest możliwe. Technooptymizm ma podstawę w funkcjonalizmie, czyli w poglądzie na temat relacji umysł-ciało, głoszącym, że sfera mentalna może mieć różne substraty, ale musi egzemplifikować przyczynowo tę samą strukturę funkcjonalną5. Warunki powstania świadomej SI zostaną spełnione, gdy powiemy, że jest ona: możliwa logicznie (niesprzeczna pojęciowo), możliwa nomologicznie (nie kłóci się z prawami przyrody), możliwa technologicznie (jesteśmy w stanie ją zbudować). W sporze między przeciwnikami i zwolennikami bytu sztucznej świadomości Schneider zajmuje stanowisko agnostyczne: […] jest zwyczajnie za wcześnie, by określić, czy sztuczna świadomość jest możliwa (s. 39), przewidując, że tę kwestię rozstrzygnie przyszłość: Niepewność, przed którą stoimy, każe mi przyjąć stanowisko pośrednie między technooptymizmem i naturalizmem biologicznym. Nazwę je po prostu podejściem »poczekamy, zobaczymy« (s. 54).
Niemniej istotny jest aspekt epistemologiczny-metodologiczny problemu, czyli jak rozpoznamy hipotetyczną świadomość, której nośnikiem byłyby artefakty. Schneider proponuje trzy testy. Pierwszy z nich to test odwróconego Turinga, czyli zestaw pytań dających dostęp do tego, co się dzieje wewnątrz domniemanego umysłu. Ów test ma charakter warunku wystarczającego, wszak można wyobrazić sobie byt obdarzony świadomością fenomenalną, który go nie zalicza. Drugi to test implantu, czyli zastępowanie struktur biologicznych implantami, sprawdzając każdorazowo, czy życie mentalne nadal jest podtrzymywane. Trzeci sprawdzian oferuje zintegrowana teoria informacji G. Tononiego, wedle której świadomość to zintegrowana struktura informacyjna. Każdy byt jest świadomy, gdy posiada minimalną wartość poziomu integracji informacji Φ, będącą ilościową miarą świadomości fenomenalnej. Wskaźnik Φ trudno uznać za miarodajne kryterium, bo test na świadomość zalicza fotodioda, a nie wyspecjalizowane bardzo szybkie komputery. Nie wiadomo nawet, czy wskaźnik Φ jest warunkiem koniecznym świadomości.
Zdaniem autorki, należy zachować ostrożność etyczną w przypadku fuzji umysłu ze sztuczną inteligencją, tym bardziej że wbrew fuzjooptymistom (M. Kaku, R. Kurzweil, E. Musk) nie istnieje żadna przekonująca teoria tożsamości osobowej, potrafiąca empirycznie dowieść, że umysł rozumiany obliczeniowo zachowa ciągłość psychiczną na innym substracie niż mózg. Unikalny casus śmiertelnie chorej na nowotwór Kim Suozzi, która korzystając z krioniki, zdecydowała się zamrozić aż do momentu, gdy technologia będzie w stanie ją wyleczyć i przywrócić do życia jej mózg, stanowi punkt wyjścia do pytań o możliwość transferowania umysłu na trwalszy niż biologiczny nośnik, co pozwala żywić nadzieję na nieśmiertelność biologiczną. Jeżeli umysł jest bytem, który umożliwia działanie programu komputerowego, to teoria konkretyzacji programu jest do uzgodnienia z dowolnym rozwiązaniem problemu psychofizycznego: panpsychizmem, dualizmem substancji, dualizmem własności, fizykalizmem, idealizmem. Ponieważ nie wiemy, kiedy konkretyzacja wzoru (resp. osoby) programu komputerowego może przetrwać, to: Należy się zastanowić, czy możemy powiedzieć, uwzględniając daną definicję osoby, że po tych radykalnych zmianach nadal będziesz istnieć. A może raczej zastąpi cię ktoś inny lub coś innego? (s. 111).
Spotkanie z obcymi cywilizacjami z kosmosu, które mogą być bardziej rozwinięte niż nasza i niekoniecznie przyjaźnie nastawionymi, sugeruje zachowanie daleko posuniętej roztropności: […] spotkanie z choćby jedną wrogą cywilizacją na milion może okazać się zgubne. Być może któregoś dnia osiągniemy stadium, w którym będziemy mogli być pewni, że superinteligencje z kosmosu nie stanowią dla nas zagrożenia, ale na razie nie mamy podstaw, by odczuwać taką pewność (s. 156).
Szerokie spektrum problemów analizowanych w książce ilustruje bogata
w treści filozoficzne filmoteka i literatura science fiction (np. Łowca androidów, Ona, Matrix, Dzień Niepodległości, Westworld, Battlestar Galactica, Gwiezdne wojny, Jetsonowie).
Tylko twórcza symbioza między filozofią a nauką pozwoli sprostać wyzwaniu, przed którym stoimy: Udało nam się dostrzec, że nauka leżąca u podstaw nowych technologii może zakwestionować i poszerzyć nasze filozoficzne ujęcie umysłu, jaźni i osoby. Filozofia z kolei pozwala nam dostrzec, co osiągnąć mogą te technologie: czy mogą pojawić się świadome roboty, czy można by zastąpić większość mózgu mikroprocesorami i mieć pewność, że pozostaniemy sobą – i tak dalej (s. 214).
Reasumując, problem świadomości SI można rozumieć dwojako: w pełni jego złożoności lub w sposób uproszczony. W pierwszym ujęciu ma on charakter otwarty, nie ma racji, aby przyjąć lub odrzucać tę możliwość, oczekując na to, co przyniesie rozwój nauki
i technologii. W drugim ujęciu okoliczność, iż pewne SI specyficznie przejawiają kreatywność: prymitywne formy rozumowania, uczenie się, reprezentują siebie, naśladują zachowania wyrażające świadomość, działają autonomicznie, tworzą abstrakcje, prowadzi do uznania, iż SI mają niektóre cechy świadomości funkcjonalnej (np. uwaga, pamięć robocza). Jednak funkcjonalna charakterystyka świadomości jest dość ubogą formą świadomości i nie kryje się za tym nic więcej niż roszczenie, żeby zombi SI opisywać jako świadome, a spór traci charakter empiryczny i staje wyborem pewnej konwencji terminologicznej6.
Susan Schneider, Świadome maszyny. Sztuczna inteligencja i projektowanie umysłów, przeł. J. Bednarek, Wydawnictwo Naukowe PWN, Warszawa 2021.
Przypisy:
1 Cele transhumanizmu, szanse i zagrożenia, jakie niesie, zostały wyłożone w 1998 r. w: Deklaracji transhumanistycznej przez filozofów N. Bostroma i D. Pearce’a. Por. N. Bostrom, Superinteligencja: scenariusze, strategie, zagrożenia, przeł. D. Konowrocka-Sawa, Helion, Gliwice 2016. Zwolenniczką tego nurtu jest też S. Schneider.
2 W 1997 r. Ned Block w rozprawie On a Confusion about a Function of Consciousness dokonał podziału na: świadomość zjawiskową, fenomenalną (phenomenal consciousness), do której zaliczył subiektywne przeżywanie wrażeń (np. smak czekolady), spostrzeżeń, emocji i świadomość dostępu (access consciousness), czyli kompetencję do wykorzystywania informacji w rozumowaniu, w kontroli działań i mowy. Świadomość dostępu wiąże się ściśle z poznaniem, intencjonalnością, zawiera zawsze treści reprezentacyjne, a jej przykładami są myśli, przekonania i pragnienia. Świadomość fenomenalna to świadomość ujęta z punktu widzenia pierwszej osoby, zaś świadomość dostępu to świadomość widziana z perspektywy trzeciej osoby, czyli zewnętrznego obserwatora. Jakkolwiek zdaniem Blocka świadomość fenomenalna i świadomość dostępu zazwyczaj idą w parze, to możliwe są sytuacje posiadania świadomości dostępu bez fenomenalnej świadomości, np. zombi behawioralnie nieodróżnialni od bytów świadomych. Block, wykładowca w MIT, rozpowszechnił też metaforę umysłu jako oprogramowania mózgu. Problem istnienia zombi, czyli istot pozbawionych świadomości, jednak nieodróżnialnych na podstawie zachowania od istot świadomych, spopularyzował David Chalmers, australijski filozof umysłu. Oczywiście, zombi z eksperymentów myślowych filozofii umysłu nie ma nic wspólnego z zombi z horrorów czy wierzeń voodoo w kulturze haitańskiej.
3 W 2023 r. Blake Lemoine, inżynier pracujący w Google, ku zdziwieniu swoich przełożonych, oznajmił światu, że program Language Model for Dialogue Applications, czyli LAMDA, jest tworem świadomym. Owo stwierdzenie nie było niczym więcej niż prowokacją intelektualną, ale też świetnym chwytem marketingowym, który miał przekonać opinię publiczną o nieograniczonych perspektywach branży SI.
4 Termin naturalizm biologiczny jest mocno wieloznaczny. Zazwyczaj kojarzy się on z rozwiązaniem problemu psychofizycznego, zaproponowanym przez J. Searle’a, próbującym usytuować się kompromisowo między materializmem redukcjonistycznym a dualizmem własności. Searle, jakkolwiek jest znany ze słynnego eksperymentu myślowego chiński pokój, odmawiającego komputerom cyfrowym zdolności rozumienia, a tym samym świadomości, porównujący je do maszyn działających na zasadach syntaktycznych, dopuszczał uzyskanie świadomości przez struktury neuromorficzne.
5 Stanowisko to – wyrażone implicite przez A. Turinga w artykule Computing Machinery and Intelligence w 1950 r. – zostało w pełni wyartykułowane w artykule H. Putnama Minds and Machines w 1960 r. Funkcjonalizm jest neutralny ontologicznie, ale po dołączeniu założenia, że sfera mentalna jest realizowana przez nośniki fizyczne, staje się formą materializmu. Schneider dopuszcza się tu pewnego uproszczenia, mówiąc o komputacyjnej (obliczeniowej) teorii umysłu, tymczasem komputacjonizm (umysł to maszyna przetwarzająca informacje) i funkcjonalizm to poglądy różne. Komputacjonizm jest spójny z funkcjonalizmem, ale obydwa poglądy mogą występować niezależnie, np. P. Churchland jest komputacjonistą bez funkcjonalizmu.
6 Dlatego należy zgodzić się z opinią, że: To, czy uważamy, że maszyny mogą mieć świadomość, jest nadal w dużej mierze decyzją arbitralną, w: S. Krajewski, Umysł a metalogika, w: Przewodnik po filozofii umysłu, red. M. Miłkowski i R. Poczobut, Wydawnictwo WAM, Kraków 2012, s. 635.