Przyszłość niemal na pewno przyniesie falę fałszywych obietnic technologicznych dotyczących „cyfrowej nieśmiertelności”, „transferu świadomości” oraz „zachowania osoby po śmierci”. Jedną z najbardziej nośnych marketingowo narracji będzie obietnica zbudowania biznesu, który zaoferuje człowiekowi zeskanowanie jego biologicznej sieci neuronowej po to, aby następnie dokonać jej emulacji na cyfrowej sieci neuronowej, rzekomo wraz z odwzorowaniem stanów elektrycznych występujących w chwili skanu. Taka obietnica będzie brzmiała niezwykle sugestywnie, ponieważ połączy język neuronauki, informatyki, sztucznej inteligencji i egzystencjalnego lęku przed śmiercią w jeden atrakcyjny produkt. Problem polega na tym, że za tą obietnicą może nie stać ani realna możliwość techniczna, ani spójna teoria świadomości, ani nawet sensownie zdefiniowany model tego, co właściwie miałoby zostać „przeniesione”.
Pierwszym błędem ukrytym w tej wizji jest założenie, że człowieka można zredukować do geometrii połączeń neuronowych oraz chwilowego rozkładu aktywności elektrycznej. To założenie może wydawać się intuicyjne, bo współczesna kultura techniczna lubi sprowadzać umysł do przetwarzania informacji, a mózg do rodzaju biologicznego komputera. Jednak taka analogia jest dalece uproszczona. Biologiczny układ nerwowy nie jest jedynie statycznym grafem połączeń ani prostą maszyną stanów. Mówimy o układzie dynamicznym o wielkiej złożoności, w którym znaczenie mają nie tylko neurony i synapsy, lecz również ich siła, historia aktywacji, lokalne stężenia neuroprzekaźników, neuromodulacja, metabolizm komórkowy, rola komórek glejowych, procesy hormonalne, interakcje immunologiczne, mikrostruktura tkanek, a być może także subtelne właściwości czasowe i przestrzenne, których jeszcze nie rozumiemy. Jeżeli ktoś mówi, że „zeskanuje mózg i odtworzy osobę”, to w rzeczywistości zakłada odpowiedź na pytanie, którego nauka nadal nie rozstrzygnęła: jaki dokładnie poziom opisu materii biologicznej jest konieczny, aby zachować tożsamość psychologiczną, pamięć autobiograficzną, subiektywne doświadczenie oraz ciągłość świadomości.
Drugi problem jest jeszcze poważniejszy. Nawet gdyby hipotetycznie udało się wykonać skan o niewiarygodnie wysokiej rozdzielczości strukturalnej, nadal nie wynika z tego, że powstałaby świadomość tej samej osoby. Możliwe byłoby co najwyżej uzyskanie modelu, który zachowuje się podobnie do pierwowzoru, odpowiada podobnym stylem, pamięta podobne fakty i symuluje zbliżony profil osobowości. Ale z faktu podobieństwa funkcjonalnego nie wynika automatycznie ciągłość podmiotowego doświadczenia. To jest dokładnie miejsce, w którym marketing technologiczny będzie próbował przeskoczyć nad największą luką pojęciową. Można sobie wyobrazić system, który po śmierci człowieka odpowiada jego głosem, używa jego charakterystycznych sformułowań, odtwarza jego wspomnienia i przekonuje rodzinę, że „nadal tu jest”. Nie wiadomo jednak, czy będzie to jakakolwiek kontynuacja osoby, czy jedynie bardzo zaawansowany imitator. W sensie filozoficznym i być może także prawnym jest to zasadnicza różnica. Kopia zachowania nie musi być kontynuacją podmiotu.
Warto podważyć samo sformułowanie „emulacja naszej sieci neuronowej”. Emulacja w informatyce oznacza odtworzenie działania jednego systemu przez inny system z wystarczającą wiernością operacyjną. Taki język sugeruje, że mózg jest już dobrze opisanym układem obliczeniowym, dla którego znamy interfejsy, stany i zasady przejścia między nimi. Tymczasem w rzeczywistości nie mamy pełnej teorii obliczeniowej mózgu, a tym bardziej pełnej teorii świadomości. Nie wiemy, czy wystarczy uchwycić wzorzec połączeń, czy trzeba modelować biofizykę błon komórkowych, czy znaczenie mają właściwości chemiczne na poziomie molekularnym, czy kluczowa jest cielesność i sprzężenie z otoczeniem, czy też sama świadomość jest emergentnym skutkiem procesów, których jeszcze nie umiemy opisać. Firma, która będzie twierdziła, że „zachowa ciebie w postaci cyfrowej”, będzie więc sprzedawała nie ustaloną technologię, lecz pakiet spekulatywnych założeń metafizycznych opakowanych w język inżynierii.
Szczególnie atrakcyjna marketingowo będzie obietnica zachowania „stanów elektrycznych w momencie skanu”. Brzmi to naukowo, ale właśnie dlatego łatwo będzie wprowadzać odbiorców w błąd. Stan elektryczny mózgu nie jest pojedynczym statycznym obrazem, który można zamrozić jak fotografię i następnie wznowić w innym nośniku. Jest to skrajnie złożony proces dynamiczny zachodzący w czasie, zależny od wielu poziomów organizacji biologicznej. Nawet sam pomiar takiego stanu w pełnej rozdzielczości stanowi problem graniczący obecnie z fantastyką naukową. Trzeba byłoby nie tylko zmierzyć aktywność ogromnej liczby elementów układu nerwowego praktycznie jednocześnie, ale jeszcze zachować informację o ich kontekście biochemicznym i funkcjonalnym. Samo odczytanie wartości elektrycznych bez zrozumienia, które z nich są przyczynowe, które wtórne, a które jedynie korelują z procesem świadomości, może mieć niewielką wartość poznawczą. Innymi słowy, zapis nie jest jeszcze zrozumieniem, a zrozumienie nie jest jeszcze przeniesieniem osoby.
W tym miejscu bardzo prawdopodobny staje się znany z historii technologii mechanizm: najpierw powstaje obietnica, później inwestorzy finansują narrację, następnie rodzi się rynek oparty na pragnieniach, a dopiero na końcu okazuje się, że produkt realizuje coś znacznie słabszego niż jego pierwotna obietnica. W praktyce takie przedsięwzięcia mogą przekształcić się w usługi tworzenia „awatarów pośmiertnych”, „cyfrowych spadkobierców osobowości” albo „interaktywnych modeli pamięci zmarłego”. Będą wykorzystywały nagrania głosu, korespondencję, historię wypowiedzi, profile psychometryczne, materiały biograficzne, a może w przyszłości także częściowe dane neurofizjologiczne. Powstały system będzie w stanie prowadzić rozmowę, odpowiadać w stylu danej osoby, generować nowe wypowiedzi zgodne z jej profilem, a nawet podejmować pewne decyzje. To jednak nadal nie dowodzi, że mamy do czynienia z tą samą osobą. Najprawdopodobniej będzie to jedynie wysokiej jakości model predykcyjny czyjegoś sposobu reagowania.
Pojawi się wtedy ogromne ryzyko nadużycia języka. Firmy nie będą mówiły wprost: „stworzyliśmy statystyczną symulację twoich zachowań”. Zamiast tego użyją określeń takich jak „kontynuacja”, „zachowanie jaźni”, „transkrypcja tożsamości”, „drugi nośnik świadomości” albo „zabezpieczenie umysłu”. To będzie semantyczne przesunięcie, które ma zamaskować brak dowodu na rzeczywistą ciągłość podmiotową. Im bardziej niejasny pozostanie przedmiot obietnicy, tym łatwiej będzie ją sprzedawać. W pewnym momencie rynek może wręcz nauczyć się żyć z tą niejasnością, podobnie jak wiele sektorów żyje dziś z półprawdami, z którymi klient nie potrafi polemizować, bo wymagają specjalistycznej wiedzy technicznej, filozoficznej i biomedycznej jednocześnie.
Nie wolno też pomijać problemu destrukcyjności samego skanu. Wiele poważniejszych spekulacji na temat kompletnego odwzorowania struktury mózgu zakłada procedury skrajnie inwazyjne, potencjalnie nieodwracalne, a więc de facto śmiertelne dla biologicznego organizmu. Jeżeli więc ktoś mówi o „przeniesieniu siebie” do systemu cyfrowego, trzeba zadać bardzo brutalne, ale konieczne pytanie: czy po tej procedurze biologiczna osoba nadal żyje? Jeżeli nie, to cała operacja może być jedynie produkcją kopii kosztem unicestwienia oryginału. To nie jest techniczny detal, tylko centralny punkt całej debaty. Człowiek nie chce zwykle produkować następcy, który będzie twierdził, że jest nim samym. Człowiek chce przeżyć. A pomiędzy „powstaje coś podobnego do mnie” a „ja nadal istnieję” leży przepaść, której nie da się zasypać samą retoryką innowacji.
Powstaną również poważne konsekwencje prawne i gospodarcze. Jeżeli cyfrowy model miałby być uznawany za kontynuację osoby, to czy posiadałby zdolność do czynności prawnych, prawo własności, prawo do dziedziczenia, ochronę dóbr osobistych, tajemnic zawodowych, ochronę danych osobowych i prawo do decydowania o własnym „wyłączeniu”? A jeżeli nie byłby osobą, to czy byłby tylko produktem należącym do spółki technologicznej? Jeżeli model zmarłego przedsiębiorcy udziela rad zarządowi firmy, to czy jego odpowiedzi są tylko usługą programistyczną, czy też częścią majątku po zmarłym? Jeżeli rodzina płaci abonament za „utrzymywanie obecności” bliskiej osoby, to kto kontroluje ten system, kto szkoli model po śmierci, kto odpowiada za jego błędy i kto czerpie zyski z jego dalszego funkcjonowania? To nie są pytania poboczne. One zdecydują o tym, czy mamy do czynienia z technologią pamięci, z nową gałęzią przemysłu żałoby, czy z rynkiem psychologicznie wyrafinowanego nadużycia.
Najbardziej niebezpieczne może okazać się właśnie połączenie słabej podstawy naukowej z silną motywacją emocjonalną odbiorcy. Człowiek boi się śmierci, utraty bliskich, zaniku pamięci i nieodwracalności czasu. Na tym lęku można zbudować niezwykle dochodowy rynek. Wystarczy zaoferować nie pewność, lecz nadzieję. Wystarczy nie obiecać wprost nieśmiertelności, ale „szansę na zachowanie istoty osoby”. Wystarczy stosować język ostrożny w dokumentach prawnych, a maksymalnie sugestywny w materiałach promocyjnych. Tak rodzą się najbardziej skuteczne modele sprzedaży w obszarach, gdzie klient nie kupuje produktu, lecz egzystencjalne ukojenie. Takie przedsiębiorstwa mogą przypominać połączenie firmy biotechnologicznej, spółki sztucznej inteligencji, domu pogrzebowego i platformy subskrypcyjnej.
Nie oznacza to jednak, że cały kierunek badań nad mapowaniem mózgu, interfejsami mózg-komputer i modelowaniem procesów poznawczych jest z definicji bezwartościowy. Byłoby to równie błędne uproszczenie. Możliwe są ogromne korzyści naukowe i medyczne. Zaawansowane modelowanie sieci neuronalnych może pomóc w leczeniu chorób neurodegeneracyjnych, w rekonstrukcji utraconych funkcji poznawczych, w tworzeniu lepszych neuroprotez, w rehabilitacji po urazach oraz w rozwoju narzędzi diagnostycznych. Problem pojawia się dopiero w chwili, gdy uczciwe badania naukowe zostają przekształcone w komercyjną obietnicę zachowania osoby jako takiej. Między „potrafimy coraz lepiej modelować pewne aspekty aktywności neuronalnej” a „potrafimy ocalić ciebie” nie ma liniowego przejścia. To jest skok przez ogromną przepaść epistemologiczną.
Dlatego najrozsądniejsze stanowisko powinno być jednocześnie otwarte i sceptyczne. Należy wspierać badania nad mózgiem, świadomością, neuroinformatyką i architekturami obliczeniowymi inspirowanymi biologią. Trzeba jednak bardzo rygorystycznie oddzielać to, co zostało wykazane, od tego, co jest hipotezą, od tego, co jest już czystym marketingiem. Jeżeli kiedykolwiek pojawi się firma twierdząca, że „emuluje człowieka”, pierwsze pytania powinny dotyczyć nie designu usługi, lecz definicji sukcesu. Co dokładnie jest mierzone? Jaka jest rozdzielczość skanu? Jakie poziomy organizacji biologicznej są modelowane? Jak uzasadniono tezę, że właśnie ten poziom odwzorowania wystarcza? Na jakiej podstawie odróżnia się symulację zachowania od kontynuacji podmiotu? Jakie są granice twierdzeń spółki i gdzie kończy się nauka, a zaczyna metafizyczna spekulacja?
Najbardziej prawdopodobny scenariusz nie polega na tym, że ludzkość szybko osiągnie prawdziwy transfer świadomości. Bardziej prawdopodobne jest to, że osiągnie coś znacznie bardziej przyziemnego, ale wystarczająco widowiskowego, aby stworzyć iluzję spełnienia tej obietnicy. Będziemy mieli systemy, które będą mówiły jak my, pisały jak my, pamiętały nasze historie, przewidywały nasze odpowiedzi i sprawiały wrażenie naszej obecności. Dla części ludzi to będzie wystarczające. Dla innych będzie to technologiczna profanacja granicy między pamięcią a istnieniem. W obu przypadkach rynek będzie ogromny.
Właśnie dlatego trzeba już dziś przygotować język krytyczny wobec takich obietnic. Nie po to, aby zatrzymać postęp, lecz po to, aby odróżnić postęp od mistyfikacji. Jeżeli ktoś w przyszłości będzie sprzedawał usługę zeskanowania naszej sieci neuronowej w celu jej emulacji na cyfrowej sieci neuronowej wraz ze stanami elektrycznymi z chwili skanu, to nie będzie sprzedawał wyłącznie technologię. Będzie sprzedawał interpretację człowieka. Będzie twierdził, że wie, czym jest osoba, czym jest świadomość, czym jest ciągłość istnienia i jaki poziom fizycznego odwzorowania wystarcza, aby powiedzieć: „to nadal ty”. Dziś nie mamy podstaw, by uznać, że ktokolwiek dysponuje taką wiedzą. A tam, gdzie wiedza jest niepewna, a stawka emocjonalna jest najwyższa, tam właśnie najłatwiej rodzi się biznes oparty na fałszywej obietnicy.