Przepraszam, Dave

Widmo sztucznej inteligencji krąży nad światem. Niektórzy z jej proroków obiecują nam kokosy: doskonałych tłumaczy literatury pięknej na zawołanie, usłużne roboty w domach spokojnej starości, nieomylnych lekarzy mądrzejszych od Dra House'a, taksówki bez grubiańskich taksówkarzy oraz Worda, który rozumie, w jaki sposób chcemy ustawić marginesy w wypunktowanej liście.

Mało tego. Sztuczna inteligencja z prawdziwego zdarzenia połączy ludzką kreatywność, empatię i zdolności komunikacyjne z mocą obliczeniową najnowocześniejszych procesorów. Myślące maszyny rozwiążą wszystkie problemy i wyręczą nas we wszystkich obowiązkach. Rewolucja technologiczna zaniesie cały świat w przeciągu dekady do Elizjum leniwego dobrobytu.

Hola, hola! wołają inni. Sytuacja wcale nie jawi się tak różowo. W fazie przejściowej sztuczna inteligencja zabierze ludziom etaty. Tłumacze, opiekunowie, Dr House, złotówy i specjaliści od pakietu Microsoft Office wylądują en masse na bruku. Gospodarkę czeka trzęsienie ziemi, przy którym ostatni kryzys finansowy to mały pikuś.

Potem okaże się, że myślące maszyny są niezłym narzędziem do poszerzania przepaści dzielącej najbogatszy procent od pozostałych dziewięćdziesięciu dziewięciu. Nie jest wszak pewne, że inteligentny laptop będzie kosztować równie niewiele co używany Acer dla studenta. Kulczyka stać będzie na roboasystenta pomnażającego w geometrycznym tempie jego oszczędności. Ciebie, biedaku-robaku, nie.

Nowa odmiana inteligentnych, myślących, samoświadomych istot wywróci ponadto do góry nogami porządek społeczny. Pół biedy ze zbiegłymi androidami – od czego mamy policję? Gorzej, jeśli rozproszona w chmurze superinteligencja przejmie kontrolę nad komputerami ministerstw obrony i unicestwi ludzkość bronią termojądrową zachowując przy życiu garstkę pechowców, żeby bawić się ich cierpieniem.

Czy powinniśmy się radować, obawiać, bać? W zasadzie najbardziej wskazany wydaje się umiarkowany sceptycyzm. Dowcip głosi, że w dowolnej chwili od wynalezienia SI dzieli nas równe 20 lat. W latach pięćdziesiątych snuto futurystyczne fantazje na temat lat siedemdziesiątych. Skończyło się na disco. W epoce Reagana technologiczne lęki i nadzieje wiązano z nadejściem nowego milenium. Nadeszła Al-Ka'ida. Zaś obecnie co niektórzy twierdzą, iż SI wynaleziona zostanie do roku 2040.

Entuzjaści znają oczywiście tamten dowcip, ale są pewni swego: Moc obliczeniowa komputerów wzrasta, oprogramowanie radzi sobie z coraz bardziej złożonymi zadaniami. Wkrótce przestąpimy próg, za którym maszyny będą potrafiły ulepszać się same. Wyciągną się za uszy z odmętu blaszanej głupoty, a potem pójdzie już błyskawicznie.

A co, jeśli sztuczna inteligencja to tylko bajeczka dla naiwnych nerdów, fantastyczny wymysł oparty na błędnych założeniach i uproszczonych pojęciach? Kevin Kelly, założyciel magazynu Wired, w szalenie interesującym, krytycznym artykule – w tym miejscu wszystkie osoby znające angielski i dysponujące wolnym kwadransem odsyłam do oryginału – wypunktował przesłanki przyjmowane przez entuzjastów SI za pewniki:

1. Już teraz komputery robią się coraz inteligentniejsze. Na razie są jeszcze dość daleko za nami, ale postęp odbywa się w tempie wykładniczym.

2. Sztuczna inteligencja, początkowo zorientowana na określone zadania (np. rozpoznawanie twarzy Twoich pięciuset przyjaciół na Fejsbuku) przeistoczy się w inteligencję „ogólną”, taką, jaką posiadają ludzie.

3. Ludzką inteligencję da się odtworzyć w krzemie.

4. Inteligencję, w przeciwieństwie do innych części ciała, można powiększać bez ograniczeń.

5. Superinteligencja rozwiąże wszystkie nasze problemy.

Następnie Kelly ostrzelał przesłanki niczym terminator. To, co piszę poniżej, nie jest tłumaczeniem, lecz moim retellingiem.

Po pierwsze, rzecze Kelly, inteligencja nie jest wcale zjawiskiem jednowymiarowym. Jeżeli w to wątpisz, spróbuj uporządkować następujące organizmy w kolejności od najmniej do najbardziej inteligentnego: papuga, delfin, wiewiórka, ośmiornica, kot, goryl, karaluch, dwuletnie dziecko. Trudno, prawda? Być może przynajmniej jedna rzecz wydaje ci się pewna: dwuletnie dziecko posiada więcej inteligencji od karalucha. Ale pamiętaj, że karaluch pozostawiony bez opieki w kuchni świetnie sobie poradzi. Przeżyje, rozmnoży się. Dwulatek – wyleje sobie najwyżej wrzątek na głowę.

Nabrałeś zapewne podejrzeń. Zacząłeś się zastanawiać, o jakiej właściwie inteligencji mówimy. Ano właśnie! Inteligencja to pojęcie względne, złożone i szalenie trudne (niemożliwe?) do precyzyjnego zdefiniowania. Nie istnieje żadna jej prosta oś, na której komputery by nas „goniły” i na której lada chwila miałyby nas „prześcignąć”. Co to jest inteligencja?

Lista odpowiedzi na to pytanie jest niezmiernie długa, co więcej, nie ma tu zgodności nawet w sprawach podstawowych. Najlepszym tego dowodem okazało się tak zwane sympozjum Roberta Sternberga z roku 1986, podczas którego grono najwybitniejszych specjalistów w dziedzinie inteligencji próbowało ustalić, czym jest inteligencja, i które – jak wynika z podsumowania tego wydarzenia – raczej nie przyniosło rezultatów. Wypracowano kilka roboczych definicji inteligencji, niestety ich pogodzenie ze sobą okazało się niemożliwe.

– Wiesław Łukaszewski, Wielkie i te nieco mniejsze pytania psychologii, rozdział 9.1

Poza tym różne wymiary inteligencji mogą się wykluczać. To nie przypadek, że osoby o wielkich zdolnościach matematycznych zazwyczaj słabo radzą sobie z podrywaniem dziewczyn. Na ten problem wypada zresztą spojrzeć szerzej: W przyrodzie nie ma czegoś takiego jak inteligencja „ogólna”, która sprawdziłaby się w dosłownie każdej sytuacji. Gdybyśmy dali dyrektorowi Rodzynowi sonar i kazali mu przebiec szybko przez zupełnie ciemne, poplątane korytarze jaskini, to z pewnością zaraz by upadł i sobie głupi ryj rozwalił. W przeciwieństwie do nietoperza, który wszakże nigdy nie studiował zarządzania.

Każda inteligencja, z ludzką włącznie, jest specyficzna. Wyewoluowała przez miliony lat w określonym środowisku umożliwiając „nosicielowi” stawianie czoła określonemu zestawowi wyzwań. Głoszenie tezy o uniwersalnej inteligencji to jak promowanie uniwersalnego środka transportu. Rowerosamolot nie powstanie nigdy, choćby Zieloni się skręcili.

Po trzecie, niedoszli konstruktorzy HAL-a 9000 zapominają łatwo, że ludzkość umie tworzyć – i tworzy – inteligencję od zarania dziejów. Inicjacja procesu jest zazwyczaj bardzo przyjemna, a stosunkowo niedroga produkcja trwa tylko dziewięć miesięcy. Skąd więc ta niezdrowa fascynacja układami scalonymi? Skąd wiara, że białkową, biologiczną, „analogową” inteligencję da się przeszczepić na krzemowy, zerojedynkowy grunt?

Winę ponoszą zapewne maszyny Turinga, schematyczni, wyidealizowani protoplaści współczesnych komputerów, które w hipotezie Churcha-Turinga radziły sobie z dowolnie złożonymi problemami obliczeniowymi.

Dwa wątpliwe założenia kolą natychmiast w oczy. Raz, że nie wiemy, czy ludzką inteligencję da się rzeczywiście zrekonstruować przy pomocy algorytmów operujących na symbolach. Tu właśnie leży android pogrzebany. Próbujemy od pół wieku, jak dotąd z mizernym skutkiem. Dwa, że maszyna Turinga dysponuje w abstrakcyjnym założeniu nieograniczoną pamięcią i nieogranicznym czasem. Każdy, kto dokupywał kiedykolwiek kości RAM-u do peceta, każdy, kto bębnił niecierpliwie palcami wpatrzony w pasek LOADING wie, że rzeczywistość rozjeżdża się tutaj z wyobrażeniem.

Po czwarte, nawet jeśli przyjmiemy, że inteligencję można zamknąć w kilku wymiarach i że te wymiary sobie nawzajem nie przeszkadzają i że dadzą się zaprogramować w C++ – trzy wielkie „jeśli” – to stworzymy na razie nie superinteligencję, lecz zaledwie myślący, ponadprzeciętnie inteligentny, ale mieszczący się w ludzkiej skali komputer. Za marzeniem o superinteligencji stoi bowiem milczące założenie o hipotetycznie nieograniczonej rozpiętości kognitywnego potencjału. Przypuszczamy, że wskutek samej tylko ewolucji ludzie mogą stać się trzy, pięć, dwanaście razy inteligentniejsi niż są dzisiaj – ale zajmie im to miliony lat. Grzebiąc zaś z zapamiętaniem w hardwarze i softwarze jesteśmy w stanie ów proces rozpędzić.

A co jeśli – i jest to chyba „jeśli” mniejsze od tamtych trzech, które rozpoczęły poprzedni akapit – inteligencja, tak jak prędkość, posiada swoje teoretyczne maksimum? Może na dodatek nasze zdolności umysłowe już teraz dość blisko się tego maksimum znajdują? Wówczas film Kosiarz umysłów oraz opowiadanie Zrozum Teda Chianga uległyby degradacji. Z fantastyki naukowej przemieniłyby się w technofantasy.

I wreszcie: Nawet gdyby dobrotliwa, sztuczna superinteligencja powstała, wątpliwym jest, by zdołała na zawołanie uporać się z problemami trapiącymi świat: efektem cieplarnianym, głodem, biedą, klęskami żywiołowymi itd. Ich rozwiązanie wszak już teraz leży niby w zasięgu ręki. Wystarczy przestawić światową gospodarkę na niższe obroty, gwałtownie ograniczyć emisję dwutlenku węgla, zaprzestać spekulowania cenami żywności, podwyższyć podatki, uruchomić nowe mechanizmy redystrybucji, nie budować domów na terenach zalewowych.

Zanim jednak teoria przemieni się w praktykę, ludzkość musi do niej dojrzeć, tak jak musiała dojrzeć do zniesienia niewolnictwa, swobody wyznaniowej i demokracji. Przemiana światopoglądu dokonuje się powoli poprzez długi szereg małych kompromisów, w ramach ciągnących się przez pokolenia debat. Rozwiązania typu instant nie istnieją, nawet jeśli składająca się na nie lista punktów byłaby ładnie sformatowana, z równymi marginesami.

Więc może chociaż SI wymyśli lekarstwo na raka albo sposób na przedłużenie nam życia? Kevin Kelly nie pozostawia złudzeń:

Są to problemy, których samo myślenie nie rozwiąże. Żadna ilość „myślizmu” nie odkryje, jak starzeją się komórki lub jak odpadają telomery. Żadna inteligencja, nawet super cacy, nie rozpracuje działania ludzkiego ciała wskutek przeczytania całej dostępnej literatury naukowej świata i intensywnego przemyślenia jej treści. (...) [Trzeba najpierw przeprowadzić] tysiące prawdziwych eksperymentów, które dostarczą kolosalnych ilości sprzecznych danych. Potem trzeba będzie przeprowadzić kolejne eksperymenty, żeby stworzyć robocze hipotezy. Kontemplowanie potencjalnych danych nie objawi danych prawidłowych. (...) W przypadku żywych organizmów większość eksperymentów zajmuje czas mierzony kalendarzem. Nie ponaglimy powolnego metabolizmu komórki. Trzeba lat, miesięcy, przynajmniej dni, żeby uzyskać wyniki. (...) Nie ulega wątpliwości, że sztuczna superinteligencja mogłaby przyspieszyć naukowy proces. Możemy tworzyć komputerowe symulacje atomów i komórek (...), lecz dwa czynniki ograniczą ich przydatność w osiągnięciu natychmiastowego sukcesu. Po pierwsze, symulacje oraz modele są szybsze niż ich przedmioty tylko wówczas, gdy coś upraszczają. (...) Poza tym testowanie, weryfikowanie i potwierdzanie tychże modeli musi odbywać się w czasie „ludzkim”, musi dopasować się do rzeczywistego tempa zjawisk.

– Kevin Kelly

Na zakończenie tych rozważań warto wspomnieć o perpetuum mobile. Badacze renesansowi i oświeceniowi zawzięcie próbowali skonstruować maszynę tworzącą energię z niczego, bądź przynajmniej taką, która w trakcie swojego działania nie wytracałaby energii mechanicznej. W 1775 r. Królewska Akademia Nauk w Paryżu ogłosiła, że nie będzie więcej rozpatrywać nowych propozycji takich urządzeń, bo wszystkie bez wyjątku nie działają jak powinny. Nie wiedziano jednak dlaczego. Dopiero w XIX wieku odkryto prawa termofizyki, które wytłumaczyły niemożność skonstruowania „wiecznego ruchadła”.

Ze „sztuczną inteligencję” jest prawdopodobnie tak samo.