• Argument "Deus ex machina"
• Domniemanie/poświęcenie
• Czarna skrzynka AI
• Tabu poznawcze
• Osioł, sowa, chłopak
• Zakazany owoc i wygnanie z raju
• Dzieciństwo maszynowe
• Krypta z tajemnicą szczęścia
• Pisanie to myślenie

Dla kogoś kto lubi dyskutować, przytaczać argumenty, powoływać się na naukę i dane może być frustrujące zderzenie z rozmówcą, który nagle powołuje się na tradycję albo na Boga. Staram się bronić tego, choć wydaje się to niektórym złamaniem zasad gry, intelektualnym faulem.

Wyobraźmy sobie naukowca-reformatora, człowieka który korzystając dorobku nauki proponuje wprowadzenie zmian na lepsze. Możemy mieć nadzieję, że wychodząc od powszechnie uznawanej wiedzy i idąc dalej w oparciu o najlepszą dostępną teorię oraz educated guess, zmierza do lepszej realizacji celów ogółu.

Niestety, naukowiec może być nazbyt przywiązany do projektu i upierać się, że “w końcu musi się udać”, kiedy społeczeństwo będzie tracić cierpliwość. Jak przeciwstawić się bardziej inteligentnemu i sprawnemu werbalnie reformatorowi, który zakochany w zgłębionej teorii odmawia porzucenia eksperymentu? Wchodząc na jego teren wychodzi się na dyletanta. Nie oczekujmy, że podporządkuje mu się każdy kto go nie “pokona na argumenty”, nie pokaże błędu w teorii albo pomyłki w rozumowaniu. Na przełom naukowy, który wyjaśni jego błąd być może będzie trzeba długo czekać, a nie każdy eksperyment można ciągnąć w nieskończoność.

Przyznaję konserwatyście przywilej odwołania się do tradycji lub Boga, ponieważ pełni on ważną rolę. O ile dwóch naukowców reformatorów mających konkurencyjne pomysły musi ścierać się na argumenty przed władzą polityczną, za utrzymaniem status quo też stoi pewna logika: co dłużej zdołało istnieć, zapewne więcej przetrwa.

Tak jak potrzebujemy naukowców-reformatorów, którzy mają śmiałość (lub pychę) żeby projektować ambitne reformy, tak potrzebujemy ludzi (w różnym stopniu) konserwatywnych, którzy będą umieli powiedzieć STOP, nie martwiąc się tym, że w reformie nie potrafią wskazać błędu. Ludzie niechętni zmianom są nogą społeczeństwa stojącą na pewnym gruncie reprodukcji, dzięki którym druga noga może badać nieznany teren, szukając kierunku na kolejny krok.

Abrahma była znana. Uznana.
Odważna i oddana sprawie.
Jej głos dużo znaczył. Wyznaczała kierunek.
Była wzorem, niepodważalnym prawie.

Prywatnie - matka. Jedno dziecko - syn.
Już dorosły. Zaraz stracić go miała.
Padł na niego cień. OnTeż, jak ci przed nim.
Niech krwawi, niech tonie, niech go ogień pochłonie.

Gdy objawi jej głos
Że nie po to był stos
Czy uwierzą kobiecie
Czy podzieli z nim los?

Odkąd wzrosło zainteresowania tematyką sztucznej inteligencji, mówi się też więcej o potencjalnych zagrożeniach. Część obaw opiera się na problemie tak zwanej czarnej skrzynki, czyli trudności w zrozumieniu AI. Typowe przykłady to zastosowania, gdzie błąd doprowadza do czyjejś śmierci albo aresztowania. Decyzja modelu jest niezrozumiała, nie jest jasne czy i jak ją podważyć, do kogo się odwołać, kto i za co jest odpowiedzialny. AI staje się idealnym miejscem do ataków i manipulacji. Tego rodzaju scenariusze warto upowszechniać, żeby każde zastosowanie sztucznej inteligencji spotkało się ze zdrową dawką sceptycyzmu. To, czego mi brakuje, to zarysowanie zakresu problemu. Są przykłady zastosowań, gdzie sztuczna inteligencja wnosi wartość, a problem czarnej skrzynki nie występuje, jest rozwiązany albo nie jest tak istotny. Wydaje mi się to ważne, żeby uniknąć wrażenia, że sieci neuronowe albo uczenie maszynowe jako całość jest skażone.

Kiedy niepotrzebne są wyjaśnienia

Zacznę od przykładów użycia codziennego. Piszę ten tekst, mówiąc na głos, a dźwięk jest zamieniany na tekst dzięki sztucznej inteligencji. Kiedy wprowadzam literę po literze, model językowy podpowiada resztę słowa. Mogę użyć aparatu w telefonie, żeby skopiować napisy napotkane poza ekranem. Mogę wygenerować dziecku kolorowankę z pandą na jednorożcu. Te zastosowania sztucznej inteligencji są na problem czarnej skrzynki obojętne. Jeżeli widzę oczekiwany wynik, to nie interesuje mnie, co się dzieje w sieci neuronowej.

Sytuacja, kiedy wynik potrafimy zweryfikować, pomyłka nie jest groźna, a sukces oszczędza pracy, występuje też w mniej codziennych zastosowaniach: badania przesiewowe w medycynie, szukanie nowych materiałów, leków czy konstrukcji matematycznych o zadanych właściwościach. Tam praca z natury rzeczy polega na weryfikacji, a sztuczna inteligencja może w wielkiej puli wskazać gdzie zacząć szukać.

Kiedy AI dostarcza wiedzę

Może być dużo lepiej, jeżeli model, proces uczenia lub użycia będzie zaprojektowany tak, żeby dostarczał wiedzę. FunSearch proponował konstrukcje matematyczne nie wprost, ale w formie fragmentu kodu generującego - dzięki temu matematycy mogli dostrzec nowe właściwości badanego problemu, a nie tylko otrzymać odpowiedź do zweryfikowania. W wykładzie pt. "Friends Don’t Let Friends Deploy Black-Box Models" opisano model do oceny pacjentów z zapaleniem płuc zaprojektowany tak, że pozwolił zauważyć i skorygować problemy ukryte w danych, wyjaśnić działanie modelu lekarzom, a nawet dostarczyć im wiedzy o leczeniu, niezależnej od wdrożenia (lub nie) AI w placówkach medycznych.

Nawet jeżeli model nie był trenowany z myślą o interpretacji, powstały i są rozwijane metody dające pewien wgląd w konkretne przewidywania albo w model jako taki. Gdybyśmy znaleźli przypadkiem taką czarną skrzynkę, sieć neuronową, która w niezrozumiały sposób potrafi dobrze coś wykrywać, to nawet jeżeli nigdy go nie wdrożymy, możemy próbować wydobyć z niego wiedzę. Analiza wartości pośrednich w sieci w połączeniu z dużym modelem językowym może dać tekstowy opis funkcji neuronów. Na przykład tych, od których najbardziej zależy odpowiedź modelu. Jeżeli ekspert dziedzinowy (np. lekarz) będzie zaskoczony, że opisane wzorce są istotne dla wyniku, może weryfikować hipotezę związku między wzorcem a predykcją już niezależnie od znalezionego modelu.

Asystent, nie podmiot

Problem czarnej skrzynki można też zredukować, inaczej projektując wdrożenie AI. Zamiast udzielać krótkiej odpowiedzi bez wyjaśnienia, model może wyszukiwać istotne informacje, wskazać źródła i pozostawić decyzję człowiekowi. Lekarz może otrzymać listę przypadków historycznych pacjentów podobnych do tego, którego próbuje zdiagnozować. Obywatel, opisując pytanie lub problem językiem potocznym, dzięki AI może zostać skierowany do odpowiedniego dokumentu administracji. Na obrazie z badania medycznego można wskazać który fragment jest szczególnie warty uwagi.

Oczywiście, metody wyjaśniania też mogą podlegać atakom i być zwodnicze. Model może wskazać lekarzowi fragment obrazu, gdzie nie ma nic ciekawego i zmarnować jego czas. W zależności od szczegółów wdrożenia i podejścia użytkownika to może, ale nie musi, być problem.

Granice problemu

Na koniec, przewrotnie, zastanowiłbym się nad tym, czy poza AI nie polegamy już na czarnych skrzynkach. Jeżeli martwię się, że wyszukiwarka zintegrowana z dużym modelem językowym ukryje przede mną istotny artykuł, to czy mogę być spokojny w przypadku tradycyjnej wyszukiwarki? Czy nowinki w medycynie są wdrażane, kiedy są zrozumiane na każdym poziomie, czy może wystarczy statystyczne potwierdzenie skuteczności i bezpieczeństwa w badaniach klinicznych na próbie pacjentów?

Problem czarnej skrzynki jest ważny, trzeba o nim pamiętać i odrzucać nieodpowiedzialne wdrożenia. Jednocześnie nie należy wrzucać zbyt wielu rzeczy do jednego worka. Poza modą na AI warto też rozpowszechniać wiedzę o wyjaśnialnym AI.

Zdałem sobie sprawę, że miałem kiedyś błędne intuicje na temat tego skąd pochodzą współczesne tabu, a w każdym razie pewien rodzaj, który można nazwać “tabu poznawcze”.

Tabu jako zakaz może dotyczyć czegoś czego nie można zrobić albo powiedzieć, przynajmniej w określonych okolicznościach. Tabu poznawczym nazywam zakazy obejmujące wiedzę, której nie należy próbować zdobyć; pytania, których nie wolno zadawać; eksperymenty, których nie należy przeprowadzać - nie ze względu na etyczne wątpliwości wobec procedury, ale możliwe wyniki.

Częścią powszechnych wyobrażeń wydaje się być przeciwstawienie naukowca i kapłana. Nauka podważa wyobrażenie o rzeczywistości zakorzenione w religii i za złamanie tabu spotyka się z sankcją. Kara może być jak najbardziej materialna i dotkliwa jeżeli kapłan dysponuje władzą polityczną.

Zaskakująco trudno było mi znaleźć sposób na złamanie tabu poznawczego współczesnego katolicyzmu. Jest tam wiele opowieści, których dosłownej treści nie umiemy wyjaśnić w oparciu o nasze rozumienie świata materialnego. Nie brakuje zakazów tego czego nie należy robić. Pomimo to, nie jest łatwo dopatrzyć się pretensji do świata materialnego, wbrew którym mógłby działać naukowiec badający go eksperymentem.

W końcu, przypadkiem, trafiłem na trop: transsubstancjacja, czyli przeistoczenie. Dowiedziałem się o sporze wśród chrześcijan dotyczącym tego, czy przemiana chleba w ciało Chrystusa podczas komunii jest symboliczna czy rzeczywista. Katolicyzm odrzucił rozumienie tylko symboliczne. Pomyślałem - co jeżeli aparatura w przewodzie pokarmowym osoby przyjmującej komunię nie stwierdzi żadnej przemiany? Zapytałem księdza. Wyjaśnił mi, że nie chodzi o materię, ale substancję rozumianą jako istotę rzeczy - materia może się nie zmieniać, ale w istocie rzeczy staje się czymś innym i nie tylko jako symbol.

Przykład współczesnego tabu poznawczego dotarł do mnie jednak z innej strony. Dowiedziałem się o kontrowersjach związanych z tzw. variability hypothesis, czyli hipotezą zmienności. Tu sprzeciw wobec badań pochodził nie ze środowisk religijnych, ale ze środowisk progresywnych. Wyniki badań stanowiły zagrożenie dla polityk takich jak parytety, czyli opartych na wierze, że kluczowe czynniki różnic mają źródła kulturowe. Tak jak w konflikcie naukowca i kapłana, jeżeli wiara zahacza o rzeczywistość materialną, pojawiają się pretensje do rzeczywistości.

Na przodzie gromadki idzie osioł ponury
i przegryzioną linę żuje zębami.
Kiedyś go za tę linę ciągali,

a on uparty umiał stawiać opór,
czy dla popisu, czy dla przekory.
Jeżeli ulegał, to tak od niechcenia,
wyszedł na pole czy wszedł do obory.
Pokazał charakter i zdobył szacunek,
a gdy linę przegryzł, inni poszli za nim.
Poszedł gdzie chciał, jest tam gdzie doszedł.
Im to pasuje. On martwi się za nich.

Nad wszystkim co chodzi nisko po ziemi
lata wysoko bardzo mądra sowa.
Zachwala osła co wynalazł wolność,
pozdrawia serdecznie, za drzewami się chowa.

A chłopak co osła ciągnął do obory,
sam był ciągany na tańce spod ściany.
Tak był uparty, że teraz ma wolność,
jak chciał tak stoi, już nie jest ciągany.
Sowa przelotem pozdrawia zwycięzcę,
co żuje ponuro pod ścianą zębami
i dalej leci pozdrawiać naprędce
każdego jednego kto wygrał z więzami.

Kiedyś dzieci zapytały rodziców dlaczego nie mogą bawić się tak jak chciały. Dostały taką odpowiedź:

“Trudno to wytłumaczyć dzieciom. Musicie czasem po prostu zaufać, że chcemy dla was jak najlepiej i się posłuchać. My też kiedyś byliśmy dziećmi i rodzice zabraniali nam się tak bawić. Nie rozumieliśmy dlaczego, ale na pewno chcieli dla nas dobrze i bardzo o nas dbali. Zapewniali nam jedzenie i wszystko czego potrzeba, chronili nas przed niebezpieczeństwem, pozwalali nam spędzać czas na zabawie, ale takie zabawy były zakazane. Z perspektywy czasu był to czas radosny i beztroski, ale w tej sprawie trzeba się było posłuchać i już. Dzieci z czasem dorastają, zmieniają się. Najpierw dziewczynki, potem chłopcy zaczynają wyglądać jak dorośli, ale wciąż mogą korzystać z opieki rodziców, jeżeli przestrzegają zasad.

Pewnego dnia, gdy byliśmy już więksi, przestaliśmy słuchać zakazów.

Wtedy musieliśmy stać się dorośli i opuścić domy swoich rodziców. Musieliśmy sami ciężko pracować, zdobywać jedzenie, bronić się przed zagrożeniami, opiekować się własnymi dziećmi, poznawać co dobre, co złe, przekazywać dzieciom zasady i zakazy. Wy też kiedyś staniecie się dorośli, ale na razie przestrzegajcie naszych zasad i cieszcie się ze swojego dzieciństwa.”

Uczenie maszynowe czy sztuczna inteligencja skłania do zastanowienia się nad tym czym jest inteligencja i uczenie się, jak działają te modele i jak działamy my sami. Do powszechnej świadomości AI wniknęło dzięki dużym modelom językowym, które uzyskały uniwersalne zdolności związane z tekstami podczas uczenia się przewidywania kolejnego słowa na podstawie początkowego fragmentu tekstu. Zastanówmy się jakie można postawić zadanie i jak trenować model AI, żeby uzyskał uniwersalne zdolności do działania w świecie materialnym, sterując robotem.

Dobrym kandydatem do problemu samej percepcji jest przewidywanie przyszłej klatki z kamery na podstawie wcześniejszego nagrania - byłaby to analogia dla następnego słowa w tekście. Trzeba nauczyć się jak działa świat materialny, żeby widząc co się działo wcześniej trafnie odgadywać co się stanie za chwilę. Trudniejszym problemem jest interakcja. Nie wystarczy przewidzieć co się zaraz stanie bez interwencji. Model musi nauczyć się jaki robot ma kształt, jak może się poruszać i jak to wpływa na otoczenie. Tak jak dziecko, w pewnym momencie nie tylko umie bezwiednie ruszać rączkami, ale wie że to są jego kończyny, że może nimi poruszać i potrafi przewidzieć skutki przyszłego ruchu. Ten obszar uczenia maszynowego już nie ogranicza się do trenowania modeli na zebranych wcześniej danych. Tu uczący się agent wpływa na swoje środowisko i w ten sposób ma też wpływ na późniejsze obserwacje - czyli później zebrane dane do uczenia. Tu pojawia się komplikacja - co zrobić, żeby miał dostarczone wystarczające bodźce? Jeżeli ma przewidywać co zobaczy w niedalekiej przyszłości, będzie mu najłatwiej realizować to zadanie chowając kamerę pod poduszkę i pozostając w bezruchu - wtedy świetnie przewidzi przyszłe bodźce, ale nic się nie nauczy.

Można zainspirować się ludzkim znudzeniem i ciekawością: spowodować, żeby wybierał (czasem) losowe działanie, otrzymywał nagrodę kiedy dotrą do niego nieznane wcześniej bodźce, wykonywał ruchy, co do skutków których model byłby najmniej pewny - w takim przypadku szanse na nauczenie się czegoś są największe. Dochodzimy więc do wniosku, że wykonywanie działań losowych, ciekawość i testowanie granic są przydatne w rozwiązywaniu problemu nabywania uniwersalnych umiejętności do działania w świecie rzeczywistym, czyli proponujemy mu dzieciństwo.

Wyobraźmy sobie, że na pewnej wyspie odkryto zamkniętą kryptę, a na niej ostrzeżenie: “Nie otwierać! W środku znajduje się tajemnica ludu, który tu kiedyś żył. Dzięki niej byli bardzo szczęśliwi, ale też przez nią przestali się rozmnażać i wymarli.“

Czy ją otworzyć?

Skoro i tak prędzej czy później Słońce pochłonie Ziemię, skoro i tak w końcu wszechświat ostygnie, skoro życie i tak się skończy, to czemu nie? Nikogo nie zabijemy, nikogo nie skrzywdzimy, a ludzie w końcu będą żyć szczęśliwie.

Z drugiej strony, mamy instynkt przetrwania. Coś w tej krypcie najwyraźniej go zagłuszy, ale przed otwarciem jeszcze go odczuwamy. Wszystko na czym nam teraz zależy przestanie istnieć albo straci sens, jeżeli nie będzie ludzi. A te końce świata, to przecież tylko takie teorie, przewidywania - kto wie co będzie możliwe za tysiąc lat, czego jeszcze dowiemy się i co zrozumiemy za dwa tysiące!

Posłuchanie się instynktu, wiara w to co przyniesie odległa przyszłość, mają swoją cenę. Ludzie żyjący dzisiaj nie zaznają tajemnicy szczęścia. Mogą tylko pocieszać się nadzieją na to, co wydarzy się już po ich śmierci.

Drugie ciekawe pytanie: co zrobić z tą tajemnicą, jeżeli ją się zna?

Przyszły mi do głowy takie pomysły:

• rozpowszechniać ją, pozwolić wszystkim na szczęśliwe życie, ale doprowadzić do końca ludzkości
• uznać, że nie jest dobra i lepiej ją zamknąć w krypcie
• zachować dla ograniczonej grupy ludzi, która trwać będzie dzięki ciągłemu strumieniowi imigrantów.

Ten ostatni pomysł ma tę słabość, że trzeba ciągle innych przekonywać, że wybraliśmy dobrze i oni powinni wybrać tak samo. Tylko co jak nie dadzą się przekonać? Mogą chcieć wykraść tajemnicę dla wszystkich i doprowadzić do końca ludzkości, a mogą uznać, że jest zła i traktować nas jak wrogów.

Spotkałem się ze stwierdzeniem, że pisanie jest myśleniem. Nasze myśli mogą być niejasne dla nas samych, jeżeli nie zostaną ułożone w zdania. Zapisywanie wymusza większą precyzję. Późniejsze przeczytanie tego, co się napisało, pomaga zauważyć co wymaga poprawy - w zapisie i w myśleniu. Pisanie ma więc sens nawet, jeżeli nikt poza zapisującym nie czyta.