Mylić się nie jest rzeczą ludzką

Komputery nie popełniają błędów. Jeśli coś się zawiesza lub wariuje, jest to wynikiem pomyłki programisty bądź awarii samego sprzętu. Właśnie dzięki temu można było budować całą współczesną gospodarkę na elektronice i wierzyć, że wszystko będzie dobrze działało.

Jednak ta bezlitosna nieomylność odbiera komputerowi jakiekolwiek pozory człowieczeństwa. Tymczasem gdzieś z tyłu głowy wciąż mamy marzenie o maszynie, która nas zrozumie. Nie chodzi o prowadzenie z monitorem długich wieczornych rozmów o życiu, ale o sprzęt, który prawidłowo odpowie na pytanie: „Jest jeszcze mleko czy mam kupić?”.

Mimo że już nawet autorzy SF przestali o niej pisać, nad zbudowaniem sztucznej inteligencji wciąż pracują całe zastępy naukowców. Najnowsze badania idą w zaskakującym kierunku – specjaliści głowią się nad maszynami potrafiącymi się mylić.

W ciągu ostatnich tygodni pojawiły się dwa ważne doniesienia, które mogą przybliżyć świat podobny do tego z „Blade Runnera” czy „A.I.”. Rachel Wood z University of Sussex w Brighton opracowała program, który popełnia pewien bardzo charakterystyczny błąd. Zjawisko znane w psychologii rozwoju jako A‑not‑B-, czyli A‑nie‑B, pojawia się u dzieci między 7. a 12. miesiącem życia.

Jeśli posadzimy takiego malucha i zdołamy utrzymać jego uwagę, możemy zobaczyć ciekawą rzecz. Oto stawiamy przed nim dwa takie same kubeczki i małą atrakcyjną zabawkę. Gdy dziecko zwróci na nią uwagę, nakrywamy zabawkę jednym kubeczkiem, stawiając obok drugi, identyczny. Zgodnie z oczekiwaniami dziecko sięgnie po właściwy kubek i wyjmie zabawkę. Cały proces powtarzamy sześcio–dziesięciokrotnie, umieszczając gadżet zawsze pod tym samym kubkiem. Za 11. razem wkładamy zabawkę pod drugi kubek. Mimo że maluch cały czas widzi, co się dzieje, sięgnie znowu pod pierwszy kubek. Dziwne? Owszem, zwłaszcza jeśli nie rozumiemy mechanizmu powstawania błędu.

Zdaniem większości psychologów błąd A‑not‑B świadczy o tym, że ludzka inteligencja składa się z dwóch elementów. Pierwszy to pamięć i doświadczenie, umiejętność znajdowania w bieżącej sytuacji analogii do tego, co wydarzyło się wcześniej. Drugim jest zdolność reagowania na zmieniające się stale warunki, umiejętność dostosowywania się do nowości. Zgodnie z tą teorią u małego dziecka rozwinął się już pierwszy element inteligencji, a drugi jest wciąż w powijakach. To logiczna kolejność – w tym wieku ważniejsze jest zapamiętanie twarzy matki czy sposobu na dostanie się do mleka niż szybkie reagowanie na zmiany, bo tym akurat zajmują się rodzice.

Rachel Wood postanowiła sprawdzić, czy można odtworzyć to dziwne zjawisko w pamięci zimnego, nieomylnego komputera. W tym celu posłużyła się siecią neuronową – programem, którego konstrukcja oparta jest na bardzo uproszczonym schemacie działania układu nerwowego żywego organizmu. W takiej sieci dany bodziec wywołuje reakcje wirtualnych neuronów, a program na podstawie częstości ich wzbudzania się uczy się reagować na różne sytuacje. W doświadczeniu Rachel Wood zbudowano w pamięci maszyny pewną scenę. Wirtualny robot stawał przed dwoma źródłami dźwięku, a jego zadaniem było skierowanie się w tę stronę, z której dobiegł sygnał. Działaniem robota sterowała właśnie sieć neuronowa.

Dopóki w eksperymencie wykorzystywano sieć działającą według zasad typowego mózgu, robot zachowywał się tak jak każdy z nas – za każdym razem odwracał się w stronę źródła dźwięku. Potem jednak zmuszono system, by przy kolejnych wzbudzeniach reagował nie tylko na to, co właśnie się wydarzyło, ale uwzględniał też zdarzenia sprzed chwili. W ten sposób stworzono namiastkę pamięci. Do umiejętności reagowania na bieżące zdarzenie dodano „drugą połówkę” inteligencji.

Okazało się, że robot zaczął zachowywać się jak niemowlak z eksperymentu. Jeśli za siódmym razem dźwięk dobiegał z innego źródła niż dotychczas, maszyna wciąż jeszcze zwracała się ku pierwszej lokacji.

Jednak stworzenie komputera, który się myli, to nie wszystko. Okazało się, że gdy powtórzono stukrotnie całe ćwiczenie, sieć neuronowa nauczyła się kierować robota we właściwą stronę i nie popełniała więcej błędu A‑not‑B. Tak samo zachowuje się dziecko – częste ćwiczenie uczy je podnoszenia właściwego kubka.

Udało się więc zbudować najprostszą namiastkę dwuskładnikowej inteligencji. Dzięki połączeniu umiejętności reagowania na bieżące bodźce ze zdolnością zapamiętywania powstał system, który najpierw myli się niczym ludzkie dziecko, a potem uczy się nie popełniać wcześniejszego błędu i już nigdy go nie powtarza.

Opisane wyniki wydają się jeszcze ciekawsze, gdy zestawi się je z badaniami przeprowadzonymi przez naukowców z University College of London. Skupili się oni na niezwykłej właściwości ludzkiego wzroku. Bez problemu potrafimy ocenić, że przedmiot jest jasnoszary niezależnie od tego, czy widzimy go w jasnym świetle słonecznym, przy słabej żarówce albo w nienaturalnym oświetleniu pod wodą. Nie potrafią tego robić systemy komputerowe takie jak kamery i aparaty cyfrowe, co widać na zdjęciach z imprezy u cioci, gdzie wszystkie fotografie wychodzą nieznośnie pomarańczowe.

Nasz mózg potrafi „odfiltrować” niepotrzebne przebarwienia obrazu, korzystając z wcześniejszych doświadczeń i na ich podstawie korygując to, co dociera do naszych oczu.

Brytyjscy badacze opracowali program, który ocenia odcień szarości obiektu na zdjęciu, a uzyskany wynik zapamiętuje i wykorzystuje przy podejmowaniu kolejnych decyzji. Okazało się, że ten sposób bardzo ułatwia korygowanie typowych fotograficznych błędów, ma jednak efekty uboczne. Pojawiają się one, gdy każe się systemowi ocenić jasność jasnego obiektu umieszczonego na ciemnym tle lub ciemnego położonego na jasnym. W pierwszym przypadku przedmiot zostaje oceniony jako jaśniejszy, a w drugim ciemniejszy, niż jest faktycznie.

Najciekawsze jest jednak to, że błąd popełniany przez maszynę jest identyczny z tym, który popełnia ludzki mózg. Znany jest on pod nazwą złudzenia Munkera‑White’a i najczęściej przedstawiany jest w postaci mija-jących się ciemnych i jasnych pasków. Co interesujące, program komputerowy miał nawet identyczną z ludzką tendencję do silniejszego przeszacowywania jasnych odcieni nad ciemnymi.

Oba wyniki dowodzą jednego – nie da się zbudować systemu odtwarzającego działanie ludzkiego mózgu, nie narażając się na błędy wynikające z jego konstrukcji. Skoro maszyna ma widzieć równie dobrze jak my, z pewnością nabierze się na te same złudzenia, którym ulegają ludzie. Jeśli więc nadal chcemy zbudować prawdziwą sztuczną inteligencję, musimy pogodzić się z myślą, że będzie równie niedoskonała jak my sami.

Piotr Stanisławski