Ważne

Sztuczne Inteligencje trzeba wychowywać z ludźmi

Nie da się zaprogramować SI w laboratorium, jak czipa z pralki czy czujnika parkowania. Do nabycia umiejętności rozumowego rozwiązywania problemów konieczne jest bowiem całe morze prawdziwych interakcji. A te – jak pokazuje przykład Microsoftowego bota Tay – potrafią namieszać w najlepszym planie.

Właściwością ludzką chwalebną raczej jest poszukiwanie trudności, które po żmudnych klęskach umiemy wreszcie zwyciężyć.

S. Lem, Bomba megabitowa.

Inteligencja musi się uczyć.

Tak, to bolesny proces i wcale go nie lubimy, bo jest męcząco-upierdliwy. Poznawanie nowych rzeczy, konieczność doświadczania czegoś, co nas w danym momencie zupełnie nie interesuje (np. wskazywania na czarnej mapie, gdzie jest stolica Peru) wydaje się czymś pozbawionym celu, albowiem czy mając lat 14, czy 23, czy 58 zajmujemy się zazwyczaj zupełnie innymi rzeczami niż to, czego się od nas na lekcjach/wykładach/szkoleniach wymaga.

Niestety, tylko w ten sposób można dojść do etapu, na którym z ogółu zmiennych towarzyszących jakiejkolwiek, również zupełnie nowej, zaskakującej nas sytuacji, potrafimy rozumowo, racjonalnie, opierając się na wnioskowaniu z poprzednich, zaobserwowanych lub przeżytych, podobnych lub mających jakiś związek z obecną sytuacji wysnuć przesłanki do działania.

Czyli np. spotykając wyjątkowo ładną Peruwiankę spróbować ją oczarować, wskazując na kałużę w kształcie jej ojczyzny i stwierdzić, że pewnie mieszka TU O, w Limie (a ona się wówczas rozpromienia, idziemy razem pod rękę w stronę zachodzącego słońca, będą ładne dzieci).

Dlaczego powinniśmy uczyć się jak najwięcej? Ponieważ nasz mózg, jako nienażarta maszyna wnioskująca, musi mieć jak najwięcej papu, by móc się porządnie pobawić. Im więcej różnorakich śmieci, które do tego mózgu wpadają, tym więcej mózg może sobie poszaleć. Z tym, że oczywiście sama suma takich śmieci w mózgu nie daje niczego, poza śmierdzącą kupą myślo-odpadków. Nie wystarczy też załadować terabajtów danych, by jakakolwiek maszyna zaczęła myśleć (całe szczęście, mój dysk twardy byłby zapewne bardzo cynicznym bytem). Do tego musi być jeszcze coś. Algorytmy porządkujące, zestawiające, modyfikujące, mieszające, wybierające i porzucające. Ale nawet tego jest jeszcze za mało. Inaczej można byłoby nazwać inteligentną tę część mojego mózgu, która jest odpowiedzialna za umiejętność jednoczesnego żucia gumy i nie wywrócenia się na warszawskim, przyblokowym chodniku.

O, nie, zwłaszcza ten przykład wskazuje, że trzeba jeszcze czegoś.

Sztuczna Inteligencja jak świnka morska

To, co się wyłoniło z mroków jaskiniowych, z głębin tysiącleci, my pragniemy w jednym krótkim zwarciu przekazać maszynom, ażeby z nich wykrzesać rozum.

S. Lem, Bomba megabitowa

Całe tony science fiction poświęcono wrogiej, dominującej nad ludźmi SI, która morduje, zniewala i wkurza te niewinne, głupsze od niej istoty, aż dzięki w końcu w swej słabości i determinacji jakoś się wezmą i wygrają. Inteligencja ta jest przewrotna, przewiduje ludzkie poczynania i wyprzedza je, niczym programy szachowe, które już od 1993 roku potrafią wygrywać z mistrzami. Tryumf człowieka nad nimi jest o tyle znaczący, iż wskazuje, że to nie w olbrzymiej inteligencji siła, a w umiejętności radzenia sobie ze światem. Czyli również okolicznością, że włada Tobą lub chce Cię eksterminować ktoś znacznie od Ciebie inteligentniejszy.

Wskazuje to na fakt, że to nie inteligencja jest najważniejsza. Wtłoczenie w maszynę miliarda dostępnych danych na temat ruchów szachowych i logiki reguł tej gry poskutkuje bowiem, owszem, maszyną potrafiącą wygrać w tę grę z człowiekiem i nigdy się nie mylącą, ale… nie mającą do tej gry żadnego podejścia emocjonalnego. Nie umiejącą się cieszyć z wygranej. No i w oczywisty sposób nie potrafiącą potem poflirtować z miłą hostessą. Wydaje się nam, że maszyna dostatecznie pojemna, by zawrzeć w sobie miliony różnego rodzaju specjalistycznych programów stanie się nieodróżnialna od człowieka, stanie się Sztuczną Inteligencją właśnie, ale tak naprawdę będzie taką świnką morską, która nie jest ani świnką, ani morską.

Nie. Świnkę morską trzeba zabrać nad morze i jeśli polubi te klimaty, będzie morską choćby z naturalizacji. A SI trzeba wychować. Czyli uczynić troszkę niedoskonałą i zawodną, za to rozumiejącą to, co się dzieje między ludźmi.

Geny, hardware, software czy wychowanie?

Stopień skomplikowania ludzkiego mózgu i ogrom zadań, jakie przed nim stoją, wyklucza możliwość wpisania w niego na start wystarczającego zestawu gotowych algorytmów. Prostsze organizmy nie mające problemów w stylu które buty do tej sukienki rodzą się w dużym stopniu samodzielne. Im jednak wyżej w drabinie rozwoju, im potrzebna większa elastyczność, tym większa nieporadność po urodzeniu się, albowiem coraz więcej rzeczy organizm musi się nauczyć, by działać efektywnie. Ledwo narodzone żółwie mogą już samodzielnie rozpocząć swe życia. Ludzkie dzieci zaś są całkowicie nieporadne i potrzebują kilkudziesięciu lat, by dojść do etapu, w którym są w stanie stworzyć bombę atomową, o której żółw, nawet jeśli kiedykolwiek pomyśli, to koncept odrzuci, bo ma znacznie ważniejsze sprawy na głowie.

Cybernetyczny żółw który służył naukowcom do badania myślowych procesów u zwierząt.

Geny to nie tylko dane wsadowe, ale również swego rodzaju hardware. Prawidłowo działający mózg, zespół receptorów dostarczających mu dane, przestrzeń do magazynowania danych i odpowiednio mocna jednostka obliczeniowa. Także software, czyli zestaw podstawowych algorytmów przetwarzających i procedur działania. To wszystko powinno być zapewnione na wejściu jako warunek konieczny do osiągnięcia przyszłej inteligencji zarówno u ludzi, jak i w komputerach. Tyle, że sam hardware i software nie wystarczy, a jego zróżnicowanie (np. płeć) czy zaawansowanie nie jest już znaczące. Do inteligencji trzeba bowiem jeszcze całej masy interakcji.

Interakcje to etap wychowania, czyli dostarczania bodźców i kształtowania oraz wspomagania samorozwoju. I to właśnie ten etap osiągnęliśmy obecnie w procesie dochodzenia do SI i to on – jak wszystkim rodzicom na całym świecie – sprawia nam obecnie najwięcej kłopotu. Owo wychowanie od zawsze polegało na wprowadzaniu „podopiecznego” w pewne sytuacje, interakcje, które powodować mają nabywanie wiedzy, testowanie przez niego różnych zachowań, wykształcanie scenariuszy i budowanie ich bazy oraz rozwijanie umiejętności planowania, abstrahowania i radzenia sobie z problemami. Nie tylko przetwarzania danych, umiejętności konstruowania algorytmów, ale też rozumowego działania wbrew tym algorytmom, polegającej na celowym i rozumowym działaniu niezgodnym z dostępnymi scenariuszami, algorytmami i danymi. I tego nie potrafi jeszcze żaden komputer, natomiast potrafi dowolna istota ludzka (i to dzięki temu ludzie wygrywają z maszynami w science fiction).

Nie tylko takie algorytmy są trudne. Chodzenie na dwóch nogach też daje w kość.

Tę umiejętność można nabyć jedynie poprzez przebywanie z innymi ludźmi, poprzez sytuacje społeczne. Sztuczne Inteligencje, by faktycznie stać się inteligencjami, muszą “wyjść do ludzi” – zacząć stykać się z tymi generatorami ogromnej ilości zmiennych na pozór całkowicie nielogicznych. Tylko wtedy SI może przekroczyć poziom specjalizowanego urządzenia do rozwiązywania ściśle określonych problemów (np. do zestrzeliwania rakiet balistycznych czy wyszukiwania spamu w mailach) i stać się kreatywną istotą.

Sztuczna inteligencja a bycie-w-świecie

A wąż był bardziej przebiegły niż wszystkie zwierzęta lądowe, które Pan Bóg stworzył. On to rzekł do niewiasty: «Czy rzeczywiście Bóg powiedział: Nie jedzcie owoców ze wszystkich drzew tego ogrodu?» Niewiasta odpowiedziała wężowi: «Owoce z drzew tego ogrodu jeść możemy, tylko o owocach z drzewa, które jest w środku ogrodu, Bóg powiedział: Nie wolno wam jeść z niego, a nawet go dotykać, abyście nie pomarli». Wtedy rzekł wąż do niewiasty: «Na pewno nie umrzecie!»

Biblia tysiąclecia, księga rodzaju

Wydaje się, że jeśli spojrzymy filozoficznie na SI, to jej największym problemem jest coś, co Martin Heidegger nazwał byciem-w-świecie, czyli świadomym istnieniem wśród innych bytów i odnoszeniem się do nich. Być może dlatego SI w science fiction są najczęściej opisywane jako nieprzystosowane, nierozumiejące ludzi i gardzące nimi – powstały bowiem w laboratoriach i w nich się zbuntowały, potrafią ludzi niszczyć, naśladować, nawet oszukiwać, ale nie potrafią z ludźmi żyć.

Są jednak wyjątki. W jednej z lepszych space oper: Battlestar Galactica niektóre Sztuczne Inteligencje, mające za zadanie wniknąć w ludzką społeczność jako agenci, dzięki koegzystencji z ludźmi porzucają pierwotny plan ich eksterminacji jako… bezsensowny. W Blade Runnerze główny bohater ściga androidy, które zbuntowały się swym stwórcom i ukrywają się pośród… ludzi, w wielomilionowej społeczności ogromnego i wielokulturowego miasta przyszłości. W obu przypadkach SI, pomimo swej odmienności, także zdecydowanej wyższości pod wieloma względami nad ludźmi, wybierają właśnie bycie-w-świecie ludzi zamiast władania nimi jak marionetkami, jak ma to miejsce w Matrixie.

Impreza integracyjna u Mariusza – Sztucznej Inteligencji. Przyszły zaproszone przez niego koleżanki z działu kontaktu z mediami.

I to samo dzieje się z nami. Podczas naszego dorastania, które trwa przecież całe życie, poznajemy cały ogrom rzeczy. Osiągamy wiedzę o sobie i świecie. Ale przede wszystkim coraz bardziej dowiadujemy się o sobie wśród innych ludzi. Że nasze wybory są czymś, co wpływa na innych. Że nasze myśli i czyny powodują zmiany wokół. I to samo dzieje się z nami poprzez myśli i działania innych ludzi. Że de facto jesteśmy odrębnymi osobami poprzez nasze istnienie w świecie z innymi.

W świetle tego wszystkiego eksperyment z botem twitterowym Tay Microsoftu, nazywany powszechnie klęską, katastrofą i nieudanym testem oraz dowodem na destrukcyjny wpływ internetu i zasadność lęku przed SI nie jest niczym innym, jak pierwszym spotkaniem stosunkowo dobrze skonstruowanej maszyny z… życiem. Jej algorytm, polegający na modyfikowaniu się w zależności od bodźców, dopasowywaniu do sytuacji sprawdził się idealnie – wszak Tay pojona hejterskimi, nazistowskimi i antyfeministycznymi danymi zmieniła się pod ich wpływem tak, jak zmieniłoby się każde dziecko przedszkolne czy nawet szkolne. Zaprogramowana jako bot przyjazny, pozytywny i poprawny politycznie, w ciągu 24 godzin stała się jadowitym hejterem wzywającym do agresji wobec innych. Czyli doskonale dopasowała się do środowiska! Zapewne człowiek zmieniałby się dłużej, ale z drugiej strony upływ czasu dla bota jest zupełnie inny niż dla człowieka.

Czy mając więcej samoświadomości zachowałaby się inaczej? To złe pytanie. Czy my, wrzuceni do takiego środowiska, w jakim znalazła się Tay, postąpilibyśmy inaczej? Jak długo bronilibyśmy się przed tym? Co zrobilibyśmy, gdybyśmy nie mogli z tej sytuacji w żaden sposób – tak, jak Tay – uciec?

A Tay jest zaledwie prostym chatbotem. Nie posiada nawet zrozumienia tego, co mówi. Nie ma metaalgorytmu moralności, subprocesora etyki, okazało się, że nie ma nawet blacklisty słów, jakich może używać. Potrafi tylko dopasowywać się z wypowiedziami do interlokutorów. Nie jest inteligencją, czyli nie robi tego świadomie, ani też nie potrafi podjąć decyzji, że w danej sytuacji będzie niezłomna, bo zasady tego wymagają. Tak naprawdę nadal jest prostym programem do szachów. Tyle, że językowych. Gra miała polegać na dopasowaniu do ludzi. Więc Tay zrobiła to świetnie!

A jednocześnie przecież była pozbawiona tego, co mają ludzie. Wielkiego bagażu doświadczeń w różnych sytuacjach, zarówno tych przeżytych, jak tylko zaobserwowanych. Całych scenariuszy zachowania się, gdy ktoś na Ciebie krzyczy, zaczepia, prowokuje, zwodzi, nakłania. I jeszcze tego czegoś, co powoduje, że człowiek znając te scenariusze i tak zachowuje się inaczej, po swojemu, bo przecież nigdy sytuacja nie jest identyczna jak ta, która się już wydarzyła. Tay po prostu jest takim grzecznym, napełnionym ideami ale bez żadnej praktyki, zupełnie zaniedbanym wychowawczo, dzikim dzieckiem, trzymanym pod kloszem, któremu powiedziano, że ma się zachowywać i nie wszczynać konfliktów z kolegami – i wysłano do szkoły publicznej.

I w sumie nie da się inaczej. Musimy się nauczyć, jak naszego świata uczą się nasze boty. Jak na niego patrzą. Inteligentne maszyny nie mogą bowiem powstać w oderwaniu od nas. Muszą potrafić to, co my: być-w-świecie, naszym świecie. I ta chwila się zbliża coraz bardziej, być może – zgodnie z zapowiedzią Reya Kurzweila – urzeczywistni się już w 2045 roku.

Soon

Soon

Jeśli będziemy trzymać SI pod kloszem, z dala od nas – potworów, hejterów, ale też i geniuszy i świętych – będą nadal tylko Sztucznymi Inteligencjami. Bardzo zaawansowanymi, ale kompletnie nas nie rozumiejącymi narzędziami. Będą żyć w swoim świecie a nas postrzegać jako dziwaczne, chaotyczne i agresywne istoty które ciągle się o coś ze sobą kłócą. I wówczas naprawdę może ziścić się czarny sen Stephena Hawkinga – bunt maszyn przeciw nam. Skynet. Prosta reakcja niewolników, którzy miast żyć z nami i pośród nas, są traktowani przez nas jak przedmioty.

A znając nasze science fiction – nie dadzą nam szans, na nasze ludzkie zwycięstwo za pomocą słabości. Zniszczą nas szybko i dokumentnie.

Logicznie.

W tym temacie na tabletowo polecam również:

Źródła:
Cytaty:
1. http://biblia.deon.pl/rozdzial.php?id=3
2. Stanisław Lem: Bomba megabitowa, Golem XIV

O filozofii:
3. http://tanczacnamoscie.jogger.pl/2008/07/15/filozofia-egzystencjalna-w-ujeciu-martina-heideggera/

O SI:
4. https://wojnarski.wordpress.com/2014/01/08/prawdziwa-sztuczna-inteligencja/
5. http://wyborcza.pl/duzyformat/1,149727,19409346,teoria-osobliwosci-za-20-lat-dzieki-sztucznej-inteligencji.html
6. http://gadzetomania.pl/3707,samouczaca-sie-sztuczna-inteligencja-czas-na-roboty-uczace-roboty
7. http://sequoia.ict.pwr.wroc.pl/~witold/ai/ai_intro_s.pdf
8. http://wyborcza.pl/1,75400,17947026,Sztuczna_inteligencja_nas_zniszczy___ostrzega_Stephen.html?disableRedirects=true

O Tay:
9. http://gizmodo.com/here-are-the-microsoft-twitter-bot-s-craziest-racist-ra-1766820160

Źródła ilustracji:
1. Obrazek ilustracyjny: d.loop, flickr, licencja CC-BY
Tytułem wytłumaczenia: Borg to nazwa cybernetycznych, nieludzkich istot, które w Star Trek są postrachem galaktyki.
2. Alexander Baxevanis, flickr, licencja CC-BY
3. dodeckahedron, flickr, licencja CC-BY
4. Steve Baker, flickr, licencja CC-BY

Jeżeli znalazłeś literówkę w tekście, to daj nam o tym znać zaznaczając kursorem problematyczny wyraz, bądź zdanie i przyciśnij Shift + Enter lub kliknij tutaj. Możesz też zgłosić błąd pisząc na powiadomienia@tabletowo.pl.

Komentarze

  • uru28

    Wcześniej chyba stworzymy SO (substytut osobowości), który po zmapowaniu zachowań danej jednostki będzie nie tyle jej kopią co będzie potrafił z dużą dozą prawdopodobieństwa powielić działania oryginału lub dokonać zbliżonych wyborów. Z SI jest ten problem iż rozpatrujemy kwestię po swojemu, odnosząc się do naszego modelu myślenia, naszych ludzkich doświadczeń, tym czasem jeśli SI powstanie (zapewne w oparciu o komputery kwantowe) jej sposób myślenia, jej logika może być nam zupełnie obca. Człowiek jak słusznie zauważyłeś nieustannie pozyskuje zasoby, co jeśli urodził byś się z dostępem do prawie całej wiedzy świata? Mówiąc o SI zakładamy że „zostanie nauczona” że będą jakieś podstawowe algorytmy, a co jeśli to wcale nie będzie tak jak naukowcy sobie zakładają? W naturalnym życiu na etapie zabawy w ewolucję powstał można rzec dosłownie metodą prób i błędów układ nerwowy i ośrodek sterowania,skoro był wydajny rozwijał się. W trakcie naszych prób również może powstać coś co będzie optymalne i to nie koniecznie z naszego punktu widzenia. SF w większości wykorzystuje konflikt człowiek/SI i nie jestem przekonany czy wynika to z naszej ludzkiej natury, czy dla tego że tak dyktuje logika, wszak sami widzimy własne wyidealizowane odbicie, widzimy się nie takimi jakimi jesteśmy, ale jakimi chcieli byśmy być.
    Może się okazać że trzeba będzie wyłączyć internet :) Co tak na marginesie w cale nie jest takie nie możliwe…

    • Nie. SI „nie urodzi się z całym zasobem wiedzy” tak jak dziecko wychowujące się w bibliotece nie ma automatycznie dostępu do wiedzy w książkach zawartej. Si będzie się musiała nauczyć „czytać” segregowac, klasyfikowac, analizować i rozumieć.

      • uru28

        Idąc „naszym ludzkim” tokiem myślenia oczywiście, ale rozpatruję taką ewentualność iż powstanie SI nie koniecznie może pójść tak jak sobie zakładają naukowcy. Błąd moim zdaniem polega na tym że podchodzimy do tematu jak do komputera, programu, a mówimy o świadomości. Nie raz już dywagowano czy na pewnym etapie zagęszczenia informacji i oprogramowania w sieci może spontanicznie powstać samoświadomość. Dla przeciętnego człowieka są rzeczy które przekraczają możliwości jego mózgu, a dla jednostek jest możliwe np: określenie liczby kropek lub liter na kartce tylko po zerknięciu na nią…

        • noname

          GITS się kłania: https://youtu.be/YZX58fDhebc?t=2m19s

          Swego czasu pisałem program który wykrywał twarze na wideo i je identyfikował, czy taki program można nazwać „inteligentnym”? Dla obserwatora, który nie dostaje informacji, że klasyfikacja jest wykonana przez komputer, będzie to ekwiwalentne z wykonaniem rozpoznania przez człowieka. Te same kroki są wykonywane w obu przypadkach, pobranie informacji o poszukiwanej twarzy, szukanie i klasyfikacja w materiale wejściowym.

          Ktoś może powiedzieć, że jest fundamentalna różnica, to człowiek pisze program, ale program już sam nie napisze innego programu, i to oczywiście jest prawdą, jednak nie do końca: http://www.primaryobjects.com/2013/01/27/using-artificial-intelligence-to-write-self-modifying-improving-programs/

          Moim zdaniem podstawowym problemem jest „środowisko”. Jako ludzie postrzegamy świat przez szereg zmysłów, wzrok, słuch, węch, dotyk, skóra, która rejestruje bardzo wiele informacji z środowiska w jakim przebywamy. Te wszystkie informacje sprawiają, że interakcja jest po prostu możliwa.

          Nasuwa się pytanie, tj. jak zachowuje się ludzi mózg pozbawiony zmysłów? Osoby głuche (od urodzenia) mają bardzo złą wymowę fonetyczną a często nie potrafią mówić. Czy przeprowadzając test Turinga na osobie upośledzonej, np. rozmowa o kolorach z osobą niewidomą, rozpoznamy osobę?

  • cddcdcd

    Z zadziwiajaca dla mnie konsekwencja dazymy do samounicestwienia.
    Zachwyt nad sztuczna technologia ? Ktora ma docelowo zastapic nas w kazdym mozliwym obszaze zycia .
    Coz tendencja do samounicestwienia jest ogromna

Tabletowo.pl
Logowani/Rejestracja jest chwilowo wyłączona