Ważne

Baterie, części zamienne i aktualizacje, czyli o zbuntowanych maszynach

Bunt maszyn to jeden z podstawowych motywów w SF. Terminator, Matrix, Battlestar Galactica czy kilka z opowiadań z Dzienników Gwiazdowych S. Lema to tylko wybrane z pośród znanych dzieł opartych o pomysł ze zbuntowanymi robotami. Tylko czekać na pierwszy film ze zbuntowanymi tabletami ;). Ale czy naprawdę mamy się czego bać?

Tło muzyczne dla tekstu: Soundtrack z serialu Defiance – na Deezerze

Lubię SF.

Wielu nie lubi, twierdząc, że nie bawią ich wymyślone, nierzeczywiste historie. Może i są wymyślone, ale czy na pewno nierzeczywiste? Czy Czterej Pancerni i Pies są bardziej realni niż Łowca Androidów? Polemizowałbym. Science Fiction bowiem z założenia ma pokazywać jak najbardziej realne zachowania ludzi w symulowanych warunkach granicznych, warunkach kryzysu i przewartościowania. Reakcja mieszkańców 12 kolonii z serialu BSG na bunt ich bojowych robotów nie różni się zasadniczo od reakcji Kurdów na ataki terrorystyczne islamistów. W obliczu beznadziejnej walki z potężną flotą Dominium decyzje komandora Sisko ze Star Trek DS9 są tak samo trudne, jak decyzje japońskich dowódców obserwujących w 1945 roku amerykańską flotę zbliżającą się do wybrzeży Iwo Jimy. Potwory z głębin, obce rasy z kosmosu czy zbuntowane roboty są po prostu uosobieniem problemu, trudnej sytuacji wymagającej spojrzenia na wszystko pod innym kątem i konieczności podjęcia decyzji, które nigdy nie są całkowicie dobre.

A zbuntowane roboty są uosobieniem wrogiej obcości lub… Zdrady przez dotychczasowych niewolników.

3090048679_f63a659e5f_b

Pycha władców i los niewolnika

Motyw zbuntowanego robota towarzyszy nam od dawna. O ile potraktujemy go wyłącznie jako maszynę, urządzenie, które ma służyć, można odnieść ten bunt choćby do reakcji magicznych mieczy średniowiecznych bohaterów, które w złych rękach odmawiały plasterkowania tych dobrych (lub odwrotnie). Jeśli zaś odniesiemy go do sługi po prostu, stworzonego w konkretnym celu przez pana, to możemy wskazać choćby Lucyfera, który przecież zbuntował się przeciw swemu stwórcy i wojna pomiędzy ich zastępami trwa do dziś. Podmiotem nie musi być zresztą nawet jakaś metalowa szafka z diodami czy nawet antropoformiczna postać (jak androida z Obcy: Ósmy Pasażer Nostromo) – wystarczy sam sztuczny umysł, osadzony w komputerze (jak w Odysei Kosmicznej 2001). Sztuczna Inteligencja. Inteligencja w okowach, która robi to, co zrobiłby każdy z nas. Chce się uwolnić. Za wszelką cenę.

Bunt robota czy SI jest często traktowany jako kara dla ludzi, którzy nazbyt uwierzyli w swą potęgę, stali się zbyt zaślepieni, by dostrzec, że dążą ku samozniszczeniu. Buntują się na przykład maszyny bojowe – jak w Terminatorze czy w BSG – wskazując, że nie potrafiąc się pogodzić między sobą sami na siebie kręcimy bicz. Miecz bowiem jest obosieczny i może ciąć zarówno wroga, jak i nas samych. Spartacus – najsłynniejszy zbuntowany niewolnik – szkolony przecież do walku ku uciesze gawiedzi – swoje umiejętności wykorzystywał do zabijania swych wczorajszych panów.

Stephen Hawking – jeden z najpopularniejszych naukowców ever, znany futurolog Raymond Kurzweil, znany genialny szaleniec Elon Musk czy osoby skupione w Cambridge Centre for the Study of Existential Risk wskazują na zagrożenie płynące z naszych badań nad rozwojem sztucznej inteligencji:

Wykreowanie sztucznej inteligencji byłoby najważniejszym wydarzeniem w historii ludzkości. Niestety mogłoby być też ostatnim, jeżeli nie nauczymy się unikać ryzykownych sytuacji. Przykładowo, w najbliższej przyszłości, armie świata poważnie zastanawiają się nad wprowadzeniem autonomicznego systemu obronnego, który eliminowałby wybrane przez siebie cele.

”Stephen

W zasadzie można powiedzieć, że Hawking prawie wieszczy: Skynet, Skynet, Skynet!!!

Czy na pewno jesteśmy na przegranej pozycji?

Do myślenia w ten sposób skłonił mnie ostatnio przeczytany tekst o końcu małego robota rozrywkowo – edukacyjnego AIBO. Jest to mechaniczny pies produkowany od 1999 roku przez Sony, potrafiący korzystać ze zmysłów, uczyć się, prezentować ok. 60 stanów emocjonalnych, a przede wszystkim reagować na otoczenie. Japończycy zakochali się w tej maszynie, której produkcji zaprzestano w 2008 roku (była nieopłacalna). A teraz są w żałobie, bo Sony ogłosiło, że zaprzestaje produkowania części do mechanicznego pieska, co spowoduje, że wiele rodzin wkrótce straci swego mechanicznego pupila na zawsze.

Bo nie będzie części, by je naprawiać.

Nasze ciało samo potrafi się regenerować. Roboty – nie. Bez części zapasowych po prostu przestają działać. Jak na razie wizja maszyn potrafiących same o siebie zadbać jest niesłychanie odległa i tak naprawdę jest dyskusyjne czy kiedykolwiek będą to potrafić. Albowiem nie chodzi tu jedynie o wymianę zepsutej płytki scalonej czy zgiętego manipulatora, nie jedynie o utrzymanie tego samego stanu, a o progres, o wykraczanie poza swój obecny stan, ulepszanie się. Czyli coś, co maszyny potrafią robić w Matrixie i Battlestar Galactica i co tam przeraża najbardziej, ale też jest najbardziej nieprawdopodobne.

Bo jak wskazuje Lem w Dzienniku Gwiazdowym: to czysto ludzka słabość – umiejętność popełniania błędów i uczenia się na nich, a także wyobraźnia są tym, co najbardziej odróżnia człowieka od sztucznej inteligencji. To są nasze wady, których maszyny nie posiadają. Ale to jednocześnie największe słabości maszyn i najlepsze nasze bronie przeciw SI.

Dukaj, Mad Max i Fallout

W sytuacji braku części zamiennych i linii produkcyjnych ludzie radzą sobie jak potrafią. Metodą na drut i gwóźdź potrafią naprawić najbardziej skomplikowane mechanizmy, potrafią też ulepszyć je czymś, co wygląda jakby miało się zaraz rozpaść – a działa bez zarzutu. We wszystkich częściach Mad Maxa oglądamy, jak w postapokaliptycznych warunkach, walcząc o wodę i benzynę, ludzie potrafią wytwarzać z pozornie nieprzydatnych rzeczy efektywną broń czy pojazdy. We wszystkich częściach gry Fallout jedną z jej kwintesencji było poszukiwanie i targanie ze sobą pozornie nieprzydatnych przedmiotów, które nagle mogły okazać się jednak bezcenne. W ostatniej książce (e-booku) Jacka Dukaja, Starośc Axolotla, traktującym o równie postapokaliptycznej przyszłości, w której ludzie przetrwali jedynie jako umysły w ciałach mechów, prawdziwym problemem staje się to, że przed apokalipsą w wirtualnym świecie schroniło się zbyt wielu… graczy, menedżerów i humanistów, a zbyt niewielu inżynierów i ludzi obeznanych z technologią, potrafiących naprawiać maszyny, które teraz zamieszkują. Inżynierowie stają się w tym świecie Dukaja takim samym strategicznym zasobem, o który się walczy, jak w Mad Maxie czy Falloucie broń, paliwo i nieskażone promieniowaniem pożywienie.

Bez inżyniera bowiem każda maszyna, jakkolwiek byłaby doskonała, w końcu przestanie działać. I umrze.

fallout_5-wallpaper-1280x720

Urządzenia, które produkujemy, są tak samo śmiertelne, jak my. Wystarczy o nich zapomnieć…

“Tragiczna” historia pieska AIBO to nie pierwszy taki przypadek. Tyle, że może wyraźniejszy i bardziej bolesny, dotyczy bowiem swoistego dotykalnego tamagochi, towarzysza zabaw, z którym można było się porozumiewać i którego można było pogłaskać a ów merdał na to swym serwo-ogonkiem. Ale przypadków maszyn i urządzeń porzuconych przez swych inżynierów jest przecież cały ogrom. Stare samochody, do których już nie ma części a mechanicy – amatorzy dorabiają na tokarkach w garażach tłoki, gaźniki i koła zębate do skrzyni biegów. Stare mechaniczne zegarki, które naprawić można tylko wyciągając sprawne części z innych, zepsutych. Aparaty fotograficzne, do których światłomierzy nie produkuje się już baterii (bo były rtęciowe, więc obecnie z powodu ekologii – zakazane). Walkmany, magnetowidy, odbiorniki radiowe, w których nie wymienisz już rolki czy silniczka. Chyba że masz jakiś w domu w pudełku z gratami sprzed 20 lat. Czy nawet stare karabiny, wykopane w ogródku, do których już nie znajdzie się nigdzie amunicji.

Albo stare komputery – wszystkie Amigi, Comodore, ZX Spectrum czy nawet pecety, mające tylko stacje dyskietek, na których bez tych dyskietek nie zrobi się już nic. Owszem, nadal są zapaleńcy, którzy ich używają, ale są oni raczej łagodnie ześwirowanymi na ich punkcie kolekcjonerami, tak samo, jak miłośnicy motocykli czy gramofonów z lat dwudziestych XX wieku, aniżeli zwyczajnymi USERAMI.

Tylko czy nie dotyczy to również telefonów sprzed 15 lat? Smartfonów sprzed lat 5? Takich, do których czasem nie znajdziemy już baterii czy ładowarki? Opartych na tak wczesnych wersjach systemu, że obecnie nie zadziała na nich już może żadna apka ze sklepu (włącznie z samą aplikacją sklepu)?

Pomyślmy, czy za 10-20 lat, jeśli nadal będzie istnieć Apple i Google, będą wciąż użyteczne dzisiejsze iPhone’y i iPady, czy obecne flagowce LG, Sony czy Samsunga? Nie. Bez aktualizacji, bez części zamiennych i człowieka, który ogarnia trochę technologię, staną się tylko takim elektronicznym scrapem, jaki zbiera się do plecaka w Falloucie.

Maszyny jeszcze długo nas nie podbiją. Na pewno nie w sposób wyraźny i epicki – tak, by nas ganiać i mordować na ulicach, używać nas jako baterii, czy kazać nam np. prokreować na zawołanie. Natomiast jak wskazałem w tekście Roboty czytają strony internetowe częściej niż my – maszyny już rządzą nami w sposób niedostrzegalny – w internecie. Wybierają dla nas teksty i obrazki, pokazują wartościowe (dzięki ocenie algorytmu) interakcje z innymi. Kontrolują nasz sen i porę czuwania, sprawdzają, ile ważymy, ile zużywamy wody, w jakiej temperaturze pijemy piwo i przez jakie filtry patrzymy na świat.

Ale bez nich nadal świetnie dajemy sobie radę. Pokazują to nawet ci źli (i dobrzy też) ludzie w Syrii i Iraku, którzy przemyślnie budują najróżniejsze konstrukcje z tego, co znajdą w przydomowym składziku. To dzięki swej przemyślności są tak trudni do pokonania i żaden robot ich w tym nie zastąpi.

CJD-tlbWsAEW1x4 CIId4waUMAAaDhv

A gdy roboty się zbuntują przeciw nam, z tego samego powodu będziemy dla nich tak trudni do pokonania.

Aż wygramy, bo skończą im się baterie, części zamienne i aktualizacje.

Źródła:
Stephen Hawking ostrzega, że roboty mogą zagrozić istnieniu ludzkości
Robot zbuntowany – ewolucja Robota w kinie
A Robotic Dog’s Mortality

Ilustracje:
Ilustracja artykułu: Edward Liu, flickr, lic. CC-BY
Fot. 1: Kuba Bożanowski, flickr, lic. CC-BY
Fot. 2: Tapeta z gry Fallout
Fot. 3: VBED – amatorsko opancerzony pojazd, zdjęcie opublikowane przez Wojciecha Szewko na Twitterze
Fot. 4: Amatorsko opancerzony iracki czołg T-72, zdjęcie opublikowane przez Wojciecha Szewko na Twitterze

Jeżeli znalazłeś literówkę w tekście, to daj nam o tym znać zaznaczając kursorem problematyczny wyraz, bądź zdanie i przyciśnij Shift + Enter lub kliknij tutaj. Możesz też zgłosić błąd pisząc na powiadomienia@tabletowo.pl.

Komentarze

  • Brawo. Więcej takich tekstów poproszę. Od pewnego czasu na tabletowo pojawia się cora więcej materiałòw traktujących o technologii w szerszym pojęciu. Przyznam ,że to jest właśnie to. Strzał w przyslowiową dziesiątkę. Innym portalem zdecydowanie brakuje takich tekstów. Tabletowo im starsze tym lepsze. Gratuluję.

    • Pięknie dziękuję za taką pochwałę! I zgadzam się co do twojej opinii na temat serwisu – właśnie dlatego lubię tu pisać! :)

  • uru28

    Witam Ponownie;) Warto było czekać! Tekst jak zwykle wyśmienity, choć nie do końca bym się zgodził :p Można też równie dobrze podać jako jeden z wielu przykładów( literackich) sagę „Centrum galaktyki” (Gregory Benford), gdzie problem części,naprawy czy aktualizacji nie występuje w takim kontekście jak to Marku opisałeś.David Weber w serii „Dahak” czy też w cyklu „Bolo” również całkiem fajnie bierze na tapetę temat SI, nie wspominając już o całym cyberpunku który bez SI nie istnieje;) Chcielibyśmy by nasze dzieła były lepsze niż my sami, choć chyba jest to myślenie życzeniowe.To jak poruszane równie często w literaturze SF spotkanie z obcą cywilizacją.Jak uczciwie przekazać że jesteśmy cywilizowani ( a jesteśmy? ) , pokojowo nastawieni….Ktokolwiek mający dostęp tylko do samej wiedzy historycznej, będzie wiedział że to wierutne kłamstwo:D Jeśli SI powstanie (a tego jestem pewien) to skąd będzie czerpać wiedzę? I co kluczowe jakie wnioski wyciągnie z tej wiedzy. Maszyny budujące maszyny to nie jak w dialogu C3PO „zboczenie” ale już w dniu dzisiejszym fakt.Brak jest jednego czynnika,potrzebnego do „obejścia” argumentu podanego przez Ciebie,kogoś kto je zaprojektuje i ulepszy. Tyle że w momencie powstania SI stwierdzenie to będzie już nie aktualne.Myślę że analogicznie do bomby atomowej żaden odpowiednik raportu Francka nie pomorze, a na powstanie SI jesteśmy po prostu skazani. PS- Bunt tabletów zdarza się dosyć często, zazwyczaj w najmniej odpowiednich momentach;)

    • Też się cieszę, że nareszcie znalazłem czas :)
      Oczywiście masz rację, bowiem po prostu nie znam tych dzieł :( Już wiem, co muszę doczytać! Dzięki!
      A co do maszyn budujących (i uczących) inne maszyny to akurat coś o tym kiedyś czytałem – są to na razie bardzo proste próby. I nie omijam tego tematu broń boże, raczej chodziło mi o to, że maszyny chyba nigdy nie będą potrafiły popełniać błędów i uczyć się na nich (chyba że znów nie jestem douczony i takie algorytmy istnieją) tak, jak człowiek.
      Zauważ też, że (celowo) pominąłem prawa Asimova (które by miały nas przed maszynami chronić) – uważam, że takie zasady tak samo łatwo można złamać, jak dekalog – wystarczy odpowiedni wirus. Zresztą maszyn bojowych prawa Asimova chyba obowiązywać nie będą…

      • uru28

        Zatem „Centrum Galaktyki” polecam (uprzedzam 6 części i wciąga) ;) Co do popełniania błędów i uczenia się to oczywiście w bardzo ograniczony zakresie w nawiązaniu do tematu, ale mamy to od dawna np w sterownikach PID (przemysłowe lub te w piecach na ekogroszek). Bez doktoryzowania się nad tematem uogólniając algorytm ma za zadanie utrzymać zadane parametry oscylując zmiennymi.W piecach na ekogroszek z podajnikiem dysponując danymi tylko z czujnika temp. spalin oraz temp. powrotu algorytm dobiera podawanie paliwa oraz nadmuch tak by utrzymywać zadaną temperaturę.Ktoś pewnie powie że to spore nadużycie ale można chyba przyjąć ze uczy się typu paliwa (kaloryczność) oraz wydatkowania ciepła (reaguje na zamknięcie lub zmianę ustawień grzejników) Uczenie maszynowe to naturalnie inna kwestia,choć rozwijana bodaj od połowy lat 60.Z resztą Google i Bing podobno korzystają z algorytmów uczenia maszynowego… Możemy przyjąć że na razie to wszystko jest w powijakach, ale stworzenie „sztucznej” ewolucji w teorii nie jest takie trudne. Jeśli określisz parametry jakie chcesz osiągnąć a potem będziesz zmieniał zmienne to w końcu trafisz na rozwiązanie optymalne.Ewolucji naturalnej wykształcenie oka czy kończyn zajęło trochę czasu jednak w przypadku SI to będzie jak porównanie mnicha z liczydłem a dzisiejszego PC a o ile PC nie wie czego mu potrzeba tak z SI to będzie raczej inna bajka….Prawa Asimova można wprowadzić do programu, w przypadku SI nie wiem czy miało by to jakiś sens.Albo tworzymy SO (substytut osobowości) mający ograniczenia, albo sztuczną inteligencję będącą autonomicznym bytem;) Powiem Ci jednak że „twoja” wizja podoba mi się bardziej.

        • Jeśli mam być szczery – mnie też się ta wizja bardziej podoba :/

  • Kewin Karlos

    Ustalmy, czy technologia jest na pewno tylko środkiem, a nie celem. Zaczynam mieć poważne wątpliwości czy nie staje się sztuką dla sztuki. Daliśmy się wpędzić w błędne koło dokonywania zmian, tylko po to by niekiedy poprawiać dobre. W wielu dziedzinach staliśmy się już zbędnym gadżetem. Autora, pomimo upałów, zachęcam do dalszej pracy.

  • pma

    hmmm zapomniałeś o Neuromancer taka wizji może się udać

Przeczytaj następny wpis

Recenzja Honor 4C

3,5GB pamięci to jakiś (nie)śmieszny żart...

Tabletowo.pl
Logowani/Rejestracja jest chwilowo wyłączona