Asus Zenfone 4
Ważne

Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo… stworzyła ona swój własny język

Prezes Tesli, Elon Musk, stwierdził ostatnio, że największym zagrożeniem dla ludzkości jest Sztuczna Inteligencja. Kilka dni później Facebook był zmuszony zamknąć jeden z systemów SI po tym, jak chatboty zaczęły mówić własnym językiem, sprzeciwiając się wewnętrznym kodom.

Według doniesień Tech Timesa, w niedzielę gigant społecznościowy musiał wyciągnąć wtyczkę od systemu sztucznej inteligencji, nad którym pracują naukowcy Facebooka, “ponieważ rzeczy wyrwały się spod kontroli“. Jak czytamy w raporcie, “Sztuczna Inteligencja nie zaczęła wyłączać komputerów na całym świecie ani nic z tych rzeczy, ale przestała używać języka angielskiego i zaczęła posługiwać się językiem, który sama stworzyła”.

Początkowo boty SI używały języka angielskiego, by się z sobą porozumiewać, ale później stworzyły nowy język, zrozumiały tylko dla systemów sztucznej inteligencji, co było niezgodne z celem, dla którego powstały. Dlatego badacze Facebooka musieli wyłączyć systemy SI, a następnie zmusili boty, by te rozmawiały tylko po angielsku.

Już w czerwcu naukowcy z Facebook AI Research Lab (FAIR) zauważyli, że kiedy oni byli zajęci usprawnieniami chatbotów, “agenci dialogu” tworzyli swój własny język. Wkrótce boty coraz bardziej odbiegały od standardowych scenariuszy rozmowy i zaczęły komunikować się w całkowicie nowym języku, który stworzyły bez jakiejkolwiek pomocy ze strony człowieka.

Dwa boty Facebooka rozmawiają ze sobą “w swoim języku”

Korzystając z algorytmów uczenia maszynowego, boty zostały pozostawione same sobie, by mogły radośnie konwersować ze sobą w kontrolowanych warunkach. Dodatkowo okazało się, że boty są “niewiarygodnie skutecznymi negocjatorami”.

Podczas uczenia się negocjacji, boty polegały na uczeniu maszynowym . Z biegiem czasu były w tym coraz lepsze, a nawet zaczęły udawać, że interesują się jakąś rzeczą, by później “poświęcić” ją podczas negocjacji w postaci fałszywego kompromisu.

To, co wyprawia Sztuczna Inteligencja potrafi zadziwić, i choć często są to sukcesy na jednym, bardzo wąskim polu, to każą one na poważnie brać ostrzeżenia Elona Muska, Billa Gatesa czy Steve’a Wozniaka odnośnie zagrożeń, jakie stoją przed ludźmi w obliczu szybko rozwijającej się SI. Oczywiście na tym etapie wystarczy tylko wyciągnąć wtyczkę z odpowiedniej szafy, ale mogą nadejść czasy, gdy to będzie za mało, a maszyny będą dogadywać się ze sobą za naszymi plecami…

źródło: Tech Times przez Gadgets360
zdjęcie tytułowe: Matt Simmons, CC-2.0

Komentarze

  • Marcin

    Dopóki lewaccy aktywiści nie zrozumieją, że jedynym ratunkiem jest wprowadzenie do AI etyki – i to nie negocjowalnego zbioru, lecz pojęć wywodzących się z transcendencji – dotąd AI będzie grozić człowiekowi zagładą cywilizacji.

    • Piko5552

      A co jeżeli maszyny zostaną ekstremistami religijnymi i zaczną wybuchać za swojego boga?

      • mor

        Note 7?

      • PepeFrog

        Wtedy kupimy zimne piwo, paczkę chipsów i wpuścimy islamskich uchodźców. By patrzeć: bóg pustyni czy cybernetycznej otchłani? Darwinizm jest lepszy niż telewizja

        • naczelny

          a może w tv będzie akurat “planeta małp” ?

    • monoistereo

      etyka nie jest lewacka czy prawacka… za to Ty jesteś dzieckiem swoich czasów

  • Lukasz

    Znam trochę inną wersję tej historii – po.prostu chatboty nie miały wymuszonego użycia języka angielskiego, więc zoptymalizowany sobie pracę wymyślając język, który był dla nich wygodniejszy. Nic dziwnego. W przypadku Google była podobna sytuacja przy tłumaczeniu – powstał język pośredni.

  • dodo

    Nie wiadomo o czym pisały? Nie da sie rozgryść (?) ich języka czy tego co napisały?

    • stark2991

      Masz próbkę powyżej, ma to jakikolwiek sens? :)

      • dodo

        Teraz sensu nie ma :P Ale może da się to przetłumaczyć jakkolwiek.

  • mapa

    ..

  • regoat

    Interesujące

  • Botas

    To raczej brzmi jak by się im zapchała baza danych i zdurniały a nie wymyśliły własny język. Nie ma to jak chwytliwy tytuł. Na szczęście prawdziwa sztuczna inteligencja to jeszcze bardzo odległe klimaty.

    • Lukasz

      Są różne sztuczne inteligencje – słabe i silne. Teraz jest wysyp przede wszystkim słabych, nastawionych na bardzo dobre wykonanie jednego zadania. Google i inne firmy pracują także nad silną sztuczną inteligencją – mogącą wykonywać wiele różnych zadań, ale zazwyczaj ze średnimi rezultatami (podobnie jak ludzie). Do silnej sztucznej inteligencji jesteśmy coraz bliżej, ale jej zastosowania nie są aż tak porządane. Można po prostu zrobić wiele słabych sztucznych inteligencji wykonujących DOBRZE konkretne zadanie. Silna mogłaby dojść do dziwnych wniosków i nie wykonywałaby czynności z taką precyzją. Ale z drugiej strony – szkolenie sztucznych inteligencji odbywa się już przez same sztuczne inteligencje. Ten żmudny proces, który wcześniej wykonywali ludzie, wykonują teraz coraz częściej maszyny.

      • anemusek

        Nie ma sztucznych inteligencji tylko adaptacyjne sieci neuronowe (w slangu marketingowego bełkotu samouczace się )
        Sztuczna inteligencja to marketingowy belkot i dluuugo tak zostanie.

        • Lach

          Doskonałe podsumowanie.

          • dupabezgłowy

            jest praca naukowa, której autor zauważa analogię pomiędzy ludzkim mózgiem, a globalną siecią.

  • Piotrek

    Język angielski jest kiepskim językiem, więc dla każdego nieco rozgarniętego człowieka było oczywistye, że boty SI same opracują dla siebie znacznie doskonalszy i jednoznaczny język, więc uczmy się od nich puki na to nam tego nie ograniczają i pozwalają :)
    Ps.
    Spróbujmy we własnym kraju, zamiast języka angielskiego, posługiwać się wyłącznie językiem ojczystym i zobaczmy co się wydarzy… ;)

  • Kuba Sojka

    Zaczyna się wojna maszyny i ludzi, sztuczna inteligencja będzie pomału atakować rządy prezydenckie, samoloty, będę realny świat Terminatora.

  • Agnieszka Nowak

    Bzdura. Boty rozmawiają po angielsku i jest to bełkot. Nie ma na razie czego się obawiać.

Logowani/Rejestracja jest chwilowo wyłączona