Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo... stworzyła ona swój własny język - Tabletowo.pl

Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo… stworzyła ona swój własny język

Dołącz do dyskusji 0

Prezes Tesli, Elon Musk, stwierdził ostatnio, że największym zagrożeniem dla ludzkości jest Sztuczna Inteligencja. Kilka dni później Facebook był zmuszony zamknąć jeden z systemów SI po tym, jak chatboty zaczęły mówić własnym językiem, sprzeciwiając się wewnętrznym kodom.

Według doniesień Tech Timesa, w niedzielę gigant społecznościowy musiał wyciągnąć wtyczkę od systemu sztucznej inteligencji, nad którym pracują naukowcy Facebooka, „ponieważ rzeczy wyrwały się spod kontroli„. Jak czytamy w raporcie, „Sztuczna Inteligencja nie zaczęła wyłączać komputerów na całym świecie ani nic z tych rzeczy, ale przestała używać języka angielskiego i zaczęła posługiwać się językiem, który sama stworzyła”.

Początkowo boty SI używały języka angielskiego, by się z sobą porozumiewać, ale później stworzyły nowy język, zrozumiały tylko dla systemów sztucznej inteligencji, co było niezgodne z celem, dla którego powstały. Dlatego badacze Facebooka musieli wyłączyć systemy SI, a następnie zmusili boty, by te rozmawiały tylko po angielsku.

Już w czerwcu naukowcy z Facebook AI Research Lab (FAIR) zauważyli, że kiedy oni byli zajęci usprawnieniami chatbotów, „agenci dialogu” tworzyli swój własny język. Wkrótce boty coraz bardziej odbiegały od standardowych scenariuszy rozmowy i zaczęły komunikować się w całkowicie nowym języku, który stworzyły bez jakiejkolwiek pomocy ze strony człowieka.

Tabletowo.pl Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo... stworzyła ona swój własny język Ciekawostki Facebook Social Media Sztuczna Inteligencja

Dwa boty Facebooka rozmawiają ze sobą „w swoim języku”

Korzystając z algorytmów uczenia maszynowego, boty zostały pozostawione same sobie, by mogły radośnie konwersować ze sobą w kontrolowanych warunkach. Dodatkowo okazało się, że boty są „niewiarygodnie skutecznymi negocjatorami”.

Podczas uczenia się negocjacji, boty polegały na uczeniu maszynowym . Z biegiem czasu były w tym coraz lepsze, a nawet zaczęły udawać, że interesują się jakąś rzeczą, by później „poświęcić” ją podczas negocjacji w postaci fałszywego kompromisu.

To, co wyprawia Sztuczna Inteligencja potrafi zadziwić, i choć często są to sukcesy na jednym, bardzo wąskim polu, to każą one na poważnie brać ostrzeżenia Elona Muska, Billa Gatesa czy Steve’a Wozniaka odnośnie zagrożeń, jakie stoją przed ludźmi w obliczu szybko rozwijającej się SI. Oczywiście na tym etapie wystarczy tylko wyciągnąć wtyczkę z odpowiedniej szafy, ale mogą nadejść czasy, gdy to będzie za mało, a maszyny będą dogadywać się ze sobą za naszymi plecami…

źródło: Tech Times przez Gadgets360
zdjęcie tytułowe: Matt Simmons, CC-2.0

Jeżeli znalazłeś literówkę w tekście, to daj nam o tym znać zaznaczając kursorem problematyczny wyraz, bądź zdanie i przyciśnij Shift + Enter lub kliknij tutaj. Możesz też zgłosić błąd pisząc na maila.

Komentarze

Nowy system komentarzy? Zobacz co się zmieniło.
Mediaexpert - ferie z super cenami!
Logowani/Rejestracja jest chwilowo wyłączona