Ważne

Bunt maszyn: Facebook wyłącza jeden z systemów sztucznej inteligencji, bo… stworzyła ona swój własny język

Prezes Tesli, Elon Musk, stwierdził ostatnio, że największym zagrożeniem dla ludzkości jest Sztuczna Inteligencja. Kilka dni później Facebook był zmuszony zamknąć jeden z systemów SI po tym, jak chatboty zaczęły mówić własnym językiem, sprzeciwiając się wewnętrznym kodom.

Według doniesień Tech Timesa, w niedzielę gigant społecznościowy musiał wyciągnąć wtyczkę od systemu sztucznej inteligencji, nad którym pracują naukowcy Facebooka, „ponieważ rzeczy wyrwały się spod kontroli„. Jak czytamy w raporcie, „Sztuczna Inteligencja nie zaczęła wyłączać komputerów na całym świecie ani nic z tych rzeczy, ale przestała używać języka angielskiego i zaczęła posługiwać się językiem, który sama stworzyła”.

Początkowo boty SI używały języka angielskiego, by się z sobą porozumiewać, ale później stworzyły nowy język, zrozumiały tylko dla systemów sztucznej inteligencji, co było niezgodne z celem, dla którego powstały. Dlatego badacze Facebooka musieli wyłączyć systemy SI, a następnie zmusili boty, by te rozmawiały tylko po angielsku.

Już w czerwcu naukowcy z Facebook AI Research Lab (FAIR) zauważyli, że kiedy oni byli zajęci usprawnieniami chatbotów, „agenci dialogu” tworzyli swój własny język. Wkrótce boty coraz bardziej odbiegały od standardowych scenariuszy rozmowy i zaczęły komunikować się w całkowicie nowym języku, który stworzyły bez jakiejkolwiek pomocy ze strony człowieka.

Dwa boty Facebooka rozmawiają ze sobą „w swoim języku”

Korzystając z algorytmów uczenia maszynowego, boty zostały pozostawione same sobie, by mogły radośnie konwersować ze sobą w kontrolowanych warunkach. Dodatkowo okazało się, że boty są „niewiarygodnie skutecznymi negocjatorami”.

Podczas uczenia się negocjacji, boty polegały na uczeniu maszynowym . Z biegiem czasu były w tym coraz lepsze, a nawet zaczęły udawać, że interesują się jakąś rzeczą, by później „poświęcić” ją podczas negocjacji w postaci fałszywego kompromisu.

To, co wyprawia Sztuczna Inteligencja potrafi zadziwić, i choć często są to sukcesy na jednym, bardzo wąskim polu, to każą one na poważnie brać ostrzeżenia Elona Muska, Billa Gatesa czy Steve’a Wozniaka odnośnie zagrożeń, jakie stoją przed ludźmi w obliczu szybko rozwijającej się SI. Oczywiście na tym etapie wystarczy tylko wyciągnąć wtyczkę z odpowiedniej szafy, ale mogą nadejść czasy, gdy to będzie za mało, a maszyny będą dogadywać się ze sobą za naszymi plecami…

źródło: Tech Times przez Gadgets360
zdjęcie tytułowe: Matt Simmons, CC-2.0

Komentarze

Logowani/Rejestracja jest chwilowo wyłączona