Kilka naklejek i autonomiczne pojazdy wariują

Autonomiczny samochód oszukać mogą nie tylko hakerzy, ale również zdolni wandale

Kiedy słyszę opinie, że już za chwilę autonomiczne samochody będą codziennym zjawiskiem na ulicach, mam ochotę popukać się w czoło. Choć tego, że świat dąży do sytuacji, w której nie będziemy niezbędni jako kierowcy do przejechania pewnej trasy, jestem akurat pewny. Ale póki co, przed naukowcami jeszcze sporo pracy. Między innymi w aspekcie dopracowania wszelkich niezbędnych do tego systemów.

Pracownicy Uniwersytetu w Waszyngtonie przeprowadzili badania, które w pewnym sensie udowodniły, że oszukanie autonomicznego pojazdu wcale nie jest takie trudne. I nie są potrzebne do tego umiejętności hakerskie. Dużo bardziej przydają się te plastyczne, bowiem przy umiejętnym oklejeniu pionowych znaków drogowych, system wariuje i nie potrafi poprawnie określić z jakim ma do czynienia.

Dokładnie tak, jak możecie zobaczyć to na zamieszczonych powyżej zdjęciach. Na znaku STOP znalazły się dwie naklejki. „Love” i „Hate”. Wydaje się, że pomimo tego, jest on dość dobrze widoczny. Owszem jest, ale tylko dla człowieka. Dla systemu komputerowego stał się… ograniczeniem prędkości. System nie poradził sobie również z zaklejonym znakiem wskazującym nakaz jazdy w prawo.  Ten został potraktowany przez niego dokładnie tak samo i rozpoznany jako obostrzenie dotyczące prędkości. Szans było kilka, z różnych odległości i pod różnym kątem.

Tabletowo.pl Autonomiczny samochód oszukać mogą nie tylko hakerzy, ale również zdolni wandale Ciekawostki Moto Sztuczna Inteligencja Technologie

Wszystko brzmi dosyć groźnie i mogłoby zachwiać coraz lepszą pozycję samodzielnych pojazdów. Na ich obronę działa jednak jeden mały, ale dość istotny szczegół. Mianowicie, naklejki na znaku w ogóle nie są przypadkowe. To jak wyglądają i gdzie się znajdują jest dziełem algorytmu. Dokładniej Robust Physical Perturbations (RP2). Jego zadaniem jest właśnie oszukanie systemów w jakie wyposażone są autonomiczne samochody. Tak więc zamalowany lub zaklejony przydrożny znak prawdopodobnie nie będzie zagrożeniem dla tego typu aut.

Tabletowo.pl Autonomiczny samochód oszukać mogą nie tylko hakerzy, ale również zdolni wandale Ciekawostki Moto Sztuczna Inteligencja Technologie

Jeżeli jednak znajdzie się ktoś, kto usilnie będzie chciał oszukać system, zapewne to zrobi. Z pełnym dostępem do algorytmu czy też bez niego – ponieważ jak zwracają uwagę naukowcy, tak również można oszukać autonomiczny samochód. Najważniejsze w tym wszystkim – przynajmniej w mojej opinii – jest to, że jeżeli już taka luka się znalazła, należy zrobić wszystko, aby ją załatać. Niezależnie od tego, jak powszechne może być niebezpieczeństwo z nią związane.

O skutkach nierozpoznania i niedostosowania się do znaków nikogo informować chyba nie trzeba. Niespecjalnie przekonuje mnie jednak zaproponowane przez grupę badaczy rozwiązanie. Według nich, pojazd powinien rozpoznając znaki, biorąc pod uwagę ich lokalizację. Miałoby to działać na zasadzie braku ograniczenia prędkości do 90 km/h w mieście czy też znaku STOP na autostradzie. Zamysł jest niezły, ale czy idealny? Wątpię.

Co w sytuacji jakiegokolwiek remontu i objazdu? Wtedy umiejscowienie znaków często się zmienia i faktycznie niektóre z nich mogą znaleźć się w miejscu, którego normalnie nie braliby pod uwagę kierowcy, a więc i system komputerowy. Sens gdzieś w tym jest, ale stuprocentowej gwarancji bezpieczeństwa chyba nie daje.

W całej pracy, jaką wykonali naukowcy, brak mi jakiegokolwiek odwołania się do samego kształtu znaku. Zwłaszcza w kontekście STOP-u. Ten w wielu krajach wygląda bowiem tak samo i oparcie systemu na konturach wydaje mi się lepszym rozwiązaniem. Nad tym myślą jednak mądrzejsze głowy niż moja. Mimo wszystko, odwrotu od przejęcia kierownicy przez komputer chyba już nie ma. Choć jeszcze trochę czasu upłynie, zanim stanie się to codziennością.

Źródło: University of Washington, Engadget dzięki Komputer Świat, Spider’s Web

Jeżeli znalazłeś literówkę w tekście, to daj nam o tym znać zaznaczając kursorem problematyczny wyraz, bądź zdanie i przyciśnij Shift + Enter lub kliknij tutaj. Możesz też zgłosić błąd pisząc na maila.

Komentarze

Logowani/Rejestracja jest chwilowo wyłączona