Asus Zenfone 4
Ważne

Autonomiczny samochód oszukać mogą nie tylko hakerzy, ale również zdolni wandale

Kiedy słyszę opinie, że już za chwilę autonomiczne samochody będą codziennym zjawiskiem na ulicach, mam ochotę popukać się w czoło. Choć tego, że świat dąży do sytuacji, w której nie będziemy niezbędni jako kierowcy do przejechania pewnej trasy, jestem akurat pewny. Ale póki co, przed naukowcami jeszcze sporo pracy. Między innymi w aspekcie dopracowania wszelkich niezbędnych do tego systemów.

Pracownicy Uniwersytetu w Waszyngtonie przeprowadzili badania, które w pewnym sensie udowodniły, że oszukanie autonomicznego pojazdu wcale nie jest takie trudne. I nie są potrzebne do tego umiejętności hakerskie. Dużo bardziej przydają się te plastyczne, bowiem przy umiejętnym oklejeniu pionowych znaków drogowych, system wariuje i nie potrafi poprawnie określić z jakim ma do czynienia.

Dokładnie tak, jak możecie zobaczyć to na zamieszczonych powyżej zdjęciach. Na znaku STOP znalazły się dwie naklejki. “Love” i “Hate”. Wydaje się, że pomimo tego, jest on dość dobrze widoczny. Owszem jest, ale tylko dla człowieka. Dla systemu komputerowego stał się… ograniczeniem prędkości. System nie poradził sobie również z zaklejonym znakiem wskazującym nakaz jazdy w prawo.  Ten został potraktowany przez niego dokładnie tak samo i rozpoznany jako obostrzenie dotyczące prędkości. Szans było kilka, z różnych odległości i pod różnym kątem.

Wszystko brzmi dosyć groźnie i mogłoby zachwiać coraz lepszą pozycję samodzielnych pojazdów. Na ich obronę działa jednak jeden mały, ale dość istotny szczegół. Mianowicie, naklejki na znaku w ogóle nie są przypadkowe. To jak wyglądają i gdzie się znajdują jest dziełem algorytmu. Dokładniej Robust Physical Perturbations (RP2). Jego zadaniem jest właśnie oszukanie systemów w jakie wyposażone są autonomiczne samochody. Tak więc zamalowany lub zaklejony przydrożny znak prawdopodobnie nie będzie zagrożeniem dla tego typu aut.

Jeżeli jednak znajdzie się ktoś, kto usilnie będzie chciał oszukać system, zapewne to zrobi. Z pełnym dostępem do algorytmu czy też bez niego – ponieważ jak zwracają uwagę naukowcy, tak również można oszukać autonomiczny samochód. Najważniejsze w tym wszystkim – przynajmniej w mojej opinii – jest to, że jeżeli już taka luka się znalazła, należy zrobić wszystko, aby ją załatać. Niezależnie od tego, jak powszechne może być niebezpieczeństwo z nią związane.

O skutkach nierozpoznania i niedostosowania się do znaków nikogo informować chyba nie trzeba. Niespecjalnie przekonuje mnie jednak zaproponowane przez grupę badaczy rozwiązanie. Według nich, pojazd powinien rozpoznając znaki, biorąc pod uwagę ich lokalizację. Miałoby to działać na zasadzie braku ograniczenia prędkości do 90 km/h w mieście czy też znaku STOP na autostradzie. Zamysł jest niezły, ale czy idealny? Wątpię.

Co w sytuacji jakiegokolwiek remontu i objazdu? Wtedy umiejscowienie znaków często się zmienia i faktycznie niektóre z nich mogą znaleźć się w miejscu, którego normalnie nie braliby pod uwagę kierowcy, a więc i system komputerowy. Sens gdzieś w tym jest, ale stuprocentowej gwarancji bezpieczeństwa chyba nie daje.

W całej pracy, jaką wykonali naukowcy, brak mi jakiegokolwiek odwołania się do samego kształtu znaku. Zwłaszcza w kontekście STOP-u. Ten w wielu krajach wygląda bowiem tak samo i oparcie systemu na konturach wydaje mi się lepszym rozwiązaniem. Nad tym myślą jednak mądrzejsze głowy niż moja. Mimo wszystko, odwrotu od przejęcia kierownicy przez komputer chyba już nie ma. Choć jeszcze trochę czasu upłynie, zanim stanie się to codziennością.

Źródło: University of Washington, Engadget dzięki Komputer Świat, Spider’s Web

Komentarze

  • Teraz będą używali tego jako powód by nie zezwalać na autonomiczne pojazdy ale to zarządca drogi odpowiada za czytelność znaków.

    O wiele gorzej bedzie jak np. auto będzie jechało osiedlem i akurat ktoś z plecaka szybko wyjmie jakiś znak nakaz skrętu w prawo ale raczej do kolizji nie dojdzie bo mimo fałszywych znaków system radaru dalej działa.

    • Glee

      Właśnie wydaje mi się, że zanim system wejdzie do codzienności minie z 4-5 lat samej nauki w normalnych warunkach z dziesiątkami tysięcy kierowców za kółkiem – samochód to nie program komputerowy i będzie trzeba go dopracować prawie idealnie, żeby całkowicie przejąć kontrolę – a za ile lat skończą się z grubsza prace tego nie wie nikt.

    • _____

      a co powiesz, jeżeli system podejmie decyzję, żeby zabić ciebie z rodziną w samochodzie zamiast dziecka, które wbiegło na jezdnię?
      nadal będziesz fanem autonomicznych samochodów.

  • Marek

    SI zawsze moze wysiasc z auta i przyjzec sie z bliska!

Logowani/Rejestracja jest chwilowo wyłączona