Jak oszukać autonomiczny samochód? Jest prosty sposób!

Amerykańscy naukowcy odkryli sposób na oszukanie komputerów sterujących autonomicznymi pojazdami. Wystarczą niewielkie modyfikacje wyglądu znaków drogowych, a konsekwencje mogą być bardzo poważne.

Najnowszy raport opublikowany wspólnie przez naukowców z Uniwersytetów z Michigan, Stony Brook, Waszyngtonu i Kalifornii, potwierdza obawy sceptyków w temacie autonomicznych maszyn. Istnieją proste sposoby na oszukanie elektroniki sterującej samochodami.

Głównym elementem wspomnianego raportu jest technologia Deep Neural Network - czyli architektura oprogramowania wykorzystywana w urządzeniach i systemach, w których wymagana jest interpretacja dostarczanych danych. To właśnie dzięki temu samochody autonomiczne są w stanie jeździć, "widzieć" i "uczyć się", jak reagować na dane sytuacje na drodze. To wszystko jest możliwe dzięki danym dostarczanym przez sensory, kamery czy lasery. Na podstawie tych informacji mogą oszacować nie tylko odległość od poprzedzającego samochodu, ale również odróżnić przydrożne drzewo od pieszego.

Żeby wszystko działało sprawnie, inżynierowie muszą opracować niezbędne oprogramowanie oraz algorytmy wykluczające możliwość wystąpienia błędów w interpretacji sygnałów. Jednak wystarczy wiedzieć, w jaki sposób autonomiczna technologia przetwarza dane, żeby skutecznie ją oszukać.

Naukowcy przetestowali to w bardzo prosty sposób. Wystarczy przykleić kilka prostokątnych naklejek na znak stopu, żeby został rozpoznawany jako ograniczenie prędkości do 45 mil na godzinę. To nie jest dobra wiadomość, ponieważ autonomiczny samochód może przyspieszyć zamiast się zatrzymać. Z kolei znak nakazujący skręt w prawo może zostać w prosty sposób zamieniony w znak stopu  lub nowy pas ruchu.

Wyniki badań z pewnością wywołają sporo kontrowersji w temacie autonomicznych samochodów. Producenci pracują już nad rozwiązaniem, które wykluczy takie sytuacje, ale na pewno pojawią się zupełnie nowe przypadki pozwalające oszukać maszynę.

Czy Twoim zdaniem autonomiczne samochody powinny wyjechać na drogi już w 2020 roku?
Więcej o: