Wystarczy mały czarny pasek, żeby oszukać Autopilota Tesli. Z tego systemu korzystają też inne auta

Wystarczył kawałek czarnej taśmy, żeby przekonać system odczytywania znaków w Tesli, że zamiast 35 mil na godz. może jechać aż 85. Autopilot momentalnie dostosował się do nowego wskazania.

Zdjęcie otwierające to amerykański znak ograniczenia prędkości do 35 mil na godzinę, czyli około 56 km/h, Wystarczy jednak dokleić do niego pasek czarnej taśmy, żeby system rozpoznawania znaków w samochodzie zidentyfikował ograniczenie jako 85 mph, a więc aż 136 km/h. Dla ludzkiego oka wskazanie wciąż wygląda na 35, ale komputer nie będzie w stanie rozpoznać oszustwa.

System rozpoznawania znaków jest bezpośrednio powiązany z adaptacyjnym tempomatem, a więc systemem, który w dużej mierze może samodzielnie sterować samochodem. Najnowsze rozwiązania tego typu utrzymują samochód w pasie ruchu, monitorują zachowanie kierowców przed nami, potrafią się zatrzymać i znowu wznowić jazdę, a także na podstawie znaków utrzymywać odpowiednią prędkość. Oszukanie takiego systemu sprawi, że samochód nagle zacznie gwałtownie przyspieszać np. przy szkole albo często uczęszczanym przejściu dla pieszych.

Tak wygląda przerobiony znak:

Przerobione ograniczenie prędkości do 35mphPrzerobione ograniczenie prędkości do 35mph fot. McAfee

Eksperyment przeprowadziła firma McAfee, którą w Polsce znamy przede wszystkim z programów antywirusowych. Ofiarą padła Tesla Model X z 2016 r., której Autopilot dał się zwieść "dwucalowemu kawałkowi czarnej taśmy". Później oszukano również systemy Modelu S z tego samego rocznika. Nie jest to jednak problem tylko Tesli Motors, a technologii rozpoznawania znaków Mobileye EyeQ3, której kalifornijska marka używała w pierwszej generacji swojego Autopilota. Jednak eksperci McAfee zwracają uwagę, że z Mobileye korzysta ponad 40 milionów samochodów na całym świecie.

McAfee poinformowało Teslę oraz innych producentów o swoim odkryciu. Wyniki badania opinii publicznej podano dopiero po 90 dniach, żeby marki mogły zareagować, a trik z czarną taśmą nie został wykorzystany przez oszustów. To częsta sytuacja w motoryzacji ostatnich lat - producenci samochodów współpracują z firmami pokroju McAfee, żeby te wykrywały luki w systemach, a producenci mogli je naprawiać aktualizacjami lub wymianą wadliwego elementu. Wiele marek zatrudnia hakerów, żeby wyszukiwali podobne błędy.

Nagranie z eksperymentu:

 

O bezpieczeństwie w nowych samochodach pisaliśmy niedawno w obszernym materiale w naszym nowym cyklu MOTO2030. "Zhakowanie samochodu zajmuje kilka minut. A to furtka do zainfekowania kolejnych, które są z nim połączone w jeden system. W tym systemie znajduje się dziś 330 mln aut" - pisał Piotr. Wszystkich zainteresowanych zachęcamy do kliknięcia w link poniżej:

Zobacz wideo
Więcej o:
Komentarze (36)
Wystarczy mały czarny pasek, żeby oszukać Autopilota Tesli. Z tego systemu korzystają też inne auta
Zaloguj się lub komentuj jako gość
  • Gość: Michal

    Oceniono 11 razy 9

    Dopoki cala infrastruktura czyli drogi z ograniczeniami, skrzyzowania ze swiatlami i same pojazdy nie beda polaczone poprzez jeden system, to wszelkie proby jazdy autonomicznej, takiej w 100% bezpiecznej sa niemozliwe. Do Jetsonow to nam jeszcze daleko.

  • Gość: asdfgh

    Oceniono 8 razy 8

    Prawdziwa głupota zawsze pokona sztuczną inteligencję.

  • wooki74

    Oceniono 12 razy 8

    A moze jadnak warto, żeby kierowcy sami prowadzili auta? I samodzielnie myśleli? No ale myślenie nie ma przyszłości jednak widzę....

  • jac_l_w

    Oceniono 3 razy 3

    W tej historyjce nie jest najważniejsze to, że 3 przerobione na 8 wygląda prawie jak 8, ale coś zupełnie innego. Nawet ostatni dureń widząc w mieście ograniczenie do 85 mph natychmiast zorientuje się, że to fake. Sztuczna inteligencja takich niuansów (i setek innych) nie analizuje, bo algorytm rozrósłby się do nieskończoności.

  • Gość: Rysio

    Oceniono 1 raz 1

    Tesla nie jest już klientem firmy Mobileye. Dlatego nie może już korzystać z rozpoznawania znaków przy użyciu kamery, gdyż został on opatentowany. Tego typu ataki nie powiodą się w nowych wersjach Tesli

  • m33h0w

    0

    A ile można by dzięki takiemu paskowi na mandatach zarobić ;)

  • postprawda

    Oceniono 3 razy -1

    U nas i tak jeździ się 2 razy szybciej niż jest ograniczenie na znakach, bo Polacy są 2 razy mundrzejszy od innych, co najmniej.

Aby ocenić zaloguj się lub zarejestrujX