Większość pojazdów z podobnymi funkcjami korzysta z kombinacji kamer, ultradźwiękowych czujników, radaru i lidarów. Tesla, stawiając na tańszy zestaw kamer, rezygnuje z tych dodatkowych narzędzi. Kamery mają te same ograniczenia, co ludzkie oczy – nie radzą sobie w trudnych warunkach, takich jak mgła czy deszcz. To może prowadzić do niebezpiecznych sytuacji.
Mark Rober porównuje działanie Autopilota swojego Modelu Y z pojazdem wyposażonym w lidar, używając fikcyjnej przeszkody w postaci „ściany”. Tesla wpada w pułapkę, nie zatrzymując się, co podkreśla istotny problem w kontekście badania NHTSA. Co ciekawe, tuż przed uderzeniem Autopilot dezaktywuje się, co zwraca uwagę na to, co dzieje się z danymi uczestników w momencie kolizji.
Według raportu NHTSA, w 16 przypadkach, w których pojazdy Tesli uderzyły w zatrzymane pojazdy ratunkowe, Autopilot dezaktywował kontrolę pojazdu na mniej niż sekundę przed pierwszym uderzeniem. To wzbudza obawy, że Tesla może zrzucać winę na kierowców, mimo że system miał możliwość zauważenia przeszkód na drodze nawet 8 sekund przed kolizją.
Istnieją teorie, że Tesla celowo zaprogramowała Autopilot tak, aby deaktywować się przed uderzeniem, co pozwalałoby im na argumentację o winie kierowcy. Jednak brak dowodów na potwierdzenie takich zamiarów pozostawia nas w strefie spekulacji.
W obliczu wyzwań związanych z badaniem NHTSA Tesla zmuszona była do wprowadzenia poprawek dotyczących monitorowania zaangażowania kierowcy podczas działania Autopilota.
Tesli grożą poważne zarzuty związane z bezpieczeństwem jej systemu Autopilot, gdyż badania NHTSA ujawniają potencjalne problemy z deaktywacją systemu przed kolizjami. Pojawia się pytanie, na ile kierowcy mogą polegać na tej technologii, a także jak Tesla zamierza zareagować na rosnące wątpliwości.
