De werking van Tesla’s Autopilot-software heeft geleid tot ‘voorzienbaar misbruik en vermijdbare ongelukken’. Zo luidt de conclusie van een Amerikaans onderzoek naar dit systeem. Het is niet duidelijk of de Autopilot-update van afgelopen december de problemen heeft verholpen.
De Amerikaanse verkeerstoezichthouder National Highway Traffic Safety Administration heeft de resultaten van zijn onderzoek naar de werking van Tesla’s Autopilot-functie gedeeld. Daarvoor zijn in drie jaar tijd 956 ongelukken geanalyseerd. Uit deze analyse bleek dat de Autopilot-functie bij 467 van die ongelukken een rol heeft gespeeld. In dertien gevallen ging het om een fataal ongeluk.
Volgens de Nhtsa werden die ongelukken veroorzaakt doordat de bestuurders het systeem misbruikten. Wel neemt de toezichthouder het Tesla kwalijk dat de fabrikant niet genoeg veiligheidsmaatregelen heeft geïmplementeerd om dergelijk misbruik te voorkomen. De toezichthouder zegt dat het Autopilot-systeem ‘onder bepaalde omstandigheden’ er niet voldoende voor zorgt dat bestuurders de aandacht erbij houden en de functie correct gebruiken.
Bestuurders verwachten dat het Autopilot-systeem veel minder toezicht vereist dan in werkelijkheid het geval is, en dat leidt tot een ‘kritieke veiligheidskloof’, aldus de Nhtsa. Volgens de toezichthouder moet Tesla de effectiviteit van de Autopilot-waarschuwingen verbeteren, en ervoor zorgen dat gebruikers beter weten waar dit systeem wel, en niet voor gebruikt kan worden.
De toezichthouder maakt zich onder meer zorgen over de naam ‘Autopilot’. Die naam zou namelijk suggereren dat deze modus de wagen autonoom laat rijden, terwijl een naam met ‘assist’ of ‘team’ erin de lading beter dekt, claimt het overheidsorgaan. Ook zouden pogingen om tijdens Autopilot bij te sturen, ervoor zorgen dat het systeem volledig wordt gedeactiveerd. Daardoor kunnen bestuurders worden ontmoedigd om zich bezig te houden met het rijden, schrijft de Nhtsa.
Afgelopen december bracht Tesla een software-update voor een onderdeel van Autopilot uit, namelijk de zelfsturende Autosteer-functie. Dat deed het bedrijf omdat de Nhtsa aan Tesla liet weten dat de fabrikant onvoldoende controleerde of bestuurders hun stuur wel vasthielden. De geanalyseerde ongelukken van het huidige onderzoek vonden allemaal plaats voordat deze update werd uitgebracht. Het is dus niet duidelijk of de update de zorgen van de toezichthouder wegneemt. De Nhtsa is een nieuw onderzoek gestart om daarachter te komen.
Wel laat het overheidsorgaan al weten dat deze waarschijnlijk niet voldoende is om de problemen op te lossen, aangezien er sindsdien meerdere nieuwe meldingen naar buiten zijn gekomen over ongelukken met betrekking tot Autopilot. Bovendien kunnen bestuurders er zelf voor kiezen of ze de update willen binnenhalen en is het eveneens mogelijk om deze ongedaan te maken.