Die US-amerikanischen Sicherheitsbehörden haben eine Untersuchung zum Tod eines Tesla Model S-Fahrers eingeleitet, dessen Fahrzeug mit dem Autopilot-Modus fuhr. Es handelt sich um den ersten bekannten tödlichen Unfall mit Beteiligung des teilautomatisierten Systems des Unternehmens und um einen entscheidenden Test dafür, wie Fahrer, Hersteller und Regierung Technologien verstehen, die zwar lenken können, aber die menschliche Aufmerksamkeit nicht ersetzen können.
Bei einem Unfall am 7. Mai in Williston, Florida, kam der 40-jährige Joshua Brown ums Leben, als ein Sattelzug vor dem Tesla nach links abbog. Laut Teslas Mitteilung vom Donnerstagbremsten weder der Fahrer noch der Autopilot, da das System die weiße Seite des Anhängers nicht vom hell erleuchteten Himmel unterscheiden konnte. Das Auto fuhr unter dem Anhänger hindurch.
Die US-amerikanische Verkehrssicherheitsbehörde NHTSA hat eine Voruntersuchung an rund 25.000 Fahrzeugen des Modells S eingeleitet. Die Behörde erklärte, die Untersuchung werde die Konstruktion und Leistungsfähigkeit der zum Zeitpunkt der Untersuchung verwendeten automatisierten Fahrsysteme prüfen; die Einleitung einer Untersuchung bedeute jedoch nicht, dass die Aufsichtsbehörden einen Mangel festgestellt hätten.
Ein System, das den Fahrer unterstützen und nicht ersetzen soll
Der Autopilot kombiniert Kameras, Radar, Ultraschallsensoren und digitale Kartendaten, um die Spur zu halten, die Geschwindigkeit zu regeln und auf Anweisung des Fahrers die Spur zu wechseln. Tesla führte diese Funktionen im vergangenen Oktober per Software-Update ein – ein ungewöhnliches Bereitstellungsmodell, das bestehenden Fahrzeugen neue Funktionen ohne Werkstattbesuch ermöglichte.
Das System ist nicht autonom. Tesla verlangt von den Fahrern, die Hände am Lenkrad zu behalten und jederzeit bereit zu sein, die Kontrolle zu übernehmen. Optische und akustische Warnungen verstärken sich, wenn das Fahrzeug keine Lenkradbewegungen erkennt. Die Bedienungsanleitung des Model S beschreibt den Autosteer als Beta-Funktion, die für Autobahnen vorgesehen ist, und warnt vor der Nutzung auf Straßen mit Kreuzungen oder unvorhersehbarem Verkehr.
Diese Unterscheidung ist technisch klar, aber verhaltensbezogen instabil. Ein System, das ein Fahrzeug über längere Zeiträume steuern kann, verleitet Fahrer dazu, die Überwachung als optional zu betrachten, insbesondere wenn es die meiste Zeit zuverlässig funktioniert. Automatisierung kann die Arbeitsbelastung reduzieren, erschwert aber gleichzeitig den seltenen Bedarf an sofortigem Eingreifen, da der Mensch aus dem Regelkreis verdrängt wurde.
Der Absturz legt die Grenzen der maschinellen Wahrnehmung offen
Der Unfall in Florida stellt ein schwieriges visuelles Problem dar: ein großer weißer Anhänger überquerte die Straße vor hellem Hintergrund. Tesla gab an, dass die hohe Bodenfreiheit des Anhängers und seine Position quer über die Fahrbahn zu der Schwere des Unfalls beitrugen. Radar- und Kamerasysteme müssen Objekte klassifizieren, Bewegungen vorhersagen und entscheiden, ob eine Bremsung erforderlich ist, ohne dabei gefährlich auf Brücken, Schilder und andere Bauwerke über der Fahrbahn zu reagieren.
Reuters berichtete , dass erste Erkenntnisse darauf hindeuten, dass der Sattelzug an einer Kreuzung auf einer freien, trockenen Straße abgebogen ist. Die Ermittler benötigen Fahrzeugprotokolle, Sensordaten und Spuren am Unfallort, um Geschwindigkeit, Fahrereingaben, Warnmeldungen und die genaue Reaktion der einzelnen Fahrzeugsysteme zu ermitteln.
Der Fall verdeutlicht auch, warum der Begriff „Autopilot“ so bedeutsam ist. Tesla verwendet ihn in Analogie zur Luftfahrt, wo automatisierte Systeme weiterhin ausgebildete Piloten benötigen. Normale Autofahrer hören möglicherweise ein stärkeres Versprechen. Das Unternehmen betont zwar wiederholt, dass die Fahrer weiterhin Verantwortung tragen, doch Produktnamen, Vorführungen und die Erfahrung des autonomen Fahrens können die Erwartungen ebenso stark prägen wie Warnungen.
Die Regulierung hinkt der Software hinterher
der NHTSA für die Fahrzeugautomatisierung unterscheiden zwischen Fahrerassistenzsystemen und Systemen, die die gesamte Fahraufgabe übernehmen können. Der Autopilot gehört zur ersteren Kategorie: Er steuert Lenkung und Geschwindigkeit unter bestimmten Bedingungen, während der Fahrer die Umgebung überwacht.
Die traditionelle Fahrzeugregulierung basiert auf der Untersuchung physischer Bauteile und Defekte. Softwaregesteuertes Verhalten hingegen ändert sich schneller, kann drahtlos aktualisiert werden und hängt vom Zusammenspiel von Sensoren, Code, Straßenverhältnissen und menschlichem Fahrverhalten ab. Die Untersuchung muss daher nicht nur klären, ob ein Bauteil versagt hat, sondern auch, ob die Systembeschränkungen und Warnmeldungen für ein vorhersehbares Fahrverhalten angemessen ausgelegt waren.
Tesla gibt an, dass Kunden über 130 Millionen Meilen mit aktiviertem Autopilot zurückgelegt haben und vergleicht den einen Todesfall mit einem Verkehrstoten in den USA alle 94 Millionen Meilen. Dieser Vergleich ist vorläufig und kann keine Aussage über die relative Sicherheit treffen, da die mit Autopilot zurückgelegten Meilen hauptsächlich auf Straßen und unter Bedingungen gefahren werden, die vom nationalen Durchschnitt abweichen, und da die Nutzungsdaten nicht unabhängig analysiert wurden.
Ein zeitgenössischer technischer Bericht von Wired merkt an, dass Teslas rasche Markteinführung sich von der konservativeren Vorgehensweise traditioneller Automobilhersteller unterscheidet. Diese Geschwindigkeit ermöglicht zwar schnellere Daten aus der Praxis und Verbesserungen, überträgt aber auch mehr Testumgebung auf die Kunden.
Transparenz wird das Vertrauen in die Teilautomatisierung bestimmen
Der Todesfall beweist nicht, dass automatisiertes Fahren weniger sicher ist als menschliches Fahren. Menschliches Versagen trägt zu den meisten Unfällen bei, und gut konzipierte Assistenzsysteme könnten viele davon verhindern. Automatische Notbremsung, Spurhalteassistent und Kollisionswarnung bieten bereits Vorteile, ohne dass vollständige Autonomie erforderlich ist.
Fortschritte hängen jedoch von präzisen Beschreibungen der Fähigkeiten und Grenzen ab. Die Automatisierungsklassifizierung der Society of Automotive Engineers ( SAE ) unterscheidet Systeme, die bei einer oder mehreren Steuerungsfunktionen unterstützen, von solchen, die die Fahrumgebung überwachen. Der Autopilot erfordert weiterhin die Überwachung durch den Fahrer. Eine öffentliche Sprache, die diese Grenzen verwischt, kann Missbrauch begünstigen, selbst wenn die rechtlichen Warnhinweise präzise sind.
Teslas Vorgehen wirft auch Fragen zum Datenzugriff auf. Das Unternehmen kann detaillierte Fahrzeugprotokolle abrufen und Software aus der Ferne aktualisieren, wodurch es ungewöhnliche Einblicke in Vorfälle erhält. Aufsichtsbehörden benötigen ausreichenden Zugriff, um Unternehmensangaben zu überprüfen und Muster bei Unfällen und Beinaheunfällen zu erkennen. Fahrer benötigen klare Informationen darüber, welche Daten erfasst und wie diese verwendet werden.
Das Sicherheitsprogramm für automatisierte Fahrzeuge der NHTSA hat Innovationen gefördert und gleichzeitig Richtlinien für immer leistungsfähigere Systeme entwickelt. Die Untersuchung in Florida wird zeigen, ob die bestehenden Instrumente ausreichen, wenn sich die Software schneller ändert als die formalen Vorschriften.
Die aktuelle Untersuchung konzentriert sich auf ein Auto, einen Lkw und eine Kreuzung. Ihre weitreichendere Bedeutung liegt jedoch in den Millionen zukünftigen Übergaben zwischen Mensch und Maschine. Teilautomatisierung stellt die schwierigste Gratwanderung dar: Sie ist leistungsfähig genug, um Vertrauen zu schaffen, aber gleichzeitig begrenzt genug, um Wachsamkeit zu erfordern. Die Sicherheit dieses Übergangs hängt nicht nur von der Verbesserung der Sensoren ab, sondern auch davon, ob die Technologie so konzipiert ist, dass sie dem tatsächlichen Verhalten von Menschen Rechnung trägt, wenn eine Maschine scheinbar für sie fährt.