Ein Tesla im vollständig selbstfahrenden Modus biegt auf einer belebten Straße in San Francisco von der Mittelspur nach links ab. Es springt in eine Busspur, wo es nicht sein soll. Es biegt um eine Kurve und pflügt beinahe in parkende Fahrzeuge, sodass der Fahrer nach dem Steuer rudert. Diese Szenen wurden vom Autokritiker AI Addict aufgenommen, und andere Szenarien wie sie tauchen auf YouTube auf. Man könnte sagen, dass dies alles Fehler sind, die jeder Mensch auf einem Handy gemacht haben könnte. Aber wir erwarten mehr von unseren KI-Overlords.
Anfang dieses Monats begann Tesla damit, Over-the-Air-Software-Updates für seine Full Self-Driving (FSD)-Beta-Version 9-Software zu versenden, ein fortschrittliches Fahrerassistenzsystem, das sich nur auf Kameras und nicht auf Kameras und Radar wie Teslas frühere ADAS-Systeme verlässt .
Als Reaktion auf Videos, die unsicheres Fahrverhalten wie ungeschütztes Linksabbiegen zeigen, und andere Berichte von Tesla-Besitzern gab Consumer Reports am Dienstag eine Erklärung ab, in der es heißt, dass das Software-Upgrade für öffentliche Straßen nicht sicher genug zu sein scheint und dass es unabhängig getestet werden würde Software-Update auf seinem SUV Model Y, sobald es die erforderlichen Software-Updates erhält.
Die Verbraucherorganisation sagte, sie sei besorgt, dass Tesla seine bestehenden Besitzer und ihre Fahrzeuge als Versuchskaninchen zum Testen neuer Funktionen nutzt. Elon Musk, CEO von Tesla, forderte die Fahrer auf, während der Fahrt nicht selbstzufrieden zu sein, da es “unbekannte Probleme geben wird, also seien Sie bitte paranoid”. Viele Tesla-Besitzer wissen, worauf sie sich einlassen, weil sie sich für Teslas Early-Access-Programm angemeldet haben, das Beta-Software für Feedback liefert, aber andere Verkehrsteilnehmer haben ihre Zustimmung zu solchen Tests nicht gegeben.
Die Updates von Tesla werden an Fahrer im ganzen Land verschickt. Das Elektrofahrzeugunternehmen reagierte nicht auf eine Anfrage nach weiteren Informationen darüber, ob es in bestimmten Bundesstaaten Vorschriften zum Selbstfahren berücksichtigt oder nicht – 29 Bundesstaaten haben Gesetze zum autonomen Fahren erlassen, die sich jedoch je nach Bundesstaat stark unterscheiden. Andere selbstfahrende Technologieunternehmen wie Cruise, Waymo und Argo AI sagten CR, dass sie ihre Software entweder auf privaten Strecken testen oder geschulte Sicherheitsfahrer als Monitore einsetzen.
„Die Fahrzeugtechnologie schreitet sehr schnell voran, und die Automatisierung hat viel Potenzial, aber die politischen Entscheidungsträger müssen stärker werden, um strenge, vernünftige Sicherheitsregeln einzuführen“, sagt William Wallace, Manager für Sicherheitspolitik bei CR, in einer Erklärung. „Sonst behandeln einige Unternehmen unsere öffentlichen Straßen einfach wie private Testgelände, ohne dass sie für die Sicherheit verantwortlich gemacht werden.“