Der Fall gegen 'intelligente Autos': Warum wir besser ohne sie dran sind

• Der Mangel an Technologieverständnis in Industrie und Regierung ist alarmierend, und das Wissen über KI-ausgestattete Autos muss weit verbreitet werden.
• Die Fehlerart der KI ist schwer vorherzusagen, oder niemand kann garantieren, dass eine solche Maschine niemals Fehler machen wird.
• Hacker haben viele Möglichkeiten, dich zum Absturz zu bringen: Malware-Angriffe, Man-in-the-Middle-Angriffe, Denial-of-Service-Angriffe, Ransomware-Angriffe.
• Die Regulierung der Künstlichen Intelligenz im Automobil hat noch nicht begonnen, und KI-Autos haben noch einen langen Weg vor sich.

KI-Technologie wird heute häufig in autonomen Autos eingesetzt, zusammen mit Sensoren, Kameras, Radar und mehr, um ohne menschliches Eingreifen zwischen Zielen zu navigieren. Unternehmen, die autonome Fahrzeuge entwickeln und/oder testen, sind unter anderem Audi, BMW, Ford, Google, General Motors, Tesla, Volkswagen und Volvo. Toll! Der Fahrer kann seine Hände freigeben und sich einfach treiben lassen. Aber ist das wirklich so?

Die Idee, dass KI sowohl ein Risiko als auch ein Vorteil sein kann, wird seit langem diskutiert. Ich denke, das gilt besonders für Autos und Fahrzeuge.

Bis zu einem gewissen Punkt bietet KI erhebliche Vorteile, indem sie den menschlichen Fehler aus der Fahrgleichung eliminiert. Aber was passiert, wenn etwas schiefgeht?

Hier sind 4 Gründe, warum ich glaube, dass es sich nicht lohnt, auf KI zu setzen:

• Ein falsches Sicherheitsgefühl lenkt Fahrer ab.
• Fehlurteil der KI
• Hackerangriffe
• Fehlende Regulierungen zur Unfallerkennung

Schnallen Sie sich an, das Auto ohne KI ist gleich startklar!

Sorge #1: Ein falsches Sicherheitsgefühl

Mary (Missy) L. Cummings, IEEE Senior Fellow und Professorin am Duke Institute for Brain Sciences (DIBS) der Duke University, forderte 2016 den US-Senatsausschuss für Handel, Wissenschaft und Verkehr auf, den Einsatz künstlicher Intelligenz in Autos zu regulieren. Aber weder die Bitten von Mary (Missy) L. Cummings noch der Tod von Brown brachten die Regierung zum Handeln. Der Mangel an Technologieverständnis in Industrie und Regierung ist alarmierend.

Jetzt ist die Frage, die wir uns stellen müssen: Wenn autonome Autos weit verbreitet sind, wird der menschliche Bedienungsfehler durch menschlichen Programmierfehler ersetzt. Ist das eine Flucht vor dem Mörder auf der Straße?

Befürworter autonomer Autos behaupten oft, je früher wir die Fahrer loswerden, desto sicherer seien wir auf der Straße. Unter Berufung auf Statistiken der National Highway Traffic Safety Administration behaupten sie, dass 94 Prozent der Unfälle durch menschliche Fahrer verursacht werden. Aber diese Statistik ist aus dem Zusammenhang gerissen und ungenau.

Darüber hinaus ignorieren die Behauptungen, dass autonome Autos sicherer sein werden als von Menschen gefahrene, das, was jeder, der jemals in der Softwareentwicklung gearbeitet hat, nur zu gut weiß: Softwarecode ist sehr fehleranfällig, und das Problem wird nur noch schlimmer, je komplexer die Systeme werden.

Da war der Unfall im Oktober 2021, als ein autonomes Auto von Pony gegen ein Schild prallte, der Unfall im April 2022, als ein Lastwagen von TuSimple gegen eine Betonbarriere fuhr, der Unfall im Juni 2022, als ein Robotaxi von Cruise abrupt anhielt, während es nach links abbog, und der Unfall im März 2023, als ein weiteres Auto von Cruise hinten in einen Bus fuhr.

Lesen Sie auch: Volkswagen-Fahrer werden sich bald dem ChatGPT-Gespräch anschließen

Sorge #2: Das KI-System aktiviert sich, wenn es nicht sollte

Ein Szenario, das wir bedenken müssen, ist, ob sich das KI-System aktiviert, wenn es nicht sollte (es stoppt abrupt, wenn es einen „Schatten“ eines Hindernisses vor sich erkennt), oder nicht reagiert, wenn es sollte. In welcher Situation würden Sie sich befinden?

Es ist wahr, dass die Fehlerart der KI schwer vorherzusagen ist, oder niemand kann garantieren, dass eine solche Maschine niemals Fehler machen wird.

Ein LLM errät, welche Wörter und Phrasen als Nächstes erscheinen, indem es eine Datei mit während des Trainings gesammelten Daten abfragt. Das autonome Fahrmodul interpretiert die Szene auf der Grundlage einer Datenbank mit gekennzeichneten Bildern (das ist ein Auto, das ist ein Fußgänger, das ist ein Baum) und trifft ähnliche Vermutungen, um zu entscheiden, wie es Hindernissen ausweicht. Diese gekennzeichneten Bilder wurden ebenfalls während des Trainings bereitgestellt. Aber nicht alle Möglichkeiten können modelliert werden, daher sind zahlreiche Fehlerarten sehr schwer vorherzusagen.

Eine Fehlerart, die zuvor nicht vorhergesehen wurde, war das Phantombremsen. Ohne ersichtlichen Grund bremst ein autonomes Fahrzeug plötzlich, was einen Auffahrunfall mit dem dahinter fahrenden Fahrzeug und anderen dahinter verursachen kann. Im Mai 2022 schickte die NHTSA einen Brief an Tesla, in dem sie darauf hinwies, dass die Behörde 758 Beschwerden über Phantombremsen bei den Modellen 3 und Y erhalten hatte. Im Mai berichtete die deutsche Zeitung Handelsblatt von 1.500 Beschwerden über Bremsprobleme bei Tesla-Autos und 2.400 über plötzliche Beschleunigung.

Nun scheint es, dass die Auffallunfallrate von autonomen Autos etwa doppelt so hoch ist wie die von von Menschen gefahrenen Autos. IBM Watson, basierend auf KI, der Vorläufer der heutigen LLMs, war gut im Raten, hatte aber kein wirkliches Wissen, besonders wenn es darum ging, Urteile unter Unsicherheit zu fällen und Entscheidungen auf der Grundlage unvollständiger Informationen zu treffen. Die heutigen LLMs sind keine Ausnahme: Die zugrunde liegenden Modelle können schlichtweg nicht mit dem Fehlen von Informationen umgehen und haben auch nicht die Fähigkeit zu beurteilen, ob ihre Schätzungen in diesem Zusammenhang gut genug sind.

Diese Probleme sind im Bereich des autonomen Fahrens weit verbreitet. Der Unfall im Juni 2022 betraf ein Robotaxi von Cruise, als es sich entschied, eine große Linkskurve zwischen zwei Fahrzeugen zu fahren. Wie in einem Unfallbericht des Automobilsicherheitsexperten Michael Woon ausführlich beschrieben, nahm das Auto korrekt eine machbare Flugbahn, aber mitten in der Kurve bremste es stark ab und blieb mitten in der Kreuzung stehen. Es vermutete, dass ein entgegenkommendes Auto auf der rechten Spur abbiegen würde, obwohl das Abbiegen bei der Geschwindigkeit, mit der das Auto fuhr, physikalisch unmöglich war.

Diese Unsicherheit hat Cruise verwirrt und zu den schlechtestmöglichen Entscheidungen geführt. Ein entgegenkommender Prius bog nicht ab und krachte direkt in den Cruise, wobei die Insassen beider Fahrzeuge verletzt wurden.

Lesen Sie auch: Apple gibt sein jahrzehntelanges Projekt zur Entwicklung von Elektrofahrzeugen auf

Lesen Sie auch: Huawei in Gesprächen mit Audi und Mercedes über Investition in ein Smart-Car-Unternehmen

Schnelltest

Für Lithiumbatterien, was ist die beste Betriebstemperatur?

A. 30 Grad Celsius

B. 50 Grad Celsius

C. 60 Grad Celsius

D. 70 Grad Celsius

Die Antwort finden Sie am Ende dieses Artikels.

Sorge #3: Hackerangriffe

Im Zeitalter der KI-gesteuerten Innovation bringt das Aufkommen autonomer Autos nicht nur Versprechungen verbesserter Mobilität mit sich, sondern wirft auch kritische ethische Bedenken auf.

Herr Ratan Bajaj, Gründer und CEO von MindWell AI

Bereits 2019 wurden die neuen Tesla Model 3 in nur wenigen Minuten gehackt. Die Hacker Amat Cama und Richard Zhu nutzten Schwachstellen im „Infotainment“-System aus, um auf einen der Computer des Autos zuzugreifen (die physische Welt).

Nach erfolgreichem Zugriff konnten Amat Cama und Richard Zhu ihre eigenen Codezeilen ausführen. Sie können sehen, wie sie den Angriffim Videodemonstrieren.

Hier sind einige frühere Beispiele, ich rede keinen Unsinn.

Malware-Angriff

Im Jahr 2011 war der Chevrolet Malibu das erste Fahrzeug mit einem Remote-Einbruch, den die Angreifer kontrollieren konnten. Die Hacker „nutzten eine Schwachstelle im Bluetooth-Stack aus, um das Radio des Fahrzeugs zu manipulieren und bösartigen Code einzuschleusen, indem sie das Telefon mit dem Radio koppelten“ (Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung). Nach erfolgreichem Einschleusen kann der Code eine Nachricht an das ECU des Autos senden und die Bremsen blockieren.

Man-in-the-Middle-Angriffe (MiTM)

Bei einem Man-in-the-Middle-Angriff kann ein Hacker die Kommunikation zwischen zwei Entitäten manipulieren und die Kontrolle über ein ECU oder eine Roadside Unit (RSU) erlangen, indem er die zwischen den Entitäten gesendeten Nachrichten abhört, wiedergibt und modifiziert.

Denial-of-Service-Angriff (DoS)

DoS ist einer der gefährlichsten Angriffe, die bei autonomen Autos auftreten können; sie können schwere Unfälle oder den Tod verursachen. Angreifer können DoS-Angriffe nutzen, um zu verhindern, dass Kameras, LiDAR und Radar Objekte, Straßen und Sicherheitszeichen erkennen (Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung). Ein DoS-Angriff kann auch das Bremssystem beeinträchtigen, sodass das Auto plötzlich anhält oder überhaupt nicht anhält, was dazu führt, dass das Bremssystem nicht richtig funktioniert.

Ransomware-Angriff

Diese Art von Angriff kann für Nutzfahrzeuge sehr gefährlich sein. Im Jahr 2017 wurde die Honda Motor Company von einem großen WannaCry-Ransomware-Angriff heimgesucht, bei dem die Angreifer „große Mengen an Kryptowährung forderten, um Entschlüsselungsschlüssel bereitzustellen“ („Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung“).

Obwohl der Angriff nicht auf autonome Autos abzielte, betraf er viele der autonomen Autos von Honda, da sie während des Angriffs keine Software-Updates erhalten konnten. Dieser Angriff ist wahrscheinlich häufiger als andere, weil Hacker bei der Durchführung von Ransomware-Angriffen sehr erfolgreich sind.

Was macht autonome Autos angreifbar?

Autonome Autos sind verlockende Ziele für Cyberkriminelle, die „versuchen können, die finanziellen Daten eines Fahrers zu stehlen oder fortgeschrittene Terroranschläge zu verüben, indem sie das Fahrzeug in eine Waffe verwandeln“.
Neben unbeabsichtigten Bedrohungen wie dem plötzlichen Ausfall von KI-Systemen gibt es absichtliche Angriffe, die darauf abzielen, speziell die sicherheitskritischen Funktionen von KI-Systemen zu kompromittieren. Zum Beispiel das Bemalen von Straßen, um Navigationssysteme zu täuschen, oder das Anbringen von Aufklebern an Stoppschildern, um deren Erkennung zu verhindern.
LiDAR (Light Detection and Ranging) ist ein System aus Kamera und Laserpulsen, das die „Augen“ eines autonomen Fahrzeugs bildet und Informationen über die Fahrszene und die Umgebung an ein CNN-Computermodell liefert, um Entscheidungen wie Geschwindigkeitsanpassungen und Lenkkorrekturen zu treffen. Leider können CNNs leicht gehackt werden, „indem kleine pixelgenaue Änderungen an den Eingabebildern vorgenommen werden, die mit bloßem Auge nicht sichtbar sind“. Leider könnte diese Schwachstelle es böswilligen Akteuren ermöglichen, autonome Autos anzugreifen (The Lighthouse).

Die On-Board-Diagnose (OBD) ist einer der verwundbarsten Teile von autonomen Fahrzeugen; bösartiger Code kann über die OBD in ein elektronisches Steuergerät (ECU) eingeschleust werden. Die eingeschleuste Malware kann die ECU modifizieren und neu programmieren. Infizierte ECUs können möglicherweise nicht mit anderen Komponenten der On-Board-Unit (OBU) wie LiDAR, Kameras und Radar kommunizieren, was die Sicherheit von autonomen Fahrzeugen gefährden kann.

Fazit: Mehrere Methoden zur Erlangung der automatischen Kontrolle über ein Auto

• Fernzugriff über das Internet
• Fernzugriff über Bluetooth
• Einschleusen einer Hintertür in das autonome Auto über den Fahrzeughersteller (Lieferkette)
• Spezielle im Fahrzeug implantierte Geräte
• Störung der Fahrzeugsensoren

Bitte denken Sie darüber nach:

Hackingszenarien und unbeabsichtigte Folgen: Was passiert, wenn autonome Autos Opfer eines Hacks werden, der sie die Kontrolle verlieren lässt, oder schlimmer noch, einen Unfall verursacht?

Moralische Dilemmata: Wer übernimmt die Verantwortung? Die Frage der Haftung ist enorm, wenn autonome Autos kompromittiert werden.

Sicherung der Zukunft des autonomen Fahrens: Durch die Untersuchung ethischer Anforderungen gehen wir auf die notwendigen Maßnahmen ein, um autonome Fahrzeuge vor Hacking-Bedrohungen zu schützen. Welche Rolle sollten Regulierungen bei der Durchsetzung strenger Cybersicherheitsstandards spielen?

Menschenleben, moralisches Risiko: Wenn wir das Lenkrad an die KI übergeben, steht viel auf dem Spiel, insbesondere wenn es um Leben und Sicherheit geht. Wie kann die Gesellschaft sicherstellen, dass ethische Überlegungen die Entwicklung der Technologie für autonome Autos leiten, um hackingbedingte Unfälle zu verhindern?

Sorge #4: Fehlende Regulierungen

KI hat systemweite Auswirkungen, die nicht ignoriert werden können.
Autonome Autos sind auf drahtlose Konnektivität angewiesen, um über die Straße informiert zu bleiben, aber was passiert, wenn diese Verbindung verloren geht? Ein Fahrer fand sein Auto zwischen 20 Cruise-Fahrzeugen eingeschlossen vor, die den Kontakt zum Remote-Betriebszentrum verloren hatten, was einen großen Verkehrsstau verursachte.

Lesen Sie auch: Cruise bringt das erste rollstuhlgerechte Auto auf den Markt

Die Einstellungen gegenüber autonomen Autos im technologieaffinen San Francisco, einst optimistisch, haben eine negative Wendung genommen, da die Stadt eine Vielzahl von Problemen erlebt. Wenn ein abgefangenes autonomes Auto zum Tod von jemandem führt, der nicht rechtzeitig ins Krankenhaus kommt, könnte dieses Gefühl schließlich dazu führen, dass die Öffentlichkeit die Technologie ablehnt.

Was bedeutet die Erfahrung mit autonomen Autos also für die umfassendere Regulierung von KI? Unternehmen müssen nicht nur sicherstellen, dass sie die breiteren systemweiten Auswirkungen von KI verstehen, sondern sie brauchen auch Aufsicht und sollten sich nicht selbst regulieren dürfen.

KI hat noch einen langen Weg vor sich in Autos und Lastwagen. Ich fordere kein Verbot von autonomen Autos. Es gibt klare Vorteile bei der Nutzung von KI, und es ist unverantwortlich, ein Verbot oder sogar ein Moratorium für ihre Nutzung zu fordern. Aber wir brauchen mehr staatliche Aufsicht, um unnötige Risiken zu vermeiden.

Die Regulierung von KI in Autos hat jedoch noch nicht begonnen. Dies ist zum Teil auf übermäßige Forderungen und Druck der Industrie zurückzuführen, aber auch auf mangelnde Kapazitäten der Regulierungsbehörden. Die Europäische Union war bei der Regulierung künstlicher Intelligenz proaktiver, insbesondere bei autonomen Autos.

Die richtige Antwort auf den Schnelltest ist A. 30 Grad Celsius.