- Der Mangel an Technologieverständnis in Industrie und Regierung ist alarmierend, und das Wissen über KI-ausgestattete Autos muss weit verbreitet werden.
- Die Fehlerart der KI ist schwer vorherzusagen, oder niemand kann garantieren, dass eine solche Maschine niemals Fehler machen wird.
- Hacker haben viele Möglichkeiten, dich zum Absturz zu bringen: Malware-Angriffe, Man-in-the-Middle-Angriffe, Denial-of-Service-Angriffe, Ransomware-Angriffe.
- Die Regulierung der künstlichen Intelligenz im Automobil hat noch nicht begonnen, und KI-Autos haben noch einen langen Weg vor sich.
KI-Technologie wird heute weitgehend in autonomen Autos eingesetzt, zusammen mit Sensoren, Kameras, Radar und mehr, um ohne menschliches Eingreifen zwischen Zielen zu fahren. Unternehmen, die autonome Fahrzeuge entwickeln und/oder testen, sind unter anderem Audi, BMW, Ford, Google, General Motors, Tesla, Volkswagen und Volvo. Super! Der Fahrer kann die Hände loslassen und sich einfach treiben lassen. Aber ist das wirklich so?
Die Idee, dass KI sowohl ein Risiko als auch ein Nutzen sein kann, wird seit langem diskutiert. Ich denke, das gilt besonders für Autos und Fahrzeuge.
Bis zu einem gewissen Punkt bietet KI erhebliche Vorteile, indem sie menschliche Fehler aus der Fahrgleichung eliminiert. Aber was passiert, wenn etwas schiefgeht?
Hier sind 4 Gründe, warum ich denke, dass KI sich nicht lohnt:
- Ein falsches Sicherheitsgefühl lenkt Fahrer ab.
- Fehlurteil der KI
- Hackerangriffe
- Fehlende Vorschriften zur Unfallerkennung
Schnallt euch an, das Auto ohne KI ist gleich los!
Bedenken #1: Ein falsches Sicherheitsgefühl
Mary (Missy) L. Cummings, IEEE Senior Fellow und Professorin am Duke Institute for Brain Sciences (DIBS) der Duke University, forderte 2016 den Handels-, Wissenschafts- und Verkehrsausschuss des US-Senats auf, den Einsatz künstlicher Intelligenz in Autos zu regulieren. Aber weder die Bitten von Mary (Missy) L. Cummings noch der Tod von Brown brachten die Regierung zum Handeln. Der Mangel an Technologieverständnis in Industrie und Regierung ist alarmierend.
Jetzt ist die Frage, die wir uns stellen müssen: Wenn autonome Autos weit verbreitet sind, wird menschliches Versagen im Betrieb durch menschliches Versagen in der Codierung ersetzt. Ist das eine Flucht vor dem Mörder auf der Straße?
Befürworter autonomer Autos behaupten oft, je früher wir die Fahrer loswerden, desto sicherer werden wir auf der Straße sein. Unter Berufung auf Statistiken der National Highway Traffic Safety Administration behaupten sie, dass 94 Prozent der Unfälle durch menschliche Fahrer verursacht werden. Aber diese Statistik wurde aus dem Zusammenhang gerissen und ist ungenau.
Darüber hinaus ignorieren die Behauptungen, dass autonome Autos sicherer sein werden als von Menschen gesteuerte, was jeder, der in der Softwareentwicklung gearbeitet hat, sehr gut weiß: Softwarecode ist sehr fehleranfällig, und das Problem wird nur noch schlimmer, je komplexer die Systeme werden.
Da war der Unfall im Oktober 2021 eines autonomen Autos von Pony gegen ein Schild, der Unfall im April 2022 eines TuSimple-Lastwagens gegen eine Betonbarriere, der Unfall im Juni 2022 eines Cruise-Robotaxis, das plötzlich anhielt, während es links abbog, und der Unfall im März 2023 eines weiteren Cruise-Autos, das von hinten in einen Bus fuhr.
Lesen Sie auch: Volkswagen-Fahrer werden bald am ChatGPT-Gespräch teilnehmen
Bedenken #2: Das KI-System aktiviert sich, wenn es nicht sollte
Ein Szenario, das wir bedenken müssen, ist, ob das KI-System aktiviert wird, wenn es nicht sollte (es bremst abrupt ab, wenn es einen „Schatten“ eines Hindernisses voraus erkennt), oder nicht reagiert, wenn es sollte. In welcher Situation würden Sie sich befinden?
Es stimmt, dass die Fehlerart der KI schwer vorherzusagen ist, oder niemand kann garantieren, dass eine solche Maschine niemals Fehler machen wird.
Ein LLM errät, welche Wörter und Phrasen als nächstes kommen, indem es eine Sammlung vorhandener Daten aus dem Training konsultiert. Das autonome Fahrmodul interpretiert die Szene basierend auf einer Datenbank mit gekennzeichneten Bildern (das ist ein Auto, das ist ein Fußgänger, das ist ein Baum) und trifft ähnliche Annahmen, um zu entscheiden, wie es um Hindernisse herum navigieren soll. Diese gekennzeichneten Bilder wurden ebenfalls während des Trainings bereitgestellt. Aber nicht alle Möglichkeiten können modelliert werden, daher sind zahlreiche Fehlerarten sehr schwer vorhersagbar.
Eine Fehlerart, die zuvor nicht vorhergesehen wurde, war das Phantombremsen. Ohne ersichtlichen Grund bremst ein autonomes Fahrzeug plötzlich ab, was einen Auffahrunfall mit dem dahinter fahrenden Fahrzeug und anderen dahinter verursachen kann. Im Mai 2022 sandte die NHTSA einen Brief an Tesla, in dem sie darauf hinwies, dass die Behörde 758 Beschwerden über Phantombremsen bei den Modellen 3 und Y erhalten hatte. Im Mai berichtete die deutsche Zeitung Handelsblatt von 1.500 Beschwerden über Bremsprobleme bei Tesla-Autos und 2.400 über plötzliche Beschleunigung.
Nun scheint es, dass die Auffahrunfallrate autonomer Autos etwa doppelt so hoch ist wie die von Menschen gesteuerten Autos. IBMs Watson, basierend auf KI, der Vorläufer der heutigen LLMs, war gut im Raten, hatte aber kein echtes Wissen, insbesondere bei Urteilen unter Unsicherheit und Entscheidungen auf der Grundlage unvollständiger Informationen. Die heutigen LLMs sind keine Ausnahme: Die zugrunde liegenden Modelle können einfach nicht mit dem Mangel an Informationen umgehen und haben auch nicht die Fähigkeit zu beurteilen, ob ihre Schätzungen in diesem Kontext gut genug sind.
Diese Probleme sind im Bereich des autonomen Fahrens häufig. Der Unfall im Juni 2022 betraf ein Cruise-Robotaxi, das eine große Linkskurve zwischen zwei Fahrzeugen machte. Wie in einem Unfallbericht des Automobilsicherheitsexperten Michael Woon detailliert beschrieben, nahm das Auto korrekt eine machbare Flugbahn, aber mitten in der Kurve bremste es abrupt ab und blieb mitten in der Kreuzung stehen. Es nahm an, dass ein entgegenkommendes Auto auf der rechten Spur abbiegen würde, obwohl ein Abbiegen bei der Geschwindigkeit, mit der das Auto unterwegs war, physisch unmöglich war.
Diese Unsicherheit hat Cruise verwirrt und zu den schlechtestmöglichen Entscheidungen geführt. Ein entgegenkommender Prius bog nicht ab und krachte direkt in den Cruise, wobei die Insassen beider Fahrzeuge verletzt wurden.
Lesen Sie auch: Apple gibt sein jahrzehntelanges Elektrofahrzeug-Entwicklungsprojekt auf
Schnelltest
Für Lithiumbatterien, was ist die beste Betriebstemperatur?
A. 30 Grad Celsius
B. 50 Grad Celsius
C. 60 Grad Celsius
D. 70 Grad Celsius
Die Antwort steht am Ende dieses Artikels.
Bedenken #3: Hackerangriffe
Im Zeitalter der KI-gesteuerten Innovation bringt das Aufkommen autonomer Autos nicht nur Versprechungen verbesserter Mobilität, sondern wirft auch kritische ethische Bedenken auf.
Herr Ratan Bajaj, Gründer und CEO von MindWell AI
Bereits 2019 wurden die neuen Tesla Model 3 in nur wenigen Minuten gehackt. Die Hacker Amat Cama und Richard Zhu nutzten Schwachstellen im „Infotainment“-System aus, um auf einen der Computer des Autos (die physische Welt) zuzugreifen.
Einmal erfolgreich, konnten Amat Cama und Richard Zhu ihre eigenen Codezeilen ausführen. Sie können den Angriff im Video sehen.
Hier sind einige frühere Beispiele, ich rede keinen Unsinn.
Malware-Angriff
2011 wurde der Chevrolet Malibu zum ersten Fahrzeug mit Remote-Eindringung, das Angreifer kontrollieren konnten. Die Hacker „nutzten eine Schwachstelle im Bluetooth-Stack aus, um das Fahrzeugradio zu manipulieren und durch Synchronisieren des Telefons mit dem Radio bösartigen Code einzuschleusen“ (Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung). Einmal erfolgreich eingeschleust, kann der Code eine Nachricht an das ECU des Autos senden und die Bremsen blockieren.
Man-in-the-Middle-Angriffe (MiTM)
Bei einem Man-in-the-Middle-Angriff kann ein Hacker die Kommunikation zwischen zwei Entitäten manipulieren und die Kontrolle über eine ECU oder eine Roadside Unit (RSU) erlangen, indem er die zwischen den Entitäten gesendeten Nachrichten abhört, wiedergibt und modifiziert.
Denial-of-Service-Angriff (DoS)
DoS ist einer der gefährlichsten Angriffe, die bei autonomen Autos auftreten können; sie können schwere Unfälle oder den Tod verursachen. Angreifer können DoS-Angriffe nutzen, um „zu verhindern, dass Kameras, LiDAR und Radar Objekte, Straßen und Sicherheitszeichen erkennen“ (Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung). Ein DoS-Angriff kann auch das Bremssystem beeinträchtigen, sodass das Auto plötzlich anhält oder gar nicht anhält, was dazu führt, dass das Bremssystem nicht richtig funktioniert.
Ransomware-Angriff
Diese Art von Angriff kann für gewerbliche Fahrzeuge sehr gefährlich sein. 2017 wurde Honda Motor Company von einem großen WannaCry-Ransomware-Angriff getroffen, bei dem die Angreifer „große Mengen an Kryptowährung forderten, um Entschlüsselungsschlüssel bereitzustellen“ („Angriffe auf autonome Autos und ihre Gegenmaßnahmen: Forschung“).
Obwohl der Angriff nicht auf autonome Autos abzielte, betraf er viele der autonomen Autos von Honda, die während des Angriffs Software-Updates erhalten sollten. Dieser Angriff ist wahrscheinlich häufiger als andere, weil Hacker bei der Ausführung von Ransomware-Angriffen sehr erfolgreich sind.
Was macht autonome Autos angreifbar?
Autonome Autos sind verlockende Ziele für Cyberkriminelle, die „versuchen könnten, die finanziellen Daten eines Fahrers zu stehlen oder fortgeschrittene Terroranschläge zu verüben, indem sie das Fahrzeug in eine Waffe verwandeln“.
Neben unbeabsichtigten Bedrohungen wie dem plötzlichen Versagen von KI-Systemen gibt es absichtliche Angriffe, die darauf abzielen, die sicherheitskritischen Funktionen von KI-Systemen gezielt zu beeinträchtigen. Zum Beispiel das Bernalen von Straßen, um Navigationssysteme zu täuschen, oder das Anbringen von Aufklebern an Stoppschildern, um deren Erkennung zu verhindern.
LiDAR (Light Detection and Ranging) ist ein System aus Kamera und Laserpulsen, das die „Augen“ eines autonomen Fahrzeugs bildet, indem es Informationen über die Fahrszene und die Umgebung an ein CNN-Computermodell liefert, um Entscheidungen wie Geschwindigkeitsanpassungen und Lenkkorrekturen zu treffen. Leider können CNNs leicht gehackt werden, indem „kleine Änderungen auf Pixelebene in den Eingabebildern vorgenommen werden, die mit bloßem Auge nicht sichtbar sind“. Leider könnte diese Schwachstelle es böswilligen Akteuren ermöglichen, autonome Autos anzugreifen (The Lighthouse).
Die On-Board-Diagnose (OBD) ist einer der anfälligsten Teile autonomer Fahrzeuge; bösartiger Code kann über OBD in eine elektronische Steuereinheit (ECU) eingeschleust werden. Die eingeschleuste Malware kann die ECU modifizieren und neu programmieren. Infizierte ECUs können möglicherweise nicht mit anderen Komponenten der On-Board-Unit (OBU) wie LiDAR, Kameras und Radar kommunizieren, was die Sicherheit autonomer Fahrzeuge gefährden kann.
Fazit: Verschiedene Methoden, um die automatische Kontrolle über ein Auto zu erlangen
- Fernzugriff über das Internet
- Fernzugriff über Bluetooth
- Einschleusen einer Hintertür in das autonome Auto über den Fahrzeughersteller (Lieferkette)
- Spezielle, im Fahrzeug implantierte Geräte
- Stören der Sinne des Fahrzeugs
Bitte denken Sie darüber nach:
Hacking-Szenarien und unbeabsichtigte Folgen: Was passiert, wenn autonome Autos Opfer eines Hacks werden, der sie die Kontrolle verlieren lässt, oder schlimmer noch, einen Unfall verursacht?
Moralische Dilemmata: Wer übernimmt die Verantwortung? Die Frage der Haftung ist enorm, wenn autonome Autos kompromittiert werden.
Die Zukunft des autonomen Fahrens sichern: Durch die Untersuchung der ethischen Anforderungen gehen wir auf die notwendigen Maßnahmen ein, um autonome Fahrzeuge vor Hacking-Bedrohungen zu schützen. Welche Rolle sollten Vorschriften spielen, um strenge Cybersicherheitsstandards durchzusetzen?
Menschenleben, moralisches Risiko: Wenn wir das Lenkrad der KI übergeben, steht viel auf dem Spiel, insbesondere in Bezug auf Leben und Sicherheit. Wie kann die Gesellschaft sicherstellen, dass ethische Überlegungen die Entwicklung der Technologie autonomer Autos leiten, um Hacking-bedingte Unfälle zu verhindern?
Bedenken #4: Fehlende Vorschriften
KI hat systemweite Auswirkungen, die nicht ignoriert werden können.
Autonome Autos sind auf drahtlose Konnektivität angewiesen, um auf dem Laufenden zu bleiben, aber was passiert, wenn diese Verbindung verloren geht? Ein Fahrer fand sein Auto zwischen 20 Cruise-Fahrzeugen eingeklemmt, die den Kontakt zum entfernten Betriebszentrum verloren hatten, was einen großen Verkehrsstau verursachte.
Lesen Sie auch: Cruise bringt das erste rollstuhlgerechte Auto auf den Markt
Die Einstellungen gegenüber autonomen Autos in der technologieaffinen Stadt San Francisco, einst optimistisch, haben eine negative Wendung genommen, da die Stadt mit einer Vielzahl von Problemen konfrontiert ist. Wenn ein abgefangenes autonomes Auto zum Tod von jemandem führt, der nicht rechtzeitig ins Krankenhaus kommt, könnte dieses Gefühl schließlich dazu führen, dass die Öffentlichkeit die Technologie ablehnt.
Was bedeutet die Erfahrung mit autonomen Autos also für die umfassendere Regulierung von KI? Unternehmen müssen nicht nur sicherstellen, dass sie die breiteren systemweiten Auswirkungen von KI verstehen, sondern sie benötigen auch Aufsicht und sollten sich nicht selbst regulieren dürfen.
KI hat noch einen langen Weg vor sich in Autos und Lastwagen. Ich fordere kein Verbot autonomer Autos. Es gibt klare Vorteile bei der Nutzung von KI, und es ist unverantwortlich, ein Verbot oder sogar ein Moratorium zu fordern. Aber wir brauchen mehr staatliche Aufsicht, um unnötige Risiken zu vermeiden.
Die Regulierung von KI in Autos hat jedoch noch nicht begonnen. Dies ist zum Teil auf übermäßige Forderungen und Druck der Industrie zurückzuführen, aber auch auf mangelnde Kapazitäten seitens der Regulierungsbehörden. Die Europäische Union war proaktiver bei der Regulierung künstlicher Intelligenz, insbesondere bei autonomen Autos.
Die richtige Antwort auf den Schnelltest ist A. 30 Grad Celsius.