The case against ‘smart cars’: Why we’re better off without them

• La falta de comprensión de la tecnología en la industria y el gobierno es alarmante, y el conocimiento sobre los coches equipados con IA debe difundirse ampliamente.
• El modo de fallo de la IA es difícil de predecir, o nadie puede garantizar que una máquina así nunca cometerá errores.
• Los hackers tienen muchas formas de hacerte chocar: ataques de malware, ataques de intermediario, ataques de denegación de servicio, ataques de ransomware.
• La regulación de la inteligencia artificial en el automóvil aún no ha comenzado, y a los coches con IA todavía les queda un largo camino por recorrer.

La tecnología de IA se utiliza ahora ampliamente en los coches autónomos, junto con sensores, cámaras, radares y más para conducir entre destinos sin intervención humana. Empresas que desarrollan y/o prueban vehículos autónomos incluyen a Audi, BMW, Ford, Google, General Motors, Tesla, Volkswagen y Volvo. ¡Genial! El conductor puede liberar sus manos y simplemente dejarse llevar. Pero, ¿es realmente así? Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

La idea de que la IA puede ser tanto un riesgo como un beneficio ha sido debatida durante mucho tiempo. Creo que esto es especialmente cierto en los coches y vehículos. Ver también: AKNET internet ve bilisim sistemleri limited sirketi.

Hasta cierto punto, la IA ofrece ventajas significativas, eliminando el error humano de la ecuación de la conducción. Pero, ¿qué pasa cuando algo sale mal? Ver también: Azarakhsh Ava-e Ahvaz Co.

Aquí hay 4 razones por las que creo que la IA no vale la pena: Ver también: Windhoos.

• Una falsa sensación de seguridad distrae a los conductores.
• Mal juicio de la IA
• Ataques de hackers
• Falta de regulaciones sobre el reconocimiento de accidentes

¡Abróchense los cinturones, el coche sin IA está a punto de salir! Ver también: EuroNet.

Preocupación #1: Una falsa sensación de seguridad

Mary (Missy) L. Cummings, IEEE Senior Fellow y profesora en el Instituto Duke de Ciencias del Cerebro (DIBS) de la Universidad de Duke, pidió al Comité de Comercio, Ciencia y Transporte del Senado de EE. UU. en 2016 que regulara el uso de la inteligencia artificial en los automóviles. Pero ni las súplicas de Mary (Missy) L. Cummings ni la muerte de Brown lograron que el gobierno actuara. La falta de comprensión de la tecnología en la industria y el gobierno es alarmante.

Ahora la pregunta que debemos considerar es: si los coches autónomos se generalizan, el error humano en la operación es reemplazado por el error humano en la codificación. ¿Es esto un escape del asesino de la carretera? Ver también: DU jiarui.

Los defensores de los coches autónomos a menudo afirman que cuanto antes nos deshagamos de los conductores, más seguros estaremos en la carretera. Citando estadísticas de la Administración Nacional de Seguridad del Tráfico en Carreteras, afirman que el 94 por ciento de los accidentes son causados por conductores humanos. Pero esta estadística ha sido sacada de contexto y es inexacta. Además, las afirmaciones de que los coches autónomos serán más seguros que los conducidos por humanos ignoran lo que cualquier persona que haya trabajado en desarrollo de software sabe muy bien: el código de software es muy propenso a errores, y el problema solo empeorará a medida que los sistemas se vuelvan más complejos. Ver también: Miejskie Przedsiębiorstwo Wodociągów i Kanalizacji S.A..

Estuvo el choque en octubre de 2021 de un coche autónomo de Pony contra una señal, el choque en abril de 2022 de un tráiler de TuSimple contra una barrera de concreto, el choque en junio de 2022 de un robotaxi de Cruise que se detuvo repentinamente mientras giraba a la izquierda, y el choque en marzo de 2023 de otro coche de Cruise que chocó por detrás contra un autobús.

Lea también: Los conductores de Volkswagen están a punto de unirse a la conversación de ChatGPT

Preocupación #2: El sistema de IA se activa cuando no debería

Un escenario que debemos considerar es si el sistema de IA se activa cuando no debería (se detiene abruptamente al detectar una "sombra" de un obstáculo adelante), o no responde cuando debería. ¿En qué situación te encontrarías? Ver también: Vozhd.net.ua.

Es cierto que el modo de fallo de la IA es difícil de predecir, o nadie puede garantizar que una máquina así nunca cometerá errores.

Un LLM adivina qué palabras y frases aparecerán a continuación consultando un archivo recopilado de datos existentes durante el entrenamiento. El módulo de conducción autónoma interpreta la escena basándose en una base de datos de imágenes etiquetadas (esto es un coche, esto es un peatón, esto es un árbol) y hace conjeturas similares para decidir cómo navegar alrededor de obstáculos. Estas imágenes etiquetadas también se proporcionaron durante el entrenamiento. Pero no todas las posibilidades pueden modelarse, por lo que numerosos modos de fallo son muy difíciles de predecir.

Un modo de fallo que no se había anticipado anteriormente fue el frenado fantasma. Sin razón aparente, un vehículo autónomo frena repentinamente, pudiendo causar una colisión por alcance con el vehículo que va detrás y otros detrás de él. En mayo de 2022, la NHTSA envió una carta a Tesla señalando que la agencia había recibido 758 quejas sobre frenado fantasma en los vehículos Model 3 e Y. En mayo, el periódico alemán Handelsblatt informó de 1.500 quejas sobre problemas de frenado en coches Tesla y 2.400 sobre aceleración repentina.

Ahora parece que la tasa de colisiones por alcance de los coches autónomos es aproximadamente el doble que la de los coches conducidos por humanos. Watson de IBM, basado en IA, el precursor de los LLM actuales, era bueno adivinando pero no tenía conocimiento real, especialmente a la hora de hacer juicios bajo incertidumbre y decidir acciones basadas en información incompleta. Los LLM actuales no son una excepción: los modelos subyacentes simplemente no pueden hacer frente a la falta de información, ni tienen la capacidad de evaluar si sus estimaciones son lo suficientemente buenas en este contexto.

Estos problemas son comunes en el campo de la conducción autónoma. El choque de junio de 2022 involucró a un robotaxi de Cruise cuando decidió hacer un gran giro a la izquierda entre dos vehículos. Como se detalla en un informe del accidente por el experto en seguridad automotriz Michael Woon, el coche tomó correctamente una trayectoria viable, pero en medio del giro, frenó bruscamente y se detuvo en medio de la intersección. Adivinó que un coche que se aproximaba en el carril derecho giraría, aunque girar era físicamente imposible a la velocidad a la que viajaba el coche.

Esta incertidumbre ha confundido a Cruise y ha llevado a tomar las peores decisiones posibles. Un Prius que se aproximaba no giró y se estrelló directamente contra el Cruise, hiriendo a los ocupantes de ambos vehículos.

Lea también: Apple abandona su proyecto de desarrollo de vehículos eléctricos de una década

Lea también: Huawei en conversaciones con Audi y Mercedes para invertir en una empresa de coches inteligentes

Prueba rápida

Para las baterías de litio, ¿cuál es la mejor temperatura de funcionamiento?

A. 30 grados Celsius

B. 50 grados Celsius

C. 60 grados Celsius

D. 70 grados Celsius

La respuesta está al final de este artículo.

Preocupación #3: Ataques de hackers

En la era de la innovación impulsada por la IA, la llegada de los coches autónomos trae no solo promesas de movilidad mejorada, sino que también plantea preocupaciones éticas críticas.

Sr. Ratan Bajaj, Fundador y CEO de MindWell AI

Ya en 2019, los nuevos modelos Tesla Model 3 fueron hackeados en solo unos minutos. Los hackers Amat Cama y Richard Zhu explotaron debilidades en el sistema de "infoentretenimiento" para acceder a uno de los ordenadores del coche (el mundo físico).

Una vez exitoso, Amat Cama y Richard Zhu pudieron ejecutar sus propias líneas de código. Puedes verlos demostrando el ataque en el video.

Aquí hay algunos ejemplos anteriores, no estoy hablando tonterías.

Ataque de malware

En 2011, el Chevrolet Malibu se convirtió en el primer vehículo con intrusión remota que los atacantes pudieron controlar. Los hackers "explotaron una debilidad en la pila de Bluetooth para manipular la radio del vehículo e insertar código malicioso sincronizando el teléfono con la radio" (Ataques a coches autónomos y sus contramedidas: Investigación). Una vez insertado con éxito, el código puede enviar un mensaje a la ECU del coche y bloquear los frenos.

Ataques de intermediario (MiTM)

En un ataque de intermediario, un hacker puede manipular las comunicaciones entre dos entidades y obtener el control de una ECU o una unidad de carretera de infraestructura (RSU) mediante escuchas, reproducción y modificación de los mensajes enviados entre entidades.

Ataque de denegación de servicio (DoS)

DoS es uno de los ataques más peligrosos que pueden ocurrir en coches autónomos; pueden provocar accidentes graves o la muerte. Los atacantes pueden usar ataques DoS para "evitar que las cámaras, LiDAR y el radar detecten objetos, carreteras y señales de seguridad" (Ataques a coches autónomos y sus contramedidas: Investigación). Un ataque DoS también puede afectar el sistema de frenado, haciendo que el coche se detenga repentinamente o no se detenga en absoluto, provocando que el sistema de frenado no funcione correctamente.

Ataque de ransomware

Este tipo de ataque puede ser muy peligroso para vehículos comerciales. En 2017, Honda Motor Company fue golpeada por un importante ataque de ransomware WannaCry en el que los atacantes "exigieron grandes cantidades de criptomonedas para proporcionar claves de descifrado" ("Ataques a coches autónomos y sus contramedidas: Investigación").

Aunque el ataque no estaba dirigido a coches autónomos, afectó a muchos de los coches autónomos de Honda para obtener actualizaciones de software durante el ataque. Este ataque es probablemente más común que otros porque los hackers tienen mucho éxito ejecutando ataques de ransomware.

¿Qué hace vulnerables a los coches autónomos?

Los coches autónomos son objetivos tentadores para los ciberdelincuentes que pueden "intentar robar los datos financieros de un conductor o lanzar ataques terroristas avanzados convirtiendo el vehículo en un arma".
Además de las amenazas no intencionadas, como el fallo repentino de los sistemas de IA, hay ataques intencionados diseñados para comprometer específicamente las funciones críticas de seguridad de los sistemas de IA. Por ejemplo, pintar carreteras para engañar a los sistemas de navegación, o poner pegatinas en las señales de stop para evitar que sean identificadas.
El LiDAR (Light Detection and Ranging) es un sistema de cámara y pulsos láser que constituye los "ojos" de un vehículo autónomo, alimentando información sobre la escena de conducción y el entorno a un modelo informático CNN para tomar decisiones como ajustes de velocidad y correcciones de dirección. Desafortunadamente, las CNN pueden ser hackeadas fácilmente "añadiendo pequeños cambios a nivel de píxel en las imágenes de entrada que no son visibles a simple vista". Desafortunadamente, esta vulnerabilidad podría permitir a actores maliciosos atacar coches autónomos (The Lighthouse).

El diagnóstico a bordo (OBD) es una de las partes más vulnerables de los vehículos autónomos; el código malicioso puede insertarse en una unidad de control electrónico (ECU) a través del OBD. El malware insertado puede modificar y reprogramar la ECU. Las ECU infectadas pueden no ser capaces de comunicarse con otros componentes de la unidad a bordo (OBU), como el LiDAR, las cámaras y el radar, lo que puede comprometer la seguridad de los vehículos autónomos.

Conclusión: varios métodos para obtener el control automático de un coche

• Acceso remoto a través de Internet
• Acceso remoto a través de Bluetooth
• Insertar una puerta trasera en el coche autónomo a través del fabricante del vehículo (cadena de suministro)
• Dispositivos especiales implantados en el vehículo
• Perturbar los sentidos del vehículo

Por favor, piensa en esto:

Escenarios de hackeo y consecuencias no deseadas: ¿Qué pasa si los coches autónomos son víctimas de un hackeo que les hace perder el control, o peor aún, tener un accidente?

Dilemas morales: ¿Quién asume la responsabilidad? La cuestión de la responsabilidad es enorme cuando los coches autónomos se ven comprometidos.

Asegurar el futuro de la conducción autónoma: Examinando los requisitos éticos, profundizamos en las medidas necesarias para proteger los vehículos autónomos de las amenazas de hackeo. ¿Qué papel deberían desempeñar las regulaciones para hacer cumplir estándares estrictos de ciberseguridad?

Vida humana, riesgo moral: Cuando entregamos el volante a la IA, hay mucho en juego, especialmente en lo que respecta a cuestiones de vida y seguridad. ¿Cómo puede la sociedad asegurar que las consideraciones éticas guíen el desarrollo de la tecnología de coches autónomos para prevenir accidentes relacionados con hackeos?

Preocupación #4: Falta de regulaciones

La IA tiene implicaciones a nivel de sistema que no pueden ignorarse.
Los coches autónomos dependen de la conectividad inalámbrica para mantenerse al tanto de la carretera, pero ¿qué sucede cuando esa conexión se pierde? Un conductor se encontró su coche atrapado entre 20 vehículos Cruise que habían perdido contacto con el centro de operaciones remoto, causando un gran atasco de tráfico.

Lea también: Cruise lanzará el primer coche accesible para sillas de ruedas

Las actitudes hacia los coches autónomos en San Francisco, amigable con la tecnología, una vez optimistas, han tomado un giro negativo ya que la ciudad está experimentando una plétora de problemas. Si un coche autónomo interceptado resulta en la muerte de alguien que no puede llegar al hospital a tiempo, ese sentimiento podría eventualmente llevar al público a rechazar la tecnología.

Entonces, ¿qué significa la experiencia de los coches autónomos para regular la IA de manera más amplia? Las empresas no solo deben asegurarse de comprender las implicaciones más amplias a nivel de sistema de la IA, sino que también necesitan supervisión, y no deben permitirse autorregularse.

A la IA todavía le queda un largo camino por recorrer en coches y camiones. No estoy pidiendo una prohibición de los coches autónomos. Hay ventajas claras en el uso de la IA, y es irresponsable pedir una prohibición o incluso una moratoria en su uso. Pero necesitamos más supervisión gubernamental para evitar asumir riesgos innecesarios.

Sin embargo, la regulación de la IA en los coches aún no ha comenzado. Esto se puede atribuir en parte a las demandas excesivas y la presión de la industria, pero también a la falta de capacidad por parte de los reguladores. La Unión Europea ha sido más proactiva en la regulación de la inteligencia artificial, especialmente en los coches autónomos.

La respuesta correcta a la prueba rápida es A. 30 grados Celsius.