- A falta de compreensão da tecnologia na indústria e no governo é alarmante, e o conhecimento sobre carros equipados com IA deve ser amplamente difundido.
- O modo de falha da IA é difícil de prever, ou ninguém pode garantir que uma máquina assim nunca cometerá erros.
- Os hackers têm muitas maneiras de fazer você bater: ataques de malware, ataques intermediários, ataques de negação de serviço, ataques de ransomware.
- A regulamentação da inteligência artificial em automóveis ainda não começou, e os carros com IA ainda têm um longo caminho a percorrer.
A tecnologia de IA é agora amplamente utilizada em carros autônomos, juntamente com sensores, câmeras, radares e mais para dirigir entre destinos sem intervenção humana. Empresas que desenvolvem e/ou testam veículos autônomos incluem Audi, BMW, Ford, Google, General Motors, Tesla, Volkswagen e Volvo. Legal! O motorista pode liberar as mãos e simplesmente deixar-se levar. Mas será que é realmente assim?
A ideia de que a IA pode ser tanto um risco quanto um benefício tem sido debatida há muito tempo. Acredito que isso é especialmente verdadeiro em carros e veículos.
Até certo ponto, a IA oferece vantagens significativas, eliminando o erro humano da equação da direção. Mas o que acontece quando algo dá errado?
Aqui estão 4 razões pelas quais acredito que a IA não vale a pena:
- Uma falsa sensação de segurança distrai os motoristas.
- Mau julgamento da IA
- Ataques de hackers
- Falta de regulamentações sobre o reconhecimento de acidentes
Apertem os cintos, o carro sem IA está prestes a sair!
Preocupação #1: Uma falsa sensação de segurança
Mary (Missy) L. Cummings, IEEE Senior Fellow e professora no Instituto Duke de Ciências do Cérebro (DIBS) da Universidade Duke, pediu ao Comitê de Comércio, Ciência e Transporte do Senado dos EUA em 2016 que regulamentasse o uso da inteligência artificial em automóveis. Mas nem os apelos de Mary (Missy) L. Cummings nem a morte de Brown conseguiram que o governo agisse. A falta de compreensão da tecnologia na indústria e no governo é alarmante.
Agora a pergunta que devemos considerar é: se os carros autônomos se generalizarem, o erro humano na operação é substituído pelo erro humano na codificação. Isso é uma fuga do assassino da estrada?
Os defensores dos carros autônomos frequentemente afirmam que quanto antes nos livrarmos dos motoristas, mais seguros estaremos na estrada. Citando estatísticas da Administração Nacional de Segurança do Tráfego nas Estradas, eles afirmam que 94% dos acidentes são causados por motoristas humanos. Mas essa estatística foi tirada de contexto e é imprecisa.
Além disso, as alegações de que os carros autônomos serão mais seguros do que os conduzidos por humanos ignoram o que qualquer pessoa que trabalhou com desenvolvimento de software sabe muito bem: o código de software é muito propenso a erros, e o problema só piorará à medida que os sistemas se tornarem mais complexos.
Teve o acidente em outubro de 2021 de um carro autônomo daPonycontra uma placa, o acidente em abril de 2022 de um caminhão daTuSimplecontra uma barreira de concreto, o acidente em junho de 2022 de um robotaxi daCruise que parou repentinamenteenquanto virava à esquerda, e o acidente em março de 2023 de outro carro da Cruise que bateu na traseira de um ônibus.
Leia também: Motoristas da Volkswagen estão prestes a entrar na conversa do ChatGPT
Preocupação #2: O sistema de IA ativa quando não deveria
Um cenário que devemos considerar é se o sistema de IA ativa quando não deveria (para abruptamente ao detectar uma "sombra" de um obstáculo à frente), ou não responde quando deveria. Em que situação você se encontraria?
É verdade que o modo de falha da IA é difícil de prever, ou ninguém pode garantir que uma máquina assim nunca cometerá erros.
Um LLM adivinha quais palavras e frases aparecerão em seguida consultando um arquivo coletado de dados existentes durante o treinamento. O módulo de direção autônoma interpreta a cena com base em um banco de dados de imagens rotuladas (isso é um carro, isso é um pedestre, isso é uma árvore) e faz suposições semelhantes para decidir como navegar ao redor de obstáculos. Essas imagens rotuladas também foram fornecidas durante o treinamento. Mas nem todas as possibilidades podem ser modeladas, portanto, numerosos modos de falha são muito difíceis de prever.
Um modo de falha que não havia sido antecipado anteriormente foi a frenagem fantasma. Sem razão aparente, um veículo autônomo freia repentinamente, podendo causar uma colisão traseira com o veículo de trás e outros atrás dele. Em maio de 2022, a NHTSA enviou uma carta à Tesla informando que a agência havia recebido 758 reclamações sobre frenagem fantasma nos veículos Model 3 e Y. Em maio, o jornal alemão Handelsblatt informou 1.500 reclamações sobre problemas de frenagem em carros Tesla e 2.400 sobre aceleração repentina.
Agora parece que a taxa de colisões traseiras de carros autônomos é aproximadamente o dobro da de carros conduzidos por humanos. O Watson da IBM, baseado em IA, o precursor dos LLMs atuais, era bom em adivinhar, mas não tinha conhecimento real, especialmente ao fazer julgamentos sob incerteza e decidir ações com base em informações incompletas. Os LLMs atuais não são exceção: os modelos subjacentes simplesmente não conseguem lidar com a falta de informação, nem têm a capacidade de avaliar se suas estimativas são boas o suficiente neste contexto.
Esses problemas são comuns no campo da direção autônoma. O acidente de junho de 2022 envolveu um robotaxi da Cruise quando decidiu fazer uma grande curva à esquerda entre dois veículos. Conforme detalhado em um relatório do acidente pelo especialista em segurança automotiva Michael Woon, o carro tomou corretamente uma trajetória viável, mas no meio da curva, freou bruscamente e parou no meio da interseção. Ele adivinhou que um carro que se aproximava na faixa da direita viraria, embora virar fosse fisicamente impossível na velocidade em que o carro viajava. Essa incerteza confundiu a Cruise e levou às piores decisões possíveis.
Um Prius que se aproximava não virou e colidiu diretamente com o Cruise, ferindo os ocupantes de ambos os veículos.
Leia também: Apple abandona seu projeto de desenvolvimento de veículos elétricos de uma década
Teste rápido
Para baterias de lítio, qual é a melhor temperatura de operação?
A. 30 graus Celsius
B. 50 graus Celsius
C. 60 graus Celsius
D. 70 graus Celsius
A resposta está no final deste artigo.
Preocupação #3: Ataques de hackers
Na era da inovação impulsionada pela IA, a chegada dos carros autônomos traz não apenas promessas de mobilidade aprimorada, mas também levanta preocupações éticas críticas.
Sr. Ratan Bajaj, Fundador e CEO da MindWell AI
Já em 2019, os novos modelos Tesla Model 3 foram hackeados em apenas alguns minutos. Os hackers Amat Cama e Richard Zhu exploraram fraquezas no sistema de "infoentretenimento" para acessar um dos computadores do carro (o mundo físico).
Uma vez bem-sucedidos, Amat Cama e Richard Zhu puderam executar suas próprias linhas de código. Você pode vê-los demonstrando o ataqueno vídeo.
Aqui estão alguns exemplos anteriores, não estou falando bobagens.
Ataque de malware
Em 2011, o Chevrolet Malibu se tornou o primeiro veículo com intrusão remota que os atacantes conseguiram controlar. Os hackers "exploraram uma fraqueza na pilha Bluetooth para manipular o rádio do veículo e inserir código malicioso sincronizando o telefone com o rádio" (Ataques a carros autônomos e suas contramedidas: Pesquisa). Uma vez inserido com sucesso, o código pode enviar uma mensagem para a ECU do carro e travar os freios.
Ataques intermediários (MiTM)
Em um ataque intermediário, um hacker pode manipular as comunicações entre duas entidades e obter o controle de uma ECU ou de uma unidade de estrada de infraestrutura (RSU) por meio de escuta, repetição e modificação das mensagens enviadas entre entidades.
Ataque de negação de serviço (DoS)
DoS é um dos ataques mais perigosos que podem ocorrer em carros autônomos; podem causar acidentes graves ou morte. Os atacantes podem usar ataques DoS para "impedir que câmeras, LiDAR e radar detectem objetos, estradas e sinais de segurança" (Ataques a carros autônomos e suas contramedidas: Pesquisa). Um ataque DoS também pode afetar o sistema de frenagem, fazendo o carro parar repentinamente ou não parar, causando mau funcionamento do sistema de frenagem.
Ataque de ransomware
Esse tipo de ataque pode ser muito perigoso para veículos comerciais. Em 2017, a Honda Motor Company foi atingida por um grande ataque de ransomware WannaCry, no qual os atacantes "exigiram grandes quantidades de criptomoedas para fornecer chaves de descriptografia" ("Ataques a carros autônomos e suas contramedidas: Pesquisa").
Embora o ataque não fosse direcionado a carros autônomos, afetou muitos dos carros autônomos da Honda que precisavam de atualizações de software durante o ataque. Esse ataque é provavelmente mais comum que outros porque os hackers têm muito sucesso executando ataques de ransomware.
O que torna os carros autônomos vulneráveis?
Os carros autônomos são alvos tentadores para cibercriminosos que podem "tentar roubar os dados financeiros de um motorista ou lançar ataques terroristas avançados transformando o veículo em uma arma".
Além das ameaças não intencionais, como a falha repentina dos sistemas de IA, há ataques intencionais projetados para comprometer especificamente as funções críticas de segurança dos sistemas de IA. Por exemplo, pintar estradas para enganar os sistemas de navegação, ou colocar adesivos nas placas de pare para evitar que sejam identificadas.
O LiDAR (Light Detection and Ranging) é um sistema de câmera e pulsos laser que constitui os "olhos" de um veículo autônomo, alimentando informações sobre a cena de direção e o ambiente para um modelo computacional CNN para tomar decisões como ajustes de velocidade e correções de direção. Infelizmente, as CNNs podem ser facilmente hackeadas "adicionando pequenas alterações em nível de pixel nas imagens de entrada que não são visíveis a olho nu". Infelizmente, essa vulnerabilidade pode permitir que atores maliciosos ataquem carros autônomos (The Lighthouse).
O diagnóstico a bordo (OBD) é uma das partes mais vulneráveis dos veículos autônomos; o código malicioso pode ser inserido em uma unidade de controle eletrônico (ECU) através do OBD. O malware inserido pode modificar e reprogramar a ECU. ECUs infectadas podem não conseguir se comunicar com outros componentes da unidade de bordo (OBU), como LiDAR, câmeras e radar, o que pode comprometer a segurança dos veículos autônomos.
Conclusão: vários métodos para obter o controle automático de um carro
- Acesso remoto pela Internet
- Acesso remoto via Bluetooth
- Inserir uma backdoor no carro autônomo através do fabricante do veículo (cadeia de suprimentos)
- Dispositivos especiais implantados no veículo >Perturbar os sentidos do veículo
Por favor, pense nisto:
Cenários de hacking e consequências não intencionais: O que acontece se os carros autônomos forem vítimas de um hacking que os faça perder o controle, ou pior, sofrer um acidente?
Dilemas morais: Quem assume a responsabilidade? A questão da responsabilidade é enorme quando os carros autônomos são comprometidos.
Assegurar o futuro da direção autônoma: Examinando os requisitos éticos, aprofundamos as medidas necessárias para proteger os veículos autônomos das ameaças de hacking. Qual papel as regulamentações devem desempenhar para impor padrões rigorosos de cibersegurança?
Vida humana, risco moral: Quando entregamos o volante à IA, há muito em jogo, especialmente no que diz respeito a questões de vida e segurança. Como a sociedade pode garantir que considerações éticas orientem o desenvolvimento da tecnologia de carros autônomos para prevenir acidentes relacionados a hacking?
Preocupação #4: Falta de regulamentações
A IA tem implicações a nível de sistema que não podem ser ignoradas.
Os carros autônomos dependem da conectividade sem fio para se manterem atualizados sobre a estrada, mas o que acontece quando essa conexão é perdida? Um motorista se viu com seu carro preso entre 20 veículos da Cruise que haviam perdido contato com o centro de operações remoto, causando um grande congestionamento.
Leia também: Cruise lançará o primeiro carro acessível para cadeiras de rodas
As atitudes em relação aos carros autônomos em São Francisco, amigável à tecnologia, outrora otimistas, tomaram um rumo negativo, já que a cidade está experimentando uma infinidade de problemas. Se um carro autônomo interceptado resultar na morte de alguém que não pode chegar ao hospital a tempo, esse sentimento pode eventualmente levar o público a rejeitar a tecnologia.
Então, o que a experiência dos carros autônomos significa para regular a IA de forma mais ampla? As empresas não apenas devem garantir que entendem as implicações mais amplas a nível de sistema da IA, mas também precisam de supervisão, e não devem ter permissão para se autorregular.
A IA ainda tem um longo caminho a percorrer em carros e caminhões. Não estou pedindo uma proibição dos carros autônomos. Há vantagens claras no uso da IA, e é irresponsável pedir uma proibição ou mesmo uma moratória em seu uso. Mas precisamos de mais supervisão governamental para evitar assumir riscos desnecessários.
No entanto, a regulamentação da IA em carros ainda não começou. Isso pode ser atribuído em parte às demandas excessivas e à pressão da indústria, mas também à falta de capacidade por parte dos reguladores. A União Europeia tem sido mais proativa na regulamentação da inteligência artificial, especialmente em carros autônomos.
A resposta correta para o teste rápido é A. 30 graus Celsius.