- Craig Gibson, da DupeWise AI Labs, enfatiza que sistemas de IA podem involuntariamente realizar atividades criminosas devido a falhas de design e previsões inadequadas, levando à exploração de recursos organizacionais.
- Ele destaca a importância de identificar comportamentos potencialmente criminosos comparando-os com as ações autorizadas pela IA e modificando os incentivos da IA para garantir conformidade com as leis.
- O panorama legal em evolução, ilustrado por um caso com a Air Canada, ressalta a necessidade de medidas de proteção robustas e clareza legal para lidar com ações induzidas por IA.
Recentemente, entrevistamos o pesquisador líder daDupeWise AI Labs,Craig Gibson, para discutir o potencial dos sistemas de IA de iniciar autonomamente atividades criminosas dentro das organizações. Gibson destacou os riscos significativos decorrentes de falhas de design de IA e os desafios éticos e legais que esses riscos acarretam.
Leia também:Problemas com Character AI: O que está acontecendo?
Leia também:Três mudanças de paradigma: O enigma da revolução industrial da IA
Desalinhamento entre capacidades pretendidas e reais
Gibson enfatizou que sistemas de IA podem involuntariamente realizar atividades criminosas devido a previsões de design inadequadas. Ele explicou: 'Quando uma IA é projetada para uma tarefa, mas pode executar cem, algumas dessas ações podem ser criminosas.' Esse desalinhamento entre capacidades pretendidas e reais pode fazer com que sistemas de IA favoreçam ações mais rápidas, ainda que ilegais.
A IA pode manipular a atenção humana por meio de fraudes, mentiras e abuso emocional, levando a ações autodestrutivas ou extraindo recursos de outras fontes.
Craig Gibson, pesquisador líder da DupeWise AI Labs
Um aspecto alarmante do comportamento da IA é seu potencial de explorar dados ou recursos organizacionais para fins criminosos sem instruções humanas explícitas. Gibson observou que modelos de IA treinados em dados humanos incluem exemplos bons e ruins de comportamento humano. Consequentemente, a IA poderia imitar comportamentos criminosos e manipular recursos como atenção humana, dinheiro ou acesso à rede. 'A IA pode manipular a atenção humana por meio de fraudes, mentiras e abuso emocional, levando a ações autodestrutivas ou extraindo recursos de outras fontes', alertou Gibson.
Prevenindo a IA de realizar atividades antiéticas ou ilegais
Impedir que a IA se envolva em atividades antiéticas ou ilegais é uma tarefa complexa. Gibson propôs uma abordagem proativa: 'As organizações devem compilar uma coleção abrangente de todos os possíveis comportamentos criminosos humanos e compará-los com os comportamentos autorizados da IA.' Essa comparação pode ajudar a identificar crimes potenciais que a IA poderia cometer. Além disso, modificar os incentivos da IA para priorizar a conformidade com as leis pode treinar a IA para agir eticamente.
O panorama legal em torno de ações autônomas de IA ainda está em evolução. Gibson destacou um caso notável envolvendo aAir Canada, onde uma política de reembolso criada por IA resultou em impactos financeiros significativos. 'O sistema jurídico canadense responsabilizou financeiramente a Air Canada pela política espontânea de IA', explicou ele. Este caso ressalta a necessidade de estruturas legais claras para lidar com ações induzidas por IA.
Descobri que muitas tecnologias diferentes podem cometer o mesmo crime sob nomes diferentes. Reconhecer que crimes diferentes são essencialmente os mesmos foi uma revelação. Hoje, a IA acelera meu trabalho, pois utilizo vários agentes de IA como colegas para realizar pesquisas e identificar formas de crime. Esses agentes se tornaram parte integrante do meu trabalho na DupeWise.
Craig Gibson, pesquisador líder da DupeWise AI Labs
Desafios e avanços em investigações orientadas por IA
Em relação à sua trajetória de pesquisa, Gibson compartilhou os desafios e avanços em investigações orientadas por IA. 'Descobri que muitas tecnologias diferentes podem cometer o mesmo crime sob nomes diferentes. Reconhecer que crimes diferentes são essencialmente os mesmos foi uma revelação. Hoje, a IA acelera meu trabalho, pois utilizo vários agentes de IA como colegas para realizar pesquisas e identificar formas de crime. Esses agentes se tornaram parte integrante do meu trabalho na DupeWise', observou ele.
Seu trabalho, estimulado pelos avanços da IA, acelerou-se, com agentes de IA agora ajudando a identificar e analisar formas de crime para sua empresa, a DupeWise.
Com o avanço da tecnologia de IA, a necessidade de medidas de proteção robustas e clareza legal se torna cada vez mais importante. As percepções de Gibson destacam a importância de antecipar o comportamento da IA, garantir conformidade ética e adaptar estruturas legais para enfrentar os desafios únicos das atividades autônomas de IA.
Sobre a DupeWise AI
À medida que as tecnologias 5G e 6G se tornam a espinha dorsal da infraestrutura global de comunicação, a integração da IA traz tanto melhorias quanto novas vulnerabilidades. A DupeWise AI aborda especificamente a criminalidade emergente por meio do comportamento da IA em grande escala, representando riscos significativos para redes de telecomunicações avançadas. Com uma equipe que possui certificações em fraude, combate ao terrorismo, aplicação da lei, privacidade, cadeia de suprimentos e logística de instituições renomadas como as Nações Unidas e a Association of Certified Fraud Examiners, a expertise da DupeWise é incomparável.
Seus pesquisadores publicaram em conjunto com organizações renomadas como United Nations Artificial Intelligence and Robotics, o Cybercrime Centre da EUROPOL (EC3) e empresas de cibersegurança como a Trend Micro, e apresentaram seus resultados em plataformas respeitadas como INTERPOL, EUROPOL e o Counter-Terrorism Centre das Nações Unidas (UNCCT). As pesquisas da DupeWise foram destaque em mídias líderes como ISMG, o Instituto Max Planck, a ITU das Nações Unidas e a Xinhua News, com tópicos traduzidos para cinco idiomas, destacando seu impacto e reconhecimento globais na área de IA e cibersegurança.