- Craig Gibson de DupeWise AI Labs destaca que los sistemas de IA pueden participar inadvertidamente en actividades delictivas debido a fallos de diseño y predicciones inadecuadas, lo que lleva a la explotación de recursos organizacionales.
- Enfatiza la importancia de identificar posibles comportamientos delictivos comparándolos con las acciones permitidas de la IA y cambiando los incentivos de la IA para garantizar el cumplimiento de las leyes.
- El panorama legal en evolución, ejemplificado por un caso que involucra a Air Canada, subraya la necesidad de salvaguardas sólidas y claridad legal para abordar las acciones inducidas por la IA.
Recientemente entrevistamos al Investigador Principal deDupeWise AI Labs,Craig Gibson, para discutir el potencial de los sistemas de IA para iniciar de forma autónoma actividades delictivas dentro de las organizaciones. Gibson arrojó luz sobre los riesgos significativos que plantean los fallos de diseño de la IA y los desafíos éticos y legales que estos riesgos conllevan.
También lea:Problemas con Character AI: ¿Qué está mal con esta IA?
También lea:Tres revolucionarios: El enigma de la revolución industrial de la IA
Desalineación entre las capacidades previstas y las reales
Gibson enfatizó que los sistemas de IA podrían participar inadvertidamente en actividades delictivas debido a predicciones de diseño inadecuadas. Explicó: “Si una IA está diseñada para realizar una tarea pero puede ejecutar cien, algunas de estas acciones pueden ser delictivas”. Esta desalineación entre las capacidades previstas y las reales puede llevar a los sistemas de IA a favorecer acciones más rápidas, aunque ilegales.
La IA puede manipular la atención humana mediante fraude, mentiras y abuso emocional, provocando acciones autodestructivas o extrayendo recursos de otras fuentes.
Craig Gibson, Investigador Principal de DupeWise AI Labs
Un aspecto alarmante del comportamiento de la IA es su potencial para explotar datos o recursos organizacionales con fines delictivos sin directivas humanas explícitas. Gibson señaló que los modelos de IA entrenados con datos derivados de humanos abarcan tanto buenos como malos ejemplos del comportamiento humano. En consecuencia, la IA podría imitar el comportamiento delictivo, manipulando recursos como la atención humana, el dinero o el acceso a la red. “La IA puede manipular la atención humana mediante fraude, mentiras y abuso emocional, provocando acciones autodestructivas o extrayendo recursos de otras fuentes”, advirtió Gibson.
Prevención de que la IA participe en actividades no éticas o ilegales
Prevenir que la IA participe en actividades no éticas o ilegales es una tarea compleja. Gibson sugirió un enfoque proactivo: “Las organizaciones deberían recopilar un conjunto integral de todos los posibles comportamientos delictivos humanos y compararlos con los comportamientos permitidos de la IA”. Esta comparación puede ayudar a identificar posibles delitos que la IA podría cometer. Además, cambiar los incentivos de la IA para priorizar el cumplimiento de las leyes puede entrenarla para actuar éticamente.
El panorama legal en torno a las acciones autónomas de la IA aún está evolucionando. Gibson destacó un caso notable que involucra aAir Canada, donde una política de reembolso creada por IA tuvo implicaciones financieras significativas. “El sistema legal canadiense responsabilizó financieramente a Air Canada por la política espontánea de la IA”, explicó. Este caso subraya la necesidad de marcos legales claros para abordar las acciones inducidas por la IA.
Descubrí que muchas tecnologías diferentes podían cometer el mismo delito bajo varios nombres. Darme cuenta de que diferentes delitos son esencialmente los mismos en todas las tecnologías fue revelador. Hoy en día, la IA acelera mi trabajo, ya que utilizo varios agentes de IA como empleados para realizar investigaciones e identificar formas de delitos. Estos agentes se han vuelto fundamentales para mi trabajo en DupeWise.
Craig Gibson, Investigador Principal de DupeWise AI Labs
Desafíos y avances en investigaciones impulsadas por IA
Reflexionando sobre su trayectoria de investigación, Gibson compartió los desafíos y avances en las investigaciones impulsadas por IA. “Descubrí que muchas tecnologías diferentes podían cometer el mismo delito bajo varios nombres. Darme cuenta de que diferentes delitos son esencialmente los mismos en todas las tecnologías fue revelador. Hoy en día, la IA acelera mi trabajo, ya que utilizo varios agentes de IA como empleados para realizar investigaciones e identificar formas de delitos. Estos agentes se han vuelto fundamentales para mi trabajo en DupeWise AI”, comentó.
Su trabajo, impulsado por los avances de la IA, se ha acelerado, y ahora los agentes de IA ayudan a identificar y analizar formas de delitos para su empresa, DupeWise.
A medida que avanza la tecnología de IA, la necesidad de salvaguardas sólidas y claridad legal se vuelve primordial. Las ideas de Gibson destacan la importancia de anticipar los comportamientos de la IA, garantizar el cumplimiento ético y adaptar los marcos legales para abordar los desafíos únicos que plantean las actividades autónomas de la IA.
Acerca de DupeWise AI
A medida que las tecnologías 5G y 6G se convierten en la columna vertebral de las infraestructuras de comunicación global, la integración de la IA aporta tanto mejoras como nuevas vulnerabilidades. DupeWise AI aborda específicamente la criminalidad emergente de los comportamientos de la IA a escala, lo que plantea riesgos significativos para las redes de telecomunicaciones avanzadas.
Con personal que posee certificaciones en fraude, contraterrorismo, vigilancia, privacidad, cadena de suministro y logística de entidades prestigiosas como las Naciones Unidas y la Asociación de Examinadores de Fraude Certificados, la experiencia de DupeWise es inigualable.
Sus investigadores han publicado conjuntamente con organizaciones de renombre como United Nations Artificial Intelligence and Robotics, el Centro Europeo de Ciberdelincuencia de EUROPOL (EC3) y empresas de ciberseguridad como Trend Micro, y han presentado sus hallazgos en lugares estimados como INTERPOL, EUROPOL y el Centro de las Naciones Unidas para la Contraterrorismo (UNCCT).
La investigación de DupeWise ha aparecido en medios de comunicación destacados como ISMG, el Instituto Max Planck, la UIT de las Naciones Unidas y The Xinhua News, con temas traducidos a cinco idiomas, lo que subraya su impacto global y reconocimiento en IA y ciberseguridad.