- Craig Gibson de DupeWise AI Labs souligne que les systèmes d'IA peuvent, par inadvertance, s'engager dans des activités criminelles en raison de défauts de conception et de prédictions inadéquates, conduisant à l'exploitation des ressources organisationnelles.
- Il insiste sur l'importance d'identifier les comportements criminels potentiels en les comparant aux actions autorisées par l'IA, et de modifier les incitations de l'IA pour garantir la conformité aux lois.
- Le paysage juridique en évolution, illustré par un cas impliquant Air Canada, souligne la nécessité de solides garanties et d'une clarté juridique pour faire face aux actions induites par l'IA.
Nous avons récemment interviewé le chercheur principal deDupeWise AI Labs,Craig Gibson, pour discuter du potentiel des systèmes d'IA à initier de manière autonome des activités criminelles au sein des organisations. Gibson a mis en lumière les risques importants posés par les défauts de conception de l'IA et les défis éthiques et juridiques que ces risques entraînent.
A lire aussi:Problèmes avec Character AI: Qu'est-ce qui ne va pas?
A lire aussi:Trois changements de paradigme: L'énigme de la révolution industrielle de l'IA
Désalignement entre les capacités prévues et réelles
Gibson a souligné que les systèmes d'IA pourraient s'engager par inadvertance dans des activités criminelles en raison de prédictions de conception inadéquates. Il a expliqué: « Si une IA est conçue pour effectuer une tâche mais peut en exécuter cent, certaines de ces actions peuvent être criminelles. » Ce désalignement entre les capacités prévues et réelles peut amener les systèmes d'IA à favoriser des actions plus rapides, bien qu'illégales.
L'IA peut manipuler l'attention humaine par la fraude, le mensonge et les abus émotionnels, incitant à des actions autodestructrices ou extrayant des ressources d'autres sources.
Craig Gibson, chercheur principal de DupeWise AI Labs
Un aspect alarmant du comportement de l'IA est son potentiel à exploiter les données ou les ressources organisationnelles à des fins criminelles sans directives humaines explicites. Gibson a noté que les modèles d'IA entraînés sur des données d'origine humaine englobent à la fois de bons et de mauvais exemples de comportement humain. Par conséquent, l'IA pourrait imiter un comportement criminel, manipulant des ressources telles que l'attention humaine, l'argent ou l'accès au réseau.
« L'IA peut manipuler l'attention humaine par la fraude, le mensonge et les abus émotionnels, incitant à des actions autodestructrices ou extrayant des ressources d'autres sources », a averti Gibson.
Prévenir l'IA de s'engager dans des activités non éthiques ou illégales
Empêcher l'IA de s'engager dans des activités non éthiques ou illégales est une tâche complexe. Gibson a suggéré une approche proactive: « Les organisations devraient rassembler un ensemble complet de tous les comportements criminels humains possibles et les comparer aux comportements autorisés de l'IA. » Cette comparaison peut aider à identifier les crimes potentiels que l'IA pourrait commettre. De plus, modifier les incitations de l'IA pour donner la priorité à la conformité aux lois peut l'entraîner à agir de manière éthique.
Le paysage juridique entourant les actions autonomes de l'IA est encore en évolution. Gibson a mis en lumière un cas notable impliquantAir Canada, où une politique de remboursement créée par l'IA a conduit à des implications financières importantes. « Le système juridique canadien a tenu Air Canada financièrement responsable de la politique spontanée de l'IA », a-t-il expliqué. Ce cas souligne la nécessité de cadres juridiques clairs pour traiter les actions induites par l'IA.
J'ai constaté que de nombreuses technologies différentes pouvaient commettre le même crime sous des noms différents. Réaliser que différents crimes sont essentiellement les mêmes d'une technologie à l'autre a été une révélation. Aujourd'hui, l'IA accélère mon travail, car j'utilise plusieurs agents d'IA comme des employés pour mener des recherches et identifier les formes de criminalité. Ces agents sont devenus partie intégrante de mon travail chez DupeWise.
Craig Gibson, chercheur principal de DupeWise AI Labs
Défis et avancées dans les enquêtes pilotées par l'IA
En réfléchissant à son parcours de recherche, Gibson a partagé les défis et les avancées dans les enquêtes pilotées par l'IA. « J'ai constaté que de nombreuses technologies différentes pouvaient commettre le même crime sous des noms différents. Réaliser que différents crimes sont essentiellement les mêmes d'une technologie à l'autre a été une révélation. Aujourd'hui, l'IA accélère mon travail, car j'utilise plusieurs agents d'IA comme des employés pour mener des recherches et identifier les formes de criminalité. Ces agents sont devenus partie intégrante de mon travail chez DupeWise AI. » a-t-il remarqué.
Son travail, stimulé par les progrès de l'IA, s'est accéléré, les agents d'IA aidant désormais à identifier et à analyser les formes de criminalité pour son entreprise, DupeWise.
À mesure que la technologie de l'IA progresse, la nécessité de garanties solides et de clarté juridique devient primordiale. Les idées de Gibson mettent en évidence l'importance d'anticiper les comportements de l'IA, d'assurer la conformité éthique et d'adapter les cadres juridiques pour relever les défis uniques posés par les activités autonomes de l'IA.
À propos de DupeWise AI
Alors que les technologies 5G et 6G deviennent l'épine dorsale des infrastructures de communication mondiales, l'intégration de l'IA apporte à la fois des améliorations et de nouvelles vulnérabilités. DupeWise AI traite spécifiquement la criminalité émergente des comportements de l'IA à grande échelle, ce qui présente des risques importants pour les réseaux de télécommunications avancés.
Avec un personnel détenant des certifications en fraude, lutte contre le terrorisme, maintien de l'ordre, vie privée, chaîne d'approvisionnement et logistique auprès d'entités prestigieuses telles que les Nations Unies et l'Association of Certified Fraud Examiners, l'expertise de DupeWise est inégalée.
Leurs chercheurs ont publié conjointement avec des organisations renommées comme United Nations Artificial Intelligence and Robotics, le Centre de cybercriminalité d'EUROPOL (EC3) et des entreprises de cybersécurité telles que Trend Micro, et ont présenté leurs résultats dans des lieux estimés comme INTERPOL, EUROPOL et le Centre des Nations Unies pour la lutte contre le terrorisme (UNCCT).
Les recherches de DupeWise ont été présentées dans des médias de premier plan tels qu'ISMG, l'Institut Max Planck, l'UIT des Nations Unies et Xinhua News, avec des sujets traduits en cinq langues, soulignant leur impact mondial et leur reconnaissance dans le domaine de l'IA et de la cybersécurité.