- Le département du Commerce des États-Unis propose de nouvelles exigences de déclaration pour les développeurs d'IA et les fournisseurs cloud afin d'assurer la cybersécurité.
- Les règles imposeraient des rapports sur le développement de modèles d'IA, les efforts de cybersécurité et les résultats de red-teaming, visant à détecter les risques tels que l'aide aux cyberattaques ou la réduction des obstacles au développement d'armes de destruction massive.
NOTRE AVIS
Cette décision reflète les préoccupations croissantes concernant l'impact de l'IA et la nécessité d'une surveillance rigoureuse. En imposant des rapports détaillés, le gouvernement américain intensifie ses efforts pour atténuer les risques associés à l'IA avancée, tels que l'utilisation abusive dans les cyberattaques ou les technologies dangereuses. Cette approche proactive souligne l'équilibre entre favoriser l'innovation et se protéger contre les menaces potentielles, visant à maintenir le développement de l'IA sûr et sous contrôle.
-Tacy Ding, journaliste BTW
Que s'est-il passé
La proposition d'exigences de déclaration détaillées, visant les développeurs d'intelligence artificielle avancée et les fournisseurs de cloud computing pour garantir que ces technologies sont sécurisées et capables de résister aux cyberattaques, a été annoncée par le département du Commerce des États-Unis lundi.
La proposition du Bureau of Industry and Security du département imposerait des rapports au gouvernement fédéral sur les activités de développement de modèles d'IA « frontière » et de clusters de calcul.
Elle imposerait également des rapports sur les mesures de cybersécurité, ainsi que sur les résultats des efforts dits de « red-teaming », tels que les tests de capacités dangereuses, y compris le potentiel d'aider aux cyberattaques ou de réduire les obstacles pour les non-experts à développer des armes chimiques, biologiques, radiologiques ou nucléaires.
Le red-teaming externe est utilisé depuis des années en cybersécurité pour identifier les risques émergents, le terme provenant des simulations de la guerre froide américaine, où l'adversaire était désigné comme l'« équipe rouge ».
À lire aussi: Le DOJ surveille les plans d'IA de Google pour lutter contre le monopole de la recherche
À lire aussi: Les États-Unis mettent en place de nouveaux contrôles sur les technologies avancées avec leurs partenaires internationaux
Pourquoi c'est important
L'IA générative, capable de produire du texte, des images et des vidéos en réponse à des invites ouvertes, a suscité à la fois de l'enthousiasme et des inquiétudes. On craint qu'elle ne rende certains emplois obsolètes, perturbe les élections et puisse potentiellement surpasser les humains, entraînant des conséquences catastrophiques.
Le département du Commerce a déclaré que les informations recueillies dans le cadre de la proposition « seront essentielles pour garantir que ces technologies répondent à des normes strictes de sécurité et de fiabilité, puissent résister aux cyberattaques et présentent un risque minimal d'utilisation abusive par des adversaires étrangers ou des acteurs non étatiques. »
En octobre 2023, le président Joe Biden a signé un décret exigeant des développeurs de systèmes d'IA présentant des risques pour la sécurité nationale, l'économie, la santé publique ou la sécurité des États-Unis qu'ils partagent les résultats des tests de sécurité avec le gouvernement américain avant que ces systèmes ne soient rendus publics.
La règle introduirait des exigences de déclaration pour les modèles avancés d'intelligence artificielle (IA) et les clusters de calcul.