La Chine dévoile des réglementations plus strictes pour les données d’entraînement de l’IA

BTW Media profile La Chine dévoile des réglementations plus strictes pour les données d’entraînement de l’IA car des preuves publiées le lient à l’infrastructure internet, à la gouvernance, aux dépendances opérationnelles ou à la visibilité du marché.

La Chine a récemment introduitdes exigences de sécurité strictespour les entreprises proposant des services basés sur l’intelligence artificielle (IA) générative. Cette mesure, annoncée par le Comité national de normalisation de la sécurité de l’information, vise à freiner l’utilisation abusive des modèles d’IA et leurs dangers potentiels.

Limites éthiques

L’IA générative, qui a gagné en popularité grâce à des modèles notables comme ChatGPT d’OpenAI, possède la capacité d’apprendre et de générer de nouveaux contenus, qu’il s’agisse de texte ou d’images, en s’appuyant sur les données d’entraînement auxquelles elle a été exposée. Les nouvelles réglementations chinoises témoignent d’un effort visant à garantir que les modèles d’IA fonctionnent dans certaines limites éthiques.

L’une des caractéristiques marquantes de ces réglementations est l’établissement d’une liste noire de sources interdites pour l’entraînement des modèles d’IA. Cette liste noire contribuera à empêcher que les systèmes d’IA ne soient influencés par des contenus nuisibles ou illégaux. Plus précisément, toute donnée contenant plus de 5 % d’informations jugées illégales ou nuisibles sera catégoriquement exclue.

Les contenus interdits incluent des éléments tels que« l’apologie du terrorisme »ou de la violence, toute tentative de « renverser le système socialiste », les activités qui « nuisent à l’image du pays » et celles qui « minent l’unité nationale et la stabilité sociale ». Ce faisant, la Chine vise à s’assurer que les systèmes d’IA évitent de générer ou d’approuver des contenus susceptibles d’inciter à la haine ou à la discorde.

À lire également:

La Chine durcit les règles pour les plateformes d’IA générative

Google Bard émerge comme un concurrent sérieux dans l’IA générative, mais des défis subsistent

Données censurées également interdites

En outre, les directives stipulent également que les données censurées au sein de l’écosystème internet chinois ne doivent pas servir de matériel d’entraînement pour les modèles d’IA. Cette mesure s’inscrit dans l’engagement plus large de la Chine à maintenir un environnement numérique contrôlé et à limiter la diffusion de contenus indésirables.

Cette évolution fait suite à une décision récente autorisant plusieurs entreprises technologiques chinoises, dont le géant Baidu, à lancer des chatbots basés sur l’IA. Cependant, cette autorisation s’accompagne de l’obligation pour ces entreprises de procéder à des évaluations de sécurité approfondies avant de rendre leurs services d’IA générative accessibles au public. L’Administration du cyberespace de Chine poursuit activement cet agenda depuis avril.

Consentement requis des individus

Pour garantir la responsabilité, le projet d’exigences de sécurité impose également aux organisations de recueillir le consentement des personnes dont les informations personnelles, y compris les données biométriques, sont utilisées pour l’entraînement des modèles d’IA. Cela s’aligne sur la tendance mondiale plus large en matière de confidentialité des données et de consentement.

L’accent mis par la Chine sur l’IA est souligné par son ambition de rivaliser avec les États-Unis dans ce secteur technologique. Le pays aspire à devenir un leader mondial de l’IA d’ici 2030, et ces réglementations nouvellement dévoilées représentent une étape cruciale vers cet objectif. Alors que le monde s’efforce de fixer des limites et des normes pour la technologie de l’IA, l’approche proactive de la Chine reflète son engagement à exploiter le potentiel de l’IA tout en se protégeant contre son utilisation abusive.

Ces réglementations devraient non seulement façonner le paysage de l’IA en Chine, mais aussi contribuer au discours mondial en cours sur l’éthique et la sécurité de l’IA.