La Chine élabore des règles pour encadrer l'IA avec interaction humaine

China drafts rules to rein in AI with human-like interaction est profilé par BTW Media car des preuves publiées le relient à l'infrastructure internet, à la gouvernance, aux dépendances opérationnelles ou à la visibilité sur le marché.

• La Chine a publié un projet de règles visant à réglementer les systèmes d’intelligence artificielle qui simulent l’interaction humaine, étendant ainsi sa surveillance de l’IA générative.
• Ces propositions soulignent l’accent mis par Pékin sur la stabilité sociale et le contrôle de l’information, soulevant de nouvelles questions pour les développeurs et les entreprises étrangères opérant en Chine.

Que s'est-il passé: la Chine a publié un projet de réglementation destiné à encadrer les systèmes d'intelligence artificielle

Le projet de règles, publié par l’Administration du cyberespace de Chine, se concentre sur les services d’IA capables de mener des conversations en langage naturel, de simuler des réponses émotionnelles ou de donner l’impression d’interagir comme un humain. Selon ces propositions, les fournisseurs seraient tenus de veiller à ce que ces systèmes respectent les « valeurs socialistes fondamentales » et ne génèrent pas de contenu susceptible de nuire à la sécurité nationale, à l’ordre social ou aux bonnes mœurs.

Les développeurs devraient également étiqueter clairement le contenu généré par l’IA et mettre en place des mécanismes pour empêcher les utilisateurs de devenir excessivement dépendants des systèmes qui simulent une interaction émotionnelle ou sociale. Ces règles s’ajoutent aux exigences existantes selon lesquelles les services d’IA générative doivent être soumis à des évaluations de sécurité et enregistrés auprès des autorités avant d’être proposés au public.

Le projet de réglementation est ouvert aux commentaires du public, une étape standard dans le processus d’élaboration des règles en Chine. Il intervient alors que les entreprises technologiques nationales se précipitent pour déployer des outils d’IA conversationnelle dans des domaines allant du service client à l’éducation et au divertissement, tandis que les entreprises mondiales observent comment la position réglementaire de la Chine pourrait affecter la coopération transfrontalière.

La Chine a déjà introduit des mesures concernant les algorithmes de recommandation et les technologies deepfake. Ce nouveau projet suggère que les régulateurs accordent une attention plus soutenue à l’impact psychologique et social des systèmes d’IA qui peuvent brouiller la frontière entre interaction humaine et machine.

À lire aussi:CAIGA réécrit les règles de propriété intellectuelle en Afrique sans ses détenteurs de ressources
À lire aussi:Le Royaume-Uni assouplit les règles de recherche en IA pour stimuler l'innovation

Pourquoi c’est important

Les règles proposées montrent comment la Chine se taille une voie réglementaire distincte pour l’intelligence artificielle, en plaçant la gouvernance sociale et le contrôle politique au cœur de la surveillance technologique. Pour les entreprises qui développent des chatbots, des compagnons virtuels ou des assistants avancés, la conformité pourrait nécessiter de reconcevoir leurs produits afin de limiter les indices émotionnels ou la profondeur conversationnelle.

Les partisans de la réglementation soutiennent que des garde-fous sont nécessaires pour prévenir la manipulation, la désinformation ou une dépendance malsaine aux systèmes d’IA. Cependant, la portée du libellé du projet de règles pourrait créer de l’incertitude pour les développeurs, en particulier sur la manière dont les régulateurs jugeront des concepts tels que la « dépendance émotionnelle » ou l’influence néfaste.

Cette mesure reflète également l’intensification du débat mondial sur la portée que les gouvernements devraient donner à la réglementation de l’IA qui imite le comportement humain. Alors que l’Union européenne s’est concentrée sur les catégories de risque et la transparence avec son AI Act, l’approche chinoise met davantage l’accent sur le contrôle du contenu et l’alignement sur les priorités de l’État.

Pour les entreprises internationales, le projet de règles renforce les défis liés à l’exploitation de services d’IA dans l’environnement numérique étroitement réglementé de la Chine. Des questions subsistent quant à savoir si une surveillance stricte pourrait ralentir l’innovation ou pousser l’expérimentation vers des canaux moins visibles, alors même que les autorités cherchent à équilibrer croissance et contrôle.