• Une législation californienne historique visant à établir les premières mesures de sécurité du pays pour les plus grands systèmes d'IA a reçu un vote important.
  • La proposition, qui vise à réduire les risques potentiels posés par l'IA, exige des entreprises qu'elles testent leurs modèles et divulguent publiquement leurs protocoles de sécurité.

NOTRE AVIS
Les partisans du projet de loi affirment qu'il établirait certaines des premières règles de sécurité indispensables pour les modèles d'IA américains à grande échelle, pour lesquels plus de 100 millions de dollars de données sont nécessaires pour entraîner le système. Aucun modèle d'IA actuel n'atteint ce seuil, et les géants de la technologie devraient collaborer avec les organisations compétentes pour créer des normes d'utilisation de l'IA socialement appropriées.
— Iydia Ding, journaliste BTW

Ce qui s'est passé

L'effort de la Californie pour créer les premières mesures de sécurité du pays pour le plus grand système d'intelligence artificielle a passé un vote important mercredi qui pourrait ouvrir la voie à une réglementation américaine sur une technologie évoluant à une vitesse fulgurante. La proposition, visant à réduire les risques potentiels posés par l'IA, obligerait les entreprises à tester leurs modèles et à divulguer publiquement leurs protocoles de sécurité pour empêcher que les modèles ne soient manipulés, par exemple pour anéantir le réseau électrique de l'État ou aider à fabriquer des armes chimiques – ce que les experts estiment possible à l'avenir alors que l'industrie se développe rapidement.

Le projet de loi faisait partie des centaines de projets de loi que les législateurs ont votés pour adopter au cours de la dernière semaine de la session. Newsom a ensuite jusqu'à la fin septembre pour décider de les signer, d'y opposer son veto ou de les laisser devenir loi sans sa signature. La mesure a été présentée à l'Assemblée mercredi et doit encore faire l'objet d'un vote final au Sénat avant d'arriver au bureau du gouverneur.

À lire aussi: Elon Musk soutient le projet de loi californien sur la régulation de l'IA

À lire aussi: OpenAI soutient un projet de loi californien exigeant le filigrane des contenus d'IA

Pourquoi c'est important

Les partisans du projet de loi affirment qu'il établirait certaines des premières règles de sécurité indispensables pour les modèles d'IA américains à grande échelle, pour lesquels plus de 100 millions de dollars de données sont nécessaires pour entraîner le système. Aucun modèle d'IA actuel n'atteint ce seuil, et les géants de la technologie devraient collaborer avec les organisations compétentes pour créer des normes d'utilisation de l'IA socialement appropriées. « Il est temps que les géants de la tech respectent une sorte de règle », a déclaré le représentant républicain Devon Mathis mercredi en soutien au projet de loi.

La proposition, rédigée par le sénateur démocrate Wiener, s'est heurtée à une vive opposition des sociétés de capital-risque et des entreprises technologiques, notamment OpenAI, Google et Meta, la société mère de Facebook et Instagram. Ils estiment que les règles de sécurité devraient être établies par le gouvernement fédéral et que la législation californienne cible les développeurs, et non ceux qui utilisent et exploitent les systèmes d'IA pour causer des dommages, plusieurs membres de la Chambre des représentants de Californie s'opposant également au projet de loi.