• L'accord, le premier du genre, intervient alors que les deux entreprises font l'objet d'un examen réglementaire concernant l'utilisation sûre et éthique de la technologie de l'IA.
  • L'institut, qui fait partie du National Institute of Standards and Technology (NIST) du département du Commerce des États-Unis, collaborera également avec l'AI Security Institute du Royaume-Uni et fournira des retours aux entreprises sur les améliorations potentielles en matière de sécurité.

NOTRE AVIS
Les startups d'IA OpenAI et Anthropic ont signé un accord avec le gouvernement américain pour mener des recherches, des tests et l'évaluation de leurs modèles d'IA, une démarche visant à évaluer conjointement les risques de sécurité et à atténuer les problèmes potentiels via les canaux réglementaires afin de réduire les risques potentiellement catastrophiques auxquels l'IA est confrontée.
— Iydia Ding, journaliste BTW

Que s'est-il passé

Les législateurs californiens doivent voter dès cette semaine sur un projet de loi qui réglementerait largement la manière dont l'intelligence artificielleest développée et déployée dans l'État. Les startups d'intelligence artificielleOpenAIetAnthropicont signé des accords avec le gouvernement américain pour mener des recherches, des tests et l'évaluation de leurs modèles d'intelligence artificielle, a déclaré jeudi l'AI Security Institute. Selon l'accord, l'AI Security Institute aura accès aux principaux nouveaux modèles d'OpenAI et d'Anthropic avant et après leur lancement public. L'accord permettra également une recherche collaborative pour évaluer les capacités des modèles d'IA et les risques qui y sont associés.

« Nous pensons que l'Institut a un rôle clé à jouer dans la définition du leadership américain. Développer l'IA de manière responsable et espérer que notre collaboration fournisse un cadre sur lequel le reste du monde peut s'appuyer », a déclaré Jason Kwon, directeur de la stratégie chez OpenAI, le créateur de ChatGPT.

À lire également:Le modèle d'IA amélioré de Baidu atteint 300 millions d'utilisateurs

À lire également:Character.AI introduit une nouvelle fonction d'appel

Pourquoi c'est important

L'accord, le premier du genre, intervient alors que les deux entreprises font l'objet d'un examen réglementaire concernant l'utilisation sûre et éthique de la technologie de l'IA.

« Ces accords ne sont qu'un début, mais ils constituent une étape importante alors que nous travaillons à gérer l'avenir de l'IA de manière responsable », a déclaré Elizabeth Kelly, présidente de l'US AI Safety Institute. L'institut, qui fait partie du National Institute of Standards and Technology (NIST) du ministère du Commerce des États-Unis, collaborera également avec l'AI Security Institute du Royaume-Uni et fournira des retours aux entreprises sur les améliorations potentielles en matière de sécurité.

L'US AI Safety Institute a été créé l'année dernière dans le cadre d'un décret de l'administration de Joe Biden pour évaluer les risques connus et émergents des modèles d'IA. Ce modèle collaboratif peut aider les régulateurs à mieux comprendre le développement de la technologie de l'IA, afin que des politiques et réglementations plus adaptables et efficaces puissent être formulées.