• Sam Altman, PDG d'OpenAI, a déclaré que le prochain modèle développé par OpenAI sera soumis à des vérifications de sécurité et à des évaluations par le gouvernement américain avant sa mise à disposition du public.
  • Cette démarche constitue une avancée majeure pour garantir un développement et une utilisation prudents de l'IA avancée, répondant aux préoccupations concernant les risques et les questions éthiques.

NOTRE AVIS
L'initiative d'OpenAI de soumettre son prochain modèle à des contrôles de sécurité gouvernementaux crée un précédent pour que d'autres entreprises technologiques et institutions de recherche accordent la priorité à la sécurité, à l'éthique et à la responsabilité dans leurs projets d'IA. Alors que l'IA continue de progresser rapidement, garantir une utilisation responsable et bénéfique de ces technologies sera essentiel pour instaurer la confiance parmi les parties prenantes et le public.
–Rebecca Xu, journaliste BTW

Ce qui s'est passé

OpenAIest devenu un nom retentissant dans l'industrie de l'IA, grâce à ChatGPT et à la suite de modèles de fondation développés par l'entreprise. Sous la direction d'Altman, le laboratoire a activement encouragé le développement de nouveaux produits, mais cette approche rapide a également suscité des critiques. Notamment de son ancien co-responsable de la sécurité, qui affirme que le laboratoire a négligé les questions de sécurité dans la recherche avancée en IA.

À la lumière de ces préoccupations, cinq sénateurs américains ont récemment écrit à Altman, remettant en question l'engagement d'OpenAI en matière de sécurité et les cas de représailles potentielles contre d'anciens employés qui ont publiquement exprimé des inquiétudes, en raison des clauses de non-dénigrement dans leurs contrats de travail.

Dans un message sur X, Sam Altman a révélé qu'OpenAI collabore avec le U.S. AI Safety Institute, une entité fédérale, pour mettre en place un accord permettant un accès anticipé au prochain modèle de fondation. Ce partenariat vise à faire progresser la compréhension scientifique et l'évaluation des technologies de l'IA.

Altman a également souligné que l'organisation a révisé ses politiques de non-dénigrement, permettant désormais au personnel actuel et aux anciens employés d'exprimer ouvertement leurs préoccupations concernant l'entreprise et ses projets. OpenAI maintient son engagement à allouer au moins 20 % de ses ressources informatiques à la recherche sur la sécurité de l'IA.

Lire aussi:Qu'est-ce qu'OpenAI?

Lire aussi:OpenAI améliore la sécurité de l'IA grâce au U.S. AI Safety Institute

Lire aussi:OpenAI soutient la législation pour façonner l'avenir de l'IA

Pourquoi c'est important

OpenAI, connue pour ses recherches avancées en IA et son engagement à promouvoir une IA sûre et bénéfique pour la société, s'est associée à des agences gouvernementales pour mener des évaluations rigoureuses de la sécurité de son prochain modèle. Cette collaboration vise à traiter les risques potentiels tels que les biais involontaires, les vulnérabilités de sécurité et les considérations éthiques qui pourraient découler de l'utilisation du modèle.

En soumettant le modèle d'IA à des vérifications de sécurité approfondies par le gouvernement américain, OpenAI cherche à démontrer son engagement en faveur de la transparence, de la responsabilité et de l'innovation responsable dans le domaine de l'intelligence artificielle. Le processus d'évaluation impliquera des experts de diverses disciplines, notamment des chercheurs en IA, des éthiciens, des décideurs politiques et des représentants de la société civile.

La décision d'impliquer la surveillance gouvernementale dans le développement du modèle d'IA reflète la reconnaissance croissante de l'importance des cadres réglementaires et des mécanismes de sécurité pour les technologies avancées. Elle souligne également la nécessité d'efforts collaboratifs entre l'industrie, le monde universitaire et le gouvernement pour relever les défis complexes posés par le développement et le déploiement de l'IA.