- Le PDG d'OpenAI, Sam Altman, a annoncé une collaboration avec l'US AI Safety Institute pour des tests de sécurité précoces de son prochain grand modèle d'IA générative.
- Cette initiative fait suite aux critiques des pratiques de sécurité d'OpenAI et vise à démontrer un engagement renouvelé envers la sécurité de l'IA.
NOTRE AVIS
Cette collaboration met en lumière la réponse d'OpenAI aux préoccupations croissantes concernant la sécurité de l'IA, visant à rassurer les critiques et à démontrer un engagement en faveur d'un développement responsable de l'IA. En collaborant avec les organismes fédéraux, OpenAI cherche à équilibrer innovation et protocoles de sécurité.
— Zoey Zhu, journaliste BTW Media
Ce qui s’est passé
Le PDG d'OpenAI, Sam Altman, a annoncé jeudi soir qu'OpenAI collabore avec l'US AI Safety Institute pour fournir un accès anticipé à son prochain grand modèle d'IA générative à des fins de tests de sécurité. L'US AI Safety Institute, qui fait partie du National Institute of Standards and Technology du département du Commerce, vise à évaluer et à traiter les risques liés aux plateformes d'IA. Cette collaboration fait suite à un accord similaire avec l'organisme de sécurité de l'IA du Royaume-Uni en juin.
OpenAI a fait l'objet de critiques ces derniers mois pour avoir relégué la sécurité de l'IA au second plan. En mai, l'entreprise a dissous une unité chargée de développer des contrôles pour empêcher les systèmes d'IA « super intelligents » de devenir incontrôlables. Cette décision a conduit à la démission des co-responsables de l'unité et a provoqué une réaction négative de la part des défenseurs de la sécurité de l'IA. En réponse, OpenAI a pris des mesures pour répondre à ces préoccupations, notamment en supprimant les clauses restrictives de non-dénigrement et en consacrant 20 % de ses ressources de calcul à la recherche sur la sécurité.
À lire aussi: OpenAI soutient une législation pour façonner l'avenir de l'IA
À lire aussi: OpenAI dévoile un mode vocal en temps réel pour ChatGPT
Pourquoi c’est important
La collaboration avec l'US AI Safety Institute témoigne des efforts d'OpenAI pour rétablir la confiance et démontrer son engagement envers la sécurité de l'IA. En fournissant un accès anticipé à son prochain grand modèle d'IA générative pour des tests de sécurité, OpenAI vise à garantir que les risques potentiels soient identifiés et atténués avant que le modèle ne soit largement diffusé.
Cette initiative est également programmée stratégiquement avec le soutien d'OpenAI au Future of Innovation Act, un projet de loi sénatorial qui autoriserait l'AI Safety Institute en tant qu'organe exécutif fixant des normes et des lignes directrices pour les modèles d'IA. Les efforts accrus de lobbying d'OpenAI et le rôle d'Altman au sein du Conseil de sécurité et de sûreté de l'intelligence artificielle du département de la Sécurité intérieure indiquent en outre l'influence de l'entreprise sur l'élaboration des politiques d'IA au niveau fédéral.
Cette collaboration vise à rassurer les parties prenantes et les critiques sur le sérieux d'OpenAI quant à la résolution des problèmes de sécurité de l'IA, en équilibrant le développement de technologies d'IA générative puissantes avec des protocoles de sécurité robustes.