- Le PDG d'OpenAI, Sam Altman, a annoncé que l'entreprise travaille avec l'AI Safety Institute pour fournir à l'organisation un accès anticipé à son prochain grand modèle d'IA générative pour des tests de sécurité.
- OpenAI s'est engagée à éliminer les clauses restrictives de non-dénigrement, à créer un comité de sécurité et à consacrer 20 % de ses ressources informatiques à la recherche en sécurité.
NOTRE AVIS
OpenAI a annoncé un partenariat avec l'AI Safety Institute, basé aux États-Unis, pour fournir un accès anticipé à ses prochains modèles d'IA générative avancés pour des tests de sécurité approfondis. Cette décision vise à répondre aux préoccupations selon lesquelles l'entreprise pourrait négliger les questions de sécurité dans sa quête de technologies d'IA plus puissantes, et montre la position proactive d'OpenAI en matière de recherche sur la sécurité de l'IA. Parallèlement, les dépenses de l'entreprise en matière de lobbying fédéral ont augmenté de manière significative cette année, ce qui suggère qu'OpenAI s'efforce de jouer un rôle plus important dans l'élaboration des politiques nationales en matière d'IA afin de garantir que le développement de sa technologie suive le rythme des normes de sécurité.
-Rae Li, BTW reporter
Que s'est-il passé
Sam Altman, PDG d'OpenAI, affirme que l'entreprise travaille avec l'AI Safety Instituteaux États-Unis pour fournir un accès anticipé à ses prochains modèles d'IA générative avancés pour des tests de sécurité approfondis. Cette décision vise à répondre aux préoccupations selon lesquelles l'entreprise pourrait négliger les questions de sécurité dans sa quête de technologies d'IA plus puissantes, et indique la position proactive d'OpenAI en matière de recherche sur la sécurité de l'IA. Parallèlement, les dépenses de l'entreprise en matière de lobbying fédéral ont augmenté de manière significative cette année, démontrant qu'OpenAI s'efforce de jouer un rôle plus important dans l'élaboration des politiques nationales en matière d'IA afin de garantir que le développement de sa technologie suive le rythme des normes de sécurité.
OpenAI s'est engagée à éliminer les clauses restrictives de non-dénigrement, à créer un comité de sécurité et à consacrer 20 % de ses ressources informatiques à la recherche en sécurité. Ces mesures visent à renforcer les processus internes de recherche et de développement en matière de sécurité de l'entreprise afin de garantir la sécurité et la fiabilité de la technologie de l'IA. Pendant ce temps, Jason Kwon, directeur de la stratégie d'OpenAI, répond aux questions des cinq sénateurs sur les politiques de l'entreprise, développant l'engagement de l'entreprise à mettre en œuvre des protocoles de sécurité stricts à chaque étape.
À lire aussi:Coinbase ajoute trois membres à son conseil d'administration, dont un dirigeant d'OpenAI
À lire aussi:SearchGPT d'OpenAI: défier la domination de Google en matière de recherche
Pourquoi c'est important
La collaboration d'OpenAI avec l'AI Safety Institute aux États-Unis et son attention portée aux tests de sécurité indiquent la préoccupation croissante de l'industrie de l'IA pour les questions de sécurité et d'éthique parallèlement au développement technologique rapide. Cette collaboration contribuera à renforcer la confiance du public dans la sécurité de la technologie de l'IA et à établir de nouvelles normes et standards pour le développement sain de la technologie de l'IA.
En travaillant en étroite collaboration avec les agences gouvernementales, OpenAI a développé son leadership en matière de sécurité de l'IA et son engagement envers la responsabilité de l'industrie.
L'investissement accru d'OpenAI dans les activités de lobbying fédéral et son engagement dans la recherche sur la sécurité de l'IA révèlent la participation active et l'influence de l'entreprise dans le processus d'élaboration des politiques en matière d'IA. Grâce à ces initiatives, OpenAI tente de garantir que les avancées technologiques s'accompagnent d'un impact positif sur la société.
