• Selon une lettre des lanceurs d'alerte obtenue par le Washington Post, les lanceurs d'alerte affirment qu'OpenAI a violé les lois fédérales en les empêchant de soulever des préoccupations concernant les problèmes de sécurité liés à la technologie.
  • OpenAI a formé en mai un comité de sécurité et de sûreté, mais elle n'a pas immédiatement répondu aux demandes de commentaires sur la lettre.

NOTRE AVIS
L'IA modifie rapidement et profondément le paysage technologique actuel, et certaines politiques et pratiques d'OpenAI empêchent les employés de s'exprimer et leur donnent l'impression que leurs droits sont bafoués. La sécurité est l'une des plus grandes préoccupations concernant la croissance rapide des modèles d'intelligence artificielle générative. Nous devrions donc demander au gouvernement de renforcer la réglementation de l'entreprise et de l'industrie de l'IA dans son ensemble.
–Rebecca Xu, journaliste BTW

Ce qui s'est passé

Dans une lettre des lanceurs d'alerte obtenue par le Washington Post, ils affirment qu'OpenAI a violé les réglementations fédérales en les empêchant d'exprimer leurs préoccupations concernant les aspects de sécurité de la technologie. La lettre en dit encore plus sur le manque de transparence choquant d'OpenAI.

OpenAI a conclu des accords d'emploi, de départ et de confidentialité excessivement restrictifs avec ses employés. Les employés doivent obtenir le consentement préalable de l'entreprise s'ils souhaitent divulguer des informations aux régulateurs fédéraux, ajoutant qu'OpenAI ne dispose pas d'une exemption dans sa clause de confidentialité des employés pour la divulgation des violations de valeurs mobilières à la SEC.

La lettre poursuit: « Étant donné que les risques potentiels d'un déploiement irresponsable de l'IA sont bien documentés, nous demandons aux commissaires d'autoriser rapidement une enquête sur les anciens NDA d'OpenAI et d'évaluer les mesures prises par l'entreprise pour assurer la conformité avec les réglementations de la SEC. »

Face à de nombreuses allégations, OpenAI n'a pas immédiatement répondu aux demandes de commentaires sur la lettre, malgré le fait qu'elle ait mis en place un comité de sécurité et de sûreté.

Lire aussi:Les NDA illégalement restrictifs d'OpenAI: qui muselle qui ?

Lire aussi:Des lanceurs d'alerte exigent une enquête de la SEC sur les NDA d'OpenAI

Pourquoi c'est important

La lettre des lanceurs d'alerte a été publiée quelques mois seulement après la révélation selon laquelle OpenAI avait averti ses ex-employés du risque de perdre des millions de dollars s'ils critiquaient publiquement l'entreprise. Cela montre que la lettre des lanceurs d'alerte n'est pas une coïncidence.

Les capacités d'IA générative des chatbots d'OpenAI, y compris leur capacité à converser comme des humains et à générer des images à partir d'indications textuelles, ont suscité des appréhensions en matière de sécurité face à la puissance croissante des modèles d'IA.

OpenAI devrait renforcer la transparence de la gestion de l'entreprise et protéger les droits légaux de ses employés. Pour que le gouvernement fédéral reste en tête dans le domaine de l'intelligence artificielle, les accords de confidentialité d'OpenAI doivent être modifiés. Il est crucial que le gouvernement renforce la réglementation des entreprises et de l'industrie de l'IA dans son ensemble.