• De nouvelles recherches ont montré que les techniques populaires d'« oubli » qui permettent aux modèles d'IA d'oublier des données spécifiques indésirables peuvent également dégrader considérablement les performances des modèles, les rendant parfois inutilisables.
  • Les chercheurs notent qu'il n'existe actuellement aucune méthode d'« oubli » efficace permettant aux modèles d'oublier des données spécifiques sans perte significative d'utilité du modèle.

NOTRE AVIS
Les techniques d'« oubli » pour les modèles d'IA sont conçues pour faire oublier aux modèles d'IA des informations spécifiques et indésirables apprises dans les données d'entraînement, telles que les données privées sensibles ou le matériel protégé par le droit d'auteur. L'étude révèle que les techniques d'« oubli » actuelles peuvent nuire à leur capacité à répondre aux questions de base, entraînant une baisse des performances du modèle. Les chercheurs concluent qu'il n'existe actuellement aucune méthode d'« oubli » efficace permettant d'oublier des données spécifiques sans perte significative d'utilité du modèle.
-Rae Li, journaliste BTW

Que s'est-il passé

« Oubli »techniques dans les modèles d'IA permettent au modèle d'oublier des informations spécifiques et indésirables apprises à partir des données d'entraînement, telles que les données privées sensibles ou le matériel protégé par le droit d'auteur. Les chercheurs constatent que bien que ces techniques puissent faire oublier certaines informations aux modèles, elles peuvent également nuire aux performances du modèle, en particulier pour répondre aux questions de base. L'étude utilise un test de référence appelé MUSE pour évaluer l'effet d'« oubli » de différents algorithmes, et constate que si ces techniques ont fait oublier des informations spécifiques aux modèles, elles réduisent également l'utilité globale des modèles.

L'étude, menée par des chercheurs de l'University of Washington, de Princeton University, de l'University of Chicago, de l'University of Southern California et deGoogle, teste huit algorithmes différents accessibles au public et constate que ces techniques d'« oubli » font oublier aux modèles des données spécifiques, comme les livres Harry Potter, tout en affectant en même temps l'acquisition de connaissances pertinentes par les modèles. Les chercheurs notent que concevoir des méthodes d'oubli efficaces est un défi car les connaissances sont entrelacées dans le modèle. Par exemple, un modèle peut avoir appris à la fois les livres Harry Potter et le contenu gratuit du wiki Harry Potter, et lorsqu'on tente de supprimer les livres Harry Potter, cela influencera également la connaissance du wiki Harry Potter par le modèle. Les chercheurs estiment qu'une solution à ce problème n'a pas encore été trouvée et que des recherches supplémentaires sont nécessaires.

Lire aussi:À quoi servent les salles de serveurs et leurs principaux fournisseurs?

Lire aussi:La percée de HP dans les solutions d'IA accessibles

Pourquoi c'est important

Avec l'adoption généralisée de la technologie de l'IA, il est devenu essentiel de savoir comment traiter et gérer les informations sensibles dans les données d'entraînement. Les techniques d'« oubli » sont conçues pour permettre aux modèles d'IA de supprimer ou d'oublier des informations spécifiques de leurs données d'entraînement, ce qui est important en termes de protection de la vie privée, de conformité aux lois sur le droit d'auteur et de réponse aux demandes de suppression de données.

Cependant, l'étude suggère que les techniques d'« oubli » existantes, tout en permettant aux modèles d'IA d'oublier des informations indésirables, peuvent nuire aux performances du modèle, en particulier à leur capacité à répondre aux questions de base. Cela suggère que bien que les techniques d'« oubli » soient théoriquement attrayantes, elles peuvent avoir des conséquences imprévues qui affectent la fiabilité et l'utilité des modèles d'IA.

L'importance de ce message est donc qu'il met en évidence la nécessité de recherches et d'innovations plus approfondies dans le développement et la mise en œuvre des technologies d'« oubli » pour garantir que les systèmes d'IA restent efficaces et précis.