• El grupo austriaco de defensa NOYB (None Of Your Business) acusó el 29 de abril a la empresa de IA de violar las normas de privacidad de datos debido a respuestas inexactas que no pueden corregirse.
  • La queja de NOYB surgió a raíz de que un sujeto de datos preguntó a ChatGPT sobre su fecha de nacimiento y recibió respuestas incorrectas, en lugar de que el chatbot le informara de que carecía de los datos necesarios, lo cual constituye una violación de la privacidad de datos en la UE.
  • ChatGPT de OpenAI tiene problemas con la exactitud de los datos desde que las autoridades europeas de protección de datos investigaron ChatGPT.

El grupo austriaco de defensa None Of Your Business (NOYB) presentó el lunes una queja de privacidad contra OpenAI, startup respaldada por Microsoft, citando la incapacidad de la empresa para corregir datos inexactos proporcionados por su chatbot de IA generativa, ChatGPT, lo que podría haber violado las regulaciones de privacidad de la UE.

Sobre la queja

Según NOYB, cuando el denunciante en su caso —también una figura pública— preguntó a ChatGPT sobre su fecha de nacimiento, el chatbot siguió respondiendo con información falsa en lugar de alertar a los usuarios de que carecía de la información necesaria.

El grupo austriaco de defensa de la privacidad también afirmó que el chatbot de OpenAI denegó las solicitudes del denunciante de corregir o eliminar la respuesta falsa. ChatGPT le dijo al sujeto que la corrección de datos era imposible en la aplicación sin aclarar cómo se procesaban los datos o sus fuentes, violando aún más los derechos de privacidad del denunciante, lo cual no es ideal a la luz de la ley de privacidad de la UE.

La queja alega que OpenAI desconoce los datos que ChatGPT almacena o su origen y que, a pesar de ser consciente del problema, la empresa tecnológica parece no estar preocupada.

En respuesta a la queja de privacidad contra OpenAI, la abogada de protección de datos de NOYB, Maartje de Graaf, explicó que chatbots como ChatGPT no cumplen con la legislación de la UE.

«Inventar información falsa ya es bastante problemático en sí mismo. Pero cuando se trata de información falsa sobre personas, puede haber graves consecuencias», dijo de Graaf. «Está claro que las empresas actualmente no pueden hacer que chatbots como ChatGPT cumplan con la legislación de la UE al procesar datos sobre personas. Si un sistema no puede producir resultados precisos y transparentes, no puede utilizarse para generar datos sobre personas. La tecnología tiene que seguir los requisitos legales, no al revés».

Lea también: ¿Qué es Perplexity AI?

Lea también: Diferencia entre ChatGPT e IA

Las investigaciones sobre la privacidad de OpenAI se intensifican

ChatGPT, que se lanzó en 2022 y desde entonces ha acumulado más de 180 millones de usuarios en todo el mundo, ha encendido un debate global sobre los posibles usos y peligros de la inteligencia artificial.

La preocupación por la ausencia de leyes para detener la difusión de información engañosa, las invasiones de la privacidad, la infracción de la propiedad intelectual y la producción de contenido de audio y video deepfake ha surgido a raíz del crecimiento explosivo de ChatGPT y otras aplicaciones de aprendizaje automático. Como resultado, para permitir un enfoque regulatorio sobre algunos de los problemas urgentes que rodean la IA, la UE aprobó la Ley de IA en marzo de 2024.

La queja de privacidad que NOYB presentó contra OpenAI es una de las muchas batallas legales de la empresa.