OpenAI Data Partnerships hope to bridge gaps in AI training

• El programa “Data Partnerships” de OpenAI tiene como objetivo reducir los sesgos occidentales-céntricos en la IA mediante la creación de conjuntos de datos globales y diversos.
• La iniciativa se centra en incorporar diversos idiomas y datos culturales para abordar los sesgos existentes en los modelos de IA.
• OpenAI enfrenta críticas y problemas legales por el posible uso de obras personales y creativas en el entrenamiento de IA sin autorización.

OpenAI ha anunciado una iniciativa de “Data Partnerships”, cuyo objetivo es ampliar la diversidad de los datos de entrenamiento de IA más allá de la norma centrada en Occidente. Este programa innovador está diseñado para colaborar con diversas organizaciones para desarrollar conjuntos de datos públicos y privados completos para el entrenamiento de modelos de IA.

Abordando el sesgo de datos en la IA

La iniciativa surge en respuesta al problema prevalente del sesgo de datos en la IA. Los modelos de IA tradicionales han mostrado una desviación significativa hacia los datos de países occidentales, particularmente en las bases de datos de imágenes. Este sesgo se atribuye a la sobrerrepresentación de imágenes occidentales en internet, lo que da como resultado modelos de IA que amplifican inadvertidamente estos sesgos, pudiendo conducir a resultados perjudiciales. Ver también: Ziggo Group nombra a sus líderes antes de su salida a bolsa en Ámsterdam en 2027.

Data Partnerships de OpenAI tiene como objetivo rectificar esto mediante la recopilación de conjuntos de datos extensos que reflejen con mayor precisión la sociedad humana global. Estos conjuntos de datos se centrarán en capturar la intención humana a través de diversos formatos, como escritos extensos o diálogos en varios idiomas y temas. Este conjunto de datos más amplio ayudará a los modelos de IA a lograr una comprensión más profunda de diversos temas, industrias, culturas e idiomas. Ver también: Asociación ECHOES.

Lea también: OpenAI lanza GPT Store para chatbots de IA personales sin codificación

Recopilación de datos públicos y privados

El programa trabajará en múltiples modalidades, incluidas imágenes, audio y video, priorizando los datos que representan intenciones humanas, como escritos extensos o conversaciones. Para garantizar la integridad de los datos, OpenAI planea utilizar herramientas como el Reconocimiento Óptico de Caracteres y el Reconocimiento Automático de Voz para la digitalización, al mismo tiempo que se preocupa por eliminar información sensible o personal. OpenAI planea desarrollar dos tipos de conjuntos de datos. El primer tipo son conjuntos de datos de código abierto, que estarán disponibles gratuitamente para fines de entrenamiento de IA. El segundo tipo son conjuntos de datos privados, adaptados para organizaciones que desean mantener la confidencialidad de los datos al tiempo que permiten que los modelos de OpenAI comprendan mejor sus dominios específicos.

Lea también: OpenAI actualiza silenciosamente sus 'valores fundamentales' para enfatizar el desarrollo de AGI

Colaboraciones y controversias

La empresa ya ha iniciado asociaciones para mejorar sus capacidades de IA. Las colaboraciones con el gobierno islandés y Miðeind ehf han mejorado la competencia en el idioma islandés de GPT-4. De manera similar, una asociación con el Free Law Project ha mejorado la comprensión del modelo de documentos legales. A pesar de la naturaleza aparentemente altruista de esta iniciativa, OpenAI enfrenta críticas por posibles motivos comerciales. El enfoque de mejorar los modelos de OpenAI, potencialmente a expensas de otros sin una compensación justa, ha generado controversia. Las recientes acciones legales contra OpenAI y Microsoft por parte de creadores y autores han puesto de relieve problemas relacionados con el uso no autorizado de sus obras para entrenar modelos de IA, lo que plantea interrogantes sobre el uso ético de los datos y la compensación en la industria de la IA.