- O programa «Data Partnerships» da OpenAI visa reduzir os vieses ocidentalocêntricos na IA criando conjuntos de dados diversificados e globais.
- A iniciativa se concentra na incorporação de idiomas e dados culturais variados para remediar os vieses existentes nos modelos de IA.
- A OpenAI enfrenta críticas e problemas legais por potencialmente ter usado obras pessoais e criativas no treinamento de IA sem autorização.
A OpenAI anunciou uma iniciativa «Data Partnerships» cujo objetivo é expandir a diversidade dos dados de treinamento de IA além do padrão ocidentalocêntrico. Este programa inovador é projetado para colaborar com diversas organizações a fim de desenvolver conjuntos de dados públicos e privados abrangentes para o treinamento de modelos de IA.
Enfrentando os vieses de dados na IA
Esta iniciativa responde ao problema generalizado de vieses de dados na IA. Os modelos tradicionais de IA mostraram uma tendência significativa para dados de países ocidentais, especialmente em bancos de dados de imagens. Esse viés é atribuído à super-representação de imagens ocidentais na internet, resultando em modelos de IA que amplificam involuntariamente esses vieses, potencialmente com consequências prejudiciais.
As Data Partnerships da OpenAI visam corrigir isso reunindo vastos conjuntos de dados que reflitam mais fielmente a sociedade humana global. Esses conjuntos de dados se concentrarão em capturar a intenção humana em diversos formatos, como escritos longos ou diálogos em vários idiomas e sobre diversos tópicos. Esse conjunto de dados mais amplo ajudará os modelos de IA a adquirir uma compreensão mais profunda de diversos assuntos, indústrias, culturas e idiomas.
Leia também:OpenAI lança a GPT Store para chatbots de IA pessoais sem codificação
Coleta de dados públicos e privados
O programa funcionará em várias modalidades, incluindo imagens, áudio e vídeo, priorizando dados que representem intenções humanas, como escritos longos ou conversas. Para garantir a integridade dos dados, a OpenAI planeja usar ferramentas como reconhecimento óptico de caracteres e reconhecimento automático de fala para digitalização, garantindo a remoção de informações sensíveis ou pessoais. A OpenAI planeja desenvolver dois tipos de conjuntos de dados. O primeiro tipo são conjuntos de dados de código aberto, que estarão disponíveis gratuitamente para fins de treinamento de IA.
O segundo tipo são conjuntos de dados privados, adaptados para organizações que desejam preservar a confidencialidade dos dados, permitindo que os modelos da OpenAI compreendam melhor seus domínios específicos.
Leia também:OpenAI atualiza discretamente seus valores fundamentais para enfatizar o desenvolvimento de AGI
Colaborações e controvérsias
A empresa já iniciou parcerias para melhorar suas capacidades de IA. Colaborações com o governo islandês e a Miðeind ehf melhoraram a proficiência no idioma islandês do GPT-4. Da mesma forma, uma parceria com o Free Law Project melhorou a compreensão do modelo de documentos legais. Apesar da natureza aparentemente altruísta desta iniciativa, a OpenAI enfrenta críticas por potenciais motivos comerciais. A abordagem de melhorar os modelos da OpenAI, potencialmente às custas de outros sem compensação justa, gerou controvérsia.
Ações judiciais recentes contra OpenAI e Microsoft por criadores e autores trouxeram à tona questões sobre o uso não autorizado de suas obras para treinamento de modelos de IA, levantando questionamentos sobre o uso ético de dados e compensação na indústria de IA.