- El principal organismo interno de control ético de la IA de Google, RESIN, enfrenta una reestructuración.
- La reestructuración implica dividir el equipo: el 10% permanece en RESIN y el 90% se transfiere al área de confianza y seguridad, lo que subraya la dedicación de Google a las prácticas éticas de IA.
- Miembros influyentes, incluidos Jen Gennai y Sara Tangdall, han dejado RESIN este mes, lo que plantea interrogantes sobre el futuro de la supervisión de la IA en Google.
En la reciente comunicación de Sundar Pichai sobre las prioridades de Google para 2024, el desarrollo responsable de la IA tuvo prioridad. Sin embargo, han surgido preocupaciones entre los empleados sobre la capacidad de la empresa para mantener este objetivo. El organismo interno de control ético de la IA, el equipo de Innovación Responsable de Google (RESIN), está experimentando una reestructuración tras la repentina partida de su líder y fundadora, Jen Gennai, lo que genera incertidumbre sobre el futuro rol de RESIN. A pesar de ello, Google asegura que el trabajo de RESIN continuará de forma fortalecida, enfatizando el compromiso de la compañía con una IA responsable.
RESIN es cada vez más vital con el crecimiento de la IA generativa
RESIN, integrado en la Oficina de Cumplimiento e Integridad de la división de asuntos globales, desempeñó un papel fundamental en la revisión de proyectos internos para asegurar el cumplimiento de los principios de IA de Google. Esta responsabilidad se ha vuelto cada vez más crítica a medida que Google compite en el campo en rápida evolución de la IA generativa. El equipo realizó más de 500 revisiones el año pasado, contribuyendo significativamente al compromiso de Google con las prácticas éticas de IA.
Con la partida de Jen Gennai, el destino de RESIN parece incierto, lo que llevó a Google a dividir el equipo de aproximadamente 30 personas. Mientras que el 10% permanecerá en RESIN, la mayoría, el 90%, ha sido transferida a la división de confianza y seguridad, centrada en combatir el abuso de los servicios de Google. Es importante destacar que no se han reportado despidos, y el portavoz de Google, Brian Gabriel, enfatiza que la reestructuración es una señal del compromiso con el desarrollo responsable de la IA.
Lea también: El laboratorio X de Google enfrenta una reestructuración en medio de desafíos financieros
La falta de transparencia en los detalles de la reestructuración
A pesar de estas garantías, los detalles sobre la justificación de la reestructuración y cómo se distribuirán las responsabilidades no se han revelado. Esta falta de transparencia ha dejado a los empleados inseguros sobre cómo se manejarán en el futuro las revisiones de los principios de IA.
Gabriel se negó a proporcionar detalles sobre cómo se gestionará el trabajo de RESIN en el futuro, pero afirma que la reorganización tiene como objetivo integrar los esfuerzos de IA responsable en las iniciativas bien establecidas de confianza y seguridad de Google, fortaleciendo y escalando en última instancia la innovación responsable en toda la empresa.
Google es conocida por reorganizar frecuentemente sus equipos, pero RESIN ha permanecido prácticamente intacto desde su fundación. Aunque otros equipos, y cientos de personas adicionales, trabajan en la supervisión de la IA en Google, RESIN era el más prominente, con un mandato que cubría todos los servicios principales de Google.
Además de la partida de su líder, Gennai, RESIN también vio cómo una de sus miembros más influyentes, Sara Tangdall, especialista principal en ética de principios de IA, se iba este mes. Ahora es directora de producto de IA responsable en Salesforce, según su perfil de LinkedIn. Tangdall se negó a hacer comentarios y Gennai no respondió a las solicitudes de comentarios.