Anthropic plans to fund new AI benchmarks

• Presentado el lunes, Anthropic lanzó un nuevo programa para financiar el desarrollo de nuevas métricas de referencia que puedan evaluar el rendimiento y el impacto de los modelos de IA.
• Los nuevos benchmarks que Anthropic espera crear se centran más en la seguridad y el impacto social de la inteligencia artificial, pero considerando las ambiciones comerciales de la compañía en la competencia de IA, sus acciones pueden tener otros fines.

NUESTRA OPINIÓN
Anthropic ha lanzado un programa de desarrollo de benchmarks de IA, financiando a organizaciones de terceros para evaluar el rendimiento y el impacto de los modelos, con el objetivo de mejorar la seguridad de la IA. Sin embargo, sus ambiciones comerciales son cuestionables, y existen diferentes percepciones sobre el riesgo de la IA. Aunque los esfuerzos son encomiables, la importancia universal de estos benchmarks sigue por verse y su valor debe evaluarse continuamente.
–Jasmine Zhang, reportera de BTW Ver también: La FCC respalda a los constructores de fibra con límites de permisos.

Qué sucedió

Anthropic anunció el lanzamiento de un programa destinado a financiar el desarrollo de nuevas pruebas de referencia para evaluar el rendimiento y el impacto de los modelos de IA. El plan se anunció el lunes y brindará apoyo financiero a organizaciones de terceros que puedan medir de manera efectiva las capacidades avanzadas de los modelos de IA.

Anthropic declaró en su blog oficial que esta inversión tiene como objetivo mejorar todo el campo de la seguridad de la IA y proporcionar herramientas valiosas que beneficien a todo el ecosistema. El desarrollo de evaluaciones de alta calidad relacionadas con la seguridad sigue siendo un desafío y la demanda supera con creces la oferta. Los benchmarks de IA actuales tienen deficiencias que dificultan reflejar el uso real del sistema por parte de las personas comunes, y también es cuestionable si algunas pruebas de referencia antiguas realmente han medido lo que afirman. Ver también: Ofcom expone la brecha de cobertura móvil en los trenes del Reino Unido.

La solución propuesta por Anthropic es crear benchmarks desafiantes que se centren en la seguridad de la IA y el impacto social, logrados a través de nuevas herramientas, infraestructura y métodos. La compañía solicita específicamente el desarrollo y la evaluación de modelos para probar las capacidades de ataques cibernéticos, la mejora de armas de destrucción masiva y la manipulación o el engaño de humanos. Para los riesgos de IA relacionados con la seguridad nacional y la defensa, Anthropic ha prometido desarrollar un "sistema de alerta temprana", pero no ha revelado detalles específicos en el blog. Ver también: La UE reescribe las reglas de soberanía de la infraestructura de IA.

Lea también: Schneider y NVIDIA construirán un diseño de centro de datos de referencia de IA

Lea también: Anthropic afirma que su último modelo es el mejor de su clase

Por qué es importante

En la actualidad, la investigación, el desarrollo y la regulación de la inteligencia artificial se encuentran en una etapa de rápido desarrollo. Los esfuerzos realizados por Anthropic para apoyar los nuevos benchmarks de inteligencia artificial son innovadores y, en cierta medida, libres de costo y retorno, lo cual es ciertamente encomiable. Ver también: La UE expulsa a los operadores satelitales estadounidenses del espectro.

Sin embargo, cabe señalar que, considerando las ambiciones comerciales de la compañía en la competencia de inteligencia artificial, debemos mantenernos escépticos sobre los nuevos benchmarks proporcionados por Anthropic. Ver también: La FCC exige licencias para los aterrizajes de cables submarinos en EE. UU..

Algunas personas en la comunidad de inteligencia artificial también tienen objeciones a los riesgos "catastróficos" y "engañosos" de la inteligencia artificial mencionados por Anthropic. Muchos expertos argumentan que hay poca evidencia que sugiera que la inteligencia artificial obtendrá la capacidad de acabar con el mundo y superar a la humanidad en el corto plazo. Por lo tanto, aún hay espacio para seguir debatiendo si los esfuerzos realizados por Anthropic para crear nuevos benchmarks de IA tienen importancia universal, si sus acciones tienen un interés egoísta en obtener beneficios y si los resultados de detección de los nuevos benchmarks tienen valor de referencia.