The EU AI ACT: How will it change the AI landscape?

• El 13 de mayo, el parlamento de la Unión Europea aprobó el primer conjunto importante de normas reguladoras del mundo para gobernar la inteligencia artificial mediatizada a la vanguardia de la inversión tecnológica con una regulación basada en el riesgo.
• La legislación siempre va a la zaga, y es por eso que las regulaciones de autonomía corporativa y el consenso de redacción de la industria son cruciales en una fase de tan rápido desarrollo. Los gigantes tecnológicos están contribuyendo con su sabiduría, pero el incidente de OpenAI planteó preguntas sobre la autodisciplina corporativa.
• Consenso global, una combinación de regulación horizontal y vertical y supervisión dinámica, considerando estos tres puntos puede proporcionar algunas ideas para la futura regulación y autorregulación de la industria de la IA.

El 13 de mayo, el Parlamento de la Unión Europea aprobó el primer conjunto importante de normas reguladoras del mundo para gobernar la inteligencia artificial mediatizada a la vanguardia de la inversión tecnológica, inyectando una fuerte fuerza reguladora en el panorama global de la gobernanza de la IA. Ver también: El registro de miembros desaparecido de AfriNIC.

Sin embargo, el establecimiento de un patrón global de gobernanza de la IA también debe basarse en una comprensión más profunda de la tecnología de IA, interacciones más colaborativas con los gigantes tecnológicos y un progreso en la conciencia de los reguladores. Ver también: Desaparición del registro de miembros de AfriNIC.

La clasificación basada en riesgo de la AIA

“Yo diría que esta es la estrategia óptima que los organismos reguladores deben adoptar al determinar los requisitos, ya que intentar delimitar las regulaciones en otras facetas impondrá una carga indebida a los proveedores de modelos que, en última instancia, no representan suficiente riesgo como para que valga la pena.” Ver también: Alejandro Fernandez.

Ortal Shimon, ejecutiva de cuentas en Hi-Touch PR

La Ley de Inteligencia Artificial (AIA) de la UE abarca a empresas de todos los sectores que desarrollan o distribuyen IA en la UE, junto con aquellas que utilizan sistemas de IA que producen resultados que afectan a los residentes de la UE. Ver también: Aldo Garcia.

Varios actores en las cadenas de valor de la IA de la UE se ven afectados, incluida la definición de “sistema de IA”. La definición de sistema de IA se amplió para incluir cualquier sistema autónomo basado en máquinas que “infiere, a partir de la entrada que recibe, cómo generar resultados”. Con el advenimiento de la IA generativa, la ley también se aplica a los “modelos de IA de propósito general”, o modelos GPAI, que son bloques de construcción clave de sistemas de IA con amplias aplicaciones, como DALL-E y GPT-4 de OpenAI. Ver también: Alcymer Vieira.

Lea también: Ley de Inteligencia Artificial: Primera ley global de IA aprobada en la UE

Sobre esta base, la UE ha elegido inteligentemente categorizar y gestionar los modelos de IA en función del riesgo potencial, lo que permite una gestión más matizada y efectiva del riesgo, enfocando los recursos y el escrutinio donde más se necesitan. Específicamente, adopta un enfoque basado en el riesgo, asignando los sistemas de IA a una clase de riesgo y exigiendo que los sistemas de alto riesgo cumplan requisitos más estrictos que los sistemas de IA en una clase de bajo riesgo. Ver también: Alcides Cremonezi.

La AIA establece cuatro niveles de riesgo para los sistemas de IA: inaceptable, alto, limitado y mínimo (o nulo) y su clara categorización de los sistemas de IA es consistente con marcos globales de gestión de riesgos como el NIST AI RMF e ISO 420001. Ver también: Alberto Anaya.

Esta clara categorización de los sistemas de IA es consistente con marcos globales de gestión de riesgos como el NIST AI RMF e ISO 420001 y aumenta la transparencia y la rendición de cuentas. Ver también: Albert Kis.

La pregunta de siempre: innovación vs regulación

“Recuerdo haber hablado con otro CEO en Berlín que bromeó a medias diciendo que emplean la misma cantidad de tiempo en seguir las regulaciones que en crear cosas.”

Erik Severinghaus, fundador y CEO de Bloomfilter

Equilibrar la innovación y la regulación es un tema que ha sido observado, discutido y debatido desde que la legislación sobre IA estaba en la agenda. La clasificación pionera de la AIA de los riesgos de la IA en cuatro niveles basados en derechos humanos y puntos de referencia de seguridad también ha recibido opiniones de críticos, profesionales de la industria de la IA y expertos en política y derecho.

En el lado positivo, este sistema de categorización proporciona flexibilidad y permite a los desarrolladores innovadores desarrollar tecnologías de IA menos riesgosas sin imponerles restricciones regulatorias innecesarias. Esto fomenta la creatividad y alienta el avance de las aplicaciones de IA en diversos campos.

La AIA se centra en los sistemas de IA de alto riesgo, creando ciertas cargas y barreras para el desarrollo y la innovación de la IA. Para las grandes corporaciones, los extensos requisitos de cumplimiento pueden obstaculizar un mayor desarrollo tecnológico y la expansión del mercado. Sin embargo, los altos umbrales de cumplimiento pueden evitar que más empresas ingresen al campo de la IA y ayudar a formar un monopolio. Esto también genera dificultades para que algunas pequeñas y medianas empresas de IA u organizaciones de investigación asuman los costos y riesgos de cumplimiento correspondientes.

Pero la verdad es que la innovación y la regulación no son contradicciones incompatibles, porque hay otro elemento importante involucrado: el usuario. Una regulación efectiva requiere que las aplicaciones sean transparentes, lo que ayuda a construir la confianza pública en la IA y en las empresas que la producen, lo cual es esencial para la aceptación generalizada de la tecnología y su integración en la vida cotidiana. Al enfatizar la transparencia, el sistema de clasificación aborda las preocupaciones sobre la opacidad de los sistemas de IA y promueve una mayor rendición de cuentas.

Esto hace más bien que mal al desarrollo a largo plazo de la tecnología de IA.

Esta puede ser la razón por la que los críticos son más propensos a ver la AIA de manera relativamente positiva, haciendo que sea muy completa, priorizando la protección del consumidor, la transparencia y la rendición de cuentas, lo cual es fundamental para fomentar la confianza en la tecnología de IA. Pero cuando se trata de la implementación y revisión posteriores, todavía hay un largo camino por recorrer.

Intentos de gobernanza de IA en otros países

Además de categorizar los riesgos de la IA en cuatro niveles basados en los derechos humanos y la seguridad, la AIA tiene otra innovación relativamente importante: ha iniciado el proceso de regulación horizontal de la IA, antes de lo cual la regulación de la IA era generalmente vertical. La regulación horizontal son reglas legales que se aplican a todos los sectores y aplicaciones, cubriendo todas las áreas y personas.

Es por eso que el proyecto de ley enfatiza una regulación estricta al mismo tiempo que se centra en la innovación regulatoria, como alentar a los países a realizar 'pruebas de sandbox' y brindar más comodidad y apoyo a las pequeñas y medianas empresas.

En el Reino Unido, que se ha visto afectado por la salida de la Unión Europea, la legislación tiene como objetivo promover la innovación al tiempo que garantiza que la IA se utilice de manera ética y responsable, promoviendo la transparencia, la rendición de cuentas y la equidad en línea con los estándares de la UE.

El Instituto de Seguridad del Reino Unido, el organismo de seguridad de IA del Reino Unido recientemente establecido, lanzó este mes un conjunto de herramientas, llamado Inspect, para probar la seguridad de los modelos de IA con el objetivo de mejorar la seguridad de la IA facilitando que la industria, las organizaciones de investigación y el mundo académico desarrollen evaluaciones de IA. Este comportamiento también es consistente con los requisitos de clasificación de riesgos de la AIA para los modelos de IA.

China ha adoptado un enfoque más descendente, imponiendo controles más estrictos sobre el desarrollo y despliegue de la IA, particularmente en términos de vigilancia y privacidad de datos. El gobierno chino ha lanzado un “Plan de Desarrollo de Inteligencia Artificial de Nueva Generación”, que desempeña un papel importante en la estandarización y orientación del desarrollo de la IA basado en las prioridades nacionales.

EE. UU. domina el espacio de la IA, con OpenAI lanzando Sora, una nueva y potente plataforma de texto a video, y Google lanzando Gemini 1.5, su modelo de IA de próxima generación que puede absorber solicitudes 30 veces más grandes que su predecesor. EE. UU. tiene un enfoque relativamente liberal para regular la IA, centrándose más en fomentar la innovación y mantener el liderazgo tecnológico, con un enfoque en marcos éticos y directrices en lugar de leyes vinculantes.

El presidente de EE. UU., Joe Biden, emitió una orden ejecutiva en octubre de 2023 que restringe a los desarrolladores de “los sistemas de IA más poderosos” compartir sus resultados de pruebas de seguridad y otra información crítica con el gobierno, citando riesgos para la seguridad nacional. EE. UU. también ha introducido recientemente el NIST AI RMF, diseñado para gestionar los riesgos asociados con los sistemas de IA, lo que refleja el creciente reconocimiento en el entorno regulatorio de EE. UU. de la importancia de la gestión de riesgos, la gobernanza y el uso ético de la tecnología de IA.

Lea también: El gobierno del Reino Unido ficha a expertos tecnológicos y diplomáticos para la histórica cumbre de seguridad de la IA

Lo que ambos países tienen en común es que comenzarán regulando verticalmente las tecnologías relacionadas con la IA que tienen más probabilidades de poner en peligro los derechos de las personas o la estabilidad social, como la tecnología deep fake. Esto también apunta la gobernanza en una dirección con un factor de riesgo potencial más alto.

Prueba rápida

En la reciente Ley de inteligencia artificial de la Unión Europea, los sistemas de IA se dividen en ¿cuáles cuatro categorías según los riesgos potenciales?

A. Riesgo inaceptable

B. Riesgo alto

C. Riesgo limitado

D. Riesgo moderado

E. Riesgo mínimo (o nulo)

La respuesta correcta está al final del artículo.

Una autorregulación sólida ya funcionaba

La legislación va a la zaga, y es por eso que las regulaciones de autonomía corporativa y el consenso de redacción de la industria son cruciales en una fase de tan rápido desarrollo.

Google ha establecido sus propios Principios de IA, que enfatizan la importancia de crear IA socialmente beneficiosa que se adhiera a altos estándares de seguridad y equidad. Meta también ha participado en discusiones sobre la gobernanza de los sistemas de IA, particularmente en términos de equilibrar la innovación con la privacidad y la equidad en la distribución de contenido.

Microsoft ha sido vocal sobre la IA responsable, desarrollando herramientas para detectar y contrarrestar el sesgo en los algoritmos de IA y promoviendo la transparencia en los sistemas de IA. IMB desarrolla una política de ética de IA para toda la empresa a través de su Consejo de Ética de IA, centrándose en la confianza y la transparencia para alinear el desarrollo de la IA con principios centrados en el ser humano.

Sin embargo, un cambio de personal en OpenAI a finales de 2023 planteó preguntas adicionales sobre la efectividad de la autorregulación. El CEO de la compañía, Sam Altman, fue despedido por la junta directiva sin fines de lucro de OpenAI, que estaba preocupada por la falta de precaución de Altman en sus acciones y los peligros que la IA podría representar para la sociedad.

Según la presentación de OpenAI ante el IRS, para 2018 la compañía ya no promocionará un compromiso de “compartir abiertamente nuestros planes y capacidades”; para 2021, el objetivo de la compañía se ha convertido en “construir IA de propósito general” que resuene con los intereses de comercialización de productos, en lugar de una misión abierta y orientada a la investigación de “avanzar en la inteligencia digital”.

Los partidarios, liderados por el propio Sam Altman, querían llevar rápidamente nuevas tecnologías poderosas al público mientras continuaban avanzando hacia una verdadera IA de propósito general. Aunque Altman recibió una rama de olivo de Microsoft poco después de su despido y finalmente fue recontratado por OpenAI, varios de los miembros que inicialmente lo despidieron renunciaron. Pero esto proporciona una lección importante para los futuros reguladores de la IA: la posibilidad de una autorregulación significativa, especialmente a través de formas corporativas inteligentes, es una fantasía.

Lea también: Explorando la asociación entre OpenAI y Microsoft

La lucha de poder dentro de la compañía y el fracaso final de la junta directiva sin fines de lucro para mantener el control sobre una compañía cada vez más comercializada es un recordatorio de que si la sociedad quiere frenar el despliegue de esta tecnología potencialmente histórica, tal vez tendrá que hacerlo a la antigua usanza: mediante la regulación gubernamental descendente.

Mirando hacia adelante: ¿cómo resolver la brecha entre el avance tecnológico y la gobernanza posterior?

“Explorar la legislación global sobre IA es como degustar un vino complejo; cada país añade su sabor único, y a veces es difícil predecir si resultará justo en el paladar o dejará un regusto amargo.”

Erik Severinghaus, fundador y CEO de Bloomfilter

Consenso global

Un consenso global sobre la regulación de la IA llevará mucho tiempo alcanzarlo, solo tome la AIA como ejemplo. La publicación de la ley es el primer paso y la implementación posterior aún tiene un largo camino por recorrer. La forma de construir una regulación global sobre la IA requiere un esfuerzo conjunto de individuos, empresas, organizaciones y países.

Por un lado, si las normas de Europa son mucho más estrictas que en otros lugares, donde la regulación es menos rigurosa, podría hacer que las empresas europeas sean menos competitivas en el mundo. Por otro lado, si la industria regulatoria de Europa crea muchos conflictos con la autorregulación, será mucho más difícil de hacer cumplir.

La falta de estándares de clasificación acordados globalmente también puede crear el riesgo de arbitraje regulatorio. Tome la AIA como ejemplo, la UE estableció todo un conjunto de sistemas de aplicación y mecanismos de supervisión e implementación multinivel en consonancia con la aprobación del proyecto de ley, incluidos los reguladores nacionales de los estados miembros de la UE, etc., lo cual es una ventaja que la UE puede jugar en comparación con países individuales.

Combinación de regulación horizontal y vertical

A medida que las tecnologías de IA continúan evolucionando, la legislación futura probablemente necesitará ser aún más dinámica y adaptable, posiblemente incorporando evaluaciones de riesgo en tiempo real y mecanismos regulatorios más flexibles. El panorama global de la regulación de la IA es dinámico y complejo, y la Ley de IA de la UE es un paso significativo que podría influir en los estándares globales.

Además de la regulación horizontal integral y relativamente universal que los países y organizaciones se esforzarán por introducir, también habrá una más específica para industrias individuales, especialmente en ciencias de la vida y servicios financieros.

Supervisión dinámica

Ante el rápido desarrollo de la tecnología de IA, los desafíos que se enfrentan son indudablemente enormes. Como la forma en que se clasifica la AIA, algunos sistemas de IA pueden evolucionar de manera que aumenten el nivel de riesgo después de una evaluación inicial, lo que requiere un monitoreo continuo y una reevaluación para garantizar que los modelos de IA permanezcan clasificados adecuadamente.

Además, es probable que el desarrollo posterior de la tecnología de IA supere las expectativas de cualquier regulación gubernamental y directrices de la empresa, lo que no solo tiene un alto requisito para la visión técnica de los legisladores, sino que también requiere un ajuste, complemento y revisión inmediatos de las regulaciones regulatorias pertinentes.

La respuesta correcta es a, b, c y e.