La Ley de IA de la UE: ¿Cómo cambiará el panorama de la IA?

La Ley de IA de la UE: ¿Cómo cambiará el panorama de la IA? es perfilada por BTW Media porque la evidencia publicada la vincula con la infraestructura de Internet, la gobernanza, las dependencias operativas o la visibilidad del mercado.

• El 13 de mayo, el Parlamento de la Unión Europea aprobó el primer gran conjunto de normas reguladoras del mundo para gobernar la inteligencia artificial mediatizada que está a la vanguardia de la inversión tecnológica, con una regulación basada en el riesgo.
• La legislación siempre va a la zaga, y por eso la autonomía corporativa y el consenso de la industria son cruciales en una fase de desarrollo tan rápida. Los gigantes tecnológicos están aportando su sabiduría, pero el incidente de OpenAI planteó dudas sobre la autodisciplina corporativa.
• El consenso global, una combinación de regulación horizontal y vertical y supervisión dinámica, considerando estos tres puntos puede proporcionar algunas ideas para la futura regulación y autorregulación de la industria de la IA.

El 13 de mayo, el Parlamento de la Unión Europea aprobó el primer gran conjunto de normas reguladoras del mundo para gobernar la inteligencia artificial mediatizada que está en la vanguardia de la inversión tecnológica, inyectando una fuerte fuerza reguladora en el panorama de la gobernanza global de la IA.

Sin embargo, el establecimiento de un patrón de gobernanza global de la IA también necesita basarse en una comprensión más profunda de la tecnología de IA, interacciones más colaborativas con los gigantes tecnológicos y avances en la conciencia de los reguladores.

La clasificación basada en el riesgo de la Ley de IA

“Yo diría que esta es la estrategia óptima para los organismos reguladores a la hora de determinar los requisitos, ya que intentar delimitar las regulaciones en otras facetas supondría una carga indebida para los proveedores de modelos que, en última instancia, no plantean suficiente riesgo como para que merezca la pena”.

Ortal Shimon, ejecutivo de cuentas de Hi-Touch PR

La Ley de Inteligencia Artificial de la UE (AIA) afecta a empresas de todos los sectores que desarrollan o distribuyen IA en la UE, así como a las que utilizan sistemas de IA que producen resultados que afectan a los residentes de la UE.

Varios actores de las cadenas de valor de la IA de la UE se ven afectados, incluida la definición de “sistema de IA”. La definición de sistema de IA se amplió para incluir cualquier sistema autónomo basado en máquinas que “infiere, a partir de los datos que recibe, cómo generar resultados”. Con la llegada de la IA generativa, la ley también se aplica a los “modelos de IA de propósito general”, o modelos GPAI, que son componentes clave de los sistemas de IA con amplias aplicaciones, como DALL-E y GPT-4 de OpenAI.

Lea también:Ley de Inteligencia Artificial: Se aprueba en la UE la primera ley mundial de IA

Sobre esta base, la UE ha elegido inteligentemente categorizar y gestionar los modelos de IA en función del riesgo potencial, lo que permite una gestión más matizada y eficaz del riesgo, centrando los recursos y el escrutinio donde más se necesitan. En concreto, adopta un enfoque basado en el riesgo, asignando los sistemas de IA a una clase de riesgo y exigiendo que los sistemas de alto riesgo cumplan requisitos más estrictos que los sistemas de IA de una clase de bajo riesgo.

La Ley de IA establece cuatro niveles de riesgo para los sistemas de IA: inaceptable, alto, limitado y mínimo (o nulo) y su clara categorización de los sistemas de IA es coherente con los marcos globales de gestión de riesgos como el NIST AI RMF e ISO 420001.

Esta clara categorización de los sistemas de IA es coherente con los marcos globales de gestión de riesgos como elNIST AI RMFeISO 420001y aumenta la transparencia y la rendición de cuentas.

La eterna pregunta: innovación vs regulación

“Recuerdo haber hablado con otro CEO en Berlín que hizo una medio broma diciendo que dedican el mismo tiempo a seguir las regulaciones que a crear cosas”.

Erik Severinghaus, fundador y CEO de Bloomfilter

Equilibrar la innovación y la regulación es una cuestión que se ha observado, discutido y debatido desde que la legislación sobre IA está en la agenda. La clasificación pionera de la Ley de IA de los riesgos de la IA en cuatro niveles basados en los derechos humanos y los parámetros de seguridad también ha recibido opiniones de críticos, profesionales del sector de la IA y expertos en política y derecho.

En el lado positivo, este sistema de categorización proporciona flexibilidad y permite a los desarrolladores innovadores desarrollar tecnologías de IA menos arriesgadas sin imponerles restricciones normativas innecesarias. Esto fomenta la creatividad y estimula el avance de las aplicaciones de IA en diversos campos.

La Ley de IA se centra en los sistemas de IA de alto riesgo, lo que crea ciertas cargas y barreras para el desarrollo y la innovación de la IA. Para las grandes corporaciones, los amplios requisitos de cumplimiento pueden obstaculizar un mayor desarrollo tecnológico y la expansión del mercado. Sin embargo, los altos umbrales de cumplimiento pueden impedir que más empresas entren en el campo de la IA y ayudar a formar un monopolio. Esto también dificulta que algunas pequeñas y medianas empresas o centros de investigación de IA puedan asumir los correspondientes costes y riesgos de cumplimiento.

Pero la verdad es que la innovación y la regulación no son contradicciones incompatibles, porque hay otro elemento importante involucrado: el usuario. Una regulación eficaz exige que las aplicaciones sean transparentes, lo que ayuda a generar confianza pública en la IA y en las empresas que la producen, algo esencial para la aceptación generalizada de la tecnología y su integración en la vida cotidiana. Al hacer hincapié en la transparencia, el sistema de clasificación aborda las preocupaciones sobre la opacidad de los sistemas de IA y promueve una mayor responsabilidad.

Esto hace más bien que mal al desarrollo a largo plazo de la tecnología de IA.

Puede que por eso los críticos tiendan a ver la Ley de IA con una luz relativamente positiva, considerándola muy completa, priorizando la protección del consumidor, la transparencia y la responsabilidad, algo fundamental para fomentar la confianza en la tecnología de IA. Pero en lo que respecta a la aplicación y revisión posteriores, aún queda un largo camino por recorrer.

Intentos de gobernanza de la IA en otros países

Además de categorizar los riesgos de la IA en cuatro niveles basados en los derechos humanos y la seguridad, la Ley de IA tiene otra innovación relativamente importante: ha iniciado el proceso de regulación horizontal de la IA, cuando antes la regulación de la IA era generalmente vertical. La regulación horizontal son normas jurídicas que se aplican a todos los sectores y aplicaciones, cubriendo todas las áreas y personas.

Por eso el proyecto de ley hace hincapié en una regulación estricta al tiempo que se centra en la innovación normativa, como fomentar que los países realicen “pruebas de sandbox” y proporcionar más comodidad y apoyo a las pequeñas y medianas empresas.

En el Reino Unido, que se ha visto afectado por la salida de la Unión Europea, la legislación pretende promover la innovación al tiempo que garantiza que la IA se utilice de forma ética y responsable, fomentando la transparencia, la rendición de cuentas y la equidad en línea con las normas de la UE.

El Instituto de Seguridad del Reino Unido, el organismo de seguridad de la IA del Reino Unido creado recientemente, publicó este mes un conjunto de herramientas, denominado Inspect, para probar la seguridad de los modelos de IA con el objetivo de mejorar la seguridad de la IA facilitando que la industria, las organizaciones de investigación y el mundo académico desarrollen evaluaciones de IA. Este comportamiento también es coherente con los requisitos de clasificación de riesgos de la Ley de IA para los modelos de IA.

China ha adoptado un enfoque más vertical, imponiendo controles más estrictos sobre el desarrollo y despliegue de la IA, especialmente en términos de vigilancia y privacidad de datos. El gobierno chino ha lanzado un “Plan de Desarrollo de Inteligencia Artificial de Nueva Generación”, que desempeña un papel importante en la estandarización y orientación del desarrollo de la IA en función de las prioridades nacionales.

Estados Unidos domina el espacio de la IA, con OpenAI lanzando Sora, una potente plataforma de conversión de texto a vídeo, y Google lanzando Gemini 1.5, su modelo de IA de nueva generación que puede absorber peticiones 30 veces más grandes que su predecesor. Estados Unidos tiene un enfoque relativamente liberal para regular la IA, centrándose más en fomentar la innovación y mantener el liderazgo tecnológico, con un enfoque en marcos éticos y directrices en lugar de leyes vinculantes.

El presidente de Estados Unidos, Joe Biden, emitió una orden ejecutiva en octubre de 2023 que restringe a los desarrolladores de “los sistemas de IA más potentes” compartir los resultados de sus pruebas de seguridad y otra información crítica con el gobierno, alegando riesgos para la seguridad nacional. Estados Unidos también ha introducido recientemente el NIST AI RMF, diseñado para gestionar los riesgos asociados a los sistemas de IA, lo que refleja el creciente reconocimiento en el entorno regulador estadounidense de la importancia de la gestión de riesgos, la gobernanza y el uso ético de la tecnología de IA.

Lea también:El gobierno del Reino Unido ficha a expertos tecnológicos y diplomáticos para la cumbre histórica sobre seguridad de la IA

Lo que ambos países tienen en común es que empezarán regulando verticalmente las tecnologías relacionadas con la IA que tengan más probabilidades de poner en peligro los derechos de las personas o la estabilidad social, como la tecnología deep fake. Esto también apunta a una gobernanza en una dirección con un factor de riesgo potencial más alto.

Cuestionario rápido

En la recién publicada Ley de Inteligencia Artificial de la Unión Europea, ¿en qué cuatro categorías se dividen los sistemas de IA según los riesgos potenciales?

A. Riesgo inaceptable

B. Alto riesgo

C. Riesgo limitado

D. Riesgo moderado

E. Riesgo mínimo (o nulo)

La respuesta correcta se encuentra al final del artículo.

Una sólida autorregulación ya ha funcionado

La legislación va a la zaga, y por eso la autonomía corporativa y el consenso de la industria son cruciales en una fase de desarrollo tan rápida.

Google ha establecido sus propios Principios de IA, que enfatizan la importancia de crear una IA socialmente beneficiosa que cumpla con altos estándares de seguridad y equidad. Meta también ha participado en debates sobre la gobernanza de los sistemas de IA, especialmente en lo que respecta a equilibrar la innovación con la privacidad y la equidad en la distribución de contenidos.

Microsoft se ha pronunciado a favor de una IA responsable, desarrollando herramientas para detectar y contrarrestar los sesgos en los algoritmos de IA y promoviendo la transparencia en los sistemas de IA. IBM desarrolla una política de ética de la IA para toda la empresa a través de suConsejo de Ética de la IA, centrándose en la confianza y la transparencia para alinear el desarrollo de la IA con principios centrados en el ser humano.

Sin embargo, un cambio de personal en OpenAI a finales de 2023 suscitó nuevas dudas sobre la eficacia de la autorregulación. El consejero delegado de la empresa,Sam Altman, fue despedido por el consejo de administración sin ánimo de lucro de OpenAI, preocupado por la falta de cautela de Altman en sus acciones y los peligros que la IA podría suponer para la sociedad.

Según la declaración de OpenAI ante elIRS, en 2018 la empresa ya no alardeará del compromiso de “compartir abiertamente nuestros planes y capacidades”; en 2021, el objetivo de la empresa se ha convertido en “construir IA de propósito general” que resuena con los intereses de comercialización de productos, en lugar de una misión abierta y orientada a la investigación para “hacer avanzar la inteligencia digital”.

Los partidarios, liderados por el propio Sam Altman, querían llevar rápidamente al público las potentes tecnologías novedosas sin dejar de avanzar hacia una verdadera IA de propósito general. Aunque Altman recibió una rama de olivo de Microsoft poco después de su despido y finalmente fue recontratado por OpenAI, varios de los miembros que inicialmente le despidieron dimitieron. Pero esto proporciona una lección importante para los futuros reguladores de la IA: la posibilidad de una autorregulación significativa, especialmente a través de formas corporativas inteligentes, es una fantasía.

Lea también:Explorando la asociación entre OpenAI y Microsoft

La lucha por el poder dentro de la empresa y el fracaso final del consejo sin ánimo de lucro para mantener el control sobre una empresa cada vez más comercializada es un recordatorio de que si la sociedad quiere ralentizar el despliegue de esta tecnología potencialmente que marcará una época, tal vez tenga que hacerlo a la antigua usanza: mediante la regulación gubernamental vertical.

De cara al futuro: ¿cómo resolver la brecha entre el avance tecnológico y la gobernanza de seguimiento?

“Explorar la legislación mundial sobre IA es como catar un vino complejo; cada país añade su sabor único, y a veces es difícil predecir si acertará en el paladar o dejará un regusto amargo”.

Erik Severinghaus, fundador y CEO de Bloomfilter

Consenso global

Un consenso global sobre la regulación de la IA tardará mucho en alcanzarse, basta con ver el ejemplo de la Ley de IA. La publicación de la ley es el primer paso y su aplicación posterior aún tiene un largo camino por recorrer. La forma de construir una regulación global de la IA requiere un esfuerzo conjunto de individuos, empresas, organizaciones y países.

Por un lado, si las normas europeas son mucho más estrictas que en otros lugares, donde la regulación es menos rigurosa, podría hacer que las empresas europeas fueran menos competitivas en el mundo. Por otro lado, si la industria reguladora europea crea muchos conflictos con la autorregulación, será mucho más difícil de aplicar.

La falta de estándares de clasificación acordados globalmente también puede crear el riesgo de arbitraje regulatorio. Tomemos como ejemplo la Ley de IA: la UE estableció todo un conjunto de sistemas de aplicación y mecanismos de supervisión y ejecución multinivel en consonancia con la aprobación de la ley, incluidos los reguladores nacionales de los estados miembros de la UE, etc., lo que supone una ventaja que la UE puede explotar en comparación con los países individuales.

Combinación de regulación horizontal y vertical

A medida que las tecnologías de IA sigan evolucionando, es probable que la futura legislación tenga que ser aún más dinámica y adaptable, posiblemente incorporando evaluaciones de riesgo en tiempo real y mecanismos reguladores más flexibles. El panorama mundial de la regulación de la IA es dinámico y complejo, y la Ley de IA de la UE es un paso significativo que podría influir en las normas mundiales.

Además de la regulación horizontal integral y relativamente universal que los países y organizaciones se esforzarán por introducir, también habrá regulaciones más específicas para sectores concretos, especialmente en ciencias de la vida y servicios financieros.

Supervisión dinámica

Ante el rápido desarrollo de la tecnología de IA, los retos a los que nos enfrentamos son sin duda enormes. Por ejemplo, en la forma en que se clasifica la Ley de IA, algunos sistemas de IA pueden evolucionar de manera que aumenten el nivel de riesgo tras una evaluación inicial, lo que requiere un seguimiento y una reevaluación continuos para garantizar que los modelos de IA sigan estando clasificados adecuadamente.

Además, es probable que el desarrollo posterior de la tecnología de IA supere las expectativas de cualquier normativa gubernamental y directriz empresarial, lo que no solo exige una gran visión técnica de los legisladores, sino que también requiere un ajuste, complemento y revisión inmediatos de las disposiciones reglamentarias pertinentes.

La respuesta correcta es a, b, c y e.