Discussion on whether AI be regulated by the governance

• A medida que los sistemas de IA se desarrollan y aumentan en complejidad, sus riesgos y la interconectividad con otros dispositivos y sistemas inteligentes también aumentarán, lo que hace necesaria la creación de mecanismos de gobernanza específicos.
• Existe un debate sobre si la IA debe ser regulada por la gobernanza. Algunos están de acuerdo debido a ciertos riesgos de la IA, mientras que otros piensan que la regulación también conlleva riesgos.
• La gobernanza de la IA deberá ser adaptativa y colaborativa, para no quedarse atrás respecto a los últimos avances de la IA.

La inteligencia artificial (IA) está alterando drásticamente la forma en que se organizan las interacciones sociales y las transacciones en la sociedad actual. Los sistemas de IA y los algoritmos que los sustentan son cada vez más importantes en la toma de decisiones moralmente complejas para la sociedad. Algunos ejemplos de estos sistemas incluyen sistemas de apoyo a la decisión clínica que diagnostican pacientes, sistemas policiales que predicen la posibilidad de actividad delictiva y algoritmos de filtrado que clasifican y ofrecen contenido personalizado a los usuarios. La inteligencia artificial (IA) se diferencia de otras tecnologías en que puede imitar o superar la inteligencia humana en la resolución de problemas complejos, ya que muchas tareas cognitivas que normalmente realizan los humanos pueden ser reemplazadas y superadas por máquinas. Ver también: El registro de miembros desaparecido de AfriNIC.

¿Por qué es importante la gobernanza de la IA?

La gobernanza de la IA y su regulación son importantes para comprender y controlar el nivel de riesgo que presenta el desarrollo y la adopción de la IA. Con el tiempo, también ayudará a desarrollar un consenso sobre el nivel de riesgo aceptable para el uso de tecnologías de aprendizaje automático en la sociedad y en las empresas.

Sin embargo, gobernar el desarrollo de la IA es muy difícil porque no solo no existe un marco centralizado de regulación o gestión de riesgos al que los desarrolladores o adoptantes puedan recurrir, sino que también es complicado evaluar el riesgo cuando este cambia según el contexto en el que se utiliza el sistema. Ver también: Desaparición del registro de miembros de AfriNIC.

¿Por qué es necesario regular la IA?

Garantizar el uso ético de la IA

Se necesita regulación para aplicar y adaptar las leyes digitales existentes a la tecnología de IA. Esto significa proteger la privacidad de los usuarios (y de sus datos). Las empresas de IA deberían invertir en capacidades sólidas de ciberseguridad al tratar con algoritmos que manejan grandes cantidades de datos… y renunciar a algunos ingresos, ya que los datos de los usuarios no deben venderse a terceros. Este es un concepto que las empresas estadounidenses parecen malinterpretar de forma inherente y deliberada sin regulación. Ver también: Alejandro Fernandez.

Desde un punto de vista más filosófico, la regulación puede ayudar a fomentar la confianza, la transparencia y la responsabilidad entre usuarios, desarrolladores y partes interesadas de la IA generativa. Al hacer que todos los actores revelen la fuente, el propósito y las limitaciones de los resultados de las IA, podremos tomar mejores decisiones… y confiar en las decisiones de los demás. El tejido social lo necesita. Ver también: Aldo Garcia.

Salvaguardar los derechos humanos y la seguridad

Más allá de lo “básico”, la regulación debe proteger a la población en general de los riesgos de seguridad relacionados con la IA, que son muchos. Ver también: Alcymer Vieira.

La mayoría serán riesgos de origen humano. Los actores maliciosos pueden usar la IA generativa para difundir desinformación o crear deepfakes. Esto es muy fácil de hacer, y las empresas parecen incapaces de detenerlo por sí mismas, sobre todo porque no están dispuestas (no porque no puedan) a etiquetar el contenido generado por IA. Nuestras próximas elecciones pueden depender de que se implementen regulaciones… mientras que nuestras hijas adolescentes quizás nos pregunten por qué no lo hicimos antes. Ver también: Alcides Cremonezi.

Todo esto sin siquiera entrar en el tema de la guerra impulsada por IA y las armas autónomas, cuya creación debe evitarse a toda costa. Sin embargo, este escenario es tan catastrófico que a menudo lo usamos para ocultar los muchos otros problemas con la IA. Sin regulaciones sólidas que aborden lo anterior, la sociedad podría morir por mil cortes en lugar de un solo golpe armado. Por eso debemos asegurarnos de que las empresas acuerden crear sistemas que se alineen con los valores y la moral humanos. Ver también: Alberto Anaya.

Lea también: ¿Por qué la IA consume tanta electricidad?

Mitigar el impacto social y económico

Se necesitan normas para compensar justamente a las personas cuyos datos se utilizan para entrenar algoritmos que traerán tanta riqueza a tan pocos. Sin esto, solo estamos repitiendo los errores del pasado y haciendo más profunda una brecha económica ya enorme. Esto va a ser difícil; hay pocos precedentes legales que informen lo que está sucediendo hoy en este ámbito. Ver también: Albert Kis.

Será importante salvaguardar continuamente las economías del mundo contra los monopolios económicos impulsados por la IA. Los efectos de red hacen que hoy sea casi imposible alcanzar a un gigante de Internet, por falta de datos o capacidad de cómputo. Las leyes antimonopolio han permanecido prácticamente inalteradas durante décadas, y ya no pueden seguir así. En este caso, las regulaciones no nos harán menos competitivos.

¿Por qué no se debería regular la IA?

Frenar la innovación y el progreso

Se podría argumentar que las regulaciones ralentizarán los avances y descubrimientos de la IA. Que no permitir que las empresas prueben y aprendan las hará menos competitivas a nivel internacional. Sin embargo, aún no tenemos pruebas definitivas de que esto sea cierto. Incluso si lo fuera, quedaría la pregunta: ¿es la innovación sin restricciones adecuada para la sociedad en su conjunto? Las ganancias no lo son todo. Tal vez la UE se quede rezagada respecto a China y EE. UU. en la creación de nuevos unicornios y multimillonarios.

¿Es eso tan malo, siempre que sigamos teniendo redes sociales, atención médica gratuita, permisos parentales y 6 semanas de vacaciones al año? Si tener esto, gracias a las regulaciones, significa que un multimillonario no pueda convertirse en milmillonario, que así sea.

Lea también: Los 5 mejores generadores de video con IA

Implementación compleja y desafiante

Las regulaciones relacionadas con tecnologías que cambian el mundo a menudo pueden ser demasiado vagas o amplias para ser aplicables. Esto puede dificultar su implementación y aplicación en diferentes jurisdicciones. Esto es especialmente cierto si se tiene en cuenta la falta de estándares claros en el campo.

Esto hace que la necesidad de equilibrar los estándares internacionales y la soberanía sea un tema particularmente delicado. La IA opera a través de las fronteras, y su regulación requiere cooperación y coordinación internacional. Esto puede ser complejo, dadas las diferentes marcos legales y culturales.

Potencial de sobrerregulación y consecuencias imprevistas

Además, sabemos que la regulación a menudo no se adapta al ritmo acelerado de la tecnología. La IA es un campo en rápida evolución, con nuevas técnicas y aplicaciones que surgen regularmente. Constantemente emergen nuevos desafíos, riesgos y oportunidades, y necesitamos ser lo suficientemente ágiles y flexibles para afrontarlos. Mantenerse al día con los avances y regular tecnologías de vanguardia puede ser un desafío para los órganos de gobierno… pero eso nunca ha detenido a nadie, y el mundo sigue en pie.

De cara al futuro, los gobiernos deberán colaborar y cooperar para establecer marcos generales, al tiempo que promueven y fomentan el intercambio de conocimientos y la colaboración interdisciplinaria. Estos marcos tendrán que ser cooperativos y flexibles para mantenerse al día con los avances más recientes en IA.