- Inteligencia artificial (IA) es la capacidad de una computadora digital o un robot controlado por computadora para realizar tareas comúnmente asociadas con seres inteligentes.
- La gobernanza de la IA es el marco legal para garantizar que las tecnologías de IA y aprendizaje automático se investiguen y desarrollen para ayudar a la humanidad a adoptar y usar estos sistemas de manera ética y responsable.
- El tamaño, la diversidad, la complejidad y el nivel de independencia tecnológica de los sistemas de IA requieren reevaluar leyes, regulaciones y políticas. Empleamos un modelo analítico que consta de 3 capas para representar la complejidad de la gobernanza de la IA.
Inteligencia artificial, o IA, es una tecnología que permite a las computadoras y máquinas simular la inteligencia humana y las capacidades de resolución de problemas. La IA, desde una perspectiva técnica, no es una sola tecnología, sino un conjunto de técnicas y subdisciplinas que van desde áreas como el reconocimiento de voz y la visión por computadora hasta la atención y la memoria, por nombrar solo algunas.
Desde una perspectiva fenomenológica, sin embargo, el término IA se usa a menudo como un término genérico para referirse a un cierto grado de autonomía que exhiben los sistemas avanzados de diagnóstico de salud, los tutores digitales de próxima generación, los automóviles autónomos y otras aplicaciones basadas en IA. A menudo, dichas aplicaciones, a su vez, impactan el comportamiento humano y evolucionan dinámicamente de maneras que a veces son imprevistas por los diseñadores de los sistemas.
¿Qué es la gobernanza de la IA?
La gobernanza de la inteligencia artificial (IA) se refiere a las barandillas que garantizan que las herramientas y sistemas de IA sean y sigan siendo seguros y éticos. Establece los marcos, reglas y estándares que dirigen la investigación, el desarrollo y la aplicación de la IA para garantizar la seguridad, la equidad y el respeto de los derechos humanos.
La gobernanza de la IA abarca mecanismos de supervisión que abordan riesgos como el sesgo, la infracción de la privacidad y el uso indebido, al tiempo que fomentan la innovación y la confianza. Un enfoque de gobernanza de la IA centrado en la ética requiere la participación de una amplia gama de partes interesadas, incluidos desarrolladores de IA, usuarios, formuladores de políticas y especialistas en ética, asegurando que los sistemas relacionados con la IA se desarrollen y utilicen para alinearse con los valores de la sociedad.
La gobernanza tiene como objetivo establecer la supervisión necesaria para alinear los comportamientos de la IA con los estándares éticos y las expectativas sociales y para protegerse contra posibles impactos adversos.
La gobernanza de la IA es esencial para alcanzar un estado de cumplimiento, confianza y eficiencia en el desarrollo y la aplicación de tecnologías de IA. Con la creciente integración de la IA en las operaciones organizacionales y gubernamentales, su potencial de impacto negativo se ha vuelto más visible.
Errores de alto perfil como el incidente del chatbot Tay (enlace fuera de ibm.com), donde un chatbot de IA de Microsoft aprendió comportamientos tóxicos de las interacciones públicas en las redes sociales, y las decisiones de sentencia sesgadas del software COMPAS (enlace fuera de ibm.com) han puesto de relieve la necesidad de una gobernanza sólida para prevenir daños y mantener la confianza pública.
El modelo de capas
Una de las herramientas clave para gestionar sistemas complejos es la modularidad. Al distinguir entre tareas que requieren una interdependencia extensa y aquellas que no, la modularidad busca minimizar el número de interdependencias que deben analizarse. Un tipo específico de modularidad conocido como estratificación (layering) se caracteriza por la disposición de varios componentes del sistema en jerarquías paralelas.
Existe un modelo de cuatro capas para ilustrar la naturaleza del ciberespacio: primero, los participantes en la experiencia cibernética; segundo, la información que se transmite, almacena y transforma en el ciberespacio. En tercer lugar, los servicios consisten en bloques de construcción lógicos, y en cuarto lugar, los fundamentos físicos sostienen los elementos lógicos.
Intentamos capturar la naturaleza compleja de la gobernanza de la IA utilizando un modelo analítico con 3 capas.
Lea también: IA: las oportunidades y las amenazas
1. La capa técnica
Los algoritmos y datos que forman la base del ecosistema de gobernanza de la IA se encuentran en la capa técnica. Ya sean basados en software (como sistemas de justicia penal o diagnóstico médico, o asistentes personales inteligentes) o físicos (como robots comerciales y automóviles autónomos), los sistemas de IA y autónomos dependen de datos y algoritmos. Se creó un conjunto de pautas para algoritmos responsables como parte de un Seminario Dagstuhl sobre “DataResponsibly”, junto con una declaración de impacto social sugerida.
Los siguientes son los principios rectores sugeridos para algoritmos socialmente responsables: responsabilidad, explicabilidad, precisión, idoneidad y equidad. La gobernanza de datos, o el proceso de recopilar, usar y gestionar datos por parte de algoritmos de IA, debe adherirse a principios que defiendan la equidad y prevengan la discriminación por motivos de raza, color, origen nacional, religión, sexo, género, orientación sexual o discapacidad.
Lea también: ¿Qué es Perplexity AI?
2. La capa ética
Por encima del nivel técnico, podríamos discutir cuestiones éticas amplias que conciernen a todo tipo de sistemas y aplicaciones de IA. Los principios de derechos humanos son una fuente importante para el desarrollo de dichos principios éticos. Los principios generales del IEEE para sistemas de IA y autónomos son otra ilustración de cómo las normas éticas de la IA están empezando a tomar forma. Las acciones impulsadas por algoritmos pueden evaluarse utilizando estándares y preceptos morales.
El principio ético de trato igual o justo se rompería, por ejemplo, si una aplicación de IA estudiara los datos de una compañía de seguros y cobrara a un grupo particular de personas primas más altas debido a factores como el género o la edad.
3. La capa social y legal
El proceso de establecer instituciones y asignar roles para regular los sistemas de IA y autónomos podría ser cubierto por la capa social y legal. Dicho de otra manera, un organismo de formulación de políticas tendría la autoridad para definir la IA, hacer excepciones que permitirían a los investigadores realizar investigaciones de IA en entornos específicos sin ser estrictamente responsables de sus acciones, y establecer un procedimiento de certificación para la IA.
Los principios y estándares que provienen de las capas técnica y ética, así como los marcos legales nacionales e internacionales más generales, como los relacionados con los derechos humanos, pueden servir como base para normas particulares destinadas a regular la IA. Para definir el comportamiento apropiado para los sistemas de IA y autónomos, el modelo de capas ofrece un marco para pensar sobre la gobernanza de la IA.
Los sistemas de toma de decisiones algorítmicas y de IA pueden tener sus estructuras de gobernanza implementadas utilizando una combinación de enfoques multicapa y de múltiples capas. Aquí, describimos algunas de estas capas, teniendo en cuenta que algunas solo se tendrían en cuenta si el riesgo asociado con aplicaciones específicas de IA fuera significativo y verificable. Los procedimientos de gobernanza pueden usarse a nivel nacional o internacional y pueden ir desde estructuras gubernamentales hasta soluciones orientadas al mercado.