China ha introducido recientementeestrictos requisitos de seguridadpara las empresas que ofrecen servicios impulsados por inteligencia artificial generativa (IA). Este avance, anunciado por el Comité Nacional de Normalización de Seguridad de la Información, tiene como objetivo frenar el uso indebido de los modelos de IA y su potencial de daño.

Límites éticos

La IA generativa, que ha ganado popularidad a través de modelos notables como ChatGPT de OpenAI, posee la capacidad de aprender y generar nuevo contenido, ya sea texto o imágenes, a partir de los datos de entrenamiento a los que ha sido expuesta. Las nuevas regulaciones de China señalan un esfuerzo por garantizar que los modelos de IA operen dentro de ciertos límites éticos.

Una de las características destacadas de estas regulaciones es el establecimiento de una lista negra de fuentes prohibidas para el entrenamiento de modelos de IA. Esta lista negra será fundamental para evitar que los sistemas de IA sean influenciados por contenido dañino o ilegal. Específicamente, cualquier dato que contenga más del 5% de información considerada ilegal o dañina será excluido categóricamente.

El contenido prohibido incluye elementos como“apología del terrorismo”o violencia, cualquier intento de “derrocar el sistema socialista”, actividades que “dañen la imagen del país” y aquellas que “socaven la unidad nacional y la estabilidad social”. Al hacerlo, China busca asegurar que los sistemas de IA eviten generar o respaldar contenido que pueda incitar al daño o la discordia.

Lea también:

China endurece las normas para las plataformas de IA generativa

Google Bard surge como un fuerte competidor en IA generativa, pero persisten los desafíos

Datos censurados también fuera de límites

Además, las directrices también estipulan que los datos censurados dentro del ecosistema de internet chino no deben servir como material de entrenamiento para los modelos de IA. Esta medida se alinea con el compromiso más amplio de China de mantener un entorno digital controlado y frenar la propagación de contenido no deseado.

Este avance se produce tras la reciente decisión de permitir que varias empresas tecnológicas chinas, incluido el gigante tecnológico Baidu, lancen chatbots impulsados por IA. Sin embargo, esta autorización va acompañada del requisito de que estas empresas realicen evaluaciones de seguridad exhaustivas antes de poner sus servicios de IA generativa a disposición del público. La Administración del Ciberespacio de China ha estado impulsando activamente esta agenda desde abril.

Consentimiento requerido de los individuos

Para garantizar la responsabilidad, los requisitos de seguridad del borrador también exigen que las organizaciones obtengan el consentimiento de las personas cuya información personal, incluidos los datos biométricos, se utilice para entrenar modelos de IA. Esto se alinea con la tendencia global más amplia de privacidad de datos y consentimiento.

El enfoque de China en la IA se ve subrayado por su ambición de competir con Estados Unidos en este sector tecnológico. El país aspira a convertirse en líder mundial de IA para 2030, y estas regulaciones recién presentadas significan un paso crucial hacia ese objetivo. A medida que el mundo lucha por establecer límites y estándares para la tecnología de IA, el enfoque proactivo de China refleja su compromiso de aprovechar el potencial de la IA mientras se protege contra su uso indebido.

Se espera que estas regulaciones no solo den forma al panorama de la IA en China, sino que también contribuyan al discurso global en curso sobre la ética y la seguridad de la IA.