- El Departamento de Comercio de EE. UU. propuso nuevos requisitos de informes para desarrolladores de IA y proveedores de nube para garantizar la ciberseguridad.
- Las normas exigirían informes sobre el desarrollo de modelos de IA, esfuerzos de ciberseguridad y resultados de equipos rojos, destinados a detectar riesgos como ayudar a ciberataques o reducir las barreras para desarrollar armas de destrucción masiva.
NUESTRA OPINIÓN
Este movimiento refleja la creciente preocupación por el impacto de la IA y la necesidad de una supervisión rigurosa. Al exigir informes detallados, el gobierno de EE. UU. intensifica sus esfuerzos para mitigar los riesgos asociados con la IA avanzada, como el uso indebido en ciberataques o tecnologías peligrosas. Este enfoque proactivo destaca el equilibrio entre fomentar la innovación y protegerse contra posibles amenazas, con el objetivo de mantener el desarrollo de la IA seguro y bajo control.
-Tacy Ding, reportera de BTW
Qué ocurrió
El Departamento de Comercio de EE. UU. anunció el lunes la propuesta de requisitos detallados de informes, dirigida a desarrolladores de inteligencia artificial avanzada y proveedores de computación en nube para garantizar que estas tecnologías sean seguras y capaces de resistir ciberataques.
La propuesta de laOficina de Industria y Seguridaddel departamento exigiría informes al gobierno federal sobre las actividades de desarrollo de modelos de IA "de frontera" y clústeres de computación.
También exigiría informes sobre medidas de ciberseguridad, así como los resultados de los llamados esfuerzos de 'red teaming', como pruebas de capacidades peligrosas, incluido el potencial de ayudar en ciberataques o reducir las barreras para que no expertos desarrollen armas químicas, biológicas, radiológicas o nucleares.
El 'red teaming' externo se ha utilizado durante años en ciberseguridad para identificar riesgos emergentes; el término proviene de simulaciones de la Guerra Fría de EE. UU., donde al adversario se le llamaba el "equipo rojo".
Lea también:El Departamento de Justicia vigila los planes de IA de Google para abordar el monopolio de búsqueda
Lea también:EE. UU. implementa nuevos controles de tecnología avanzada junto con socios internacionales
Por qué es importante
La IA generativa, que puede producir texto, imágenes y videos en respuesta a indicaciones abiertas, ha generado tanto entusiasmo como preocupación. Se teme que pueda dejar obsoletos ciertos trabajos, perturbar elecciones y potencialmente dominar a los humanos, con consecuencias catastróficas.
El Departamento de Comercio declaró que la información recopilada bajo la propuesta "será crucial para garantizar que estas tecnologías cumplan con estrictos estándares de seguridad y fiabilidad, puedan resistir ciberataques y presenten un riesgo mínimo de uso indebido por parte de adversarios extranjeros o actores no estatales".
En octubre de 2023, el presidenteJoe Bidenfirmó una orden ejecutiva que exige a los desarrolladores de sistemas de IA que representen riesgos para la seguridad nacional, la economía, la salud pública o la seguridad de EE. UU. que compartan los resultados de las pruebas de seguridad con el gobierno de EE. UU. antes de que estos sistemas se pongan a disposición del público.
La norma introduciría requisitos de informes para modelos de inteligencia artificial (IA) avanzada y clústeres de computación.