• Una legislación histórica de California destinada a establecer las primeras medidas de seguridad del país para los sistemas de IA más grandes ha recibido un voto importante.
  • La propuesta, que tiene como objetivo reducir los riesgos potenciales de la IA, exige que las empresas prueben sus modelos y divulguen públicamente sus protocolos de seguridad.

NUESTRA OPINIÓN
Los partidarios del proyecto de ley dicen que establecería algunas de las primeras reglas básicas de seguridad necesarias para los modelos de IA estadounidenses a gran escala, para los cuales se necesitan más de $100 millones en datos para entrenar el sistema. Ningún modelo de IA actual alcanza este umbral, y las grandes empresas tecnológicas deberían trabajar con organizaciones relevantes para crear normas de uso de IA socialmente apropiadas.
— Iydia Ding, reportera de BTW

Lo que sucedió

El esfuerzo de California por crear las primeras medidas de seguridad del país para el sistema deinteligencia artificialmás grande recibió un voto importante el miércoles que podría allanar el camino para las regulaciones estadounidenses sobre una tecnología que avanza a gran velocidad. La propuesta, destinada a reducir los riesgos potenciales de la IA, exigiría a las empresas que prueben sus modelos y divulguen públicamente susprotocolos de seguridadpara evitar que los modelos sean manipulados, por ejemplo, para destruir la red eléctrica del estado o ayudar a fabricararmas químicas– algo que los expertos dicen que podría ser posible en el futuro a medida que la industria crece rápidamente.

El proyecto de ley estuvo entre los cientos de proyectos que los legisladores votaron para aprobar en la última semana de la sesión. Newsom tiene hasta finales de septiembre para decidir si los convierte en ley, los veta o permite que se conviertan en ley sin su firma. La medida fue presentada en la Asamblea el miércoles y necesita un voto final en el Senado antes de llegar al despacho del gobernador.

Lea también:Elon Musk apoya proyecto de ley de California para regular la IA

Lea también:OpenAI apoya proyecto de ley de California que exige marca de agua en contenido de IA

Por qué es importante

Los partidarios del proyecto de ley dicen que establecería algunas de las primeras reglas básicas de seguridad necesarias para los modelos de IA estadounidenses a gran escala, para los cuales se necesitan más de $100 millones en datos para entrenar el sistema. Ningún modelo de IA actual alcanza este umbral, las grandes empresas tecnológicas deberían trabajar con organizaciones relevantes para crear normas de uso de IA socialmente apropiadas. “Es hora de que las grandes tecnológicas jueguen con algún tipo de reglas”, dijo el representante republicano Devon Mathis el miércoles en apoyo del proyecto de ley.

La propuesta, escrita por el senador demócrata Wiener, enfrentó una fuerte oposición de firmas de capital de riesgo y empresas tecnológicas, incluidas OpenAI, Google y Meta, la empresa matriz de Facebook e Instagram. Dicen que las regulaciones de seguridad deberían ser establecidas por el gobierno federal y que la legislación de California apunta a los desarrolladores, no a quienes usan y explotan los sistemas de IA para causar daño, y varios miembros de la Cámara de Representantes de California también se oponen al proyecto de ley.