- Las autoridades federales esperan que el acuerdo desaliente el uso engañoso de imágenes generadas por inteligencia artificial que se hacen pasar por políticos y otras personas.
- Una empresa de telecomunicaciones ha aceptado pagar una multa de $1 millón por su papel en un bot deepfake que suplantó la voz del presidente Joe Biden antes de la primaria demócrata de Nuevo Hampshire, según planean anunciar las autoridades federales el miércoles.
NUESTRA OPINIÓN
No hay duda de que la medida ha generado cierta presión sobre Biden, pero aún no está claro qué significa el auge de la IA para las elecciones generales. El uso de la IA para ayudar a los políticos.No se debe criticar el acto electoral en sí, pero el mal uso de la tecnología de IA sembrará peligros ocultos en el futuro. Las autoridades competentes deberían comenzar con este asunto y regular el uso de la IA.
— Iydia Ding, reportera de BTW
Lo que ocurrió
Lingo Telecom, empresa de telecomunicaciones, ha aceptado pagar una multa de $1 millón por su papel en un bot deepfake que suplantó la voz del presidenteJoe Bidenantes de la primaria demócrata de Nuevo Hampshire, según planean anunciar las autoridades federales el miércoles. El bot utilizó una simulación generada por IA de la voz de Biden para decir a los votantes de Nuevo Hampshire que no votaran en la primaria demócrata de enero.
Como fue revelado primero por NBC News, la llamada fue orquestada por el consultor político veteranoSteve Kramer, que trabajaba para una campaña rival en ese momento, aunque Kramer dijo que lo hizo para concienciar sobre los peligros de los deepfakes. Kramer y su entonces empleador, el representante demócrata por Minnesota Dean Phillips, insistieron en que nadie del equipo de campaña instruyó a Kramer ni sabía de sus acciones.
Kramer también se enfrenta a una multa separada de $6 millones de la FCC y a 26 cargos penales por intimidación de votantes y suplantación de un funcionario en Nuevo Hampshire. Actualmente está en libertad bajo fianza.
Lea también:Congo Telecom educa a cadetes de policía sobre prácticas de ciberseguridad
Por qué es importante
Lingo Telecom, un proveedor de servicios de voz que distribuyó llamadas automatizadas generadas por IA a través de números de teléfono “falsificados”, pagará una multa de siete cifras y aceptará un protocolo de supervisión más estricto en lo que las autoridades federales describen como la primera acción de aplicación contra deepfakes maliciosos o la suplantación de identidad impulsada por IA.
“La intimidación de votantes, ya sea llevada a cabo en persona o mediante llamadas telefónicas automáticas falsas, campañas de desinformación en línea u otras tácticas impulsadas por IA, puede ser un obstáculo real para los votantes que buscan participar en nuestra democracia”, dijo en un comunicado Kristen Clarke, directora de la División de Derechos Civiles del Departamento de Justicia.
El bot de Biden fue el primer uso de deepfakes en la política nacional de Estados Unidos, por lo que las autoridades dicen que actuaron rápida y agresivamente para detener los deepfakes políticos, que se han vuelto cada vez más frecuentes en varios otros países.
“Al responsabilizar a Lingo Telecom por su papel en la transmisión de llamadas automáticas falsificadas con mensajes generados por IA, la FCC envía un fuerte mensaje de que no tolerará la injerencia electoral ni las tecnologías de suplantación de identidad”, dijo en un comunicado el fiscal general de Nuevo Hampshire, John Formella.