- OpenAI ha desbaratado cinco operaciones encubiertas de influencia que utilizaban sus modelos de IA para actividades engañosas en línea.
- Las campañas, en las que participaron actores de Rusia, China, Irán e Israel, tenían como objetivo manipular la opinión pública sobre cuestiones globales.
- Un Comité de Seguridad y Protección recién formado, dirigido por el CEO Sam Altman, supervisará el futuro entrenamiento de modelos de IA en OpenAI.
OpenAI, bajo el liderazgo deSam Altman, ha anunciado la desarticulación exitosa de cinco operaciones encubiertas de influencia que utilizaban sus modelos de IA para actividades engañosas en línea. Estas operaciones, llevadas a cabo por actores de Rusia, China, Irán e Israel, tenían como objetivo manipular la opinión pública sobre cuestiones globales clave, destacando las preocupaciones actuales sobre el uso indebido de la tecnología de IA generativa.
Desarticulación de operaciones encubiertas
Este contenido incluía comentarios breves, artículos más largos, así como nombres y biografías inventados para cuentas de redes sociales. Los temas atacados abarcaban eventos globales significativos como la invasión de Ucrania por parte de Rusia, el conflicto en Gaza, las elecciones indias y asuntos políticos en Europa y Estados Unidos.
Lea también:OpenAI se asocia con Vox y The Atlantic, mientras los medios continúan vendiendo contenido a los modelos de IA
Lea también:OpenAI creó un equipo para controlar la IA ‘superinteligente’
Propósito e impacto
El objetivo principal de estas campañas era manipular la opinión pública e influir en los resultados políticos. OpenAI afirmó que estas operaciones engañosas no lograron una mayor interacción ni alcance de audiencia a través de sus servicios. Además, estas operaciones no se basaron únicamente en material generado por IA, sino que también incluyeron textos escritos manualmente o memes copiados de diversas fuentes de Internet.
Respuesta de OpenAI y novedades relacionadas
En respuesta a estos desafíos, OpenAI ha establecido un Comité de Seguridad y Protección, dirigido por el CEO Sam Altman y otros miembros de la junta, para supervisar el entrenamiento de futuros modelos de IA. Esta iniciativa subraya el compromiso de la empresa de abordar las preocupaciones de seguridad relacionadas con el uso indebido de la tecnología de IA generativa. Por separado,Meta Platforms, en su informe trimestral de seguridad, identificó contenido probablemente generado por IA utilizado de manera engañosa en Facebook e Instagram, incluidos comentarios en apoyo de la gestión delconflicto de Gazapor parte de Israel en publicaciones de organizaciones de noticias globales y legisladores estadounidenses.
