- OpenAI informó que había eliminado las cuentas de un grupo iraní por usar su chatbot ChatGPT para generar contenido destinado a influir en las elecciones presidenciales de EE.UU. y otros temas.
- Con la proximidad de las elecciones presidenciales de EE.UU., la influencia de estas actividades en la opinión pública es preocupante.
NUESTRA OPINIÓN
En una firme afirmación de su compromiso con el uso ético de la IA, OpenAI ha cerrado las cuentas de un grupo iraní que utilizó la plataforma ChatGPT para interferir en las elecciones presidenciales de EE.UU. Esta medida refleja la creciente preocupación por el mal uso de las tecnologías de IA con fines de influencia política y destaca las medidas proactivas que se pueden tomar para contrarrestar tales amenazas.
–Rebecca Xu, reportera de BTW
Qué sucedió
OpenAI ha tomado recientemente medidas contra un grupo iraní, Storm-2035, por usar indebidamente su chatbot ChatGPT para crear contenido destinado a influir en las elecciones presidenciales de EE.UU. El grupo utilizó ChatGPT para generar contenido relacionado con varios temas, como las elecciones de EE.UU., el conflicto en Gaza y la participación de Israel en los Juegos Olímpicos, que luego se distribuyó a través de redes sociales y sitios web.
A pesar de los esfuerzos por generar contenido, OpenAI informó que la operación no generó una participación significativa de la audiencia. La mayoría de las publicaciones en redes sociales no recibieron me gusta, compartidos ni comentarios, y hubo pocos indicios de que los artículos web se compartieran en las plataformas de redes sociales.
Tras la investigación, OpenAI ha prohibido a las cuentas asociadas con Storm-2035 el uso de sus servicios. La empresa está monitoreando de cerca las actividades para evitar nuevos intentos de violar sus políticas.
Informes anteriores indicaron que Storm-2035 había estado interactuando con grupos de votantes de EE.UU. a través de una red de sitios web que se hacían pasar por medios de comunicación. La operación se centró en mensajes polarizantes relacionados con los candidatos presidenciales de EE.UU., los derechos LGBTQ, y el conflicto entre Israel y Hamás.
Lea también: EE.UU. apoya los modelos de IA abiertos y propone supervisión de riesgos
Lea también: Khan de la FTC espera abrir modelos de IA para mejorar la competencia
Por qué es importante
Esta acción de OpenAI subraya los desafíos más amplios de que la tecnología de IA pueda ser explotada para la manipulación política y la necesidad continua de vigilancia para detectar y prevenir tales actividades.
Esta medida también pone de relieve la creciente preocupación por el uso indebido de la tecnología de IA con fines engañosos e interferencia política. Al tomar medidas rápidas contra tales actividades, OpenAI está enviando un mensaje claro sobre la importancia del uso ético de la IA y la necesidad de combatir la desinformación y la manipulación en el ámbito digital.
A medida que se acercan las elecciones de EE.UU., las acciones de empresas como OpenAI desempeñan un papel crucial en la salvaguardia de la integridad de los procesos democráticos y en la protección del público contra campañas de influencia en línea perjudiciales. Este incidente sirve como recordatorio de los continuos desafíos en la regulación de las herramientas impulsadas por IA y los esfuerzos continuos necesarios para garantizar que la tecnología se utilice de manera responsable en beneficio de la sociedad.