• La plataforma X de Elon Musk se inundó de impactantes imágenes generadas por IA, lo que desató un debate sobre la moderación de contenido de IA.
  • La herramienta de generación de imágenes no regulada en X actúa como un caso de prueba para evaluar la seguridad y las implicaciones éticas de la IA.

NUESTRA OPINIÓN
El reciente experimento de Elon Musk con Grok ha puesto de relieve las consecuencias de una regulación mínima de la IA. La avalancha de imágenes provocativas y ofensivas, incluidas algunas que muestran figuras públicas en contextos inapropiados, genera preocupación sobre el equilibrio entre innovación y moderación de contenido. Si bien Musk defiende una IA menos regulada, la controversia subraya la necesidad de salvaguardas sólidas para prevenir el uso indebido y garantizar estándares éticos en las tecnologías emergentes.
-Tacy Ding, reportera de BTW

Lo que sucedió

La semana pasada, la plataforma de redes sociales X de Elon Musk se vio inundada por un torrente de extrañas imágenes generadas por computadora, incluidas algunas violentas, ofensivas o sexualmente sugerentes. Entre ellas, una mostraba a Trump pilotando un helicóptero sobre el incendiado World Trade Centre, mientras que otras mostraban a Kamala Harris en bikini y al Pato Donald usando heroína. En medio del revuelo en línea, Musk comentó: «Grok es la IA más divertida del mundo!»

Para el viernes, las impactantes imágenes ya empezaban a perder su novedad. Según la firma de datos PeakMetrics, el volumen de publicaciones sobre Grok alcanzó un pico de 166.000 el 15 de agosto, dos días después del anuncio de las funciones de generación de imágenes.

Aunque el frenesí ha disminuido, el impacto más duradero del momento viral de Grok podrían ser sus implicaciones para el emergente campo de la moderación de contenido de IA. El lanzamiento de Grok fue un experimento arriesgado sobre lo que sucede cuando las barreras de protección son limitadas o inexistentes.

Lea también: Musk dice que Neuralink implanta un segundo paciente con chip cerebral

Lea también: ¿Quién es el dueño de Grok AI?

Por qué es importante

Elon Musk ha sido un firme defensor de una IA mínimamente regulada, criticando a las herramientas de OpenAI y Google por ser demasiado «políticamente correctas». A pesar de la naturaleza sin filtros de las imágenes producidas por Grok, una startup de Black Forest Labs, incluso esta ha impuesto algunas limitaciones de contenido. Las empresas de IA generalmente aplican controles para evitar contenido difamatorio, con derechos de autor o engañoso, con restricciones contra la desnudez, la violencia y el gore. DALL-E de OpenAI evita imágenes «picantes» o sexualmente sugerentes y las de figuras públicas.

A medida que las imágenes virales intensifican el debate sobre lo que estas herramientas deberían mostrar, Musk, un firme partidario de Trump, ha impregnado la discusión con una dimensión política. Emerson Brooking, investigador sénior residente en el Atlantic Council que estudia las redes en línea, sugirió que el énfasis en el desarrollo de IA «anti-woke» podría ser contraproducente. «Al restar importancia a la seguridad de la IA e incitar a la indignación, Musk podría estar tratando de politizar más ampliamente el desarrollo de la IA», dijo.

«Esto no es beneficioso para la investigación de IA ni para el mundo, pero podría ser ventajoso para Elon Musk.»