• El método de marca de agua de texto consiste en realizar pequeños cambios en la forma en que ChatGPT selecciona las palabras y crear una marca de agua invisible en la escritura que puede ser detectada posteriormente por una herramienta separada.
  • OpenAI es cautelosa con los posibles impactos negativos de la marca de agua de texto, incluyendo la susceptibilidad a la elusión por parte de actores maliciosos y el potencial de afectar de manera desproporcionada a grupos como los hablantes no nativos de inglés.

NUESTRA OPINIÓN
El método de marca de agua de texto de OpenAI desempeña un papel importante en abordar este problema, centrándose en detectar la escritura específicamente de ChatGPT, ofreciendo un enfoque dirigido para identificar contenido potencialmente fraudulento. Sin embargo, este método también plantea consideraciones importantes en cuanto a su susceptibilidad a la elusión por parte de actores maliciosos y el impacto potencial en ciertos grupos, como los hablantes no nativos de inglés.
-Lia XU, reportera de BTW

¿Qué sucedió?

SegúnThe Wall Street Journal, OpenAI ha desarrollado unmétodo de marca de agua de textopara detectar texto generado por IA, centrándose específicamente en atrapar a estudiantes que hacen trampa usando ChatGPT para escribir sus tareas. Este método consiste en realizar cambios sutiles en la forma en que ChatGPT selecciona las palabras, creando una marca de agua invisible en la escritura que puede ser detectada posteriormente por una herramienta separada.

Sin embargo, un portavoz de OpenAI declaró: “Se está adoptando un ‘enfoque deliberado’ debido a las complejidades involucradas y su probable impacto en el ecosistema más amplio más allá de OpenAI. Porque tiene riesgos importantes que estamos evaluando mientras investigamos alternativas, incluyendo la susceptibilidad a la elusión por parte de actores maliciosos y el potencial de afectar de manera desproporcionada a grupos como los hablantes no nativos de inglés”.

OpenAI también actualizó su blog para decir que, aunque su marca de agua de texto puede detectar bien cierto contenido generado por IA, puede ser fácilmente eludida por actores maliciosos, y podría desalentar a los hablantes no nativos de inglés de usar la IA como una herramienta de escritura útil.

Lea también:El próximo modelo de OpenAI pasará controles de seguridad del Gobierno de EE. UU.

Lea también:OpenAI apoya legislación para dar forma al futuro de la IA

Por qué es importante

Este método de marca de agua de texto puede ayudar a las instituciones educativas a mantener la integridad académica al identificar casos de estudiantes que usan IA para hacer trampa en las tareas. Puede disuadir la deshonestidad académica y promover prácticas de evaluación justas. El centrarse únicamente en detectar la escritura de ChatGPT diferencia este método de otros, garantizando una identificación más precisa del texto generado por IA. Este enfoque dirigido mejora la eficacia de la herramienta para atrapar posibles casos de trampa.

Sin embargo, también es crucial para un despliegue ético considerar los riesgos de elusión por parte de actores maliciosos y los impactos potenciales en grupos de usuarios específicos como los hablantes no nativos de inglés. Se necesita buscar un enfoque equilibrado para su implementación. La estrategia deliberada de OpenAI para investigar y sopesar los riesgos asociados con el método de marca de agua de texto demuestra un compromiso con el desarrollo de tecnologías de IA responsables.

Esta influencia garantiza que el despliegue de la herramienta se alinee con los estándares éticos y minimice las consecuencias negativas en diversos grupos de usuarios y en el ecosistema.