- Los AI Overviews de Google están proporcionando información poco fiable e incluso potencialmente dañina a los usuarios.
- Google ha estado realizando mejoras técnicas para solucionar el problema, pero las limitaciones inherentes de los sistemas de IA persisten.
- Como la compañía seguirá mejorándolo, nunca podrá ser 100% precisa, por lo que el gigante tecnológico no pretende mostrar AI Overviews para temas explícitos o peligrosos.
NUESTRA OPINIÓN
Si bien AI Overviews ayuda a los usuarios a conocer la respuesta en menos tiempo, no se puede confiar plenamente en ella debido a sus posibles errores. Por lo tanto, es importante mantener un pensamiento crítico al usarla.
–Audrey Huang, reportera de BTW
A medida que AI Overviews de Google simplifica los resultados de búsqueda, también está generando desinformación. Por lo tanto, la compañía ha estado realizando mejoras técnicas.
¿Cómo funciona AI Overviews?
AI Overviews utiliza un nuevo modelo de IA generativa en Gemini, la familia demodelos de lenguaje extenso(LLMs) de Google. El modelo se ha integrado con los sistemas principales de clasificación web de Google y está diseñado para buscar resultados relevantes en su índice de sitios web.
Lea también:Elon Musk dice que la IA reemplazará todos nuestros trabajos
Lea también:Deepfakes y desinformación de IA expuestos a jóvenes votantes en TikTok
¿Por qué cometería errores?
“El modelo de lenguaje extenso genera un lenguaje fluido basado en las fuentes proporcionadas, pero un lenguaje fluido no es lo mismo que información correcta”, afirma Suzan Verberne, profesora de la Universidad de Leiden especializada enprocesamiento del lenguaje natural. Cuanto más específico es un tema, mayor es la probabilidad de desinformación en la salida de un modelo de lenguaje extenso, señala, y agrega: “Esto es un problema en el ámbito médico, pero también en la educación y la ciencia”.
¿Cómo resolver el problema?
Google ha dicho que está añadiendo restricciones de activación para consultas en las que AI Overviews no resultaba especialmente útil y ha añadido “refinamientos de activación” adicionales para consultas relacionadas con la salud. La compañía podría añadir un paso al proceso de recuperación de información diseñado para evitar una consulta de riesgo y hacer que el sistema se niegue a generar una respuesta en esos casos, dice Verberne.
Además, técnicas como el aprendizaje por refuerzo a partir de la retroalimentación humana, que incorpora dicha retroalimentación en el entrenamiento de un LLM, también pueden contribuir a mejorar la calidad de sus respuestas.