• Franziska Böhler de FeedbackFruits afirma que el cumplimiento debe integrarse en las herramientas EdTech desde el principio para garantizar la confianza y proteger a los estudiantes.
  • La Ley de IA de la UE crea tanto reglas estrictas como nuevas oportunidades, impulsando a desarrolladores, reguladores y educadores a colaborar para una innovación ética.

Construyendo confianza en las tecnologías educativas impulsadas por IA

Franziska Böhler, Jefa del Departamento Legal en FeedbackFruits, se ha convertido en una de las voces líderes en la intersección entre la regulación de la IA y la tecnología educativa. En la conferencia de este año, presentó "De la regulación a la innovación: Lo que la Ley de IA de la UE significa para EdTech", brindando a la comunidad investigadora y educativa una hoja de ruta clara para comprender los cambios legales y éticos que se avecinan. Con sede en Ámsterdam, Böhler ha trabajado cinco años en FeedbackFruits, donde se enfoca en construir confianza entre la empresa y las instituciones públicas.

Lea también: La 'Ley de IA de la UE' entra en vigor en agosto: Un reglamento histórico para la IA
Lea también: La Ley de IA de la UE: ¿Cómo cambiará el panorama de la IA?

Equilibrando las exigencias de cumplimiento con el espacio para la innovación

La Ley de IA de la UE establece reglas estrictas para usos de alto riesgo, y esto incluye la educación. Böhler dijo que los desarrolladores de EdTech no deben ver el cumplimiento solo como marcar casillas. Explicó que debe integrarse en el producto desde el principio. En FeedbackFruits, el equipo diseña las operaciones con la privacidad y la confianza en el centro. Intentan crear sistemas que no necesiten ser corregidos más tarde. Böhler señaló que este método hace que el cumplimiento sea parte del proceso mismo. Según ella, esto reduce el riesgo y genera una mayor confianza en la tecnología.

Fuentes de BTW Media han revelado que este enfoque se está volviendo más común entre las empresas responsables de EdTech.

Incorporando principios éticos sin perjudicar los resultados del aprendizaje

Böhler enfatizó que la ética y los resultados del aprendizaje no pueden separarse. Argumentó que los verdaderos resultados de aprendizaje solo provienen de herramientas en las que las personas pueden confiar. Según nuestra investigación, los desarrolladores que no incorporan la ética corren el riesgo de socavar el valor de sus productos. En FeedbackFruits, el enfoque está en construir sistemas que protejan a los estudiantes desde el principio. Böhler dijo que esto incluye diseñar para la privacidad, la equidad y la transparencia.

Añadió que si la tecnología no es confiable, entonces los resultados que produce no pueden reflejar los valores públicos. Los expertos de la industria dicen que este mensaje es vital a medida que las herramientas de IA se prueban en más aulas.

Colaboración entre desarrolladores, reguladores e instituciones

Böhler dijo que la responsabilidad por una IA segura en la educación debe ser compartida. Los reguladores, desarrolladores, educadores e instituciones desempeñan roles diferentes. Advirtió en contra de pasar la responsabilidad de un grupo a otro. Según fuentes con conocimiento del tema, este hábito ralentiza el progreso y debilita la confianza. Böhler explicó que cada parte interesada debe aceptar su parte de responsabilidad. Señaló que la colaboración construye sistemas más sólidos y evita brechas en la supervisión. Los expertos de la industria dicen que este enfoque también puede ayudar a crear mejores estándares para todo el sector.

Estableciendo expectativas más altas para el futuro de EdTech

Böhler explicó que la Ley de IA de la UE no se trata solo de seguir la ley. Dijo que también abre una oportunidad para que la industria innove de manera responsable. Según nuestra investigación, esto significa poner la ética en el centro y tener en cuenta los valores públicos. Böhler dijo a BTW Media que las empresas privadas y las instituciones públicas deben trabajar juntas de cerca. Afirmó que esta asociación puede hacer que las herramientas de IA sean efectivas y confiables. Fuentes de BTW Media han revelado que varias empresas de EdTech ya están comenzando a prepararse para estas expectativas más altas.