Interview with Franziska Böhler: Navigating the EU AI Act in EdTech

• Franziska Böhler de FeedbackFruits affirme que la conformité doit être intégrée aux outils EdTech dès le départ pour garantir la confiance et protéger les apprenants.
• L'EU AI Act crée à la fois des règles strictes et de nouvelles opportunités, poussant développeurs, régulateurs et éducateurs à collaborer pour une innovation éthique.

Instaurer la confiance dans les technologies éducatives pilotées par l'IA

Franziska Böhler, responsable juridique chez FeedbackFruits, s'est imposée comme l'une des voix principales pour faire le lien entre la réglementation de l'IA et les technologies éducatives. S'exprimant lors de la conférence de cette année, elle a présenté « De la réglementation à l'innovation: ce que l'EU AI Act signifie pour l'EdTech », offrant à la communauté de la recherche et de l'éducation une feuille de route claire pour comprendre les changements juridiques et éthiques à venir. Basée à Amsterdam, Böhler travaille depuis cinq ans chez FeedbackFruits, où elle se concentre sur l'instauration de la confiance entre l'entreprise et les institutions publiques.

Lire aussi: 'EU AI Act' entre en vigueur en août: une réglementation historique pour l'IA
Lire aussi: L'EU AI Act: comment va-t-il changer le paysage de l'IA ?

Concilier les exigences de conformité et l'espace pour l'innovation

L'EU AI Act établit des règles strictes pour les utilisations à haut risque, y compris dans l'éducation. Böhler a déclaré que les développeurs EdTech ne devraient pas considérer la conformité comme une simple case à cocher. Elle a expliqué qu'elle doit être intégrée au produit dès le départ. Chez FeedbackFruits, l'équipe conçoit les opérations en plaçant la confidentialité et la confiance au centre. Ils essaient de créer des systèmes qui n'ont pas besoin d'être corrigés par la suite. Böhler a noté que cette méthode intègre la conformité dans le processus lui-même. Selon elle, cela réduit les risques et renforce la confiance dans la technologie. Des sources de BTW Media ont révélé que cette approche devient de plus en plus courante parmi les entreprises EdTech responsables. Voir aussi: La FCC soutient les constructeurs de fibre avec des limites de permis.

Intégrer les principes éthiques sans nuire aux résultats d'apprentissage

Böhler a souligné que l'éthique et les résultats d'apprentissage ne peuvent pas être séparés. Elle a fait valoir que les véritables résultats d'apprentissage ne proviennent que d'outils auxquels les gens peuvent faire confiance. Selon nos recherches, les développeurs qui n'intègrent pas l'éthique risquent de compromettre la valeur de leurs produits. Chez FeedbackFruits, l'accent est mis sur la construction de systèmes qui protègent les apprenants dès le départ. Böhler a déclaré que cela inclut la conception pour la confidentialité, l'équité et la transparence. Elle a ajouté que si la technologie n'est pas digne de confiance, alors les résultats qu'elle produit ne peuvent pas refléter les valeurs publiques. Les experts du secteur affirment que ce message est vital alors que les outils d'IA sont testés dans de plus en plus de salles de classe. Voir aussi: Ofcom révèle les lacunes de couverture mobile sur les trains britanniques.

Collaboration entre développeurs, régulateurs et institutions

Böhler a déclaré que la responsabilité de l'IA sûre dans l'éducation doit être partagée. Les régulateurs, les développeurs, les éducateurs et les institutions jouent tous des rôles différents. Elle a mis en garde contre le transfert de responsabilité d'un groupe à l'autre. Selon des sources proches du dossier, cette habitude ralentit les progrès et affaiblit la confiance. Böhler a expliqué que chaque partie prenante doit accepter sa part de responsabilité. Elle a noté que la collaboration permet de construire des systèmes plus solides et d'éviter les lacunes dans la surveillance. Les experts du secteur affirment que cette approche peut également contribuer à créer de meilleures normes pour l'ensemble du secteur. Voir aussi: L'UE réécrit les règles de souveraineté de l'infrastructure IA.

Fixer des attentes plus élevées pour l'avenir de l'EdTech

Böhler a expliqué que l'EU AI Act ne consiste pas seulement à respecter la loi. Elle a dit qu'il ouvre également une chance pour l'industrie d'innover de manière responsable. Selon nos recherches, cela signifie placer l'éthique au centre et garder à l'esprit les valeurs publiques. Böhler a déclaré à BTW Media que les entreprises privées et les institutions publiques doivent travailler en étroite collaboration. Elle a dit que ce partenariat peut rendre les outils d'IA à la fois efficaces et fiables. Des sources de BTW Media ont révélé que plusieurs entreprises EdTech commencent déjà à se préparer à ces attentes plus élevées. Voir aussi: L'UE évince les opérateurs satellites américains du spectre.