• Franziska Böhler, da FeedbackFruits, afirma que a conformidade deve ser integrada às ferramentas EdTech desde o início para garantir a confiança e proteger os alunos.
  • O EU AI Act cria tanto regras rígidas quanto novas oportunidades, incentivando desenvolvedores, reguladores e educadores a colaborar para uma inovação ética.

Estabelecendo confiança em tecnologias educacionais impulsionadas por IA

Franziska Böhler, responsável jurídica naFeedbackFruits, tornou-se uma das principais vozes na conexão entre a regulamentação de IA e as tecnologias educacionais. Falando na conferência deste ano, ela apresentou "Da Regulamentação à Inovação: O que o EU AI Act significa para a EdTech", oferecendo à comunidade de pesquisa e educação um roteiro claro para entender as mudanças jurídicas e éticas que virão. Baseada em Amsterdã, Böhler trabalha há cinco anos na FeedbackFruits, onde foca em estabelecer confiança entre a empresa e as instituições públicas.

Leia também:'EU AI Act' entra em vigor em agosto: uma regulamentação histórica para a IA
Leia também:O EU AI Act: como ele mudará o cenário da IA?

Equilibrando as exigências de conformidade e o espaço para a inovação

O EU AI Act estabelece regras rígidas para usos de alto risco, inclusive na educação. Böhler afirmou que os desenvolvedores de EdTech não devem considerar a conformidade como uma mera caixa de seleção. Ela explicou que ela deve ser integrada ao produto desde o início. Na FeedbackFruits, a equipe projeta as operações colocando a privacidade e a confiança no centro. Eles tentam criar sistemas que não precisam ser corrigidos posteriormente. Böhler observou que esse método incorpora a conformidade no próprio processo. Segundo ela, isso reduz riscos e fortalece a confiança na tecnologia.

Fontes da BTW Media revelaram que essa abordagem está se tornando cada vez mais comum entre empresas EdTech responsáveis.

Integrando princípios éticos sem prejudicar os resultados de aprendizagem

Böhler enfatizou que a ética e os resultados de aprendizagem não podem ser separados. Ela argumentou que os verdadeiros resultados de aprendizagem vêm apenas de ferramentas nas quais as pessoas podem confiar. De acordo com nossas pesquisas, desenvolvedores que não integram a ética correm o risco de comprometer o valor de seus produtos. Na FeedbackFruits, o foco está na construção de sistemas que protejam os alunos desde o início. Böhler afirmou que isso inclui o design para privacidade, equidade e transparência. Ela acrescentou que, se a tecnologia não for confiável, os resultados que ela produz não podem refletir os valores públicos.

Especialistas do setor afirmam que essa mensagem é vital à medida que ferramentas de IA são testadas em mais e mais salas de aula.

Colaboração entre desenvolvedores, reguladores e instituições

Böhler afirmou que a responsabilidade pela IA segura na educação deve ser compartilhada. Reguladores, desenvolvedores, educadores e instituições desempenham papéis diferentes. Ela alertou contra a transferência de responsabilidade de um grupo para outro. De acordo com fontes próximas ao caso, esse hábito retarda o progresso e enfraquece a confiança. Böhler explicou que cada parte interessada deve aceitar sua parcela de responsabilidade. Ela observou que a colaboração permite construir sistemas mais robustos e evitar lacunas na supervisão.

Especialistas do setor afirmam que essa abordagem também pode ajudar a criar melhores padrões para todo o setor.

Estabelecendo expectativas mais altas para o futuro da EdTech

Böhler explicou que o EU AI Act não se trata apenas de cumprir a lei. Ela disse que também abre uma oportunidade para a indústria inovar de forma responsável. De acordo com nossas pesquisas, isso significa colocar a ética no centro e manter os valores públicos em mente. Böhler disse à BTW Media que empresas privadas e instituições públicas devem trabalhar em estreita colaboração. Ela afirmou que essa parceria pode tornar as ferramentas de IA eficazes e confiáveis. Fontes da BTW Media revelaram que várias empresas de EdTech já estão começando a se preparar para essas expectativas mais altas.