Entrevista com Franziska Böhler: Navegando o EU AI Act em EdTech

A entrevista com Franziska Böhler: Navegando o EU AI Act na EdTech é perfilada pela BTW Media porque evidências publicadas a vinculam à infraestrutura da internet, governança, dependências operacionais ou visibilidade de mercado.

• Franziska Böhler, da FeedbackFruits, afirma que a conformidade deve ser incorporada nas ferramentas EdTech desde o início para garantir confiança e proteger os alunos.
• O EU AI Act cria tanto regras rígidas quanto novas oportunidades, incentivando desenvolvedores, reguladores e educadores a colaborar para a inovação ética.

Construindo confiança em tecnologias educacionais baseadas em IA

Franziska Böhler, Chefe Jurídica daFeedbackFruits, emergiu como uma das principais vozes na conexão entre regulação de IA e tecnologia educacional. Falando na conferência deste ano, ela apresentou “Da Regulação à Inovação: O que o EU AI Act Significa para a EdTech”, oferecendo à comunidade de pesquisa e educacional um roteiro claro para entender as mudanças legais e éticas que estão por vir. Sedidada em Amsterdã, Böhler passou cinco anos na FeedbackFruits, onde se concentra em construir confiança entre a empresa e instituições públicas.

Leia também:‘EU AI Act’ entra em vigor em agosto: um marco regulatório para a IA
Leia também:O EU AI ACT: Como ele mudará o cenário da IA?

Equilibrando as exigências de conformidade com espaço para inovação

O EU AI Act estabelece regras rígidas para usos de alto risco, e isso inclui a educação. Böhler disse que os desenvolvedores de EdTech não devem ver a conformidade apenas como marcar caixas. Ela explicou que ela deve ser incorporada ao produto desde o início. Na FeedbackFruits, a equipe projeta as operações com privacidade e confiança no centro. Eles tentam criar sistemas que não precisem ser corrigidos posteriormente. Böhler observou que esse método torna a conformidade parte do processo em si. Segundo ela, isso reduz o risco e cria maior confiança na tecnologia.

Fontes da BTW Media revelaram que essa abordagem está se tornando mais comum entre empresas EdTech responsáveis.

Incorporando princípios éticos sem prejudicar os resultados de aprendizagem

Böhler enfatizou que ética e resultados de aprendizagem não podem ser separados. Ela argumentou que resultados de aprendizagem reais só vêm de ferramentas nas quais as pessoas podem confiar. De acordo com nossa pesquisa, desenvolvedores que não incorporam a ética correm o risco de prejudicar o valor de seus produtos. Na FeedbackFruits, o foco está em construir sistemas que protejam os alunos desde o início. Böhler disse que isso inclui projetar para privacidade, justiça e transparência. Ela acrescentou que, se a tecnologia não for confiável, os resultados que ela produz não podem refletir os valores públicos.

Especialistas do setor dizem que essa mensagem é vital à medida que as ferramentas de IA são testadas em mais salas de aula.

Colaboração entre desenvolvedores, reguladores e instituições

Böhler disse que a responsabilidade pela IA segura na educação deve ser compartilhada. Reguladores, desenvolvedores, educadores e instituições desempenham papéis diferentes. Ela alertou contra a transferência de responsabilidade de um grupo para outro. De acordo com fontes familiarizadas com o assunto, esse hábito desacelera o progresso e enfraquece a confiança. Böhler explicou que cada parte interessada deve aceitar sua parcela de responsabilidade. Ela observou que a colaboração constrói sistemas mais fortes e evita lacunas na supervisão.

Especialistas do setor dizem que essa abordagem também pode ajudar a criar melhores padrões para todo o setor.

Estabelecendo expectativas mais altas para o futuro da EdTech

Böhler explicou que o EU AI Act não se trata apenas de cumprir a lei. Ela disse que também abre uma oportunidade para a indústria inovar de forma responsável. De acordo com nossa pesquisa, isso significa colocar a ética no centro e manter os valores públicos em mente. Böhler disse à BTW Media que empresas privadas e instituições públicas devem trabalhar juntas de perto. Ela afirmou que essa parceria pode tornar as ferramentas de IA eficazes e confiáveis. Fontes da BTW Media revelaram que várias empresas de EdTech já estão começando a se preparar para essas expectativas mais altas.