• Franziska Böhler von FeedbackFruits betont, dass Compliance von Anfang an in EdTech-Tools integriert werden muss, um Vertrauen zu gewährleisten und Lernende zu schützen.
  • Der EU AI Act schafft sowohl strenge Regeln als auch neue Chancen und drängt Entwickler, Regulierungsbehörden und Pädagogen zur Zusammenarbeit für ethische Innovation.

Vertrauen in KI-gesteuerte Bildungstechnologien aufbauen

Franziska Böhler, Legal Lead beiFeedbackFruits, hat sich als eine der führenden Stimmen etabliert, die die Verbindung zwischen KI-Regulierung und Bildungstechnologien herstellt. Auf der diesjährigen Konferenz präsentierte sie „Von der Regulierung zur Innovation: Was der EU AI Act für die EdTech bedeutet“ und bot der Forschungs- und Bildungsgemeinschaft eine klare Roadmap, um die bevorstehenden rechtlichen und ethischen Veränderungen zu verstehen. Böhler, die in Amsterdam ansässig ist, arbeitet seit fünf Jahren bei FeedbackFruits, wo sie sich darauf konzentriert, Vertrauen zwischen dem Unternehmen und öffentlichen Institutionen aufzubauen.

Lesen Sie auch:‘EU AI Act’ tritt im August in Kraft: eine wegweisende Regulierung für KI
Lesen Sie auch:Der EU AI Act: Wie wird er die KI-Landschaft verändern?

Balance zwischen Compliance-Anforderungen und Raum für Innovation

Der EU AI Act legt strenge Regeln für Hochrisiko-Anwendungen fest, einschließlich im Bildungsbereich. Böhler sagte, dass EdTech-Entwickler Compliance nicht als reine Checkliste betrachten sollten. Sie erklärte, dass sie von Anfang an in das Produkt integriert werden muss. Bei FeedbackFruits gestaltet das Team die Abläufe so, dass Datenschutz und Vertrauen im Mittelpunkt stehen. Sie versuchen, Systeme zu schaffen, die später nicht korrigiert werden müssen. Böhler bemerkte, dass diese Methode Compliance in den Prozess selbst integriert. Laut ihr reduziert dies Risiken und stärkt das Vertrauen in die Technologie.

Quellen von BTW Media haben enthüllt, dass dieser Ansatz bei verantwortungsbewussten EdTech-Unternehmen immer üblicher wird.

Ethische Prinzipien integrieren, ohne Lernergebnisse zu beeinträchtigen

Böhler betonte, dass Ethik und Lernergebnisse nicht getrennt werden können. Sie argumentierte, dass echte Lernergebnisse nur von Werkzeugen kommen, denen Menschen vertrauen können. Laut unserer Forschung riskieren Entwickler, die Ethik nicht integrieren, den Wert ihrer Produkte zu beeinträchtigen. Bei FeedbackFruits liegt der Fokus auf dem Aufbau von Systemen, die Lernende von Anfang an schützen. Böhler sagte, dass dies die Gestaltung für Datenschutz, Fairness und Transparenz umfasst. Sie fügte hinzu, dass die Ergebnisse nicht die öffentlichen Werte widerspiegeln können, wenn die Technologie nicht vertrauenswürdig ist.

Branchenexperten sagen, dass diese Botschaft lebenswichtig ist, da KI-Tools in immer mehr Klassenzimmern getestet werden.

Zusammenarbeit zwischen Entwicklern, Regulierungsbehörden und Institutionen

Böhler sagte, dass die Verantwortung für sichere KI in der Bildung geteilt werden muss. Regulierungsbehörden, Entwickler, Pädagogen und Institutionen spielen alle unterschiedliche Rollen. Sie warnte davor, die Verantwortung von einer Gruppe auf eine andere zu übertragen. Laut Quellen, die dem Fall nahe stehen, verlangsamt diese Gewohnheit Fortschritte und schwächt das Vertrauen. Böhler erklärte, dass jeder Beteiligte seinen Teil der Verantwortung akzeptieren muss. Sie bemerkte, dass Zusammenarbeit hilft, robustere Systeme aufzubauen und Lücken in der Überwachung zu vermeiden.

Branchenexperten sagen, dass dieser Ansatz auch dazu beitragen kann, bessere Standards für die gesamte Branche zu schaffen.

Höhere Erwartungen an die Zukunft der EdTech setzen

Böhler erklärte, dass der EU AI Act nicht nur die Einhaltung des Gesetzes betrifft. Sie sagte, dass er auch eine Chance für die Industrie bietet, verantwortungsvoll zu innovieren. Laut unserer Forschung bedeutet dies, Ethik in den Mittelpunkt zu stellen und die öffentlichen Werte im Auge zu behalten. Böhler sagte gegenüber BTW Media, dass private Unternehmen und öffentliche Institutionen eng zusammenarbeiten müssen. Sie sagte, dass diese Partnerschaft KI-Werkzeuge sowohl effektiv als auch vertrauenswürdig machen kann.

Quellen von BTW Media haben enthüllt, dass mehrere EdTech-Unternehmen bereits beginnen, sich auf diese höheren Erwartungen vorzubereiten.