• Franziska Böhler из FeedbackFruits считает, что соответствие требованиям должно быть заложено в EdTech-инструменты с самого начала, чтобы обеспечить доверие и защитить учащихся.
  • EU AI Act создаёт и строгие правила, и новые возможности, побуждая разработчиков, регуляторов и педагогов сотрудничать ради этичных инноваций.

Доверие к образовательным технологиям на основе ИИ

Franziska Böhler, руководитель юридического отделаFeedbackFruits, стала одним из ведущих голосов на стыке регулирования ИИ и образовательных технологий. Выступая на конференции этого года, она представила доклад «От регулирования к инновациям: что EU AI Act означает для EdTech», дав научному и образовательному сообществу чёткую дорожную карту для понимания грядущих правовых и этических изменений. Böhler работает в Амстердаме и уже пять лет занимается в FeedbackFruits выстраиванием доверия между компанией и государственными учреждениями.

Читайте также:«EU AI Act» вступает в силу в августе: этапное регулирование для ИИ
Читайте также:EU AI Act: как он изменит ландшафт ИИ?

Баланс между требованиями соответствия и пространством для инноваций

EU AI Act устанавливает строгие правила для использования систем с высоким риском, и образование входит в эту сферу. По словам Böhler, разработчикам EdTech не стоит воспринимать соответствие требованиям как простое проставление галочек. Она пояснила, что соответствие должно быть заложено в продукт с самого начала. В FeedbackFruits команда выстраивает процессы с конфиденциальностью и доверием в центре внимания. Они стараются создавать системы, которые не придётся дорабатывать постфактум. Böhler отметила, что такой подход делает соответствие частью самого процесса. По её словам, это снижает риски и укрепляет доверие к технологии.

Источники BTW Media сообщают, что такой подход становится всё более распространённым среди ответственных EdTech-компаний.

Этические принципы без ущерба для образовательных результатов

Böhler подчеркнула, что этику и образовательные результаты нельзя разделять. Она утверждает, что настоящие результаты в обучении дают только инструменты, которым люди могут доверять. Согласно нашему исследованию, разработчики, не закладывающие этические принципы, рискуют обесценить свои продукты. В FeedbackFruits основное внимание уделяется созданию систем, защищающих учащихся с самого начала. Böhler отметила, что это включает проектирование с учётом конфиденциальности, справедливости и прозрачности. Она добавила, что если технология не заслуживает доверия, то и результаты, которые она даёт, не могут отражать общественные ценности.

Отраслевые эксперты говорят, что этот посыл крайне важен, поскольку ИИ-инструменты всё чаще тестируются в классах.

Сотрудничество разработчиков, регуляторов и учреждений

Böhler заявила, что ответственность за безопасный ИИ в образовании должна быть общей. Регуляторы, разработчики, педагоги и учреждения выполняют разные роли. Она предостерегла от перекладывания ответственности с одной группы на другую. По данным источников, знакомых с ситуацией, такая привычка замедляет прогресс и подрывает доверие. Böhler пояснила, что каждый участник должен принять на себя свою долю ответственности. Она отметила, что сотрудничество создаёт более устойчивые системы и позволяет избежать пробелов в надзоре. Отраслевые эксперты считают, что этот подход также помогает вырабатывать более качественные стандарты для всей отрасли.

Повышение ожиданий к будущему EdTech

Böhler пояснила, что EU AI Act — это не только соблюдение закона. По её словам, он также даёт отрасли возможность ответственно внедрять инновации. Согласно нашему исследованию, это означает ставить этику в центр и помнить об общественных ценностях. Böhler рассказала BTW Media, что частные компании и государственные учреждения должны тесно сотрудничать. Она отметила, что такое партнёрство может сделать ИИ-инструменты одновременно эффективными и заслуживающими доверия. Источники BTW Media сообщили, что ряд EdTech-компаний уже начинает готовиться к этим более высоким ожиданиям.