• Ключевой внутренний орган Google по надзору за этикой ИИ, RESIN, ожидает реорганизация.
  • Реорганизация предусматривает разделение команды: 10% останутся в RESIN, а 90% перейдут в подразделение доверия и безопасности, что подчёркивает приверженность Google этичным практикам в сфере ИИ.
  • В этом месяце RESIN покинули влиятельные сотрудники, включая Jen Gennai и Sara Tangdall, что вызывает вопросы о будущем надзора за ИИ в Google.

В недавнем сообщенииSundar Pichaiо приоритетахGoogleна 2024 год ответственная разработка ИИ заняла первое место. Однако у сотрудников возникли сомнения в способности компании достичь этой цели. Внутренний орган надзора за этикой ИИ — команда ответственных инноваций Google (RESIN) — проходит реорганизацию после внезапного ухода её руководителя и основателя Jen Gennai, что порождает неопределённость относительно будущей роли RESIN. Несмотря на это, Google заверяет, что работа RESIN продолжится в усиленном виде, подчёркивая приверженность компании ответственному ИИ.

Значение RESIN растёт по мере развития генеративного ИИ

RESIN, входящий в состав Управления по соблюдению нормативных требований и добросовестности в подразделении по глобальным вопросам, играл ключевую роль в проверке внутренних проектов на соответствие принципам Google в области ИИ. Эта задача становится всё более критичной по мере того, как Google конкурирует в быстро развивающейся сферегенеративного ИИ. В прошлом году команда провела более 500 проверок, внося значительный вклад в приверженность Google этичным практикам в области ИИ.

После ухода Jen Gennai судьба RESIN выглядит неопределённой, что побудило Google разделить команду примерно из 30 человек. При этом 10% останутся в RESIN, а большинство — 90% — переведено в подразделение доверия и безопасности, которое занимается борьбой со злоупотреблениями сервисами Google. Важно, что сообщений об увольнениях нет, а представитель Google Brian Gabriel подчёркивает, что реорганизация свидетельствует о приверженности ответственной разработке ИИ.

Также читайте:Лаборатория X компании Google сталкивается с реорганизацией на фоне финансовых трудностей

Подробности реорганизации недостаточно прозрачны

Несмотря на эти заверения, детали обоснования реорганизации и распределения обязанностей остаются нераскрытыми. Эта непрозрачность вызывает у сотрудников неуверенность в том, как в будущем будут проводиться проверки на соответствие принципам ИИ. Gabriel отказался сообщить подробности о том, как будет организована работа RESIN в будущем, но утверждает, что перестановка направлена на интеграцию усилий по ответственному ИИ в устоявшиеся инициативы Google в области доверия и безопасности, что в конечном итоге укрепит и масштабирует ответственные инновации во всей компании.

Google известна частыми перестановками в своих рядах, однако RESIN оставалась практически незатронутой с момента создания группы. Хотя надзором за ИИ в Google занимаются и другие команды, а также сотни дополнительных сотрудников, RESIN была самой заметной: в её зону ответственности входили все ключевые сервисы Google.

Помимо ухода руководителя Gennai, в этом месяце RESIN покинула одна из самых влиятельных участниц команды — ведущий специалист по этике принципов ИИ Sara Tangdall. Согласно её профилю в LinkedIn, теперь она занимает должность директора по продуктам ответственного ИИ в Salesforce. Tangdall отказалась от комментариев, а Gennai не ответила на запросы о комментариях.