• Google представил три новые модели генеративного ИИ — Gemma 2 2B, ShieldGemma и Gemma Scope, которые созданы более безопасными, компактными и прозрачными, чем большинство существующих моделей.
  • Эти модели входят в семейство Gemma 2 от Google и призваны укрепить доверие в сообществе разработчиков и ответить на опасения по поводу безопасности в приложениях ИИ.

НАШЕ МНЕНИЕ
Google запускает три новые модели генеративного ИИ — Gemma 2 2B, ShieldGemma и Gemma Scope. Эти модели входят в семейство Gemma 2 от Google, цель которого — укрепить доверие в сообществе разработчиков и ответить на опасения по поводу безопасности в приложениях ИИ за счёт более безопасных и понятных технологий. Запуск этих моделей следует за признанием открытых моделей ИИ в предварительном отчёте Министерства торговли США, в котором подчёркивается важность открытых моделей для малого бизнеса, исследователей, некоммерческих организаций и отдельных разработчиков, а также необходимость мониторинга таких моделей на предмет потенциальных рисков.
— Rae Li, журналист BTW

Что произошло

Google выпустил три новые модели генеративного ИИ: Gemma 2 2B, ShieldGemma и Gemma Scope. Gemma 2 2B — это лёгкая модель для генерации и анализа текста, которая может работать на широком спектре оборудования, включая ноутбуки и периферийные устройства. Она лицензирована для использования в некоторых исследовательских и коммерческих приложениях и доступна для загрузки избиблиотеки моделей Vertex AIот Google, платформы для науки о данных Kaggle и набора инструментов AI Studio от Google. ShieldGemma — это серия «классификаторов безопасности», предназначенных для выявления вредоносной информации, такой как разжигание ненависти, домогательства и порнография. Она основана на Gemma 2 и может использоваться для фильтрации промптов генерации моделей и контента, созданного моделями. Наконец,Gemma Scopeпозволяет разработчикам исследовать отдельные части модели Gemma 2, делая её внутреннюю работу более интерпретируемой. В сообщении в блоге Google описывает Gemma Scope как состоящий из специализированных нейронных сетей, которые помогают разобрать сложную информацию, обрабатываемую Gemma 2, и представить её в более удобных для анализа и понимания формах. Изучая эти расширенные представления, исследователи могут получить ценные сведения о том, как Gemma 2 распознаёт закономерности, обрабатывает информацию и, в конечном счёте, делает прогнозы.

Публикация этих новых моделей последовала за признанием открытых моделей ИИ Министерством торговли США в предварительном отчёте. В отчёте отмечается, что открытые модели делают генеративный ИИ более доступным для малого бизнеса, исследователей, некоммерческих организаций и отдельных разработчиков, а также подчёркивается важность мониторинга этих моделей на предмет потенциальных рисков.

Читайте также:Apple использует чипы Google для обучения моделей ИИ

Читайте также:Британский антимонопольный орган изучает партнёрство Google с Anthropic

Почему это важно

Три новые модели генеративного ИИ, выпущенные Google, важны, поскольку они представляют собой ключевые достижения в области безопасности и прозрачности технологий ИИ. Лёгкая конструкция Gemma 2 2B и её способность работать на широком спектре оборудования делают передовые технологии ИИ доступными для более широкого круга разработчиков и малых предприятий, что помогает сократить технологический разрыв и стимулировать инновации.

В то же время классификатор безопасности ShieldGemma и функции интерпретируемости Gemma Scope предлагают новые решения этических проблем и проблем безопасности в приложениях ИИ, которые имеют решающее значение для укрепления доверия пользователей и обеспечения ответственного использования технологий ИИ.

Публикация этих моделей перекликается с признанием открытых моделей ИИ Министерством торговли США, подчёркивая роль открытых моделей в продвижении демократизации технологий и инноваций. Запустив эти модели, Google продемонстрировал не только своё лидерство в области ИИ, но и приверженность развитию открытого и ответственного ИИ.