• Google представила три модели генеративного ИИ, в которых приоритет отдан безопасности, прозрачности и простоте использования, — это важный шаг в развитии технологий открытых моделей.
  • Эти модели призваны развивать сотрудничество в сообществе разработчиков и одновременно отвечать на растущие опасения по поводу безопасности и этичного использования ИИ.

НАШЕ МНЕНИЕ
Эти новые модели отражают стремление Google поддержать сообщество разработчиков, предоставляя доступные инструменты для исследований и коммерческих приложений и реагируя на проблемы безопасности, связанные с ИИ.
— Lilith Chen, корреспондент BTW

Что произошло

Googleв рамках последней попытки повысить безопасностьгенеративного ИИпредставила новые модели Gemma 2: Gemma 2 2B, ShieldGemma и Gemma Scope. Они основаны на семействе Gemma 2, запущенном в мае, и предназначены для разных задач с акцентом на безопасность пользователей и прозрачность.

Gemma 2 2B — лёгкая модель, способная работать на различном оборудовании, включая ноутбуки и периферийные устройства. Её можно легко загрузить с таких платформ, как библиотека моделей Vertex AI от Google и Kaggle, что делает её доступной широкому кругу разработчиков. ShieldGemma, в свою очередь, представляет собой набор классификаторов безопасности, которые выявляют и отфильтровывают вредоносный контент, включая разжигание ненависти, домогательства и материалы откровенно сексуального характера, способствуя созданию более безопасных ИИ-взаимодействий.

Наконец, Gemma Scope позволяет разработчикам лучше понять внутреннее устройство моделей Gemma 2, предоставляя подробную информацию об их возможностях обработки данных и прогнозирования, что способствует более ответственному развитию ИИ.

Читайте также:Что такое OpenAI?

Читайте также:Apple использует чипы Google для обучения моделей ИИ

Читайте также:Олимпийская ИИ-реклама Google вызвала дискуссию о подлинности

Почему это важно

Публикация этих моделей согласуется с недавним докладом Министерства торговли США, в котором поддерживаются открытые технологии ИИ и подчёркиваются их потенциальные преимущества для малого бизнеса и исследователей. В докладе отмечается важность доступности передовых инструментов ИИ, поскольку они способны стимулировать инновации и повышать конкурентоспособность в разных отраслях. Кроме того, в нём подчёркивается необходимость мониторинга моделей ИИ для снижения потенциальных рисков, связанных с их использованием, и обеспечения ответственного применения.

Делая эти генеративные модели ИИ доступными, Google стремится поддержать инновации в сообществе разработчиков, одновременно решая критические вопросы безопасности в приложениях ИИ. Акцент на безопасности и прозрачности отражает растущее осознание этических последствий технологии ИИ. Инициатива Google не только расширяет участие в разработке ИИ, но и поощряет ответственные практики, ставящие во главу угла безопасность пользователей. По мере развития генеративного ИИ усилия компании, вероятно, сыграют решающую роль в создании более безопасного и справедливого технологического ландшафта.