• Исторически неточные изображения и тексты, сгенерированные ИИ Gemini от Google, оскорбили пользователей и продемонстрировали предвзятость.
  • Google активно работает над устранением проблем Gemini и отмечает прогресс в совершенствовании защитных механизмов инструмента, чтобы избежать подобных инцидентов в будущем.
  • Google обязуется предоставлять пользователям точную, полезную и непредвзятую информацию во всех своих продуктах, включая инновации в сфере ИИ.

Послескандала вокруг Gemini, связанного с ИИ-приложением Google, генеральный директорSundar Pichaiпублично признал проблемные ответы, сгенерированные инструментом, и пообещал провести существенные структурные изменения для решения проблем. Инструмент генерации изображений Gemini был временно приостановлен после того, как выдал оскорбительные и неловкие результаты, например пропуск изображений белых людей или добавление изображений женщин и цветных людей в неподходящие контексты, такие как викинги, нацисты и Папа Римский.

Споры вокруг Gemini

Ситуация усугубилась, когда Gemini начал генерировать сомнительные текстовые ответы, в том числе проводя параллели междуElon MuskиAdolf Hitler, что вызвало критику с разных сторон, особенно со стороны консерваторов, обвинивших Google в предвзятости против белых людей. Этот инцидент подчёркивает важность внедрения защитных механизмов и мер для предотвращения предвзятости и обеспечения ответственного использования ИИ, особенно с учётом предыдущих случаев подобных опасений в отрасли.

Sundar Pichai подчеркнул, что компания активно работает над устранением проблем Gemini, и отметил прогресс в совершенствовании защитных механизмов инструмента, чтобы избежать подобных инцидентов в будущем. Pichai вновь подтвердил обязательство Google предоставлять пользователям точную, полезную и непредвзятую информацию во всех своих продуктах, включая инновации в сфере ИИ.

Признавая несовершенство, присущее технологиям ИИ, Pichai представил дорожную карту комплексных действий, направленных на решение текущих задач, включая структурные реформы, обновлённые руководящие принципы, усовершенствованные процессы оценки и технические улучшения.

Читайте также:Gemini от Google, как ожидается, появится на Android-смартфонах в следующем году

Обязательство Google устранить проблемы

Провал Gemini вызвал споры о технических ошибках при доработке моделей ИИ, а не о намеренной предвзятости внутри Google. Внимание сместилось на совершенствование программных защитных механизмов для эффективного регулирования результатов работы ИИ. Эта проблема отражает более широкую отраслевую задачу, с которой сталкиваются компании, разрабатывающие потребительские ИИ-приложения, и подчёркивает необходимость надёжных механизмов управления.

Правые критики использовали скандал вокруг Gemini как доказательство либеральной предвзятости в технологических компаниях, однако отраслевые эксперты считают, что первопричина кроется в недостатках технического надзора, а не в намеренных манипуляциях. Инцидент напоминает о быстром темпе инноваций в сфере ИИ, который заставляет такие компании, как Google, ускорять разработку продуктов и уделять первоочередное внимание исправлению ошибок для сохранения доверия.

Читайте также:Google приостановила функцию генерации изображений модели ИИ Gemini

Обеспечение ответственного развёртывания ИИ

Хотя технические аспекты инцидента с Gemini считаются исправимыми, репутационные последствия для Google могут стать более серьёзной проблемой. Ответ Pichai подчёркивает стремление компании быстро решить проблему, однако восстановление доверия и репутации в отрасли потребует дальнейших последовательных усилий и прозрачности.