• Генеральный директор Google Сундар Пичаи признал, что результаты его ИИ Gemini вызвали скандал, после того как выяснилось, что модель ИИ выдаёт исторически неточные описания.
  • На прошлой неделе Google принял меры, временно приостановив возможность Gemini генерировать изображения.
  • Сундар Пичаи пообещал продолжить работу над повышением точности и беспристрастности ИИ Gemini.

ИИ Gemini оказался в центре скандала из-за исторически неточных результатов

Сундар Пичаи, генеральный директор Googleпризнал, что результаты его ИИ Gemini вызвали споры, заявив во внутренней служебной записке, что сгенерированные изображения и текст «оскорбили наших пользователей и проявили предвзятость». Это признание последовало за обнаружением того, что модель ИИ создала исторически неточные изображения, в том числе расово разнообразных немецких солдат нацистской эпохи, небелых отцов-основателей США и ошибочные изображения сооснователей самой Google. Пичаи подчёркивает серьёзность ситуации: это первое широкое обращение гендиректора по данному вопросу.

Читайте также: Gemini от Google ожидается на Android-смартфонах в следующем году

Временная приостановка генерации изображений Gemini и извинения

На прошлой неделе Google принял меры, временно приостановив возможность Gemini генерировать изображения из-за скандала. Решение последовало после публичного раскрытия проблемных результатов модели ИИ, вызвавшего резкую критику. Компания принесла извинения, признав, что ИИ Gemini «промахнулся», и заявила о готовности решить проблемы. Несмотря на извинения, Google не уточнил, были ли проблемы полностью устранены. Решение временно отключить функцию генерации изображений направлено на снижение влияния предвзятых и неточных изображений.

Заверения гендиректора Пичаи и обязательства по улучшению

Во внутренней служебной записке, о которой сообщил Semafor, генеральный директор Сундар Пичаи подчёркивает стремление Google исправить проблемы, связанные с ИИ Gemini. Пичаи сообщает, что компания усердно работала над устранением «проблемных текстовых и визуальных ответов» в приложении Gemini. Не утверждая, что проблемы полностью решены, Пичаи признаёт несовершенство ИИ, особенно на этом раннем этапе развития отрасли.

Ниже вы можете прочитать полную служебную записку Сундара Пичаи сотрудникам Google:

Всем привет. Я хочу затронуть недавние проблемы, связанные с проблемными текстовыми и визуальными ответами в приложении Gemini (ранее Bard). Я знаю, что некоторые из этих ответов оскорбили наших пользователей и проявили предвзятость — если говорить прямо, это совершенно неприемлемо, и мы ошиблись.

Наши команды работали круглосуточно, чтобы решить эти проблемы. Мы уже видим существенные улучшения по широкому кругу запросов. Ни один ИИ не совершенен, особенно на этом зарождающемся этапе развития отрасли, но мы знаем, что планка для нас высока, и мы будем продолжать столько, сколько потребуется. Мы также разберёмся в том, что произошло, и позаботимся о том, чтобы исправить проблему в широком масштабе.

Наша миссия — систематизировать мировую информацию и сделать её общедоступной и полезной — священна. Мы всегда стремились предоставлять пользователям полезную, точную и беспристрастную информацию в наших продуктах. Именно поэтому люди им доверяют. Таким должен быть наш подход ко всем продуктам, включая наши новые ИИ-продукты.

Мы реализуем чёткий набор мер, включая структурные изменения, обновлённые продуктовые руководства, улучшенные процессы запуска, тщательное тестирование и учения red team, а также технические рекомендации. Мы рассматриваем всё это и внесём необходимые изменения.

Извлекая уроки из того, что здесь пошло не так, мы должны также использовать продуктовые и технические анонсы, которые мы сделали в области ИИ за последние недели. Это включает фундаментальные достижения в наших базовых моделях, например наш прорыв с окном контекста в миллион токенов и наши открытые модели — оба были хорошо приняты.

Мы знаем, что нужно для создания отличных продуктов, которыми пользуются и которые ценят миллиарды людей и компаний, и благодаря нашей инфраструктуре и исследовательскому опыту у нас есть отличная стартовая площадка для волны ИИ. Давайте сосредоточимся на самом важном: на создании полезных продуктов, которые заслуживают доверия наших пользователей.