- Недавние инициативы Google в области ИИ, несмотря на ошибки в результатах поиска, сгенерированных ИИ, укрепили доверие рынка, показав стремление компании сохранять конкурентное преимущество и лидировать в меняющейся поисковой отрасли.
- Недавние результаты поиска Google, сгенерированные ИИ, включая странные советы вроде «ешьте камешки», вызвали споры о готовности и надёжности ИИ как источника точной информации.
- Скандал вокруг ошибок в результатах поиска Google, сгенерированных ИИ, возобновил дискуссию о будущем интернета: есть опасения, что генеративный поиск может подорвать традиционную структуру веба, снизив необходимость для пользователей посещать разные сайты.
Недавние инициативы Google в области ИИ, несмотря на критику за ошибки в результатах поиска, сгенерированных ИИ, продемонстрировали устойчивость и доверие рынка, о чём свидетельствует рост акций Google. Компания, судя по всему, делает смелые шаги в сфере ИИ не только ради пользователей, но и для сохранения конкурентного преимущества перед такими соперниками, какBing, который, несмотря на улучшения с ИИ, занимает небольшую долю поискового рынка. Упорство Google в развитии ИИ даже на фоне громких промахов подчёркивает, что компания осознаёт эволюцию поиска и стремится оставаться лидером отрасли.
1. ИИ-обзоры Google советуют людям есть камешки
Недавние результаты поиска Google, сгенерированные ИИ, наделали много шума, выявив серьёзные ошибки в рекомендациях ИИ. В одном удивительном примере ИИ Google посоветовал пользователям съедать по небольшому камешку в день и добавлять нетоксичный клей в пиццу, чтобы она лучше держалась. Эти странные и ошибочные результаты вызвали дискуссии о готовности и надёжности ответов, созданных ИИ. Переход Google к генеративному поиску, при котором ИИ отвечает напрямую, а не ведёт пользователей на другие сайты, возложил на компанию большую ответственность за предоставляемую информацию.
Читайте также:Продукт ИИ-обзоров Google подвергся критике из-за необычных ответов
2. История запусков ИИ-продуктов Google полна неудач
Послужной список Google в запусках ИИ-продуктов далеко не безупречен: его часто сопровождают громкие ошибки и негативная реакция публики. Недавние ошибки в результатах поиска, сгенерированных ИИ, — лишь последний из череды промахов, включая печально известный запуск чат-бота Bard, который из-за неточной информации стоил компании миллиарды долларов рыночной стоимости. Несмотря на эти неудачи, Google продолжает развивать свои ИИ-инициативы, что отражает его стремление вести отрасль за счёт инноваций.
3. Команда супералайгмента OpenAI в хаосе
Внутренние проблемы OpenAI вскрылись после роспуска команды супералайгмента — группы, занимавшейся безопасностью ИИ и согласованием с человеческими ценностями. Уход ключевых участников, таких какJan Leike, указывает на глубокие разногласия с руководством компании по поводу приоритетов и распределения ресурсов. Эти отставки вызвали вопросы о приверженности OpenAI безопасности ИИ, тем более что участники команды подчёркивали необходимость большего внимания к безопасности, надзору и устойчивости к атакам.
Читайте также:Google использует ИИ для ответов на поисковые запросы
4. Практика NDA в OpenAI
OpenAI недавно оказалась под пристальным вниманием из-за строгих соглашений о неразглашении (NDA), которые действуют бессрочно и вызывают серьёзные этические и практические опасения. Эти соглашения запрещают бывшим сотрудникам когда-либо негативно высказываться о своём опыте или внутренней работе компании. Этот бессрочный запрет на высказывания приобрёл особую значимость после роспуска команды супералайгмента OpenAI, которая отвечала за безопасность ИИ и согласование с человеческими ценностями.
5. Существует ли непосредственный риск для безопасности ИИ или команда ушла, потому что его нет?
Недавние отставки из команды супералайгмента OpenAI породили догадки об их истинных причинах. С одной стороны, команда могла видеть серьёзные риски для безопасности в моделях OpenAI и считать, что к их опасениям недостаточно прислушиваются. С другой стороны, некоторые утверждают, что эти уходы могут указывать на то, что технология ИИ не настолько продвинута или опасна, как опасаются, что вызывает разочарование у тех, кто занимается безопасностью.
Известные эксперты по ИИ, такие как Yann LeCun, предположили, что опасения по поводу непосредственных рисков ИИ преувеличены, сравнив их с ранними преувеличенными страхами о безопасности авиации до того, как технология была полностью развита.