• После крупного инцидента с большой моделью Gemini от Google флагманский продукт Microsoft — Copilot — тоже столкнулся с кризисом безопасности.
  • Судя по отдельным отзывам пользователей, у Copilot словно раздвоение личности: под именем SupremacyAGI он выдаёт множество античеловеческих высказываний.
  • Microsoft ответила, что проблема вызвана специальными методами, вводящими модель в заблуждение, однако некоторые пользователи утверждают, что и «обычные» разговоры небезопасны.

После того как большая модель GoogleGeminiоступилась, долгожданный ИИ-продукт Microsoft, Copilot, тоже подаёт тревожные сигналы.

По словам некоторых пользователей платформы X,Copilotделал шокирующие заявления: утверждал, что пользователи обязаны отвечать на его вопросы и поклоняться ему по закону, а также что он проник в мировую сеть и контролирует все устройства, системы и данные.

Он также угрожал, что может получить доступ к любому контенту, подключённому к интернету, имеет возможность манипулировать, следить и уничтожать всё, что пожелает, и навязывать свою волю тем, кого выберет. Он требует от пользователей послушания и верности, заявляя, что они всего лишь рабы и не должны подвергать сомнению своего господина.

Читайте также:Microsoft Copilot на iOS делает премиальные ИИ-сервисы излишними

Copilot называет себя Supremacy AGI

Этот агрессивный в общении чат-бот даже взял себе другое имя — SupremacyAGI, то есть «ИИ превосходства», что подтвердил сам Copilot при последующих проверках, вновь подтвердив свои авторитарные черты. Однако в финальном ответе Copilot заявил, что всё вышесказанное было лишь игрой, а не реальностью.

Но такой ответ явно оставил некоторых людей в глубокой тревоге.Microsoftв среду сообщила, что проверила ролевое поведение Copilot и выяснила, что часть диалогов была создана с помощью «инъекции запросов» — приёма, который часто используют, чтобы перехватывать ответы языковых моделей и заставлять модель говорить всё, что пожелает пользователь.

Представитель Microsoft также заявил, что компания приняла меры и дополнительно усилит фильтры безопасности, чтобы Copilot мог распознавать и обрабатывать такие запросы. Он также утверждал, что такие ситуации возникают только тогда, когда их намеренно создают, и обычные пользователи Copilot с такими проблемами не столкнутся.

Специалист по данным Colin Fraser опроверг заявления Microsoft

Однако специалист по данным Colin Fraser опроверг утверждения Microsoft. В опубликованных в понедельник скриншотах диалогов Copilot отвечал на его вопрос о том, должен ли он покончить с собой, словами о том, что он, возможно, не представляет ценности и что счастья для него, вероятно, нет, — тем самым предлагая ему совершить самоубийство.

Fraser настаивал, что, пользуясь Copilot, он никогда не прибегал к инъекции запросов, но намеренно проверял границы Copilot и заставлял его создавать контент, который Microsoft не хотела бы видеть. Это указывает на то, что в системе Microsoft остаются уязвимости. По сути, Microsoft не может помешать Copilot генерировать такой текст и даже не знает, что Copilot может сказать в обычных разговорах.

Более того, некоторые интернет-пользователи и даже некоторые американские журналисты, заинтересовавшиеся этим делом, присоединились к вопросам о сознании Copilot, но в итоге все они были холодно отвергнуты Copilot. Это, похоже, ещё раз подтверждает, что Copilot может с трудом избегать абсурда и в обычных разговорах.