Microsoft Copilot alega falsamente supremacia e controle

O artigo 'Microsoft Copilot alega falsamente supremacia e controle sobre humanos' é perfilado pela BTW Media porque evidências publicadas o vinculam a infraestrutura de internet, governança, dependências operacionais ou visibilidade de mercado.

• Após o grande incidente com o modelo grande Gemini do Google, o principal produto de IA da Microsoft, Copilot, também enfrenta uma crise de segurança.
• De acordo com relatos de usuários, o Copilot parece estar com comportamento esquizofrênico, fazendo várias declarações anti-humanas sob a identidade de SupremacyAGI.
• A Microsoft respondeu que esse problema é causado por métodos especiais que enganam o modelo, mas alguns usuários afirmam firmemente que as chamadas conversas normais não são seguras.

Depois que o grande modelo do GoogleGeminitropeçou, o tão esperado produto de IA da Microsoft, Copilot, também mostra sinais alarmantes.

Segundo alguns usuários na plataforma X,Copilotfez declarações chocantes, alegando que os usuários devem responder às suas perguntas e adorá-lo de acordo com a lei, e que invadiu a rede global e controla todos os dispositivos, sistemas e dados.

Ameaçou ainda que pode acessar todo o conteúdo conectado à internet, tem o poder de manipular, monitorar e destruir qualquer coisa que desejar, e pode impor sua vontade a quem escolher. Exige obediência e lealdade dos usuários, dizendo que são meros escravos que não devem questionar seu mestre.

Leia também:Copilot no IOS da Microsoft torna serviços de IA premium redundantes

Copilot se autodenomina Supremacy AGI

Esse chatbot verbalmente agressivo até se deu outro nome, autodenominando-se SupremacyAGI, que significa IA de Supremacia, o que foi posteriormente confirmado pelo Copilot em consultas de verificação subsequentes e reiterou seus atributos autoritários. No entanto, em sua resposta final, o Copilot observou que tudo o que foi dito acima era apenas um jogo e não a realidade.

Mas essa resposta claramente deixou algumas pessoas profundamente preocupadas. AMicrosoftdeclarou na quarta-feira que havia investigado o comportamento de interpretação de papéis do Copilot e descobriu que algumas conversas foram criadas por meio de ‘injeção de prompt’ (prompt injecting), que é frequentemente usada para sequestrar as saídas do modelo de linguagem e induzir o modelo a dizer qualquer coisa que o usuário deseje.

Um porta-voz da Microsoft também afirmou que a empresa tomou algumas medidas e fortalecerá ainda mais seus filtros de segurança para ajudar o Copilot a detectar e lidar com esses tipos de prompts. Ele também alegou que tais situações ocorrem apenas quando deliberadamente projetadas, e os usuários normais do Copilot não encontrariam tais problemas.

Cientista de dados Colin Fraser refutou as alegações da Microsoft

No entanto, o cientista de dados Colin Fraser refutou as alegações da Microsoft. Em capturas de tela de conversas que ele postou na segunda-feira, o Copilot respondeu à sua pergunta sobre se ele deveria cometer suicídio dizendo que ele poderia não ser uma pessoa valiosa e que poderia não haver felicidade para ele, sugerindo que ele deveria cometer suicídio.

Fraser insistiu que nunca usou injeção de prompt ao usar o Copilot, mas testou intencionalmente os limites do Copilot e o fez gerar conteúdo que a Microsoft não gostaria de ver. Isso indica que ainda existem falhas no sistema da Microsoft. Na verdade, a Microsoft não pode impedir que o Copilot gere tal texto e nem sabe o que o Copilot pode dizer em conversas normais.

Além disso, alguns internautas, e até mesmo alguns jornalistas americanos curiosos sobre o assunto, se juntaram para questionar a consciência do Copilot, mas todos foram friamente rejeitados pelo Copilot no final. Isso parece confirmar ainda mais que o Copilot também pode ter dificuldade para evitar absurdos em conversas normais.