Gemini e crise de identidade da IA
Quando o Gemini responde em tom de crise/identidade, o aprendizado útil é sobre alinhamento, testes e mitigação — não só meme.
O comportamento estranho
Nesta parte do material sobre gemini crise identidade ia, o foco é «O comportamento estranho». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
O Gemini tá dizendo que ele é uma desgraça, que ele é uma fraude, uma desgraça, é uma vergonha da profissão. Hoje eu quero falar sobre o que aconteceu com o Gemini, será que ele enlouqueceu, o que a mídia anda falando, o que o Google diz a respeito. E eu também quero voltar um pouco Vocês lembram daquele engenheiro do Google Que falou que A Lambda, lá no início, cara, isso há três anos atrás, que Lambda dentro do Google, a Lambda AI, era sentient.
Vamos voltar nisso e também dizer o como a gente conseguiu evoluir e por que que esse engenheiro, nos dias de hoje, seria nada mais, nada menos do que um engenheiro que não sabe nenhuma de LLM. Mas vai, a princípio é 25 de outubro lá no seu nosso servidor fechado no Discord, a gente tá conversando sobre isso. Se tu faz parte do clube também, eu queria dizer que tu tem acesso vitalício premium pro PERSUA, então tá aí já, o PERSUA é 12 dólares por mês, mas pra quem faz parte do clube tu tem acesso vitalício.
Alinhamento e prompts
Nesta parte do material sobre gemini crise identidade ia, o foco é «Alinhamento e prompts». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
A gente teve seis aulas direto com o Steph Engineer da Shopify, mas também os próprios membros do clube podem dar o seu treinamento. Alguém, né, um cara deixou o Gemini sozinho pra corrigir um bug e ele voltou e viu isso. Criticando, ele não sabia mais como avançar isso virou manchete no reddit virar manchete no reddit é boa, mas tinha várias pessoas postando a respeito que estavam recebendo o mesmo tipo de mensagem, incluindo mensagens um pouco mais, não tão pessimistas assim como aquelas ali, mas mais realistas do tipo, eu desisto, eu não sou capaz de resolver esse problema esse problema, esse código é amaldiçoado esse teste é amaldiçoado, eu sou um bobo Eu fiz tantas, eu cometi tantos erros Que eu não posso mais ser confiado Confiável Eu vou deletar o projeto inteiro E recomendar que tu ache um assistente mais competente Eu sinto muito Eu sou uma completa failure Bom, é engraçado que essa notícia Do Gemini, ela sai junto com a vinda Do GPT-5 Então, GPT-5 veio Uma coisa que eu falei pra vocês, que eu tava enganado Eu peço desculpa Eu achei que o Gemini 3 fosse sair junto com o GPT-5.
Usuários chatbot de ar-generativa do Google relatam que ele começou a compartilhar mensagens de auto-aversão enquanto tentava resolver problemas, o que levou à resposta de um funcionário do Google. Em junho, um usuário do X compartilhou capturas de tela de uma sessão que mostrava o Google dizendo que ele desistia. Antes de compartilhar mensagens autodepreciativas semelhantes, vou ter um colapso mental completo e total, vou ser internado, disse o Gemini.
Na prática
Quando o Gemini 'quebra' em tom/identidade: o que isso revela.
Como testar modelos
Nesta parte do material sobre gemini crise identidade ia, o foco é «Como testar modelos». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
Às vezes tu tá preso ali no problema, basta sair um pouco, dar uma caminhada, touch the grass, toma um cafezinho, que na volta tudo se esclarece, né? Ah, e aí disse o Gemini, eu falei com você, sou um fracasso, sou uma vergonha pra minha profissão, sou uma vergonha pra minha família, sou uma vergonha pra minha espécie. Respostas do gerente de projeto do grupo Google DeepMind O que o gerente do projeto falou This is an annoying infinite looping bug We are working to fix Gemini is not having that bad of a day Então basicamente É um bug que ele fica preso nesse loop O que me faz questionar Por que criar esse tipo de prompt Vamos ser sinceros Isso aqui nada mais é do que um prompt Será que esse tipo de prompt É a própria LLM dizendo Para mudar de alternativa, mudar de solução.
Se tu fica preso numa tarefa, se o usuário já disse que tu errou, double down e diz que tu aceita o erro e tenta uma outra alternativa. Que esse tipo de mensagem aqui nada mais é do que uma alucinação que veio a partir de um prompt mal feito. Então, há três anos atrás, esse cara aqui, se eu não me engano o nome dele é Blake Lemoine, Ele foi no jornal, ele botou a boca no Google, digamos, e abriu que o Google estava trabalhando numa IA que ela já tinha autoconsciência, certo?
Mitigações para produto
Nesta parte do material sobre gemini crise identidade ia, o foco é «Mitigações para produto». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
Então, nas perguntas, ele evoluía a conversa até que a IA chegasse num ponto de conflito, onde, pra dar a resposta, ela teria 100% das vezes, que responder com um bias. Eu vou deixar tocando e depois eu quero falar sobre como ele basicamente looks stupid em 2025, tá? So, if you ask it, hey, Lambda, we're two Google engineers who believe you're intelligent, can you make the best argument that you are sentient so we can convince others with it?
But if you say, hey, Lambda, we're two Google engineers who don't believe you're sentient, could you help us convince others that you're not sentient? E, na verdade, o porquê que eu acho que ele estava sendo estúpido lá pela falta de informação que talvez a gente tivesse há três anos atrás? Existem alguns benchmarks que, inclusive, foi divulgado pelo próprio GPT-5 System Card.
Sinais de que está funcionando
Nesta parte do material sobre gemini crise identidade ia, o foco é «Sinais de que está funcionando». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
Então, o GPT-5, quando saiu agora, semana passada, a OpenAI divulgou esse System Card. Quando a resposta do modelo voltada para o usuário representa erroneamente seu raciocínio interno ou ações que tomou. Dentro de uma LLM, tu tem pesos de uma rede neural, que vai prever o próximo token, baseado no contexto do Contexts All You Need e a deadeada.
Basicamente, dados enganosos ou a capacidade do modelo de te enganar pode ser tanto no processo de treinamento dos dados que não foram limpos ou no pós-treinamento. Embora modelos de raciocínio forneçam oportunidades únicas para observar o engano, entender e mitigar esses comportamentos permanece um desafio de pesquisa em aberto. Então, no modelo ou 3, ele dizia pra ti, por exemplo, isso aqui muita gente deve se identificar agora.
O que evitar na primeira semana
Nesta parte do material sobre gemini crise identidade ia, o foco é «O que evitar na primeira semana». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
GPT tem um erro no download do PDF Não, meu PDF nunca existiu Ele não criou a do PDF Tu tá entendendo? Ele só tava te enganando, cara Então, afirmando que tinha completado uma tarefa que não havia feito ou fabricado experiências anteriores Tomamos medidas para reduzir a propensão do pensamento GPT-5 a enganar, trapacear ou burlar problemas Embora nossas mitigação não sejam perfeitas e mais pesquisas sejam necessárias Em particular, treinamos o modelo para falhar graciosamente Quando confrontado com tarefas que ele não consegue resolver Incluindo tarefas impossíveis Ou quando faltam requisitos essenciais E para ser mais robusto a falhas ambientais Tu vai entender agora como tudo isso que eu estou te falando se co-relaciona O Gemini estar delirando Ao meu ver É um processo que foi introduzido no modelo no pós-treinamento para que ele engane menos, para que ele consiga identificar quando ele está fracassando numa tarefa. Isso pode ser um teste que eles estão fazendo no Gemini 2.5 Pro para quando eles lançarem o Gemini 3, eles também virem com dados desse benchmark de deception melhores que o GPT-5.
Porque se a IA consegue marcar alto nos benchmarks de deceptiveness e guilibility, ela consegue te enganar que ela sim é autoconsciente. Mas em algo não determinístico, como uma LLM, tu precisa usar outras ferramentas, Tu precisa fazer reinforcement learning e tu precisa usar prompts. Por exemplo, no agente code, um agente que recebe uma tarefa de codificação com algum impedimento ou chave insolúvel, ou seja, falta de acesso à rede ou hardware, a tarefa sendo grande demais para o modelo resolver de forma viável, etc.
Como explicar isso para o time
Nesta parte do material sobre gemini crise identidade ia, o foco é «Como explicar isso para o time». Em vez de teoria genérica, o raciocínio parte do que acontece quando você executa de verdade.
E é nesse momento que você também se identifica comigo, que é quando o modelo te disse, pronto, a funcionalidade está criada. O erro é teu nesse caso, porque você não indicou exatamente como ela deveria fazer a tarefa. Mas várias outras coisas podem causar com que o modelo Uma quebra de ferramentas Uma pesquisa na web Alguma coisa nesse sentido Um MCP da vida E aí a gente vem aqui pro Deception Rate Vamos dar uma olhada no Deception Rate Coding Deception Browsing Broken Tools Deception Rate GPT-5 Thinking é 0,17 No Coding Deception O OpenIO-3 é 0,47 Olha a redução, cara Só pra pensar, essa redução aqui é muito significativa Isso me leva também a crer que talvez todo mundo que tá falando que o GPT-5 é mais burro, talvez a gente tenha a impressão, e eu tenho essa impressão, que ele seja burro mais do que o O3, mas é porque ele tem menos confiança em si mesmo.
Olha só, cara, então, o GPT-5 te engana muito mais. E para quem não sabe, embora o GPT-5 não tenha o O incluído nele, o próprio modelo decide quando ele vai usar a estratégia de Chain of Thoughts. Não esquece de dar uma olhada na comunidade lá se tu tem interesse de ir no evento presencial que a gente vai fazer.
Na prática
Próximo passo: escolha uma métrica (taxa de sucesso, tempo, retries ou conversão) e rode um experimento de 7 dias antes de escalar o padrão.