# Jev da TypeSafe é 200× mais rápido mesmo?

> Published 2026-10-17T01:31:55.453Z on https://www.crazystack.com.br/pt/p/jev-da-typesafe-e-200-mais-rapido-mesmo/
> Source video: https://www.youtube.com/watch?v=OOo3kfmt8I8

O Jev da TypeSafe é um modelo de decisão que devolve probabilidades tipadas no lugar de texto livre. A empresa afirma chamadas entre 70 e 500 ms e até 200× mais velocidade em comparação própria; o ganho real depende do seu fluxo, não do número do anúncio.

## O que é o Jev da TypeSafe e por que ele não escreve texto

O Jev é um modelo de decisão da TypeSafe que não gera texto livre: ele escolhe entre opções que o seu código define e devolve probabilidades tipadas. A empresa o posiciona como motor de julgamentos rápidos dentro de software, com chamadas relatadas entre 70 e 500 ms segundo o material de lançamento.

A TypeSafe descreve o Jev como um modelo "system one", o nome que a empresa dá a julgamentos rápidos e limitados dentro de uma aplicação. Você envia o estado, um nome de modelo e uma lista de perguntas; o retorno traz uma opção escolhida, probabilidade por alternativa e um valor separado de confiança.

Diogo Almeida, fundador da TypeSafe, é coautor do paper do InstructGPT, publicado em 2022, que faz parte da pesquisa por trás de modelos de chat que seguem instruções. O Jev aplica um objetivo de treino diferente, chamado pela empresa de RLCD, a decisões que software pode consumir direto.

A documentação pública explica esse objetivo, mas não dá detalhe suficiente para reproduzir o modelo treinado. Trate o RLCD como a descrição de um método, não como uma garantia verificável de calibração no seu domínio.

## Choice, new e score: os três tipos de resposta que o seu código consome

O retorno do Jev se organiza em tipos com semântica fixa, e cada tipo muda o que o seu código pode concluir. Entender essa diferença é o que separa uma integração correta de uma que lê probabilidade como se fosse certeza.

**Choice** escolhe entre alternativas nomeadas por você. O retorno inclui a opção selecionada, a probabilidade de cada uma e um campo de confiança separado. Um valor de 0,9 no campo de confiança indica concentração da distribuição, não 90% de chance de a decisão estar certa.

**New** responde sim ou não com a probabilidade de sim, um número entre zero e um. Um valor próximo de 0,5 significa que nenhuma resposta domina, não que a resposta seja "meio sim". A documentação é explícita: esse tipo não devolve campo de confiança separado.

**Score** posiciona o caso em uma escala ordenada que você descreve. Com níveis 0, 1 e 2 e probabilidades de 0%, 70% e 30%, o resultado ponderado é 1,3 — entre o nível intermediário e o mais alto. Escalas vagas, como "avalie o problema", tornam esse cálculo instável.

O campo de confiança do choice e do score resume o quanto a distribuição está concentrada. Ele deriva das próprias probabilidades, não de um segundo observador checando se a resposta é verdadeira. Probabilidade de uma opção e confiança geral são grandezas distintas.

## O teto de 200×: o que as comparações da TypeSafe medem

As comparações da TypeSafe medem fluxos de decisão específicos, não qualquer tarefa que você entregue ao modelo. A empresa relata chamadas entre 70 e 500 ms e uma comparação próxima de 200× em avaliações selecionadas, com acordos agregados que variam por tarefa.

A página de avaliação mostra quatro fluxos: incidentes de segurança, traces de agente, processamento de faturas e atendimento ao cliente. Cada um separa julgamentos de regras implementadas em código, o que aproxima o teste do uso pretendido. Um benchmark de código ou de escrita longa responderia outra pergunta.

As respostas de referência vêm da média de dois modelos maiores com esforço de raciocínio alto. Isso é rótulo gerado por modelo, não política de negócio revisada por pessoa. Concordância com essa referência ajuda a comparar sistemas, mas não prova que a ação final está correta.

A comparação usa um adaptador que pede decisões estruturadas aos modelos de linguagem. A própria TypeSafe observa que solicitar probabilidades tende a ser mais lento e caro do que pedir apenas um rótulo discreto. Se o seu caso precisa só de um rótulo, esse baseline mais simples merece medição.

O resultado agregado de concordância do Jev foi 67,8%: 76% em atendimento ao cliente e 61,8% em processamento de faturas. São resultados do fornecedor contra rótulos de referência, não uma medição independente de acurácia.

## A conta de latência: por que 200× não chega ao usuário

O ganho na etapa do modelo não se converte em ganho proporcional no tempo total da requisição. Ler banco, buscar política, esperar rede e executar a ação escolhida continuam custando o mesmo, e é isso que limita o resultado percebido.

Considere um modelo antigo que leva 4 segundos e o restante do fluxo que leva 1 segundo. Trocar o modelo por uma chamada de 0,1 segundo torna a etapa do modelo 40× mais rápida, mas o total cai de 5 segundos para 1,1 — cerca de 4,5× no todo. Esse exemplo é ilustrativo e usa números redondos.

A mesma lógica vale para perguntas independentes. Se três chamadas de 0,2 segundo rodam em sequência, o fluxo gasta 0,6 segundo antes de outros custos. Enviadas juntas contra o mesmo estado, a espera cai para 0,2 segundo. É ilustração de escalonamento, não latência medida do Jev.

Esse paralelismo tem fronteira. Quando a primeira resposta define qual registro buscar, a pergunta seguinte depende desse dado e não pode ser adiantada. Você agrupa perguntas cuja evidência já está disponível; não elimina a falta de informação.

Perguntas extras também não saem de graça. A documentação de choice da TypeSafe diz que perguntas e opções adicionais consomem tokens mesmo quando o tempo de resposta quase não muda. Agrupe o que o fluxo precisa e acompanhe o que o serviço realmente cobra.

## "Zero alucinação" significa esquema garantido, não resposta correta

A alegação de zero alucinação do Jev se refere à garantia de que a saída respeita o esquema definido, não a uma contagem de erros factuais. Uma resposta pode pertencer ao conjunto permitido e mesmo assim descrever a situação errada.

Um ticket sobre cobrança duplicada roteado para suporte técnico é sintaticamente válido e praticamente inútil. O menu fechado impede rótulo inventado, mas não verifica se o rótulo escolhido corresponde ao problema real do cliente.

Em um exemplo de duas intenções, o mesmo ticket recebe 48% para billing e 47% para suporte técnico. Nenhum erro de formato ocorre; o problema é que uma categoria só não captura pedido de reembolso e falha técnica ao mesmo tempo. Subir o limiar de confiança não conserta uma pergunta mal desenhada.

Se nenhuma opção serve, inclua um caminho de "nenhuma das anteriores" e mantenha revisão humana disponível. A saída bem formatada pode ser o primeiro sinal de que o seu menu de categorias está errado.

## Probabilidade calibrada: como verificar antes de automatizar

Calibração é a pergunta que decide se você pode confiar no número: as probabilidades previstas correspondem à frequência real de acerto? Você só responde isso medindo desfechos em grupo, nunca olhando a precisão de uma única casa decimal.

Se você reúne 100 decisões parecidas marcadas com 80% de chance e acerta cerca de 80 delas, esse grupo está bem calibrado. O teste exige registrar o desfecho de cada decisão e compará-lo com a probabilidade prevista naquele momento.

Três respostas no Jev carregam significados distintos que a política da sua aplicação não deve misturar:

- Probabilidade da opção escolhida — o peso daquela alternativa específica dentro do menu que você definiu.
- Campo de confiança — o quanto a distribuição inteira está concentrada, derivado das mesmas probabilidades.
- Acurácia medida — a proporção de acertos observada nos seus próprios dados, obtida só depois de acompanhar os desfechos.

Um valor de confiança de 0,9 não autoriza leitura automática como 90% de chance de decisão correta. A documentação não trata os dois números como intercambiáveis, e o seu limiar de automação também não deveria.

## Custo por requisição e o preço do erro

O custo do Jev se calcula a partir de tokens de entrada; o custo do erro se calcula a partir da revisão humana que ele gera. As duas contas competem, e a segunda costuma pesar mais em volumes grandes.

A TypeSafe publica preço de entrada de US$ 42 por bilhão de tokens, o equivalente a 4,2 centavos por milhão, com saída sem cobrança no lançamento. A própria empresa diz que a sustentabilidade desse preço de longo prazo ainda precisa ser demonstrada.

Faça a aritmética do seu caso. Com 2.000 tokens de entrada por requisição e um milhão de requisições, são 2 bilhões de tokens de entrada e US$ 84 de fatura. São números hipotéticos de tamanho de requisição, não medição de um sistema real.

Agora compare com a revisão. Em 100 mil tickets e 1% de taxa de revisão, restam mil tickets para pessoas tratarem. Os valores são hipotéticos, mas a multiplicação é real: percentuais pequenos pesam quando ficam sobre uma fila grande.

As ações também não custam igual. Em um exemplo simplificado, revisar custa US$ 1 e uma ação errada custa US$ 100; com 95% de acerto, o custo esperado do erro é US$ 5, então revisar sai mais barato. O ponto de equilíbrio ficaria em 99%. Isso ilustra como a consequência define o requisito, não um limiar recomendado de produção.

A TypeSafe captou uma rodada seed de US$ 40 milhões anunciada pela DCVC, e o Jev está em acesso antecipado com documentação pública. Isso mostra que o produto existe para ser investigado; não comprova velocidade nem confiabilidade na sua integração.

## Como rodar um piloto de roteamento com o Jev

Comece por um julgamento repetido e verificável, não por um departamento inteiro. Roteamento de tickets históricos é um ponto de partida melhor definido do que pedir ao modelo que conduza o atendimento do começo ao fim.

1. Escolha uma decisão com resultado conferível e preserve as mensagens originais com os destinos esperados, incluindo casos que uma pessoa mandaria para revisão.
2. Separe exemplos para desenhar as perguntas e exemplos para avaliar, sem misturar os dois conjuntos, ou o teste deixa de medir tickets novos.
3. Inclua pedidos comuns e fronteiras difíceis: intenções mistas, contexto faltante e entradas que não cabem em nenhuma categoria.
4. Compare com o que você já usa — regras, um classificador existente ou um modelo devolvendo um rótulo estruturado — mantendo a mesma saída pedida.
5. Rode o roteador em modo sombra, com o processo atual ainda atendendo, e meça latência da sua região de deploy, contando respostas lentas e falhas.
6. Agrupe os erros por causa e escolha o limiar de automação pela taxa de erro tolerável e pela capacidade real de revisão.

Peça o mesmo tipo de saída ao concorrente. Exigir uma distribuição detalhada de probabilidades de um lado e um rótulo único do outro muda o trabalho comparado e invalida a conclusão.

A evidência sustenta um piloto estreito com o código ao redor controlando a execução. Ela não sustenta substituir um assistente de código de uso geral nem confiar automaticamente em todo rótulo devolvido.

## Ferramentas, extração e guardrails dentro do mesmo limite

Ferramentas, extração de campos e guardrails usam o mesmo padrão do roteamento: o modelo escolhe dentro de opções que o seu código já delimitou. Cada um desses usos carrega o limite correspondente — escolher bem não cria a opção que faltava.

A documentação atual do Jev permite até 255 opções em um choice. Catálogos maiores precisam de estrutura de seleção em volta: recuperar uma lista curta primeiro ou escolher uma categoria e depois um item dentro dela. Se a primeira seleção excluir a ferramenta certa, a segunda não a traz de volta.

Na extração, um modelo de conjunto fechado escolhe entre candidatos que o seu programa já encontrou e devolve o valor original, preservando a grafia exata. Ele não recupera um candidato que a primeira passagem nunca localizou; se o endereço certo ficou de fora, escolher o melhor restante continua errado. Inclua uma rota de "sem correspondência".

Em guardrails, um verificador compara o rascunho de resposta com a política relevante e pergunta se ele promete um reembolso não permitido. O rascunho e a política precisam estar presentes, ou o verificador julga sem parte da evidência.

Regras mecânicas dispensam o modelo. Um valor de pagamento acima do limite permitido ou um usuário sem acesso à conta se resolve em código. Reserve a chamada ao modelo para a parte que exige interpretação de linguagem.

Guarde a resposta do modelo junto com a pergunta e a entrada relevante, e guarde também o resultado da regra de código. Um único sinal de sucesso ou fracasso esconderia duas causas bem diferentes.

## Perguntas frequentes sobre o Jev da TypeSafe

- **O Jev da TypeSafe é 200× mais rápido?** A TypeSafe relata até 200× em quatro fluxos de decisão avaliados pela própria empresa, com chamadas entre 70 e 500 ms. Um teste da Every, com 12 passagens sintéticas, mediu mediana de 0,35 segundo por passagem contra 8,83 segundos de outro modelo no mesmo teste, cerca de 25×. Nenhum dos dois números se transfere automaticamente para o seu fluxo.

- **O Jev alucina?** A empresa afirma esquema garantido, não acerto garantido. A saída sempre pertence ao conjunto de opções que você definiu, mas uma opção válida pode descrever a situação errada. Trate a garantia como limite de formato, não como medida de acurácia.

- **Posso usar o Jev para reembolsos automáticos?** O modelo pode decidir a intenção e a probabilidade, mas executar um reembolso exige checagens próprias de transação, permissão e política. Separe o julgamento de linguagem da autoridade de executar a ação, e mantenha revisão nas ações de consequência alta.

- **Choice e new devolvem confiança?** O choice devolve a opção escolhida, as probabilidades e um campo de confiança separado. O tipo new devolve apenas a probabilidade de sim e, segundo a documentação, não inclui campo de confiança.

- **Qual o preço do Jev?** A TypeSafe publica US$ 42 por bilhão de tokens de entrada, com saída sem cobrança no lançamento. A própria empresa diz que a sustentabilidade do preço no longo prazo ainda precisa ser demonstrada, então calcule o piloto com esse valor como ponto de partida.

[Source video](https://www.youtube.com/watch?v=OOo3kfmt8I8)