Cache semântico.
Definição direta
Cache semântico é o reaproveitamento de uma resposta armazenada quando uma nova solicitação é considerada suficientemente semelhante a outra já atendida. A seleção costuma usar representações vetoriais e critérios adicionais de escopo, validade e identidade. A técnica pode evitar uma nova geração, mas similaridade entre perguntas não garante que a mesma resposta seja correta para ambas.
O que não significa
Não é prompt caching, busca documental comum ou autorização para compartilhar respostas entre usuários. Duas perguntas podem parecer próximas e exigir conclusões diferentes por data, local, produto ou negação. O critério de reutilização precisa considerar essas diferenças, além da pontuação produzida pelo mecanismo de similaridade.
Mecanismo
Como funciona na prática
O sistema transforma a solicitação em uma representação pesquisável e busca entradas anteriores elegíveis. Antes de reutilizar uma resposta, aplica filtros de escopo e validade, junto do critério de proximidade. Quando não há correspondência adequada, executa o fluxo normal e decide se o novo resultado pode ser armazenado para uso futuro.
- 01
Definir solicitações e respostas elegíveis ao cache.
- 02
Buscar similaridade dentro do escopo permitido.
- 03
Conferir validade, contexto e critérios de reutilização.
- 04
Gerar nova resposta quando a correspondência não for segura.
Medição
Como verificar sem extrapolar a evidência
Meça taxa de reutilização junto da correção das respostas servidas, custo e latência. Inclua pares com negação, mudanças de data e diferenças de produto para identificar falsos acertos. Teste expiração e isolamento entre contas. Um cache que reutiliza muitas respostas erradas não é eficiente; apenas desloca o custo para correções e perda de confiança.
- 01Publicado
- 02Validado
- 03Observado
- 04Verificado
Uma etapa anterior não comprova automaticamente a seguinte.
Exemplo didático
Como isso aparece numa situação prática?
Exemplo didático: uma central responde perguntas sobre prazos de entrega publicados. Duas formulações equivalentes sobre a mesma região e modalidade podem compartilhar uma resposta vigente. Porém, uma pergunta sobre entrega internacional não deve reutilizar a regra nacional apenas porque as frases são parecidas. A equipe cria pares de teste com essas diferenças e revisa falsos acertos. Quando a política muda, invalida as respostas associadas à versão anterior. O relatório informa que houve reutilização e preserva a fonte, sem apresentar uma resposta armazenada como uma consulta nova ao modelo.
Exemplo explicativo; não é caso de cliente nem resultado certificado.
Conceitos próximos
Funções diferentes exigem evidências diferentes
- Cache exato
- Exige correspondência de chave; o semântico admite proximidade com critérios adicionais.
- Prompt caching
- Reutiliza processamento da entrada; o cache semântico pode reutilizar a própria resposta.
- RAG
- Recupera fontes para gerar uma resposta; não necessariamente devolve uma resposta pronta.
Comparação conceitual, não ranking de produtos.
Perguntas
Perguntas frequentes sobre Cache semântico
Similaridade alta significa resposta correta?
Não. A pontuação descreve proximidade entre representações, não equivalência garantida de todas as condições. Datas, nomes, negações e permissões podem alterar a resposta necessária mesmo em perguntas linguisticamente muito próximas.
Cache semântico e RAG são iguais?
Não. RAG recupera informação para apoiar uma geração; um cache semântico pode devolver uma resposta já armazenada. Ambos usam recuperação em algumas arquiteturas, mas têm critérios de validade e riscos diferentes.
Como mostrar resultados de cache num relatório?
Identifique a reutilização, a data da resposta e a versão da fonte. Não apresente o registro como uma execução nova do modelo. Conte separadamente consultas geradas, recuperadas e recusadas por falta de correspondência adequada.
Governança
Limitações que acompanham a definição
- Proximidade vetorial pode esconder diferenças decisivas, como uma negação, uma versão de produto ou uma data.
- Respostas antigas podem permanecer incorretamente disponíveis se não houver invalidação quando a informação de origem muda.
- Filtros de identidade e permissão são necessários para impedir reutilização indevida entre usuários ou organizações.
O que conferir antes de aplicar
- Testar negações e diferenças de data ou produto.
- Invalidar respostas quando a fonte mudar.
- Separar cache por identidade e permissões aplicáveis.
Evidências
Fontes utilizadas nesta página
As referências priorizam documentação oficial, pesquisa original e metodologia pública. Cada fonte sustenta uma parte identificável da definição, do mecanismo ou dos limites. O link não significa que o provedor endosse a Quaerion nem que tenha adotado nossa terminologia.
- 01Redis — LLM Cache
Cache semântico, limiares de distância, validade e campos de filtragem na implementação RedisVL.
- 02Microsoft — LLM semantic cache lookup
Consulta a respostas armazenadas por proximidade vetorial e condições da política de cache.
- 03Schroeder et al. — vCache: Verified Semantic Prompt Caching
Versão atualizada do estudo sobre controle de erro e limitações de limiares fixos; conclusões restritas ao protocolo pesquisado.
