Observability · 17/06/2026

Observability em Legado e GenAI Expõe o Trade-off Real: Padronização de Sinais vs Custos Ocultos de Instrumentação Restrita

OpenTelemetry pós-graduation enfrenta um desafio dual: ambientes legados requerem observabilidade sem modificação de código, enquanto GenAI demanda rastreamento profundo de cadeias de execução — dois cenários que expõem os limites reais da standardização versus implementação.

O que está acontecendo

A graduation de OpenTelemetry como projeto CNCF consolidou um padrão de observabilidade neutro em relação a vendors. Simultaneamente, a plataforma agora enfrenta dois cenários arquiteturalmente antagônicos:

1. Ambientes legados onde sistemas não podem ser modificados, redes são fracamente segmentadas e as janelas de patching são medidas em trimestres.
2. Aplicações GenAI onde operações opacas (chamadas a modelos, invocações de ferramentas, loops de retry) ocorrem em microsegundos, e sem convenções semânticas padronizadas, a observabilidade funciona através de adivinhação.

OpenTelemetry Semantic Conventions para GenAI tentam resolver o segundo caso — padronizando como token counts, prompt content e tool calls são registrados. Para o primeiro, a solução passa por aplicar observabilidade de forma que não interrompa sistemas que operam há décadas sem modificação.

Mas ambos os caminhos revelam o mesmo problema fundamental: a standardização de sinais (o que registrar, como nomeá-lo) é apenas a ponta. O custo real está em como e onde esses sinais são coletados, transmitidos e processados.

Insights e Riscos

• Convenções semânticas ≠ observabilidade funcionando: OpenTelemetry Semantic Conventions para GenAI padronizam campos (model, input_tokens, output_tokens), mas sem instrumentação profunda no runtime da aplicação, você continua observando apenas o que chega no broker de telemetria — não as decisões intermediárias do agente.

• Legado não instrumentado = observabilidade em camadas de rede: Quando um sistema industrial não pode ser modificado, a única opção é implementar observabilidade "fora do processo": proxies, taps de rede, sidecar collectors. Isso move a janela de observação para latência de rede, não lógica de aplicação. Você vê o tráfego; não vê por que a decisão foi tomada.

• Trade-off de segurança em redes fracas: Ambientes legados tipicamente têm segmentação de rede deficiente. Adicionar agentes de coleta de telemetria expõe novos endpoints, novos tokens de autenticação e novos caminhos de dados sensíveis. As convenções semânticas recomendam registrar "full content of prompts, completions" — em ambientes fracamente segmentados, isso é um vetor de vazamento de dados operacionais que sistemas antigos nunca foram projetados para proteger.

• Custos de processamento em pipeline: OpenTelemetry Phase 2 (OTel-Arrow) propõe usar Apache Arrow não apenas no transporte, mas como representação interna em pipelines. Isso reduz overhead de rede, mas introduce complexidade operacional: você agora precisa de operadores que entendem formato columnar, vetorização de processamento e gestão de buffers em memória. Em ambientes com recursos constrangidos (legado industrial), essa otimização pode não compor.

• Retenção de contexto em GenAI requer decisões de sampling explícitas: Em um agente que faz 10 tool calls para responder uma pergunta, cada decisão de retry loop, fallback model ou token count alto representa uma decisão de negócio. Registrar tudo viola compliance (legado); registrar nada viola observabilidade (GenAI). Você precisa desenhar políticas de sampling por tipo de operação, não globalmente.

O que muda na prática

Arquiteto de Plataforma

Você agora precisa desenhar dois caminhos de observabilidade paralelos, dependendo do ambiente:

• Em legado: observabilidade extrínseca (proxies, network taps, agentes sidecar) com risco de segurança explícito. Qualquer convenção semântica de OTel é apenas consultiva — o controle de formato acontece em camada de transporte.
• Em GenAI: observabilidade intrínseca (instrumentação dentro do runtime da aplicação) com convenções semânticas de GenAI como mandatória. O risco aqui é auditoria e retenção de dados — você precisa desenhar políticas claras de quando reduzir verbosidade de prompts/completions.

Engenheiro DevOps/MLOps

A escolha de backend de observabilidade agora impacta ambos os casos:

• Legado requer collectors que funcionem em recursos limitados e com latência previsível.
• GenAI requer ingestão de alto volume (cada token count é um metric, cada retry é um span). OTel-Arrow (Phase 2) ajuda, mas você precisa de pipelines que batching de forma inteligente, não apenas "mais rápido".

Engenheiro de Segurança

Esse é o problema crítico:

• Em legado: cada novo agente de coleta é um novo endpoint atacável. Você precisa de auditoria de quem acessa dados de telemetria em ambientes sensíveis (PII, operações críticas). OpenTelemetry não define controle de acesso ou redação de dados — você implementa isso em camada de pipeline.
• Em GenAI: convenções semânticas permitem registrar prompts inteiros. Isso é observabilidade completa, mas é também um registrador de decisões corporativas sensíveis. Sampling tem que ser parte da política de segurança, não da configuração de instrumentação.

Conclusão direta

OpenTelemetry resolveu o problema de standardização de sinais (semantic conventions) e eficiência de transporte (OTel-Arrow). Não resolveu o problema real: quando você não consegue modificar a aplicação (legado) ou quando a aplicação é uma caixa preta executando código remoto (GenAI), a observabilidade se torna um problema de arquitetura de pipeline e política de segurança, não de SDK.

A pergunta que você precisa responder agora é: em qual ambiente você está operando — aquele onde observabilidade é optativa ou aquele onde é necessária? Porque a resposta determina se você precisa de mais padrões ou menos vulnerabilidades na coleta.

Fontes

[Fonte: Blog on OpenTelemetry] OTel-Arrow Phase 2: From Efficient Transport to Efficient Telemetry Pipelines

[Fonte: Blog on OpenTelemetry] OpenTelemetry is a CNCF Graduated Project

[Fonte: Blog on OpenTelemetry] Applying OpenTelemetry Security Practices in Legacy Environments

[Fonte: Blog on OpenTelemetry] Inside the LLM Call: GenAI Observability with OpenTelemetry