top of page

ARTE 3D SEM CONTORNO_edited.png

Por que o decoder-only venceu a corrida dos LLMs generativos, e não o encoder-decoder original ou o encoder-only?

21 de jul.

0 min de leitura

Posts recentes

Representação da relação entre a arquitetura Transformer e os modelos de linguagem de grande escala, conhecidos como LLMs.

Qual a relação entre Transformers e LLMs ?

Fluxo de agente com contexto limitado: nova mensagem passa pelo orquestrador, que recupera memórias e carrega o estado resumido; ambos montam um contexto enviado ao LLM; após a resposta, memória e resumo são atualizados.

Por que a complexidade quadrática O(n²) da atenção é o gargalo econômico dos LLMs

Representação abstrata de tokens conectados por linhas de diferentes espessuras, ilustrando como a self-attention atribui pesos às relações entre palavras.

Como a self-attention constrói contexto

Comentários

bottom of page