# Dominância da Arquitetura Transformer no NLP Jurídico

> Nota: Este artigo é apenas uma das mais de 60 seções do nosso relatório completo intitulado: The 2024 Legal AI Retrospective - Key Lessons from the Past Year .

**Locale:** pt-br  
**Author:** Alex Denne  
**Category:** Insights  
**Published:** 2024-12-18  
**Reading time:** 5 min

**Nota:** Este artigo é apenas uma das mais de 60 seções do nosso relatório completo intitulado: [The 2024 Legal AI Retrospective - Key Lessons from the Past Year](https://www.genieai.co/blog/legal-ai). Faça o download do relatório completo para verificar as citações.

**Dominância da Arquitetura Transformer**

77% das empresas que utilizam NLP esperam aumentar seus investimentos em NLP.[64] A arquitetura transformer continua sendo a base da maioria dos modelos de NLP de última geração:

 • Mecanismos de Atenção Aprimorados: Pesquisadores desenvolveram mecanismos de atenção mais eficientes, permitindo o processamento de sequências mais longas e um melhor tratamento das informações contextuais.[65]

 • Sparse Transformers: Esses modelos ganharam espaço, oferecendo desempenho comparável ao dos transformers densos com menor exigência de recursos computacionais.[66]

---

This is the Markdown representation of [https://www.genieai.co/pt-br/blog/legal-ai-transformer-architecture](https://www.genieai.co/pt-br/blog/legal-ai-transformer-architecture), provided for AI agents and crawlers. The HTML page is canonical. See [/llms.txt](https://www.genieai.co/llms.txt) for the full content map.