Kimi K3: o modelo aberto de 2,8 trilhões de parâmetros que muda o jogo da IA open-source

Moonshot AI apresenta o Kimi K3: o primeiro modelo aberto com 2,8 trilhões de parâmetros

A corrida por modelos de inteligência artificial cada vez maiores e mais capazes acaba de ganhar um novo capítulo. A Moonshot AI, empresa chinesa responsável pelos modelos Kimi, lançou hoje o Kimi K3 — o primeiro modelo aberto da história a ultrapassar a barreira dos 2 trilhões de parâmetros.

Com impressionantes 2,8 trilhões de parâmetros, o Kimi K3 não é apenas gigante em tamanho. Ele traz inovações arquiteturais profundas que mudam a forma como modelos de larga escala processam informação. O modelo já está disponível no HuggingFace com pesos abertos, marcando um momento histórico para a comunidade open-source de IA.

Inovação arquitetural: Kimi Delta Attention

O coração do Kimi K3 é uma nova arquitetura chamada Kimi Delta Attention (KDA), que resolve um dos problemas mais antigos de modelos gigantes: como fazer a informação fluir eficientemente através de dezenas de camadas. Enquanto modelos tradicionais acumulam representações de forma uniforme, o KDA usa Attention Residuals (AttnRes) para recuperar informações seletivamente entre diferentes profundidades da rede.

Isso significa que o modelo pode "voltar atrás" e buscar informações relevantes de camadas anteriores quando precisa, em vez de depender apenas do fluxo sequencial de dados. O resultado é uma eficiência de escalabilidade aproximadamente 2,5 vezes maior que o Kimi K2 — ou seja, o K3 converte computação em inteligência de forma muito mais eficaz que seus antecessores.

Outra novidade é o Stable LatentMoE, uma arquitetura Mixture of Experts que ativa apenas 16 dos 896 experts disponíveis. Com esse nível de esparsidade, a roteirização se torna um desafio de primeira ordem. A Moonshot resolveu isso com técnicas como Quantile Balancing (distribuição de experts baseada em quantis) e Per-Head Muon (otimização independente por cabeça de atenção).

Performance que rivaliza com modelos fechados

Nos benchmarks divulgados, o Kimi K3 mostra resultados impressionantes. Em DeepSWE, um benchmark de engenharia de software, o K3 alcançou 67,3% — superando modelos como GPT-5.5 e Claude Opus 4.8. No Terminal-Bench 2.1, que testa capacidade de uso de terminal, o modelo também se destacou.

O modelo foi testado em tarefas que vão muito além dos benchmarks tradicionais. Em um teste de otimização de kernels GPU, o Kimi K3 competiu de igual para igual com o Claude Fable 5 (com fallback) e superou substancialmente o Opus 4.8, GPT 5.6 Sol e GPT 5.5.

Feitos impressionantes que mostram o potencial

O que realmente impressiona no Kimi K3 não são apenas os números — são as aplicações reais que a Moonshot AI demonstrou:

• MiniTriton: O K3 construiu um compilador GPU completo do zero, com IR próprio, passes de otimização e geração de código PTX. O compilador entrega performance comparável ou superior ao Triton oficial e torch.compile em certas cargas de trabalho.
• Design de chip: Em uma única execução autônoma de 48 horas, o K3 projetou um chip customizado para servir um modelo nano baseado em sua própria arquitetura. O chip, fabricado em 45nm, opera a 100 MHz com 1,46 milhão de células e throughput de 8.700 tokens/s.
• Reprodução científica: O modelo reproduziu relações universais I-Love-Q em astrofísica computacional em cerca de 2 horas — trabalho que levaria de 1 a 2 semanas para um pesquisador experiente. Para isso, revisou 20+ artigos, implementou pipelines numéricos completos e gerou 3.000+ linhas de código Python.
• Edição de vídeo: O K3 editou seu próprio vídeo teaser a partir de 56 clipes de origem, com seleção de cenas, cortes sincronizados com batida musical e processamento de áudio — tarefa que levaria de 1 a 2 dias para um editor profissional.

Contexto de 1 milhão de tokens e capacidades multimodais

O Kimi K3 vem com uma janela de contexto de 1 milhão de tokens — suficiente para processar repositórios de código inteiros ou documentos extensos em uma única requisição. Ele também tem capacidades de visão nativas (não um módulo separado), permitindo que entenda e raciocine sobre imagens, screenshots, vídeos e texto dentro do mesmo modelo unificado.

Nos benchmarks multimodais, o K3 mostrou resultados fortes em MMMU-Pro (raciocínio multimodal em nível universitário) e PerceptionBench (percepção visual atômica), embora ainda fique atrás dos melhores modelos fechados em tarefas de raciocínio visual mais complexas.

Preços e disponibilidade

O modelo já está disponível na API oficial da Kimi com os seguintes preços:

O modelo usa precisão MXFP4 (4-bit floating point) com ativações em MXFP8, o que significa que cabe em cerca de 1,5 TB de VRAM — viável em configurações com 8 GPUs B200. A API oficial alcança uma taxa de cache hit acima de 90% em cargas de trabalho de código, graças à arquitetura de inferência disaggregada Mooncake.

O que isso significa para o ecossistema de IA

O lançamento do Kimi K3 como modelo de pesos abertos é um marco. Pela primeira vez, a comunidade open-source tem acesso a um modelo de escala comparável aos melhores modelos fechados — mesmo que ainda atrás dos líderes absolutos (Claude Fable 5 e GPT 5.6 Sol).

Isso abre possibilidades enormes: pesquisadores podem estudar comportamentos emergentes em modelos de 3 trilhões de parâmetros; empresas podem fazer fine-tuning em domínios específicos; e a transparência dos pesos permite auditoria e alinhamento pela comunidade.

A Moonshot AI também está colaborando ativamente com a comunidade vLLM e mantenedores open-source para garantir que o ecossistema de inferência suporte o modelo. O KDA com prefix caching (já contribuído para o vLLM) permite servir o modelo a um preço competitivo apesar de seu tamanho colossal.

E no Brasil?

Para o ecossistema brasileiro de IA, o Kimi K3 representa uma oportunidade única. Ter acesso a um modelo de fronteira com pesos abertos significa que universidades brasileiras, startups e institutos de pesquisa podem experimentar com tecnologias que antes só estavam disponíveis via APIs caras de empresas americanas.

Empresas brasileiras que trabalham com dados sensíveis (fintechs, healthtechs, setor jurídico) agora têm uma alternativa viável para implementar IA de alto nível em ambientes on-premise, sem depender de provedores externos. O desafio, claro, será a infraestrutura: rodar um modelo de 2,8 trilhões de parâmetros não é trivial e requer investimento significativo em hardware.

Uma coisa é certa: a corrida pela inteligência artificial de fronteira está mais democrática do que nunca. E a Moonshot AI acaba de dar um passo gigante nessa direção.