"IA — notícias de 2026-09-03"

Fontes

llama.cpp b10776 — suporte a NVIDIA Nemotron-3-Puzzle-75B-A9B

GitHub ggml-org/llama.cpp · 2026-09-03 Adiciona suporte ao modelo MoE NVIDIA Nemotron-3-Puzzle-75B-A9B com infraestrutura G1/G2 para número variável de experts por camada. Introduz arrays per-layer n_ff_exp/n_expert_used com accessors e carregamento scalar-or-array, necessário porque o modelo tem 5 valores distintos de n_ff_exp e 7 top-k em 40 camadas MoE. Habilita carregamento e inferência local desse MoE híbrido via llama.cpp. Abrir fonte

llama.cpp b10777 — SYCL otimiza MMVQ Q4_K multi-coluna

GitHub ggml-org/llama.cpp · 2026-09-03 Otimiza kernel Q4_K no backend SYCL reduzindo trabalho redundante em MMVQ multi-coluna. Reutiliza unpack de pesos entre colunas de destino e compartilha ativações entre duas linhas de saída para N pequeno (2..4), com gate para N=2 e threshold 6272 linhas. Melhora throughput de inferência quantizada Q4_K em GPUs Intel com SYCL. Abrir fonte

llama.cpp b10778 — evita pico de RAM no carregamento de modelo

GitHub ggml-org/llama.cpp · 2026-09-03 Corrige pico de uso de RAM durante estágio de carregamento de modelo, evitando alocação duplicada de buffers ao mapear pesos. Reduz footprint máximo de memória ao carregar LLMs grandes em hardware limitado. Relevante para inferência local e serving com memória restrita. Abrir fonte

llama.cpp b10780 — SYCL adiciona suporte a cópia peer-to-peer

GitHub ggml-org/llama.cpp · 2026-09-03 Estende API SYCL para suportar cópia peer-to-peer entre dispositivos, permitindo transferência direta entre GPUs sem bounce pelo host. Viabiliza pipeline multi-GPU mais eficiente com ggml SYCL e reduz latência de comunicação em inferência distribuída. Abrir fonte

llama.cpp b10781 — Vulkan corrige engajamento do caminho FA dequant

GitHub ggml-org/llama.cpp · 2026-09-03 Corrige condição de engajamento do caminho FlashAttention com dequantização no backend Vulkan. Remove checagem nb[3] quando ne[3]==1, onde o shader nunca lê stride de buffer completo; o check antigo só ativava com cache cheio. Garante uso correto do fast path quantizado em GPUs Vulkan. Abrir fonte

llama.cpp b10782 — CUDA permite streams concorrentes por split multi-GPU

GitHub ggml-org/llama.cpp · 2026-09-03 Permite otimização de grafo CUDA por split em configuração multi-GPU, removendo guard que bloqueava a passagem quando múltiplas GPUs estavam ativas. Cada split já é particionado por dispositivo, então a otimização deve rodar por split. Corrige manuseio de evento concorrente por GPU, melhorando throughput multi-GPU. Abrir fonte

llama.cpp b10783 — mtmd adiciona const em APIs de tokenização

GitHub ggml-org/llama.cpp · 2026-09-03 Marca contexto mtmd como const em múltiplas APIs como mtmd_bitmap_init_lazy, mtmd_tokenize e mtmd_tokenize_from_parts. Facilita raciocínio sobre ownership e permite que harnesses compostos chamem tokenização multimodal sem mutabilidade desnecessária. Ajuste de const-correctness para pipeline multimodal. Abrir fonte

llama.cpp b10784 — Metal corrige dispatch GLU com ne00=1

GitHub ggml-org/llama.cpp · 2026-09-03 Corrige dispatch de GLU no backend Metal quando ne00==1, evitando seleção incorreta de kernel e garantindo computação correta de gating. Inclui desabilitação de testes mal definidos. Ajuste pontual para estabilidade de inferência em Apple Silicon. Abrir fonte

llama.cpp b10785 — Metal adiciona FlashAttention esparsa

GitHub ggml-org/llama.cpp · 2026-09-03 Adiciona suporte a FlashAttention esparsa (sparse FA) no backend Metal com kernel_flash_attn_ext_vec_idx. Compacta entradas finitas de máscara em lista de índices por linha via Hillis-Steele scan e estende kernel FA vetorizado com gathering opcional. Ativa caminho esparso quando n_kv_max>0 e máscara presente, reduzindo computação para atenção com esparsidade. Abrir fonte

llama.cpp b10786 — mtmd propaga const para classe preproc

GitHub ggml-org/llama.cpp · 2026-09-03 Propaga qualificador const para classe de pré-processamento mtmd, alinhando com mudanças de const-correctness do dia. Harmoniza mutabilidade do pipeline multimodal e evita cópias desnecessárias. Publicado em 2026-09-03T12:44:27Z. Abrir fonte

llama.cpp b10790 — tunagem de crossover MMVQ para MMQ em SM87

GitHub ggml-org/llama.cpp · 2026-09-03 Ajusta ponto de crossover entre kernels MMVQ e MMQ para arquitetura SM87 (GPUs Blackwell como RTX 5090/B200). Calibra threshold para escolher kernel mais rápido por tamanho de matmul, melhorando throughput de inferência quantizada em geração Blackwell. Otimização de backend CUDA/HIP. Abrir fonte

llama.cpp b10791 — OpenCL otimiza lm_head quant e GEMV/GEMM para speculative decoding

GitHub ggml-org/llama.cpp · 2026-09-03 Otimiza lm_head quantizado e GEMV de decode no backend OpenCL, com melhorias para medium-batch GEMM em speculative decoding/MTP. Inclui guards para registro de kernels tiled q4_K/q6_K apenas em Adreno, fusão q4_K MUL_MAT+GLU com layout noshuffle e correção de stride para GEMV f16 vetorizado. Acelera execução móvel em GPUs Adreno. Abrir fonte

llama.cpp b10792 — common/json-schema corrige geração GBNF para schemas vazios

GitHub ggml-org/llama.cpp · 2026-09-03 Corrige geração de gramática GBNF a partir de JSON Schema quando schema define objeto vazio. Evita gramática inválida que quebra constrained decoding com json-schema. Relevante para harnesses que impõem saída estruturada via GBNF no servidor llama.cpp. Abrir fonte

llama.cpp b10793 — corrige rebuild completo do código a cada commit

GitHub ggml-org/llama.cpp · 2026-09-03 Corrige dependências de build que forçavam recompilação completa do source a cada novo commit. Ajusta sistema de geração de versão/build para rebuild incremental correto, reduzindo tempo de CI e build local. Melhora fluxo de desenvolvimento sem impacto em runtime. Abrir fonte

NeoMME: um encoder multilíngue e multimodal-native eficiente

Hugging Face Blog · 2026-09-03 A Hcompany apresenta o NeoMME, encoder single-tower nativo multimodal e multilíngue fundacional. Publicado em 2026-09-03T13:13:48Z, o post detalha arquitetura eficiente para embeddings que unificam visão e texto em múltiplos idiomas sem torres separadas. Relevante para retrieval multimodal, reranking e infraestrutura de embeddings para agentes. Abrir fonte

Fine-tuning de modelo 350M com saídas estruturadas em 100 passos GRPO

Hugging Face Blog · 2026-09-03 Guia prático publicado em 2026-09-03 mostra fine-tuning de modelo de 350M para saídas estruturadas superiores em apenas 100 passos GRPO com TRL. Demonstra ganho de aderência a formato JSON/schema com custo computacional mínimo, usando reinforcement learning sem necessidade de SFT extenso. Relevante para harnesses que dependem de structured outputs confiáveis. Abrir fonte

Funes: dê aos seus coding agents uma memória que você possui

Hugging Face Blog · 2026-09-03 Apresenta Funes, sistema de memória própria para coding agents, publicado em 2026-09-03. Propõe camada de memória persistente e local para agentes de código, evitando lock-in de memória em serviços proprietários e permitindo controle de dados. Arquitetura útil para harnesses de agentes com contexto de longo prazo e evolução de skills. Abrir fonte

Treinando modelo de código para pintar aquarelas com TRL e OpenEnv

Hugging Face Blog · 2026-09-03 Demonstra treinamento de modelo de código para gerar aquarelas pintadas com TRL e OpenEnv, publicado em 2026-09-03. Usa ambiente de execução de código como reward para aprender a controlar pipeline de pintura via geração programática. Explora crossover criativo entre code generation e geração visual com RL. Abrir fonte

Nvidia aposta em Hugging Face e em modelos abertos — não é só chip

SiliconANGLE · 2026-09-03 Análise publicada em 2026-09-04T01:29:39Z (2026-09-03 22:29 BRT) cobre o acordo da Nvidia com a Hugging Face. Zeus Kerravala argumenta que o deal sinaliza aposta em ecossistema aberto de modelos e transição da Nvidia para plataforma de software e infraestrutura de IA além de chips. Hugging Face abriga 500+ modelos e 250 datasets abertos da Nvidia. Abrir fonte

Hardware-Aware FP4 FlashAttention-4

arXiv cs.LG · 2026-09-03 Proposta de FlashAttention-4 com consciência de hardware para precisão FP4, publicada em 2026-09-03T17:12:35Z. Otimiza kernels de atenção para execução em baixa precisão aproveitando suporte nativo FP4 de GPUs de nova geração, reduzindo memória e aumentando throughput de inferência de long context. Relevante para quantização e serving com vLLM/Transformers em Blackwell. Abrir fonte

Sequential Beats Joint: interação entre distilação on-policy e RLVR

arXiv cs.CL · 2026-09-03 Estuda interplay entre distilação on-policy e RLVR (reinforcement learning with verifiable rewards), publicado em 2026-09-03T17:14:27Z. Demonstra que abordagem sequencial supera treinamento conjunto, com implicações para receitas de fine-tuning de modelos de raciocínio. Informa pipelines de distillation + RL para agentes e modelos instrucionais. Abrir fonte

Rethinking On-Policy Distillation of Large Language Models II

arXiv cs.AI · 2026-09-03 Segunda parte de estudo sobre distilação on-policy de LLMs mostra que um único exemplo de treinamento pode revelar dinâmica crítica, publicado em 2026-09-03T17:54:38Z. Reexamina amostragem, divergência e estabilidade da destilação com foco em eficiência. Contribui para fine-tuning por destilação com menor custo de dados. Abrir fonte

Knowledge Acquisition During Pre-training: LLMs aprendem melhor com auxiliary views

arXiv cs.CL · 2026-09-03 Investiga como LLMs adquirem conhecimento durante pré-treino e propõe aprendizado com auxiliary views para melhorar aquisição, publicado em 2026-09-03T17:57:02Z. Mostra ganhos em factualidade e compreensão ao expor modelo a vistas auxiliares do mesmo conteúdo. Relevante para arquitetura de treino e curadoria de dados de pré-treinamento. Abrir fonte

Terminal-Universe: transformando trajetórias de agentes em ambientes terminais escaláveis

arXiv cs.AI · 2026-09-03 Apresenta Terminal-Universe, framework que converte trajetórias de agentes em ambientes terminais escaláveis para treino, publicado em 2026-09-03T17:41:05Z. Permite geração sintética de tasks interativas e avaliação de harnesses de agentes em larga escala sem intervenção humana. Útil para orquestração e benchmark de agentes de longo horizonte. Abrir fonte

DRACO: fine-grained credit assignment com rubricas dinâmicas para agentes

arXiv cs.AI · 2026-09-03 Propõe DRACO, método de atribuição de crédito granular com rubricas dinâmicas para treino de agentes de longo horizonte, publicado em 2026-09-03T17:02:20Z. Usa rubricas evolutivas para fornecer feedback denso em trajetórias multi-step, melhorando convergence de agentes com RL. Endereça gargalo de avaliação esparsa em harnesses agentivos. Abrir fonte

Clean Engineering, Unstable Measurement: falha de confiabilidade de observadores LLM black-box

arXiv cs.AI · 2026-09-03 Estudo preregistrado demonstra falha de confiabilidade de observadores LLM black-box em endpoints compartilhados, publicado em 2026-09-03T17:59:43Z. Engenharia limpa não garante medição estável quando múltiplos observadores competem por endpoints compartilhados. Alerta para design de harnesses de avaliação e benchmark em infraestrutura compartilhada. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas focadas em harnesses/skills/modelos LLM. Para D=2026-09-03, fontes qualificadas concentraram-se em en (llama.cpp, arXiv, HF Blog, SiliconAngle). Nenhum item qualificado adicional recuperado em pt/it/es/fr/de/ru/zh/ko/ja dentro da janela D após deduplicação e filtro de escopo (excluído software genérico com IA). Lacuna registrada sem impor limite artificial.