Pular para o conteúdo principal

IA — notícias de 2026-09-11

· 8 min para ler

Fontes​

llama.cpp — duas releases em 2026-09-11 (b10917, b10909)​

GitHub · ggml-org/llama.cpp · 2026-09-11 Duas tags publicadas em 2026-09-11 — b10917 em 2026-09-11T20:30:32Z e b10909 em 2026-09-11T12:13:16Z — dão continuidade ao ciclo ativo de fine-tuning de performance para deployment local. As notas mantêm melhorias em kernels, backends Vulkan/CUDA/HIP e suporte a modelos recentes com binários para GGUF quantizado. É o único harness de inference local com releases confirmados em D, sem release vLLM em 2026-09-11 (último v0.29.0 em 2026-09-09). Abrir fonte

DeepSeek V4.1 Flash GGUF por vcruz305 — quantização comunitária​

Hugging Face · vcruz305/DeepSeek-V4.1-Flash-GGUF · 2026-09-11 Publicado em 2026-09-11T19:39:31Z, converte o DeepSeek V4.1 Flash (552B, 1M contexto) para GGUF para uso com llama.cpp. Com 8.855 downloads já em D, é a variante comunitária mais adotada do dia para inference quantizada local. A oferta se soma a outras 20+ quants do mesmo base model em 2026-09-11, reforçando pipeline de quantização Q4_K_M/Q8_0. Abrir fonte

DeepSeek V4.1 Flash FP8 GGUF por AMAImedia — foco servidor​

Hugging Face · AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF · 2026-09-11 Publicado em 2026-09-11T08:15:12Z, entrega peso FP8 convertido para GGUF com 5.028 downloads em D. Atende serving eficiente em vLLM/TensorRT-LLM com precisão reduzida preservando qualidade, similar a NVFP4. Ilustra infraestrutura de quantização pós-treino para deployment de MoE 671B em hardware heterogêneo. Abrir fonte

DeepSeek V4.1 Flash MLX 4-bit — Apple Silicon​

Hugging Face · mlx-community/DeepSeek-V4.1-Flash-MLX-4bit · 2026-09-11 Publicado em 2026-09-11T19:03:26Z pela comunidade MLX, disponibiliza quantização 4-bit otimizada para MLX em Apple Silicon. Complementa as variantes EXL3 e REAP-2bit do mesmo dia (rapid-mlx DSpark 23:19:11Z, REAP 18:32:05Z) e expande cobertura de inference eficiente fora de CUDA/ROCm. Abrir fonte

NCP-ArchPreview: Latent-Space Language Model com Next Concept Prediction​

arXiv · 2609.10715v1 · 2026-09-11 Introduz NCP-ArchPreview, LM de espaço latente que combina next-token prediction com Next Concept Prediction sobre vocabulário de conceitos discretos via product quantization. Escalado a 8.9B parâmetros e 5.73T tokens Dolma-3, atinge com 51.3% dos tokens a loss final do OLMo-3-7B e supera-o em 2.45 pontos downstream (5.99 em GSM8K). Atualizar apenas o módulo VQ de 17M permite adaptação de domínio leve e injection em drafter DFlash2 melhora accepted length em 4.17%. Abrir fonte

Data-Efficient Language Modeling: Principle-Guided Model Improvement​

arXiv · 2609.10702v1 · 2026-09-11 Programa autônomo de pesquisa de longo horizonte no BabyLM 2026 Strict-Small (10M words, 100M exposições) com três estágios: avanço de fronteira, descoberta de princípios e melhoria guiada. Mostra que repetição exata e restatement alinhado produzem padrões distintos de uso de contexto e que recuperar performance familiar não garante generalização. Etapa guiada por princípio mascarou pistas locais e preservou predições em inputs mascarados, elevando overall de 42.02 para 42.25 e alcançando topo no snapshot Strict-Small de 08-09-2026. Abrir fonte

FlexComp: One Model for Every Ratio in Context Compression​

arXiv · 2609.11192v1 · 2026-09-11 Propõe FlexComp, framework agnóstico para compressão soft de contexto que condensa contexto em poucos memory tokens consumidos por LLM congelado. Diferente de compressores que fixam ratio no treino, permite um único modelo operar em qualquer ratio e alocar compressão conforme necessidade do input. Impacto direto em inference com janelas longas e KV cache reuse, evitando treino separado por ratio. Abrir fonte

K/V-Cache Interventions Dissociate Representation Alignment from Persona Expression​

arXiv · 2609.11020v1 · 2026-09-11 Estuda intervenções de transplante de trajetória K/V-cache para controle de persona em decoder-only (Llama-3.1-8B) com 13 configurações. Mostra dissociação consistente entre alinhamento de representação e expressão comportamental de persona, informando técnicas de interpretabilidade e steering em tempo de inference. Relevante para infraestrutura de serving com KV cache manipulável e avaliação de persona em harnesses. Abrir fonte

Rebalancing Token Importance with TF-IDF Weighted Cross-Entropy​

arXiv · 2609.11029v1 · 2026-09-11 Apresenta loss de entropia cruzada ponderada por TF-IDF que reescala contribuições por token durante treino, enfatizando tokens informativos e reduzindo domínio de tokens frequentes. Aborda memorização de spans superficiais e melhora eficiência de aprendizado sem mudar arquitetura. Conexão direta com infraestrutura de treino e tokenizers para pré-treino de LLMs. Abrir fonte

GEOSTEER: Geodesic Optimization for Activation Steering​

arXiv · 2609.10658v1 · 2026-09-11 Propõe steering de ativação via otimização geodésica como controle leve de LLMs em inference, modificando ativações ocultas sem fine-tuning. Entre métodos de steering, oferece direção mais estável e interpretável no manifold de ativações. Útil para orquestração de agentes e controle de comportamento com custo mínimo em serving. Abrir fonte

EGGROLL: Low-Rank Evolution Strategies at Scale​

arXiv · 2609.10980v1 · 2026-09-11 Torna evolution strategies práticas para LLMs substituindo perturbações gaussianas densas por produtos gaussianos low-rank, frequentemente com rank unitário. Viabiliza otimização livre de gradiente para ajuste de prompts, adapters e harnesses em larga escala. Conecta fine-tuning eficiente e infrastructure de treino sem backpropagation completa. Abrir fonte

Phase-Decoupled, Model-Calibrated Power Control for Disaggregated LLM Serving​

arXiv · 2609.11133v1 · 2026-09-11 Apresenta controlador phase-decoupled para serving disaggregado prefill/decode em sistema B200: prefill com janela de SM-clock com garantia de latência e decode com power cap calibrado acima de cliff de throughput/latência. Em Qwen3-Coder-480B FP8 sob carga agêntica, entrega +20.4% tokens/J com +3.5% latência vs +8.6%/+5.2% do perfil Max-Q da NVIDIA; em Qwen3-235B-A22B NVFP4 cumpre SLO ITL-p99 onde perfis vendor falham. Escopo restrito a MoE, com run sustentado de 3 dias economizando 32.3% de eletricidade por par de lanes. Abrir fonte

REVA: Reusable Evidence View Aggregation for Context-Efficient RAG Serving​

arXiv · 2609.11209v1 · 2026-09-11 Melhora serving de RAG reutilizando visões de evidência para evitar recomputação de documentos compartilhados across queries, condicionando geração em docs recuperados com throughput e latência otimizados. Complementa PagedAttention e KV cache tiered do vLLM para aplicações knowledge-intensive. Código relevante para orquestração de inference sob carga RAG. Abrir fonte

LILA: Calibration-Free Structured Pruning via Latent Spectral Geometry​

arXiv · 2609.11163v1 · 2026-09-11 Propõe pruning estruturado calibration-free para LLMs via geometria espectral latente, eliminando necessidade de dados de calibração e computação de gradientes. Oferece compressão hardware-efficient alternativa à quantização, preservando performance downstream. Relevante para pipelines de inference onde quantização e pruning se combinam para redução de memória. Abrir fonte

EMMI: Edge Multi-Modal Intelligence for Communication-Efficient MLLM Inference​

arXiv · 2609.11058v1 · 2026-09-11 Aborda inference de MLLMs em edge via compressão de representação fundida que reduz custo de comunicação mantendo reasoning multimodal. Propõe fusão eficiente de modalidades para serving em dispositivos limitados. Extende técnicas de inference eficiente além de texto para multimodal, relevante para deployment em edge. Abrir fonte

Musec: Momentum Spectral Clipping for Stable Muon-type Training​

arXiv · 2609.11655v1 · 2026-09-11 Introduz Musec, clipping espectral com momentum para treino estável com otimizador Muon, frequentemente superior a Adam em convergência de LLMs. Estabiliza treino de grande escala sem ajustes extensivos de hiperparâmetros. Contribuição para infraestrutura de treino eficiente de modelos de fronteira. Abrir fonte

Data Scarcity and Model Sparsity: MoE Overfit Mais à Repetição de Dados​

arXiv · 2609.11917v1 · 2026-09-11 Mostra que, sob repetição de dados — prática padrão após esgotamento de texto humano — MoEs overfitam mais que densos. Avalia trade-off entre sparsity e generalização, informando decisões de arquitetura para LLMs esparsos de grande escala. Implicação direta para infraestrutura de treino e scaling de MoE. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) focadas em harness/skills/modelos LLM, fine-tuning, quantização, inference, tokenizers e infraestrutura foram executadas. Nenhum release de lm-evaluation-harness ou vLLM com published em 2026-09-11 foi encontrado; verificação via API GitHub confirma último vLLM v0.29.0 em 2026-09-09 e llama.cpp em 2026-09-11. Consultas em italiano, espanhol, francês, alemão, russo, chinês, coreano e japonês retornaram sem itens novos qualificados dentro de D, indicando lacuna real. Das 155 entradas cs.CL new + 73 cs.LG new com published em 2026-09-11, 13 foram curadas por aderência estrita a harnesses, quantization, pruning, inference e RAG serving; 20+ variantes Hugging Face de DeepSeek V4.1 Flash em D foram deduplicadas a 3 representativas por URL canônica e quantização distinta.

Etiquetas: