IA — notícias de 2026-09-10

Fontes

DeepSeek V4.1 Flash — modelo open 552B com 1M de contexto, multimodal

Hugging Face · deepseek-ai/DeepSeek-V4.1-Flash · 2026-09-10 DeepSeek publicou em 2026-09-10T02:17:58Z o DeepSeek V4.1 Flash com 552B parâmetros (763B no HF com 8B ativos), janela de 1M tokens e capacidades de reasoning e visão. O modelo é open-weight com API como deepseek-flash e suporte a tool calling e structured output via providers Novita, Fireworks e DeepInfra. No ledger LLM Reference aparece com data 2026-09-10 ao lado de SWE-2, e registros HF mostram lastModified 2026-09-10T08:18:10Z. Abrir fonte

SWE-2 por Cognition — fronteira Pareto para coding agentic

Cognition · cognition.com/blog/swe-2 · 2026-09-10 Cognition anunciou em 2026-09-10 o SWE-2, modelo focado em software engineering agentic que empurra a fronteira Pareto. Listado em 2026-09-10 no changelog LLM Reference como 2.8T (base Kimi K3), família SWE-2, capability Reasoning. O anúncio oficial "Introducing SWE-2: Pushing the Pareto Frontier" detalha o posicionamento como sucessor orientado a uso real de coding agents. Abrir fonte

Tiered KV Cache Offloading in vLLM — framework host-centric para KV cache

vLLM Blog · vllm.ai/blog/2026-09-10-tiered-kv-offloading · 2026-09-10 Publicado em 2026-09-10, o post introduz Tiered KV Cache Offloading como framework host-centric para escalar KV cache além da HBM: host memory, filesystems, object stores e remote peers. O objetivo é reduzir recomputação e aumentar throughput de serving ao reutilizar KV cache tiered com redução de custo de prefill. Complementa PagedAttention e prefix caching do vLLM com offloading hierárquico para contextos longos e multi-turno. Abrir fonte

Following the Bottleneck: Optimizing MiniMax M3 on AMD Instinct MI355X

vLLM Blog · vllm.ai/blog/2026-09-10-minimax-m3-mi355x · 2026-09-10 Publicado em 2026-09-10, o post apresenta modelo de performance para serving de LLMs: inspecionar local shapes, remover trabalho repetido, verificar data movement e dispatch, e seguir a fila. Aplica a metodologia ao MiniMax M3 no AMD Instinct MI355X, mostrando otimizações específicas de kernel, paralelismo e pipeline para inferência de long-context e multimodal reasoning. É o segundo post vLLM do dia, reforçando cobertura de hardware heterogêneo (CUDA/ROCm). Abrir fonte

llama.cpp — seis releases em 2026-09-10 (b10901, b10900, b10899, b10897, b10896, b10894)

GitHub · ggml-org/llama.cpp · 2026-09-10 Seis tags publicadas em 2026-09-10 cobrem otimizações de inference quantizada GGUF: b10901 (2026-09-10T22:41:01Z), b10900 (19:00:20Z), b10899 (18:33:48Z), b10897 (17:59:13Z), b10896 (15:42:27Z) e b10894 (13:51:23Z). As notas incluem melhorias em kernels, backends Vulkan/CUDA/HIP e suporte a modelos recentes, com binários para macOS, Linux e Windows. O ritmo reflete ciclo ativo de fine-tuning de performance para deployment local e quantização Q4_K_M/Q8_0. Abrir fonte

Data Scarcity and Model Sparsity: Mixtures-of-Experts Overfit More to Repeated Data

arXiv · 2609.11917v1 · 2026-09-10 Publicado em 2026-09-10T17:57:33Z, o paper mostra que, com repetição de dados de treino, MoEs overfitam mais que densos. Como a prática padrão agora repete dados diante do esgotamento de texto humano, a descoberta tem implicação direta em infraestrutura de treino e scaling de MoE. Avalia trade-off entre sparsity e generalização sob data scarcity, informando decisões de arquitetura para LLMs de grande escala. Abrir fonte

Distance generalization in transformers: why bother with positional encoding?

arXiv · 2609.11913v1 · 2026-09-10 Publicado em 2026-09-10T17:57:19Z, o estudo investiga extrapolação de comprimento out-of-distribution — de contextos curtos para mais longos — e o papel de positional encodings. Questiona necessidade e design de encodings sob generalização de distância, com impacto em arquitetura de transformers de longo contexto. Relevante para harnesses de avaliação de context window e técnicas de RoPE/ALiBi. Abrir fonte

Why Does Post-Training Quantization Work?

arXiv · 2609.11716v1 · 2026-09-10 Publicado em 2026-09-10T15:32:32Z, o paper formaliza por que quantização pós-treino comprime LLMs armazenando pesos em precisão reduzida e como cada peso quantizado introduz erro controlado. Analisa condições em que PTQ preserva qualidade, ligando teoria de quantização à prática de GPTQ/AWQ/INT4/INT8/FP8 usada em vLLM e llama.cpp. Contribuição direta para pipelines de inference eficiente e deployment. Abrir fonte

Structured Transforms for Low-Overhead Quantization of Language Models

arXiv · 2609.11687v1 · 2026-09-10 Publicado em 2026-09-10T15:15:50Z, o trabalho revisita quantização via decomposição de Kashin e propõe algoritmo melhorado com convergência mais forte. Oferece transformações estruturadas que reduzem overhead de quantização mantendo perplexidade, útil para produção de GGUF e kernels de inference. Conecta o tema ao debate de PTQ do mesmo dia com abordagem complementar baseada em transforms. Abrir fonte

A Unified Per-Token Gating Family for On-Policy Distillation: FKL/RKL Mixing

arXiv · 2609.11768v1 · 2026-09-10 Publicado em 2026-09-10T16:22:35Z, o paper unifica técnicas de gating per-token para losses forward/reverse KL em on-policy distillation (OPD). Propõe família com mixing FKL/RKL e coeficientes multi-channel e bias, superando métodos ad-hoc. Tem aplicação imediata em fine-tuning e destilação de LLMs para transferência de capabilities de teacher para student sem re-treino completo. Abrir fonte

RAG-Safety-Bench: Reliable Evaluation of Retrieval-Augmented LLM Safety

arXiv · 2609.11758v1 · 2026-09-10 Publicado em 2026-09-10T16:12:25Z, o benchmark avalia segurança de LLMs com RAG: permitir recuperação de documentos confiáveis pode aumentar confiabilidade mas também introduzir vetores de jailbreak via contexto recuperado. Propõe harness de avaliação dedicado a RAG safety com métricas de robustez. Estende paradigmas de lm-eval-harness para cenários RAG, cobrindo groundedness e policy compliance. Abrir fonte

REVA: Reusable Evidence View Aggregation for Context-Efficient RAG Serving

arXiv · 2609.11209v1 · 2026-09-10 Publicado em 2026-09-10T08:14:22Z, REVA melhora RAG ao reutilizar visões de evidência para serving eficiente em contexto. Condiciona geração em documentos recuperados mas evita recomputação de evidências compartilhadas across queries. Relevante para orquestração de inference com PagedAttention e KV cache reuse, similar a KVShareArena, focando throughput e latência sob carga RAG. Abrir fonte

SpecGuard: Inference-Time Backdoor Detection For Free

arXiv · 2609.11799v1 · 2026-09-10 Publicado em 2026-09-10T16:51:59Z, o paper propõe detecção de backdoors em tempo de inference sem custo extra, para modelos fine-tunados ou baixados de terceiros que podem carregar comportamento oculto. A técnica opera durante decoding, útil para deployment terceirizado onde pesos não são totalmente confiáveis. Conecta segurança de fine-tuning e verificação de inference quantizado. Abrir fonte

Negative Self-Distillation: Learning to Reason by Avoiding Flaws

arXiv · 2609.11699v1 · 2026-09-10 Publicado em 2026-09-10T15:24:17Z, o trabalho propõe paradigma On-Policy Self-Distillation negativo: modelo aprende a evitar falhas ao se destilar evitando trajetórias flawed. Alternativa a OPSD positivo, melhora reasoning sem teacher externo. Tem implicação para fine-tuning de reasoning models como DeepSeek V4.1 Flash e SWE-2, ambos lançados no mesmo dia. Abrir fonte

RetroThinker: Enabling Retrospective Thinking in Speech LLMs

arXiv · 2609.11864v1 · 2026-09-10 Publicado em 2026-09-10T17:41:53Z, RetroThinker adiciona pensamento retrospectivo a Speech LLMs, reduzindo latência de cascata ASR+LLM e preservando nuances paralinguísticas perdidas em pipelines tradicionais. Propõe mecanismo de reconsideração que revisita hipóteses de speech com contexto LLM. Relevante para modelos de voz multimodais e serving de baja latência. Abrir fonte

Nuha-Speech: Building General-Purpose Arabic Speech-LLMs

arXiv · 2609.11892v1 · 2026-09-10 Publicado em 2026-09-10T17:50:35Z, apresenta Nuha-Speech para fechar lacuna de árabe em Speech LLMs multilíngues. Constrói modelo general-purpose com dados e fine-tuning específicos para árabe, avaliando em benchmarks multilíngues. Demonstra expansão de cobertura linguística, ecoando requisito de 10 idiomas da newsletter, mas no lado de modelos de fala. Abrir fonte

Component-Aware Differential Privacy for Federated Multilingual Speech-LLMs

arXiv · 2609.11762v1 · 2026-09-10 Publicado em 2026-09-10T16:17:19Z, propõe clipping de privacidade diferencial per-layer alocando orçamentos por matriz proporcionalmente para melhorar fidelidade de gradiente em federated learning de Speech-LLMs multilíngues. Mostra que DP component-aware preserva utilidade sob federação. Conecta privacidade, fine-tuning federado e infraestrutura de treino distribuído para LLMs de fala. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) focadas em harness/skills/modelos LLM, fine-tuning, quantização, inference, tokenizers e infraestrutura foram executadas. Nenhum release de lm-evaluation-harness com published em 2026-09-10 foi encontrado; verificação via API GitHub mostra último relevante anterior a D. Consultas em italiano (modelli LLM harness), espanhol (modelos LLM evaluación), francês (modèles LLM harness), alemão (LLM Modelle Evaluierung), russo (LLM модели оценка), chinês (大语言模型), coreano (LLM 모델 평가) e japonês (LLM モデル 評価) retornaram sem itens novos qualificados dentro de D, indicando lacuna de cobertura multilíngue real, não limite artificial. Das 50+ entradas arXiv com published em 2026-09-10, 12 foram curadas por aderência estrita a harnesses, quantization, distillation, inference e RAG serving; fontes sindicadas e páginas de busca sem data verificável foram descartadas.