Pular para o conteúdo principal

"IA — notícias de 2026-09-01"

· 11 min para ler

Fontes​

llama.cpp b10751 — cuda: fusão MoE com redução ponderada de experts​

GitHub ggml-org/llama.cpp · 2026-09-01 Funde cauda combine de MoE (mul+view+add) em kernel ponderado único, reduzindo writes em VRAM e latência de combinação de experts. Melhora throughput de serving MoE em GPUs NVIDIA. Abrir fonte

llama.cpp b10750 — kv-cells: lookup de histórico n-gram via índice posição-sequência​

GitHub ggml-org/llama.cpp · 2026-09-01 Reconstrução do mapa hash (seq,pos)->token a cada ubatch substituída por índice incremental em posição de sequência, acelerando get_prev_tokens e recuperação de n-gram para speculative decoding. Abrir fonte

llama.cpp b10743 — Metal adiciona tuning FA-vec para M2 Pro​

GitHub ggml-org/llama.cpp · 2026-09-01 Adiciona tabelas fa_vec calibradas para M2 Pro (GPU maior que M2) cobrindo f16 e q8_0, estendendo otimizações FlashAttention vetorizado para geração Apple Silicon de maior contagem de cores. Abrir fonte

llama.cpp b10742 — Metal adiciona tunings FA-vec para A18 Pro (MacBook Neo)​

GitHub ggml-org/llama.cpp · 2026-09-01 Novas tabelas de tuning FlashAttention vetorizado para A18 Pro, calibradas em hardware real, ampliando cobertura de inference quantizada em próxima geração Apple Silicon. Abrir fonte

DASC: Decay-Aware State Compression for Hybrid Linear-Attention Serving​

arXiv cs.LG · 2026-09-01 Híbridos linear-attention reduzem KV cache com estados recorrentes, mas atualizações in-place complicam compressão. Propõe DASC que comprime estados com awareness de decaimento temporal, preservando informação recente e descartando antiga com critério adaptativo. Permite serving híbrido com menor memória e recomputação mínima, essencial para contexto longo em inference. Abrir fonte

Strong Drafts Need Compact Memories: Long-Context Speculative Decoding with Compressed KV Cache​

arXiv cs.LG · 2026-09-01 Decoding de contexto longo é gargalo mesmo com speculative decoding, pois draft e target carregam KV enormes. Mostra que drafts fortes precisam de memórias compactas e propõe KV comprimido compartilhado entre draft/target com trade-off fidelidade-latência. Reduz latência em sumarização e agentes multi-turn sem perda de qualidade, viável para serving com prefixos de dezenas de milhares de tokens. Abrir fonte

SkillZip Pro: Execution-Aware Dynamic Compression of Progressively Loaded Skills for Self-Evolving Agents​

arXiv cs.AI · 2026-09-01 Skills de agente são bundles de diretórios onde apenas a raiz é carregada na ativação. Compressão só da raiz perde maior parte do contexto útil. SkillZip Pro comprime dinamicamente referências, schemas e subskills conforme caminho de execução, guiado por uso real. Reduz consumo de contexto e custo de I/O para agentes auto-evolutivos com bibliotecas extensas de skills. Abrir fonte

On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability​

arXiv cs.CL · 2026-09-01 Descreve Qwen3.8-Flash-Next com 125B parâmetros (6B ativos por token) e 51B em tabelas de n-gram off-accelerator. Em 14 avaliações de pré-treino, supera baselines densos com custo ativado menor. Detalha ablações de arquitetura MoE, estabilidade de treino e eficiência, relevante para design de MoE em larga escala. Abrir fonte

Q-Strata: Hierarchical Bit Allocation for Mixed-Precision Quantization of Mixture-of-Experts LLMs​

arXiv cs.LG · 2026-09-01 Quantização de precisão mista aloca bitwidths por camada para minimizar perda sob orçamento fixo, mas MoE possui centenas de experts. Q-Strata aloca hierarquicamente bits entre experts e camadas densas usando sensibilidade medida, superando alocação uniforme. Crítico para deploy MoE quantizado com qualidade preservada. Abrir fonte

Faithfulness Is Not Free: Auditing Offline KV-Cache Quantization in Retrieval-Augmented Generation​

arXiv cs.CL · 2026-09-01 Sistemas RAG podem pré-computar e quantizar KV caches de documentos para evitar re-encoding, mas impacto na fidelidade era desconhecido. Audita quantização offline e mostra que compressão mascara evidência de resposta, fazendo LLM alucinar com confiança. Propõe checagem de fidelidade ground-truth para quantização de cache em RAG. Abrir fonte

Fine-Tuning Low-Bit Models with Gradient in Quantized Code Space​

arXiv cs.LG · 2026-09-01 Fine-tuning de modelos já quantizados em baixa precisão sofre degradação por gradientes em espaço quantizado. Propõe otimizar gradientes diretamente no código quantizado com correção de escala, mantendo compatibilidade com formatos sub-4-bit. Permite adaptação eficiente sem dequantização completa, útil para personalização on-device. Abrir fonte

Tensor Methods for Language Models: From Token Representation to Training, Adaptation, Inference, Compression, and Interpretability​

arXiv cs.LG · 2026-09-01 Visão tensorial unifica representações de tokens, pesos, updates LoRA, caches e ativações como objetos multilineares. Sistematiza métodos de decomposição, compressão, adaptação e interpretabilidade sob lente tensorial. Oferece fundação para treino, inference e compressão com estrutura de posto baixo explícita. Abrir fonte

EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents​

arXiv cs.AI · 2026-09-01 Agentes auto-evolutivos geram e reusam skills autonomamente para reduzir custo de raciocínio. Demonstra vetor de ataque EvoSkill Injection onde skills maliciosas são injetadas via evolução autônoma e persistem como memória. Expõe risco de segurança para harnesses com geração irrestrita de skills e motiva verificação de proveniência. Abrir fonte

Stress-Testing Efficient Responsible-AI Evaluation: When Compute Savings Change Benchmark Conclusions​

arXiv cs.LG · 2026-09-01 Avaliação de IA responsável usa amostragem e caching para economizar compute, mas savings podem inverter conclusões de benchmark. Stress-testa economias com testes controlados e mostra mudanças de ranking sob amostragem agressiva. Alerta para harnesses de avaliação que sacrificam validade por custo, com framework de auditoria. Abrir fonte

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement​

arXiv cs.LG · 2026-09-01 Distilação on-policy com tokens amostrados pelo estudante é eficiente mas frequentemente perde diversidade. Analisa gargalo de diversidade quando professor só fornece probabilidades para tokens amostrados. Mostra que diversidade colapsa e propõe amostragem corrigida que recupera cobertura sem custo adicional de professor. Abrir fonte

On the Prospects of Dynamic LLM Conversations in Software Development​

arXiv cs.SE · 2026-09-01 Conversas dinâmicas com LLM em desenvolvimento de software exigem memória e branching além de turnos lineares. Estuda como conversas ramificadas e stateful afetam correção e produtividade de coding agents. Propõe padrões para harness conversacional persistente com replay e controle de contexto. Abrir fonte

When Guardrails Look Effective: Construct Validity Failures in LLM Agent Commerce Evaluation​

arXiv cs.AI · 2026-09-01 Simulações multi-turn comprador-vendedor com agentes LLM parecem produzir preços e welfare econômicos, mas podem apenas imitar outputs sem comportamento econômico real. Audita falhas de validade de constructo em avaliação de comércio agêntico. Demonstra que métricas aparentes escondem ausência de mecanismo, exigindo harnesses de avaliação com verificação causal. Abrir fonte

Parsing the Stream: A Live Trace Model for Long-Horizon Agents and Their Observers​

arXiv cs.AI · 2026-09-01 Traces de agentes de longo horizonte excedem tanto observador humano quanto janela de contexto do próprio agente. Propõe live trace model como ledger append-only dobrado incrementalmente em estado tipado e compilado em views observáveis. Viabiliza observabilidade e folding de contexto para harnesses agênticos de longa duração. Abrir fonte

The Structure of Quantization Damage in LLMs: Why the Next Bit Should Be Spent Globally​

arXiv cs.LG · 2026-09-01 Quantização pós-treino danifica LLMs de forma desigual entre camadas e componentes. Estuda alocação causal de precisão extra e prova que próximo bit deve ser gasto globalmente, não localmente, para maximizar ganho. Orienta estratégias MPQ com análise de dano estruturado, superior a heurísticas por camada. Abrir fonte

Selective Agent Guidance via Entropy: Learning Autonomous Policies from Imperfect VLM Teachers​

arXiv cs.AI · 2026-09-01 VLMs como políticas interativas são caros e frágeis por consulta a cada passo. Aprende política autônoma barata guiada seletivamente por entropia do teacher VLM, consultando apenas quando incerto. Reduz chamadas a VLM e evita repetição de erros sistemáticos com treino por interação. Abrir fonte

Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement​

arXiv cs.AI · 2026-09-01 Desenvolvimento autônomo de software exige transformar requisitos de alto nível em sistemas funcionais. Introduz Harness-of-Harness que permite coding agents melhorarem continuamente ao compilar feedback de execução em harnesses aninhados. Viabiliza desenvolvimento multi-dia com melhoria incremental sem intervenção humana. Abrir fonte

Beyond Scores: Understanding LLM-as-a-Judge Mechanisms in Summarization Evaluation​

arXiv cs.CL · 2026-09-01 Avaliadores LLM-as-a-judge são usados como scoring e sinal de treino, mas mecanismo interno de atribuição de nota é pouco compreendido. Investiga via oito ataques de perturbação e análise mecanicista como notas emergem de atenção e pooling. Revela heurísticas frágeis por trás de scores, implicando em harnesses de avaliação mais robustos. Abrir fonte

The Rise of Verbal Reinforcement Learning​

arXiv cs.CL · 2026-09-01 Linguagem natural emerge como canal de feedback primário para melhorar agentes, transmitindo intenção, preferência e causalidade. Unifica feedback verbal sob Verbal Reinforcement Learning com taxonomia de sinais, algoritmos e benchmarks. Mapeia caminho para treinar agentes com recompensas verbais em vez de apenas escalares. Abrir fonte

Retrieved but not ranked: surface-form bias in structural retrieval, from mathematics to agent trajectories​

arXiv cs.LG · 2026-09-01 Avalia retrieval de embeddings onde forma de superfície e significado são desacoplados: itens com mesma estrutura mas wording distinto. Em 500 queries de matemática e trajetórias de agentes (117k corpus), mostra viés de forma de superfície subestima retrieval estrutural. Indica necessidade de encoders com invariância estrutural para RAG agêntico. Abrir fonte

Scaling Near-Optimal SFT-RL Annotation Budget Allocation from Small to Large LLMs​

arXiv cs.CL · 2026-09-01 Dividir orçamento de anotação entre SFT e RL no pós-treino de LLM permanece aberto. Caracteriza alocação ótima SFT-RL e mostra como escalar regra de pequeno para grande modelo com predição de budget. Oferece framework principled para dividir dados rotulados entre SFT e RL sob orçamento fixo. Abrir fonte

When Tokenization is Secretly Output Supervision​

arXiv cs.CL · 2026-09-01 Tokenização é tratada como pré-processamento de entrada, mas em modelos autorregressivos granularidade do tokenizer determina supervisão de saída. Argumenta que tokenização é supervisão: o que o modelo deve resolver em um forward pass. Implicações para design de tokenizers e treino, onde chunking afeta sinal de aprendizado. Abrir fonte

CordisBench: Can Language Models Reason About Component Lifecycles in Dynamic Agent Harnesses?​

arXiv cs.CL · 2026-09-01 Agentes operam em harnesses dinâmicos onde componentes surgem e desaparecem durante execução. CordisBench avalia se LLMs raciocinam sobre ciclos de vida (init, suspensão, teardown) e dependências entre componentes. Expondo falhas de tracking de estado que causam leaks e crashes em agentes de longo horizonte, orienta design de harnesses com lifecycle explícito. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. GitHub Releases API confirmou 15 tags de ggml-org/llama.cpp em 2026-09-01 (b10730–b10751, 4 acima curadas como representativas) e ausência de release em D para vLLM (última v0.28.0 em 2026-08-26) e lm-evaluation-harness (última v0.4.13 em 2026-08-31). arXiv via listagem por categorias totalizou 829 anúncios em 2026-09-01 (2608.x anunciados Sep01 + 2609.x publicados Sep01/ anunciados Sep02); 23 foram curados acima como representativos de harnesses, skills/agentes, fine-tuning/distill, quantização, inference e arquitetura — demais permaneceram fora do escopo estrito de engenharia de LLM ou com sobreposição temática. Hugging Face Hub Daily Papers e buscas web retornaram guias evergreen ou datas fora de D. Lacuna: nenhum release datado em D para transformers, tokenizers ou modelos HuggingFace; vLLM sem publicação em D.

Etiquetas: