Fontes​

LLM quantization guide: How to do it, and how it helps​

Red Hat Developer · 2026-09-02 Guia prático de Cedric Clyburn sobre como reduzir footprint de memória de LLMs com quantização para inference em produção. Detalha esquemas FP8/INT8/INT4, impacto por camada (QKV, FFN) e uso de LLM Compressor para compressão sem perda crítica, com exemplo Llama 4 Scout 109B de BF16 para 1 GPU. Contexto: modelos dobram a cada ano enquanto VRAM não acompanha. Abrir fonte

llama.cpp b10754 — OpenCL corrige leituras fora de limites em kernels Adreno​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige out-of-bounds em kernels de imagem OpenCL para GPUs Adreno móveis. Trava fetch row do decode GEMV q4_K em grid com padding e impõe contrato de tiling para GEMMs KQ/KQV, movendo decisão de split para dispatch. Melhora inferência quantizada em dispositivos móveis com q4_K. Abrir fonte

llama.cpp b10759 — KleidiAI evita init de buffer type no dispatch​

GitHub ggml-org/llama.cpp · 2026-09-02 Evita inicialização desnecessária de buffer type KleidiAI durante dispatch, reduzindo overhead em caminho ARM otimizado. Correção focada em backend ggml para inferência eficiente em hardware móvel/edge. Prerelease publicado em 2026-09-02T10:22:15Z. Abrir fonte

llama.cpp b10760 — mtmd corrige Qwen3-TTS 0.6B​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige carregamento do Qwen3-TTS 0.6B tornando proj_in do code predictor opcional, já que talker e predictor compartilham hidden size na variante 0.6B. Ajuste em mtmd (multimodal) para suporte correto a modelo TTS multimodal. Publicado em 2026-09-02T11:14:51Z. Abrir fonte

llama.cpp b10762 — mtmd adiciona suporte DeepSeek-V4-Flash-Vision-Exp​

GitHub ggml-org/llama.cpp · 2026-09-02 Adiciona suporte multimodal para DeepSeek-V4-Flash-Vision-Exp no pipeline mtmd, incluindo tratamento de token counts min/max via CLI. Expande cobertura de modelos vision-LLM para inferência local com ggml. Publicado em 2026-09-02T18:37:20Z. Abrir fonte

llama.cpp b10763 — preserve_reasoning ativado por padrão em server/common​

GitHub ggml-org/llama.cpp · 2026-09-02 Ativa por padrão o kwarg preserve_reasoning e registra seu estado efetivo no server e common, preservando conteúdo de reasoning no histórico de chat. Viabiliza conversas multi-turn que reutilizam raciocínio prévio com flag --reasoning-preserve. Publicado em 2026-09-02T19:02:44Z. Abrir fonte

llama.cpp b10764 — ggml-cuda remove variáveis não usadas​

GitHub ggml-org/llama.cpp · 2026-09-02 Limpeza em backend ggml-cuda removendo variáveis não utilizadas, mantendo paridade de kernels CUDA/HIP sem alteração funcional. Contribuição assinada por Adrien Gallouët (Hugging Face). Publicado em 2026-09-02T19:56:21Z. Abrir fonte

llama.cpp b10766 — model suporta visão para DeepSeek V4 corretamente​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige suporte a input vision para DeepSeek V4 no carregamento de modelo, garantindo roteamento correto de tensores visuais no pipeline multimodal. Ajuste nits incluso. Publicado em 2026-09-02T20:33:26Z. Abrir fonte

llama.cpp b10767 — atualiza ROCm para 10.0.0​

GitHub ggml-org/llama.cpp · 2026-09-02 Atualiza stack ROCm para release 10.0.0, alinhando suporte a GPUs AMD MI350X/MI355X e melhorias de kernel HIP. Relevante para serving com vLLM/LMCache em ROCm. Publicado em 2026-09-02T22:59:12Z. Abrir fonte

llama.cpp b10769 — Metal corrige query de memória em baixa memória​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige consulta de memória disponível no backend Metal sob condições de baixa memória em macOS/iOS, evitando falhas de alocação. Co-autoria de Georgi Gerganov. Publicado em 2026-09-02T23:37:38Z. Abrir fonte

llama.cpp b10770 — Metal adiciona tunings FA-vec para M3​

GitHub ggml-org/llama.cpp · 2026-09-02 Adiciona tabelas de tuning FlashAttention vetorizado (FA-vec) calibradas para Apple M3, estendendo otimizações de atenção vetorizada além de M2/A18 Pro. Melhora throughput de inference quantizada em Apple Silicon de nova geração. Publicado em 2026-09-03T00:00:36Z (2026-09-02 21:00 BRT). Abrir fonte

llama.cpp b10771 — mtmd adiciona mtmd_tokenize_from_parts()​

GitHub ggml-org/llama.cpp · 2026-09-02 Introduz API mtmd_tokenize_from_parts() e a utiliza no mtmd-cli, movendo add_special para nível de chamada. Facilita tokenização multimodal por partes para harnesses que compõem prompts com imagem/áudio. Publicado em 2026-09-03T00:24:45Z (2026-09-02 21:24 BRT). Abrir fonte

llama.cpp b10772 — ggml-hexagon adiciona suporte F16 para ops unárias​

GitHub ggml-org/llama.cpp · 2026-09-02 Estende backend HTP Hexagon com suporte F16 para operações unárias, adicionando ABS sobre NORM/RMS_NORM/L2_NORM/SCALE/CLAMP existentes. Amplia inferência quantizada em DSPs Qualcomm para execução local eficiente. Publicado em 2026-09-03T00:48:22Z (2026-09-02 21:48 BRT). Abrir fonte

llama.cpp b10773 — server aceita data: URLs para input_video e input_audio​

GitHub ggml-org/llama.cpp · 2026-09-02 Servidor de inferência passa a aceitar data: URLs para input_video e input_audio, permitindo envio inline de mídia sem upload separado. Simplifica harnesses multimodais e testes locais. Publicado em 2026-09-03T01:25:03Z (2026-09-02 22:25 BRT). Abrir fonte

llama.cpp b10774 — finetune corrige modo sem KV cache​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige treinamento/finetune em modo sem KV cache, ajustando caminho de treinamento sugerido por @ggerganov. Relevante para pipelines de adaptação local com memória reduzida. Publicado em 2026-09-03T01:52:31Z (2026-09-02 22:52 BRT). Abrir fonte

llama.cpp b10775 — mtmd corrige preproc idefics3​

GitHub ggml-org/llama.cpp · 2026-09-02 Corrige pré-processamento idefics3 no pipeline mtmd, alinhando tratamento de imagem para modelos Idefics3. Ajuste pontual para fidelidade multimodal. Publicado em 2026-09-03T02:16:38Z (2026-09-02 23:16 BRT). Abrir fonte

Post-Training Language Models for Gold-Medal Performance in Coding Competitions​

arXiv cs.LG · 2026-09-02 Pipeline completo com curadoria de 22k problemas, traces sintéticos, SFT e RL treina Nemotron-3-Nano-CC (30B-A3B) e Ultra-CC (550B-A55B). Apresenta GenCorrect, estratégia de test-time compute iterativa que gera, avalia e refina soluções. Em IOI 2026, sob mesmas restrições de humanos, atinge 535.4/600 superando gold 361.12 e top humano 498.27 — primeiro sistema a superar maior pontuador humano em IOI. Abrir fonte

UE5M3 FP4 Block Scaling for Stable Language Model Pretraining​

arXiv cs.LG · 2026-09-02 Propõe parear payload E2M1 FP4 com escalas de bloco unsigned E5M3 (ue) de alcance mais amplo, com scaling periódico e stochastic rounding seletivo em gradientes backward. Pretreina Nemotron-H 8B por ~190B tokens superando receita Transformer Engine Nv com menor loss final e valid loss em inferência quantizada, sem RHT e sem isenção BF16 no bloco final. Ablação mostra +21.2% throughput de tokens no model-body ao remover RHT+BF16 juntos. Abrir fonte

Graph Machine: Towards Better Pretraining via Edges​

arXiv cs.LG · 2026-09-02 Introduz Graph Machine (GM), arquitetura que mantém estado O(n) com roteamento esparso dinâmico via edges como ponteiros atualizados diferenciavelmente por mecanismo de referência. Substitui 75% das camadas densas Transformer em Qwen3-0.6B e pretreina do zero com 15.7B tokens. Com apenas 2–4 tokens de 4096 recuperados por head em cada camada esparsa, loss degrada pouco e com 4 tokens melhora marginalmente — indicando escalabilidade para contexto longo com custo sublinear. Abrir fonte

Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills​

arXiv cs.AI · 2026-09-02 Agentes de pesquisa ML combinam backbone com harness de planejamento/execução, mas falta operational knowledge — saber fazer funcionar. Repo-To-Skill destila repositórios GitHub em skills AI4AI reutilizáveis, transferindo know-how de domínio para agentes. Mitiga lacuna entre conhecer método e operacionalizá-lo, relevante para harnesses de agentes auto-evolutivos. Abrir fonte

SafeEvolve: Harness-Policy Co-Evolution from Agent Experience for Safety Alignment​

arXiv cs.AI · 2026-09-02 Desempenho de agentes LLM é moldado conjuntamente por modelo base e harness. Abordagens isoladas de atualização de harness ou otimização de política falham em fechar lacuna de segurança em respostas e trajetórias multi-step. SafeEvolve propõe co-evolução harness-política a partir de experiência do agente, alinhando execução segura sem sacrificar capacidade. Expõe risco de harnesses com geração irrestrita de skills. Abrir fonte

EarlyEval: Cheaper Agent Evaluation via Early Outcome Prediction​

arXiv cs.CL · 2026-09-02 Avaliar agentes frontier custa centenas a milhares de dólares por passagem. Destilação de benchmarks reduz tarefas mas mantém custo por execução. EarlyEval prevê desfecho cedo durante execução, interrompendo trajetórias com alta confiança de falha/sucesso para cortar custo sem reamostragem completa. Reduz gasto iterativo em desenvolvimento agêntico mantendo correlação de ranking. Abrir fonte

Incremental Pooled LLM Evaluation for Cost-Effective Retrieval Model Selection​

arXiv cs.IR · 2026-09-02 Seleção de modelo de retrieval para RAG exige julgamentos de relevância caros. Estuda pooled LLM evaluation onde LLM julga união de documentos recuperados pelo pool atual de candidatos, expandindo pool incrementalmente quando novos sistemas chegam. Mostra como reutilizar julgamentos mantém confiabilidade comparativa com custo marginal baixo, essencial para harnesses de avaliação de RAG em produção. Abrir fonte

CORAL: An LLM-Native Harness for Production Recommender Systems​

arXiv cs.CL · 2026-09-02 Sistemas de recomendação em produção exigem otimização contínua de retrieval, ranking e serving à medida que conteúdo e comportamento mudam. CORAL propõe harness LLM-native que automatiza testes de mudanças via experimentação offline conduzida por LLM, reduzindo dependência de experimentos online lentos. Traz paradigma de harness contínuo para recomendação com LLMs. Abrir fonte

Language Models Can Control Their Own Attention​

arXiv cs.CL · 2026-09-02 Modelos gastam grande parte da atenção em poucos tokens mas leem todo KV cache para encontrá-los. Abordagens com proxy pré-selecionam tokens relevantes com custo extra. Mostra que LMs podem controlar própria atenção de forma endógena, mitigando custo de escanear 1M tokens a cada token gerado. Reduz leitura de KV em layer global sem proxy externo, relevante para serving de contexto longo. Abrir fonte

Discriminative World Models for Web Agents​

arXiv cs.AI · 2026-09-02 Web agents amostram ações candidatas, predizem estados resultantes e ranqueiam com PRM/ranker, mas world models treinados via next-state supervision geram snapshots fixos pouco discriminativos. Introduz predicted-state matching onde representação predita deve distinguir estado verdadeiro de alternativas, treinado em dataset ramificado do WebArena Go-Browse. Supera supervisão padrão em matching e ranking PRM, melhorando taxa de sucesso end-to-end em WebArena-Lite. Abrir fonte

From Reweighting to Rewriting: Unlocking the Intervention Effects of Influential Samples in Training Data Attribution​

arXiv cs.CL · 2026-09-02 Influence functions estimam mudança comportamental sob reweighting infinitesimal, mas exemplos selecionados via IF mostram vantagem limitada sobre aleatório com intervenções por peso. Demonstra que reescrever conteúdo de amostras influentes (não apenas reponderar) desbloqueia efeitos de intervenção maiores. Implicação para fine-tuning e curadoria de dados: editar amostras influentes é mais eficaz que apenas reweighting. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. GitHub Releases API confirmou 15 tags de ggml-org/llama.cpp em D (janela BRT 2026-09-02 00:00–2026-09-03 00:00 = 2026-09-02 03:00–2026-09-03 03:00 UTC) todas curadas acima; ausência de release em D para vLLM (última v0.11.0 em 2026-08-26) e lm-evaluation-harness. arXiv via export.arxiv.org totalizou 111 anúncios em cs.LG e 50 em cs.CL em 2026-09-02; 11 foram curados como representativos de arquitetura, quantização, fine-tuning, skills e harnesses — demais fora do escopo estrito de engenharia de LLM ou sobreposição temática. Hugging Face Hub Daily Papers de 2026-09-02 retornou StudentSim (tutor) fora de escopo harness/inference. Lacuna: nenhum modelo novo ou tokenizer com release datada em D em Hugging Face; vLLM sem publicação em D.

Fontes​

llama.cpp b10751 — cuda: fusão MoE com redução ponderada de experts​

GitHub ggml-org/llama.cpp · 2026-09-01 Funde cauda combine de MoE (mul+view+add) em kernel ponderado único, reduzindo writes em VRAM e latência de combinação de experts. Melhora throughput de serving MoE em GPUs NVIDIA. Abrir fonte

llama.cpp b10750 — kv-cells: lookup de histórico n-gram via índice posição-sequência​

GitHub ggml-org/llama.cpp · 2026-09-01 Reconstrução do mapa hash (seq,pos)->token a cada ubatch substituída por índice incremental em posição de sequência, acelerando get_prev_tokens e recuperação de n-gram para speculative decoding. Abrir fonte

llama.cpp b10743 — Metal adiciona tuning FA-vec para M2 Pro​

GitHub ggml-org/llama.cpp · 2026-09-01 Adiciona tabelas fa_vec calibradas para M2 Pro (GPU maior que M2) cobrindo f16 e q8_0, estendendo otimizações FlashAttention vetorizado para geração Apple Silicon de maior contagem de cores. Abrir fonte

llama.cpp b10742 — Metal adiciona tunings FA-vec para A18 Pro (MacBook Neo)​

GitHub ggml-org/llama.cpp · 2026-09-01 Novas tabelas de tuning FlashAttention vetorizado para A18 Pro, calibradas em hardware real, ampliando cobertura de inference quantizada em próxima geração Apple Silicon. Abrir fonte

DASC: Decay-Aware State Compression for Hybrid Linear-Attention Serving​

arXiv cs.LG · 2026-09-01 Híbridos linear-attention reduzem KV cache com estados recorrentes, mas atualizações in-place complicam compressão. Propõe DASC que comprime estados com awareness de decaimento temporal, preservando informação recente e descartando antiga com critério adaptativo. Permite serving híbrido com menor memória e recomputação mínima, essencial para contexto longo em inference. Abrir fonte

Strong Drafts Need Compact Memories: Long-Context Speculative Decoding with Compressed KV Cache​

arXiv cs.LG · 2026-09-01 Decoding de contexto longo é gargalo mesmo com speculative decoding, pois draft e target carregam KV enormes. Mostra que drafts fortes precisam de memórias compactas e propõe KV comprimido compartilhado entre draft/target com trade-off fidelidade-latência. Reduz latência em sumarização e agentes multi-turn sem perda de qualidade, viável para serving com prefixos de dezenas de milhares de tokens. Abrir fonte

SkillZip Pro: Execution-Aware Dynamic Compression of Progressively Loaded Skills for Self-Evolving Agents​

arXiv cs.AI · 2026-09-01 Skills de agente são bundles de diretórios onde apenas a raiz é carregada na ativação. Compressão só da raiz perde maior parte do contexto útil. SkillZip Pro comprime dinamicamente referências, schemas e subskills conforme caminho de execução, guiado por uso real. Reduz consumo de contexto e custo de I/O para agentes auto-evolutivos com bibliotecas extensas de skills. Abrir fonte

On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability​

arXiv cs.CL · 2026-09-01 Descreve Qwen3.8-Flash-Next com 125B parâmetros (6B ativos por token) e 51B em tabelas de n-gram off-accelerator. Em 14 avaliações de pré-treino, supera baselines densos com custo ativado menor. Detalha ablações de arquitetura MoE, estabilidade de treino e eficiência, relevante para design de MoE em larga escala. Abrir fonte

Q-Strata: Hierarchical Bit Allocation for Mixed-Precision Quantization of Mixture-of-Experts LLMs​

arXiv cs.LG · 2026-09-01 Quantização de precisão mista aloca bitwidths por camada para minimizar perda sob orçamento fixo, mas MoE possui centenas de experts. Q-Strata aloca hierarquicamente bits entre experts e camadas densas usando sensibilidade medida, superando alocação uniforme. Crítico para deploy MoE quantizado com qualidade preservada. Abrir fonte

Faithfulness Is Not Free: Auditing Offline KV-Cache Quantization in Retrieval-Augmented Generation​

arXiv cs.CL · 2026-09-01 Sistemas RAG podem pré-computar e quantizar KV caches de documentos para evitar re-encoding, mas impacto na fidelidade era desconhecido. Audita quantização offline e mostra que compressão mascara evidência de resposta, fazendo LLM alucinar com confiança. Propõe checagem de fidelidade ground-truth para quantização de cache em RAG. Abrir fonte

Fine-Tuning Low-Bit Models with Gradient in Quantized Code Space​

arXiv cs.LG · 2026-09-01 Fine-tuning de modelos já quantizados em baixa precisão sofre degradação por gradientes em espaço quantizado. Propõe otimizar gradientes diretamente no código quantizado com correção de escala, mantendo compatibilidade com formatos sub-4-bit. Permite adaptação eficiente sem dequantização completa, útil para personalização on-device. Abrir fonte

Tensor Methods for Language Models: From Token Representation to Training, Adaptation, Inference, Compression, and Interpretability​

arXiv cs.LG · 2026-09-01 Visão tensorial unifica representações de tokens, pesos, updates LoRA, caches e ativações como objetos multilineares. Sistematiza métodos de decomposição, compressão, adaptação e interpretabilidade sob lente tensorial. Oferece fundação para treino, inference e compressão com estrutura de posto baixo explícita. Abrir fonte

EvoSkill Injection: Red-Teaming Autonomous Skill Generation and Evolution in Self-Evolving Agents​

arXiv cs.AI · 2026-09-01 Agentes auto-evolutivos geram e reusam skills autonomamente para reduzir custo de raciocínio. Demonstra vetor de ataque EvoSkill Injection onde skills maliciosas são injetadas via evolução autônoma e persistem como memória. Expõe risco de segurança para harnesses com geração irrestrita de skills e motiva verificação de proveniência. Abrir fonte

Stress-Testing Efficient Responsible-AI Evaluation: When Compute Savings Change Benchmark Conclusions​

arXiv cs.LG · 2026-09-01 Avaliação de IA responsável usa amostragem e caching para economizar compute, mas savings podem inverter conclusões de benchmark. Stress-testa economias com testes controlados e mostra mudanças de ranking sob amostragem agressiva. Alerta para harnesses de avaliação que sacrificam validade por custo, com framework de auditoria. Abrir fonte

Does On-Policy Distillation Really Distill? From Noisy Teacher to Self-Improvement​

arXiv cs.LG · 2026-09-01 Distilação on-policy com tokens amostrados pelo estudante é eficiente mas frequentemente perde diversidade. Analisa gargalo de diversidade quando professor só fornece probabilidades para tokens amostrados. Mostra que diversidade colapsa e propõe amostragem corrigida que recupera cobertura sem custo adicional de professor. Abrir fonte

On the Prospects of Dynamic LLM Conversations in Software Development​

arXiv cs.SE · 2026-09-01 Conversas dinâmicas com LLM em desenvolvimento de software exigem memória e branching além de turnos lineares. Estuda como conversas ramificadas e stateful afetam correção e produtividade de coding agents. Propõe padrões para harness conversacional persistente com replay e controle de contexto. Abrir fonte

When Guardrails Look Effective: Construct Validity Failures in LLM Agent Commerce Evaluation​

arXiv cs.AI · 2026-09-01 Simulações multi-turn comprador-vendedor com agentes LLM parecem produzir preços e welfare econômicos, mas podem apenas imitar outputs sem comportamento econômico real. Audita falhas de validade de constructo em avaliação de comércio agêntico. Demonstra que métricas aparentes escondem ausência de mecanismo, exigindo harnesses de avaliação com verificação causal. Abrir fonte

Parsing the Stream: A Live Trace Model for Long-Horizon Agents and Their Observers​

arXiv cs.AI · 2026-09-01 Traces de agentes de longo horizonte excedem tanto observador humano quanto janela de contexto do próprio agente. Propõe live trace model como ledger append-only dobrado incrementalmente em estado tipado e compilado em views observáveis. Viabiliza observabilidade e folding de contexto para harnesses agênticos de longa duração. Abrir fonte

The Structure of Quantization Damage in LLMs: Why the Next Bit Should Be Spent Globally​

arXiv cs.LG · 2026-09-01 Quantização pós-treino danifica LLMs de forma desigual entre camadas e componentes. Estuda alocação causal de precisão extra e prova que próximo bit deve ser gasto globalmente, não localmente, para maximizar ganho. Orienta estratégias MPQ com análise de dano estruturado, superior a heurísticas por camada. Abrir fonte

Selective Agent Guidance via Entropy: Learning Autonomous Policies from Imperfect VLM Teachers​

arXiv cs.AI · 2026-09-01 VLMs como políticas interativas são caros e frágeis por consulta a cada passo. Aprende política autônoma barata guiada seletivamente por entropia do teacher VLM, consultando apenas quando incerto. Reduz chamadas a VLM e evita repetição de erros sistemáticos com treino por interação. Abrir fonte

Harness-of-Harness: Multi-Day Autonomous Software Development with Continual Improvement​

arXiv cs.AI · 2026-09-01 Desenvolvimento autônomo de software exige transformar requisitos de alto nível em sistemas funcionais. Introduz Harness-of-Harness que permite coding agents melhorarem continuamente ao compilar feedback de execução em harnesses aninhados. Viabiliza desenvolvimento multi-dia com melhoria incremental sem intervenção humana. Abrir fonte

Beyond Scores: Understanding LLM-as-a-Judge Mechanisms in Summarization Evaluation​

arXiv cs.CL · 2026-09-01 Avaliadores LLM-as-a-judge são usados como scoring e sinal de treino, mas mecanismo interno de atribuição de nota é pouco compreendido. Investiga via oito ataques de perturbação e análise mecanicista como notas emergem de atenção e pooling. Revela heurísticas frágeis por trás de scores, implicando em harnesses de avaliação mais robustos. Abrir fonte

The Rise of Verbal Reinforcement Learning​

arXiv cs.CL · 2026-09-01 Linguagem natural emerge como canal de feedback primário para melhorar agentes, transmitindo intenção, preferência e causalidade. Unifica feedback verbal sob Verbal Reinforcement Learning com taxonomia de sinais, algoritmos e benchmarks. Mapeia caminho para treinar agentes com recompensas verbais em vez de apenas escalares. Abrir fonte

Retrieved but not ranked: surface-form bias in structural retrieval, from mathematics to agent trajectories​

arXiv cs.LG · 2026-09-01 Avalia retrieval de embeddings onde forma de superfície e significado são desacoplados: itens com mesma estrutura mas wording distinto. Em 500 queries de matemática e trajetórias de agentes (117k corpus), mostra viés de forma de superfície subestima retrieval estrutural. Indica necessidade de encoders com invariância estrutural para RAG agêntico. Abrir fonte

Scaling Near-Optimal SFT-RL Annotation Budget Allocation from Small to Large LLMs​

arXiv cs.CL · 2026-09-01 Dividir orçamento de anotação entre SFT e RL no pós-treino de LLM permanece aberto. Caracteriza alocação ótima SFT-RL e mostra como escalar regra de pequeno para grande modelo com predição de budget. Oferece framework principled para dividir dados rotulados entre SFT e RL sob orçamento fixo. Abrir fonte

When Tokenization is Secretly Output Supervision​

arXiv cs.CL · 2026-09-01 Tokenização é tratada como pré-processamento de entrada, mas em modelos autorregressivos granularidade do tokenizer determina supervisão de saída. Argumenta que tokenização é supervisão: o que o modelo deve resolver em um forward pass. Implicações para design de tokenizers e treino, onde chunking afeta sinal de aprendizado. Abrir fonte

CordisBench: Can Language Models Reason About Component Lifecycles in Dynamic Agent Harnesses?​

arXiv cs.CL · 2026-09-01 Agentes operam em harnesses dinâmicos onde componentes surgem e desaparecem durante execução. CordisBench avalia se LLMs raciocinam sobre ciclos de vida (init, suspensão, teardown) e dependências entre componentes. Expondo falhas de tracking de estado que causam leaks e crashes em agentes de longo horizonte, orienta design de harnesses com lifecycle explícito. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. GitHub Releases API confirmou 15 tags de ggml-org/llama.cpp em 2026-09-01 (b10730–b10751, 4 acima curadas como representativas) e ausência de release em D para vLLM (última v0.28.0 em 2026-08-26) e lm-evaluation-harness (última v0.4.13 em 2026-08-31). arXiv via listagem por categorias totalizou 829 anúncios em 2026-09-01 (2608.x anunciados Sep01 + 2609.x publicados Sep01/ anunciados Sep02); 23 foram curados acima como representativos de harnesses, skills/agentes, fine-tuning/distill, quantização, inference e arquitetura — demais permaneceram fora do escopo estrito de engenharia de LLM ou com sobreposição temática. Hugging Face Hub Daily Papers e buscas web retornaram guias evergreen ou datas fora de D. Lacuna: nenhum release datado em D para transformers, tokenizers ou modelos HuggingFace; vLLM sem publicação em D.

Fontes​

Logos: An Agent Harness on a Cross-Process Bus​

arXiv cs.AI · 2026-08-31 Harness que tira agentes de um único processo para um barramento cross-process, mantendo invariante de composability espácio-temporal. Formaliza capacidades como componentes com inversa rastreada e demonstra que statelessness do LLM permite estado fora do modelo, preservando correção mesmo com falha isolada por componente. Proposta relevante para orquestração de agentes com tolerância a falhas e escalonamento de harnesses distribuídos. Abrir fonte

DARTS: Decoder-Aware Representation Tuning via Surgery for Model Merging​

arXiv cs.LG · 2026-08-31 Estuda bias de representação ao fundir LLMs decoders fine-tunados sem treino adicional e propõe correção leve com perda L1. Mostra que máscara causal faz bias acumular por posição de token, exigindo correção dependente de posição, diferente de encoders de visão. Avanço direto para merging de modelos, fine-tuning eficiente e infraestrutura de consolidação multi-tarefa sem re-treino. Abrir fonte

Training Communication-Efficient MoE with Layer Re-Configuration (CE-MoE)​

arXiv cs.AI · 2026-08-31 Propõe CE-MoE que desacopla profundidade de token-mixing e channel-mixing, concentrando capacidade de experts em poucas camadas MoE roteadas e adicionando camadas densas para manter profundidade. Em escala de 2B a 31.5B parâmetros, reduz custo de all-to-all dispatch/combine mantendo loss de validação e benchmarks sob mesmos parâmetros ativos. Implicação direta para treino e serving de MoE com paralelismo de experts. Abrir fonte

ContextPilot: Teaching Agents for Proactive Context Management via Fine-grained RL​

arXiv cs.CL · 2026-08-31 Introduz ContextPilot para gestão proativa de contexto em tarefas agênticas de longo horizonte, com toolkit ampliado para planejamento global, memória de longo prazo e compressão adaptativa. Corrige exploração ineficiente e credit assignment grosso ao atribuir recompensas finas por ação de edição de contexto durante RL. Relevante para harnesses de agentes que mantêm working context sem crescimento explosivo. Abrir fonte

CultureConverse: A Multilingual Multi-turn Simulation Harness for Culturally Grounded Assistance​

arXiv cs.CL · 2026-08-31 Apresenta harness de simulação e avaliação multi-turn multilíngue para assistência culturalmente fundamentada em 10 regiões da Ásia Oriental/Sudeste, 58 subgrupos e 7 domínios. Gera 14.610 episódios de benchmark e 274.295 diálogos oracle-guided, avaliando 18 modelos com GPT-5 mini no topo em qualidade de assistência. Contribui para avaliação de agentes com skills culturais e simulação harness. Abrir fonte

Fidelity Is Not Enough: Dispatch-Level Instrumentation for Agentic Datasheet Extraction​

arXiv cs.CL · 2026-08-31 Demonstra que fidelity (acerto do valor extraído) esconde falhas silenciosas onde modelo nunca abriu o datasheet por constraint de output estruturado. Cria benchmark de 37 claims com log de cada tool call e dois instrumentos: classificador de falha e detector silent-failure baseado apenas em quais tools foram chamadas. Aponta para harnesses de avaliação que auditam dispatch, não só resposta final. Abrir fonte

Sliding-window beats linear attention​

arXiv cs.CL · 2026-08-31 Compara retrofitting de LLMs para linear attention versus baseline simples de Sliding Window Attention com sinks e mostra que SWA iguala ou supera linear attention pós-treinada em múltiplos setups. Questiona promessa de resolver escala quadrática apenas com linear attention, reforçando valor de janelas deslizantes para inference de contexto longo com baixo custo. Relevante para arquitetura de atenção e eficiência de memória. Abrir fonte

EvoUndo: Recoverability-Constrained Self-Evolution for LLM Agent Harnesses​

arXiv cs.AI · 2026-08-31 Framework para representar, sintetizar e verificar recuperabilidade de auto-modificações de harnesses geradas pelo modelo em estados contrafactuais. Em 600 tarefas de self-evolution, 197 mutações que melhoram capacidade falham verificação de recuperabilidade, com reparo convencional recuperando 0/197. Estende cálculo de recuperação elevando oráculo de 48/197 para patamar superior, crítico para evolução segura de harnesses. Abrir fonte

Parser States Already Know: Structure-Conditioned KV Persistence for Structured Generation (PASK)​

arXiv cs.LG · 2026-08-31 Propõe PASK que usa transições de parser de geração estruturada (JSON/SQL/function calls) para decidir persistência de KV por grupo de camadas. Combina floors de proteção baseados em sensibilidade a erro de tarefa com alocação por distorção de attention-output, expondo sinal estrutural antes ignorado por compressão de KV. Avanço para inference com KV cache condicionado à gramática e confiabilidade de agentes. Abrir fonte

A Probabilistic Interpretation of KV Cache Eviction​

arXiv cs.CL · 2026-08-31 Formaliza evicção de KV cache como estimativa de expectativa e prova dureza computacional, propondo aproximação por amostragem com correção para entradas evictadas. Mostra que heurísticas atuais podem ser vistas sob lente probabilística, permitindo otimização de throughput com garantias. Útil para serving com cache comprimido e quantização de memória. Abrir fonte

HARTS: Efficient Agentic Reinforcement Learning for Hybrid-Attention Models over Arbitrary Rollout Trees​

arXiv cs.LG · 2026-08-31 Apresenta HARTS que planeja microbatches, réplicas DP e scheduling com compressão de prefixo para RL agêntico com árvores de rollout irregulares. Para atenção linear chunkwise, algoritmo linear coordena recuperação de estado e replay com número mínimo de chamadas de atenção linear, preservando particionamento de estado e evitando recomputação de prefixos compartilhados. Otimiza treino e inference híbrida com recomputação. Abrir fonte

VICT: Verifier-Instrumented Credit Tracing for Long-Horizon LLM Agent RL​

arXiv cs.LG · 2026-08-31 Propõe VICT que expõe átomos executáveis do verificador terminal e os rastreia a ações via arestas de prova com dependência válida, redistribuindo recompensa esparsa com granularidade fina. Ao invés de tratar verificador como escalar, usa estrutura interna da tarefa para credit assignment preciso em trajetórias longas. Melhora RL de agentes com recompensas verificáveis e orquestração de treino. Abrir fonte

H-Scale: Hessian-Guided Scale Refinement for NVFP4 Sub-Byte LLM Inference​

arXiv cs.CL · 2026-08-31 Método leve pós-processamento para refinamento de escalas por grupo em NVFP4 no Blackwell, usando proxy diagonal de segunda ordem derivado de ativações de calibração. Em vez de minimizar erro de reconstrução de peso, seleciona escalas válidas em hardware visando perda de camada, explorando espaço sensível de fatores por micro-bloco de 16. Crítico para inference sub-byte em 4 bits com eficiência e qualidade. Abrir fonte

Speculative Probing: LLM Monitoring at Speculative-Decoding Cost​

arXiv cs.AI · 2026-08-31 Reaproveita módulo de speculative decoding para classificação em tempo real, anexando soft prompt treinado ao fim da sequência alvo para transformar o draft em classificador. Oferece monitoramento de segurança e comportamento com custo de speculative decoding, evitando trade-off de probes de hidden-state ou classificadores dedicados pesados. Aplicável a filtragem e observabilidade durante inference. Abrir fonte

HyQuant: Hybrid-Precision Quantization for LLM Attention​

arXiv cs.AI · 2026-08-31 Apresenta HyQuant que quantiza maioria dos estados de attention em baixa precisão e mantém pequeno conjunto de tokens de linha vertical e janela local em alta precisão. Seleção usa sinais leves de padrão de atenção vertical, reduzindo erro de quantização com overhead limitado. Otimiza prefill com quantização híbrida, equilibrando acurácia e eficiência em inference quantizada. Abrir fonte

lm-evaluation-harness v0.4.13 — bug fixes de leakage e novos backends ONNX​

GitHub EleutherAI/lm-evaluation-harness · 2026-08-31 Release focada em correções que alteram números prévios: leakage de documentos few-shot, bug de filtro MultiChoiceRegex que pontuava errado e stderr de grupo com weight_by_size falso, além de normalização de minerva_math. Adiciona backends onnxruntime e onnxruntime-genai (com winml refatorado) e 8 novas suítes: LongProc, Uncheatable Eval, TyDiQA Gold Passage, LegalBench, IndicParam, GreekMMLU, Physics GRE e Putnam Axiom. Atualiza configs para datasets>=4. Abrir fonte

llama.cpp b10729 — Metal adiciona tunings FA-vec para M1 Ultra​

GitHub ggml-org/llama.cpp · 2026-08-31 Adiciona tabelas fa_vec tuned para M1 Ultra em Metal, movendo entradas após seção M1 Max e removendo linha duplicada. Otimiza kernels FlashAttention vetorizado para inference quantizada em M1 Ultra. Parte do tracking #28088 de cobertura Apple Silicon. Abrir fonte

llama.cpp b10728 — CUDA XOR swizzle para FlashAttention com tiles fp16​

GitHub ggml-org/llama.cpp · 2026-08-31 Implementa XOR swizzle para tiles K,V em shared memory fp16 no FlashAttention CUDA, com correções de ponteiro genérico 64-bit, sincronização gated para path swizzled e gate de PTX. Evita race em shared memory em DGX Spark e permite shapes não-potência-de-2 quando nbatch_2%32==0. Melhora throughput e correção de attention quantizada em GPUs NVIDIA. Abrir fonte

llama.cpp b10727 — Metal adiciona suporte a concat para tipos quantizados​

GitHub ggml-org/llama.cpp · 2026-08-31 Implementa concat em Metal para tipos quantizados, desbloqueando operações de concatenação sem dequantização intermediária. Amplia cobertura de modelos com merges e routing que exigem concat em GGUF q4/q8 no backend Metal. Abrir fonte

llama.cpp b10726 — AVX2 acelera prompt processing de modelos IQ em batch grande​

GitHub ggml-org/llama.cpp · 2026-08-31 Acelera gemm batched para quants grid IQ com kernel ggml_gemm_iqp_8x8_q8_K_p4, layout gather single-source, fallback NUMA e testes de 10 rows para cobertura IQP. Reduz pico de repack e melhora throughput de prefill em CPU AVX2 para modelos UD-Q4_K_XL e família IQ. Contribuição com coautoria de Georgi Gerganov. Abrir fonte

llama.cpp b10724 — kv-cache otimiza restore de células não contíguas​

GitHub ggml-org/llama.cpp · 2026-08-31 Otimiza state_read_data ao restaurar snapshot para células de destino não contíguas: pré-computa runs contíguos e faz uma cópia por run em vez de uma por célula. Reduz de ~1.36M cópias/25-63s para 224 cópias/221-424ms no backend CUDA para 42.603 células em 4 runs, com fallback para cursor de bytes quando chunking difere. Byte-identical e crítico para prompt-cache e ring buffer fragmentado. Abrir fonte

llama.cpp b10723 — OpenCL tuneia caminhos Q4_K/Q5_K para Intel Xe-LP​

GitHub ggml-org/llama.cpp · 2026-08-31 Tuneia mul_mv e mul_mm para Intel GPUs: Q4_K/Q5_K N_DST 4→8 e 8→16 para 2x reuse de ativação e tiles 8x8 para mul_mm. Melhora TG e PP em Intel Xe-LP via OpenCL, beneficiando inference quantizada em iGPU/dGPU Intel. Abrir fonte

llama.cpp b10721 — WebGPU evita crash com offset não múltiplo de 4​

GitHub ggml-org/llama.cpp · 2026-08-31 Corrige ggml_backend_tensor_get em WebGPU para offsets não múltiplos de 4, evitando crash por alinhamento. Melhora robustez do backend WebGPU para inference em browser e edge com GGUF quantizado. Abrir fonte

llama.cpp b10720 — ROCm adiciona radix TOP_K para linhas longas​

GitHub ggml-org/llama.cpp · 2026-08-31 Implementa TOP_K radix para linhas longas no backend ROCm, paralelizando logits de vocabulário grande além de um work-group por linha. Reduz latência de sampling e melhora ocupação em AMD via ROCm 7.14. Complementa otimização similar no SYCL. Abrir fonte

llama.cpp b10719 — Metal adiciona tunings FA-vec para M1​

GitHub ggml-org/llama.cpp · 2026-08-31 Adiciona tunings FA-vec para M1 em Metal, estendendo cobertura de FlashAttention vetorizado para geração base Apple Silicon com parâmetros calibrados. Incrementa tokens/s para modelos GGUF q4/q8 em M1. Abrir fonte

llama.cpp b10718 — CUDA estende fusão MoE para speculative decoding​

GitHub ggml-org/llama.cpp · 2026-08-31 Estende fusões de MoE (GLU e topk-router) de 1 token para múltiplos tokens, habilitando speedup em speculative decoding. Adiciona caso SWIGLU_CLAMP e tratamento multi-token, antes restrito a decode single-token. Ganho direto para serving MoE com draft. Abrir fonte

llama.cpp b10717 — SYCL aprimora obtenção de memória livre em Intel GPU​

GitHub ggml-org/llama.cpp · 2026-08-31 Melhora get_mem_info em SYCL via Level Zero e API SYCL, expondo controle via GGML_SYCL_GET_MEM_API e documentando em SYCL.md. Permite estimativa precisa de VRAM livre para tuning --fit em Intel Arc/Battlemage. Abrir fonte

llama.cpp b10715 — spec funde encoder DFlash na injeção de KV cache​

GitHub ggml-org/llama.cpp · 2026-08-31 Funde encoder DFlash (fc+norm) no branch embd do decoder, alimentando features alvo direto em llama_decode e eliminando round-trip device-host por round. Reduz build duplicado de grafo por rodada de speculative decoding. Melhora latência de DFlash com draft NVFP4. Abrir fonte

llama.cpp b10714 — Vulkan tuneia mat-vec rows para batched em Strix Halo​

GitHub ggml-org/llama.cpp · 2026-08-31 Ajusta rows de mat-vec em Vulkan para RDNA3 acima de 4 colunas com 4 rows estáticos, também para mul_mat_vec_id sem dimensão de coluna. Benchs mais rápidos em Strix Halo across tipos e batch sizes, melhorando prefill batched em AMD via Vulkan. Abrir fonte

llama.cpp b10713 — ggml adiciona MUL_MAT à lista de ops com memória extra para WebGPU​

GitHub ggml-org/llama.cpp · 2026-08-31 Adiciona MUL_MAT às operações que podem precisar memória adicional em ggml_backend_buft_get_alloc_size, atendendo backends WebGPU com staging extra. Previne OOM e subestimação de alocação em ops que expandem temporariamente. Abrir fonte

llama.cpp b10712 — Vulkan radix select para top_k >=1024 em Qwen 3.8 Flash Next​

GitHub ggml-org/llama.cpp · 2026-08-31 Adiciona shader radix sort para top-k com k>=1024 em Vulkan, com fusão QSA e testes para Qwen 3.8 Flash Next. Acelera seleção de top-k grande em decode com vocabulário estendido via Vulkan. Abrir fonte

llama.cpp b10711 — Hexagon corrige bug de fence em CPY​

GitHub ggml-org/llama.cpp · 2026-08-31 Corrige fence em operação CPY no backend Hexagon, evitando corrida em DSPs Hexagon de Snapdragon. Melhora correção de inference em edge com NPU/DSP. Abrir fonte

llama.cpp b10710 — Metal adiciona tunings Q4_1/Q5_0/Q5_1 FA-vec para M2​

GitHub ggml-org/llama.cpp · 2026-08-31 Completa tunings FA-vec restantes para Q4_1/Q5_0/Q5_1 em M2, cobrindo combinações de dtype faltantes para FlashAttention vetorizado. Otimiza inference quantizada em Apple M2 com tabelas calibradas em hardware real. Abrir fonte

llama.cpp b10709 — RPC evita serializar buffers de outros servidores​

GitHub ggml-org/llama.cpp · 2026-08-31 Evita incluir ponteiros de buffers remotos quando buffer não pertence ao dispatcher RPC receptor, adicionando teste de regressão com dois servidores para serialização cross-server. Corrige corrupção em execução distribuída com offloading RPC multi-servidor. Abrir fonte

llama.cpp b10708 — ggml corrige guard de ggml_backend_buft_get_alloc_size​

GitHub ggml-org/llama.cpp · 2026-08-31 Corrige guard em ggml_backend_buft_get_alloc_size para backends com memória extra efêmera (Metal, SYCL, WebGPU), usado pelo RPC. Evita subestimação de overhead de alocação e falhas de inicialização em deployments com staging adicional. Abrir fonte

llama.cpp b10707 — kv-cells para scan de sequências quando todas foram vistas​

GitHub ggml-org/llama.cpp · 2026-08-31 Otimiza for_each_token_in para parar scan de LLAMA_MAX_SEQ ao ver todas as sequências da célula, mantendo ordem e callbacks. Como get_prev_tokens é único caller, ganho aparece no path n-gram: de 56.3→74.3 t/s em 55k contexto e 33.6→50.9 t/s em 132k em RTX PRO 6000 com Qwen3.8-Flash-Next UD-Q4_K_XL. Prompt processing inalterado. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. GitHub Releases API confirmou 20 tags de ggml-org/llama.cpp em D (b10707–b10729) e EleutherAI/lm-evaluation-harness v0.4.13; vLLM não publicou release em D (última v0.28.0 em 2026-08-26). arXiv API via listagem cs.CL (82), cs.LG (120), cs.AI (190) e cs.SE (25) totalizou 417 anúncios em 2026-08-31; 15 foram curados acima como representativos de harnesses, skills/agentes, fine-tuning/model merging, quantização e inference — demais permaneceram fora do escopo estrito de engenharia de LLM ou com sobreposição temática. Hugging Face Hub daily papers e buscas web retornaram guias evergreen ou datas fora de D. Lacuna: nenhum release datado em D para vLLM, transformers, tokenizers ou modelos em HuggingFace Hub.

Fontes​

llama.cpp b10689 — alloc dependencies em graph_optimize​

GitHub ggml-org/llama.cpp · 2026-08-30

Permite passar dependências de alocação em ggml_graph_optimize, com novos testes de alocação para validar o caminho. Melhora o planejamento de memória de grafos de inference, evitando realocações e permitindo otimização mais agressiva de buffers em backends como CUDA e Metal. Relevante para serving GGUF quantizado com grafos otimizados.

Abrir fonte

llama.cpp b10690 — correção de Hadamard em context shift sem quantização​

GitHub ggml-org/llama.cpp · 2026-08-30

Corrige cópia da matriz de Hadamard para o tensor k_rot apenas quando há buffer alocado, prevenindo crash durante context shift com K-cache não quantizado. Falha afetava rotação de chaves em contexto longo sem quantização de cache. Aumenta robustez de inference com janela estendida em CPU/Metal/CUDA.

Abrir fonte

llama.cpp b10691 — Metal corrige crash de pipeline nulo em mul_mat F16​

GitHub ggml-org/llama.cpp · 2026-08-30

Corrige crash por pipeline nulo em mul_mat/mul_mat_id com src1 em F16 no backend Metal, falhando de forma fechada em shapes sem kernel F16 e abortando em pipeline nil no encoder. Evita falhas silenciosas e corrupção em inference quantizada mista em Apple Silicon. Complementa série de fixes Metal da janela.

Abrir fonte

llama.cpp b10692 — SYCL divide linhas longas em TOP_K​

GitHub ggml-org/llama.cpp · 2026-08-30

Altera TOP_K no SYCL para dividir linhas longas em vez de um work-group por linha, paralelizando melhor logits de vocabulário grande. Reduz latência de sampling e melhora ocupação em Intel Arc/Battlemage via oneAPI. Útil para decode com top-k/top-p em modelos com vocabulário estendido.

Abrir fonte

llama.cpp b10693 — Hexagon: descoberta de dispositivo e sessões sob demanda​

GitHub ggml-org/llama.cpp · 2026-08-30

Adiciona suporte a descoberta de dispositivos e criação de sessões sob demanda no backend Hexagon com alocação lazy e limpeza de interfaces. Viabiliza inference em DSPs Hexagon de Snapdragon com gerenciamento eficiente de sessões para MoE e modelos quantizados. Expande cobertura heterogênea para edge com NPU/DSP.

Abrir fonte

llama.cpp b10694 — RPC corrige compatibilidade com macOS pré-RDMA​

GitHub ggml-org/llama.cpp · 2026-08-30

Corrige backend RPC para versões de macOS anteriores ao suporte RDMA, evitando falha de inicialização do transporte remoto. Garante offloading distribuído via RPC em Macs antigos sem RDMA. Relevante para clusters híbridos Apple Silicon com RPC.

Abrir fonte

llama.cpp b10695 — vendor atualiza cpp-httplib para 0.54.1​

GitHub ggml-org/llama.cpp · 2026-08-30

Atualiza a dependência cpp-httplib para 0.54.0/0.54.1 no servidor HTTP OpenAI-compatível do llama.cpp. Traz correções de HTTP e segurança para o servidor de inference. Sem mudança de API, mas melhora estabilidade do serving via API compatível com vLLM/Ollama.

Abrir fonte

llama.cpp b10696 — Metal: tuning FA-vec para Apple M3 Pro​

GitHub ggml-org/llama.cpp · 2026-08-30

Adiciona tabelas fa_vec tuned para Apple M3 Pro, no contexto do tracking #27668 de tuning FlashAttention vetorizado. Otimiza kernels de attention quantizada (f16/q8) em Metal, elevando tokens/s em Macs M3 Pro. Parte do esforço coordenado para cobertura Apple Silicon.

Abrir fonte

llama.cpp b10697 — Metal: tuning FA-vec para M3 Ultra​

GitHub ggml-org/llama.cpp · 2026-08-30

Inclui tunings FA-vec para Apple M3 Ultra, estendendo o trabalho de tuning Metal para o topo da linha Apple Silicon. Melhora throughput de attention em modelos GGUF q4/q8 no M3 Ultra com parâmetros calibrados em hardware real. Relevante para inference local de alto desempenho em Mac Studio.

Abrir fonte

llama.cpp b10698 — RPC corrige spew de erro RDMA Apple no teardown​

GitHub ggml-org/llama.cpp · 2026-08-30

Corrige emissão excessiva de erros RDMA da Apple durante teardown do backend RPC. Reduz ruído de logs e evita falsos alertas em encerramento de sessões distribuídas. Melhoria de observabilidade para deployments RPC em macOS.

Abrir fonte

llama.cpp b10699 — ggml: ggml_backend_op_alloc_size_may_expand para backends com memória extra​

GitHub ggml-org/llama.cpp · 2026-08-30

Introduz ggml_backend_op_alloc_size_may_expand para backends que exigem memória adicional para dados efêmeros (Metal, SYCL, WebGPU) e usa no RPC. Reflete overhead de alocação que antes era subestimado, evitando OOM e corrupção em operações que expandem temporariamente. Crítico para inference quantizada em backends com staging extra.

Abrir fonte

llama.cpp b10700 — renomeia --tensor-read-lazy para --lazy-mode (-lzm)​

GitHub ggml-org/llama.cpp · 2026-08-30

Renomeia o argumento CLI --tensor-read-lazy para --lazy-mode com atalho -lzm, alinhando com o parâmetro interno lazy_mode. Facilita uso de carregamento lazy de tensores para reduzir pico de RAM/VRAM ao carregar GGUF grandes. Mantém compatibilidade de plumbing interno e melhora ergonomia do harness.

Abrir fonte

llama.cpp b10701 — DFlash corrige escalas NVFP4 ausentes em attention​

GitHub ggml-org/llama.cpp · 2026-08-30

Corrige passagem de escalas NVFP4 faltantes para operações de attention no caminho DFlash2, que fazia modelos draft NVFP4 quase não terem tokens aceitos em speculative decoding. Restaura taxa de aceitação de draft com quantização NVFP4, recuperando speedup de decoding especulativo para modelos quantizados de baixa precisão em Blackwell e similares.

Abrir fonte

llama.cpp b10702 — HIP otimiza caminho Q2_0 dot-product para gfx1201​

GitHub ggml-org/llama.cpp · 2026-08-30

Otimiza o caminho vec_dot_q2_0_q8_1 para gfx1201 (RDNA4) com perm nativa amdgcn, ampliando otimização de perm Q2_0 no HIP. Acelera matmul quantizado Q2_0 em GPUs AMD RDNA4 via ROCm. Ganho direto para inference GGUF Q2_K/Q2_0 em Radeon RX de nova geração.

Abrir fonte

llama.cpp b10703 — HIP: tuning de config MMQ para RDNA3​

GitHub ggml-org/llama.cpp · 2026-08-30

Ajusta configuração MMQ para RDNA3 no backend HIP, refinando tiling e paralelismo de matmul quantizado. Melhora throughput em GPUs AMD RDNA3 (7900 XT/XTX) para GGUF Q4/Q5. Parte do tuning contínuo de HIP para cobrir RDNA3 e RDNA4.

Abrir fonte

llama.cpp b10704 — CUDA usa caminho rápido mm_ids_helper para qualquer n_expert_used​

GitHub ggml-org/llama.cpp · 2026-08-30

Generaliza o caminho rápido mm_ids_helper em CUDA para qualquer n_expert_used, antes restrito a warp_size % n_expert_used == 0. Remove hardcode e agrupa warp lanes por token para MoE, acelerando mul_mat_id em modelos mixture-of-experts. Beneficia inference de MoE esparsos como Qwen e DeepSeek em NVIDIA.

Abrir fonte

llama.cpp b10705 — melhora manuseio de TENSOR_READ_LAZY em llama​

GitHub ggml-org/llama.cpp · 2026-08-30

Melhora o tratamento de TENSOR_READ_LAZY no núcleo llama, forçando tensor lazy em CPU quando lazy está ativo. Corrige interação entre carregamento lazy e placement de tensores, reduzindo cópias e pico de memória. Complementa a renomeação para --lazy-mode do b10700.

Abrir fonte

llama.cpp b10706 — ggml adiciona SWIGLU_CLAMP​

GitHub ggml-org/llama.cpp · 2026-08-30

Adiciona operação SWIGLU_CLAMP em ggml com shader Vulkan correspondente, suportando variante clamped de SwiGLU usada em arquiteturas recentes. Habilita execução correta de FFNs com clamp em backends GGML/Vulkan. Prepara suporte a modelos que usam ativação SwiGLU com limite.

Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. Verificação via arXiv API (cs.CL/cs.LG/cs.AI/cs.NE/cs.SE/stat.ML) não retornou papers com published ou updated em D — 2026-08-30 foi domingo, sem anúncio arXiv (padrão de não-publicação de fim de semana; janela BRT [2026-08-30 03:00 UTC, 2026-08-31 03:00 UTC) vazia). GitHub Releases API para vLLM (último v0.28.0 em 2026-08-26T09:46:30Z), transformers, peft, tokenizers, ollama, DeepSpeed, diffusers, unsloth, axolotl e trl não apresentou tags com published_at em D; apenas ggml-org/llama.cpp publicou tags em D (18 releases b10689–b10706, todas preservadas acima, verificadas via api.github.com). Hugging Face Hub (api/models) e buscas web com recorte temporal não retornaram modelo trending com lastModified em D dentro do escopo LLM inference/quantização; artigos secundários sobre vLLM 0.28.0 e Hy4 datam de 2026-08-26/29 fora da janela. Softwares genéricos com IA integrada foram excluídos. Lacuna: nenhum paper arXiv novo, nenhum release de lm-eval-harness/SGLang/vLLM e nenhum modelo relevante no Hub com data verificável em 2026-08-30 além dos 18 de llama.cpp.

Fontes​

llama.cpp b10688 — tunings FA-vec para Apple M2​

GitHub ggml-org/llama.cpp · 2026-08-29

O release b10688 adiciona tabelas fa_vec_tuned para Apple M2 focadas em FlashAttention vetorial via Metal. Os tunings otimizam kernels de attention quantizados (f16/q8) para inference local em Macs com M2, melhorando tokens/s e eficiência energética. Segue a série de tunings M3/M4/M5 das últimas semanas para cobertura completa de Apple Silicon.

Abrir fonte

llama.cpp b10687 — OpenCL: novo caminho matmul para Adreno X2E e A7X​

GitHub ggml-org/llama.cpp · 2026-08-29

O b10687 roteia matmuls OpenCL para caminhos mais rápidos em duas gerações Adreno. Em X2-90, ativa por padrão o GEMM F16xF32 via xmem, antes opt-in, que reduz de 40,8%% do tempo de prefill em gpt-oss-20b f16 para ganho de ~25%% em prefill; em A7X, desvia batched f32xf32 do tiled kernel que sofre spill de registradores, com ~9%% de ganho em gemma-3n-E4B no Adreno 740. Alterações são gated por geração e controláveis por GGML_OPENCL_A7X_F32_LM_BYPASS. Relevante para inference quantizada on-device em Snapdragon com aceleração Adreno.

Abrir fonte

llama.cpp b10686 — Metal: assert de padding em shared memory​

GitHub ggml-org/llama.cpp · 2026-08-29

Correção de robustez no backend Metal que adiciona assertion para padding de shared memory, evitando layout incorreto em kernels Metal. Mudança de segurança que previne corrupção silenciosa de tensores em inference com GGUF quantizado em Apple Silicon. Complementa os tunings fa-vec da mesma janela.

Abrir fonte

llama.cpp b10685 — Metal: tunings FA-vec restantes para M4 Pro​

GitHub ggml-org/llama.cpp · 2026-08-29

Complementa o b10673 ao incluir os tunings FA-vec remanescentes para Apple M4 Pro no ggml-metal-tuning.cpp. Otimiza FlashAttention vetorizado quantizado para o GPU do M4 Pro, cobrindo combinações de dtype f16/q8 restantes. Contribuição validada com sweep reproduzível via ggml-metal-tuning em Metal.

Abrir fonte

llama.cpp b10684 — SYCL: --fit respeita melhor --fit-target​

GitHub ggml-org/llama.cpp · 2026-08-29

Melhora o algoritmo --fit no backend SYCL para considerar o pico real de VRAM com contexto totalmente utilizado, evitando OOM e ao mesmo tempo reduzindo reservas excessivamente conservadoras. Em teste com Arc B70 e Qwen3.8 Q4_K_XL, permite alcançar 262144 de contexto utilizável com KV q8_0, MTP e ubatch 4k usando --fit-target 1. Relevante para serving com contexto longo quantizado em Intel Arc/Battlemage via oneAPI.

Abrir fonte

llama.cpp b10683 — Vulkan: unificação de funções fastdiv​

GitHub ggml-org/llama.cpp · 2026-08-29

Refatora o backend Vulkan combinando funções fastdiv duplicadas e renomeando a variante otimizada para divisões pequenas, removendo redundância no código de shaders. Limpeza reduz manutenção e prepara otimizações de dispatch MoE/MatMul em Vulkan. Sem mudança funcional, mas melhora manutenibilidade de kernels de inference sparse em AMD/NVIDIA via Vulkan.

Abrir fonte

llama.cpp b10682 — Metal: tunings FA-vec para M1 Max​

GitHub ggml-org/llama.cpp · 2026-08-29

Adiciona registros fa_vec_tuned para Apple M1 Max, estendendo a cobertura de FlashAttention vetorizado quantizado para a geração M1. Os tunings são gerados via ggml-metal-tuning fa-vec e melhoram throughput de attention em Metal para modelos GGUF q4/q8 em Macs M1 Max. Parte do esforço contínuo de tuning para Apple Silicon iniciado em #27668.

Abrir fonte

llama.cpp b10681 — Vulkan: mul_mat_id passa a fazer padding em K em vez de N​

GitHub ggml-org/llama.cpp · 2026-08-29

Corrige mul_mat_id no backend Vulkan para fazer padding na dimensão K em vez de N. Para mul_mat_id, o índice de linha é indiretado via lookup em shared memory, o que já evita OOB em N, mas o callback não checa limites em K. Mudança evita leituras fora de limites e melhora correção de MoE/attention em GPUs Vulkan.

Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com consultas nativas para harnesses, skills, agentes, lm-eval, vLLM, llama.cpp, fine-tuning, quantização, inference e tokenizers. Verificação via arXiv API (cs.CL/cs.LG/cs.AI/cs.SE/stat.ML) não retornou papers com data publicada em D (2026-08-29 BRT) — a lista recente de cs.CL/cs.LG pula de 2026-08-28 para 2026-08-30, sem entradas para sábado 29, padrão de não-publicação de fim de semana. GitHub Releases API para vLLM, transformers, peft, tokenizers, ollama, DeepSpeed, diffusers, unsloth, axolotl e trl não apresentou tags com published_at em D; apenas ggml-org/llama.cpp publicou 8 tags em D (b10681–b10688), todas preservadas acima. Hugging Face papers/daily e buscas web com recorte temporal retornaram guias evergreen ou datas fora de D. Lacuna: nenhum release de lm-eval-harness, vLLM ou modelo em HuggingFace Hub com data verificável em 2026-08-29.

Fontes​

llama.cpp b10679 — bench com modo lazy para leitura de tensores​

GitHub ggml-org/llama.cpp — 2026-08-28

O release b10679 adiciona a flag --tensor-read-lazy ao bench, permitindo medir leitura preguiçosa de tensores sem materialização completa em memória. A mudança renomeia variáveis para LLAMA_LAZY_MODE_* e afeta benchmarks de throughput e latência de carregamento de modelos GGUF grandes. Relevante para avaliação reproduzível de estratégias de paging e cache em inference local com vLLM/llama.cpp.

Abrir fonte

llama.cpp b10678 — qwen4exp com menos graph splits​

GitHub ggml-org/llama.cpp — 2026-08-28

O b10678 reduz o número de splits de grafo para a arquitetura qwen4exp (Qwen3.8-Flash-Next com hyper-connections de baixo rank e PLE). Menos splits simplificam o grafo de computação, melhoram localidade de cache e reduzem overhead de scheduling em GPUs e Apple Silicon. Complementa o plumbing GGUF do b10660 e prepara inferência eficiente para a família Qwen-Next.

Abrir fonte

llama.cpp b10677 — correção crítica de aliasing de views no backend Vulkan​

GitHub ggml-org/llama.cpp — 2026-08-28

Correção em ggml_vk_graph_optimize que tratava duas views do mesmo tensor como independentes, permitindo reordenação incorreta de nós. O bug gerava tokens silenciosamente errados sob greedy decoding, saídas não-determinísticas e aceitação inválida em speculative decoding, afetando modelos com estado recorrente como Qwen3.8 em Vulkan (AMD/NVIDIA). O fix compara view_src bases e exclui ops no-op (RESHAPE, VIEW, PERMUTE) de dependências de aliasing.

Abrir fonte

llama.cpp b10676 — correção de conv_transpose_2d para múltiplos batches​

GitHub ggml-org/llama.cpp — 2026-08-28

O b10676 corrige ggml e backend Metal para que conv_transpose_2d compute todos os batches (ne[3]), não apenas o primeiro, que antes ficava zerado. A implementação agora itera sobre a dimensão de batch tanto na permutação de src1 quanto no loop principal e dimensiona o buffer de trabalho em ggml_graph_plan. Inclui teste multi-batch em test-backend-ops. Impacta modelos de visão e difusão que usam deconvolução em batch.

Abrir fonte

llama.cpp b10675 — Vulkan: hoisting de row IDs e contagem de experts para MoE​

GitHub ggml-org/llama.cpp — 2026-08-28

Adiciona suporte a hoisting de row IDs e expert count nos shaders Vulkan, com otimizações em coopmat2 e count_experts (fastdiv, subgroupExclusiveAdd e push constants dedicadas). Melhora throughput de MoE (mixture-of-experts) ao computar offsets por expert com paralelismo eficiente e reduzir divergência em dispositivos que suportam subgrupos. Relevante para inference de modelos sparse em GPUs Vulkan com alta cardinalidade de experts.

Abrir fonte

llama.cpp b10673 — tunings FA-vec para Apple M4​

GitHub ggml-org/llama.cpp — 2026-08-28

Inclui tabelas fa_vec_tuned para Apple M4 (10 GPU cores) cobrindo F16, Q4_0, Q4_1, Q5_0, Q5_1 e Q8_0 no ggml-metal-tuning.cpp. Os tunings otimizam FlashAttention vetorizado quantizado para Metal, aumentando tokens/s e eficiência energética em MacBooks com M4. Contribuição da comunidade validada via ggml-metal-tuning fa-vec com sweep reproduzível.

Abrir fonte

llama.cpp b10672 — OpenVINO 2026.3.1, suporte Whisper.cpp e Qwen3.5 em NPU​

GitHub ggml-org/llama.cpp — 2026-08-28

Atualiza o backend OpenVINO para 2026.3.1, funde IM2COL+MatMul em convolução nativa, habilita suporte a Whisper.cpp e ativa Qwen3.5 em NPU com shapes estáticos corrigidos (s_copy dinâmico que propagava slots dinâmicos via GET_ROWS). Adiciona debugging gated por env-var e correções em ggml_rope_set_offset. Amplia cobertura de inference heterogênea em Intel iGPU/NPU com quantização e streaming de áudio.

Abrir fonte

llama.cpp b10670 — SYCL: TILE para KV decode quantizado em Intel BMG (Xe2)​

GitHub ggml-org/llama.cpp — 2026-08-28

Roteia o path de KV decode quantizado para TILE apenas em Xe2/Battlemage, mantendo VEC nas demais arquiteturas até validação. A troca explora tiling eficiente de matriz em hardware Xe2 para decode autoregressivo quantizado (Q4/Q8), reduzindo latência por token em contexto longo. Relevante para serving quantizado em Intel Arc B-series e data center com backend SYCL/oneAPI.

Abrir fonte

llama.cpp b10669 — SYCL: bind in-place do KV cache f16 para SDPA oneDNN​

GitHub ggml-org/llama.cpp — 2026-08-28

Vincula o KV cache f16 diretamente no path SDPA do oneDNN, eliminando cópias staged que custavam ~4,56 GB por ubatch de 2048 tokens a 34k de KV vivo (71,3 MB por tensor). A medição em Qwen3.8-27B Q4_K_S com GGML_SCHED_DEBUG=2 mostra que o custo escala com KV length, caindo para 0,27 GB no primeiro ubatch. Melhoria de largura de banda crítica para prefill longo em Intel GPUs via SYCL.

Abrir fonte

llama.cpp b10668 — tunings FA-vec para M3 Max, M5 e M5 Pro​

GitHub ggml-org/llama.cpp — 2026-08-28

Adiciona registros fa_vec_tuned para Apple M3 Max, M5 e M5 Pro, gerados com ggml-metal-tuning fa-vec --dtype f16,q8_0 em dispositivos reais M5/M5 Pro. Os tunings refinam parâmetros de FlashAttention vetorizado para a família M3-M5, melhorando throughput de attention quantizada em Metal. Sequência de contribuições coordenadas após efeda76b para cobertura completa de Apple Silicon em inference local.

Abrir fonte

llama.cpp b10667 — tunings FA-vec para Apple M4 Pro​

GitHub ggml-org/llama.cpp — 2026-08-28

Inclui tabelas fa_vec_tuned para Apple M4 Pro (MacBook Pro 14" Nov 2024), com sweep de 1h13m via ggml-metal-tuning em Metal. Cobre f16 e q8_0, otimizando kernels de attention para o GPU do M4 Pro sem carga concorrente. Parte do esforço contínuo de tuning discutido em #27668 para maximizar inference on-device quantizada em Apple Silicon.

Abrir fonte

llama.cpp b10666 — testes save/load state para todas as arquiteturas​

GitHub ggml-org/llama.cpp — 2026-08-28

Expande test-save-load-state de um único modelo (tinyllamas/stories15M, arch llama) para varrer todos os *.gguf de um diretório com modo --models DIR, relatando PASS/FAIL por modelo e falhando não-zero se qualquer arquitetura quebrar. Acopla ao fixture generate-models via test-llama-archs e eleva contexto de treinamento dummy de 128 para 256 para acomodar padding por sequência. Melhora harness de CI para validar serialização de estado (KV, recurrent) entre arquiteturas e quantizações.

Abrir fonte

Nota de cobertura: buscas nativas nos 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com foco em harness/skills/modelos LLM, inference, quantização, fine-tuning e arquitetura (lm-eval-harness, vLLM, llama.cpp, agentes, quantização, tokenizers). Foram varridos releases de llama.cpp (12 em D, todos incluídos), ggml, vLLM (sem release em D, último v0.28.0 em 2026-08-26), transformers (sem release em D), lm-evaluation-harness (sem release em D), SGLang, Unsloth, Ollama, arXiv cs.* (0 papers com published UTC em [2026-08-28 03:00, 2026-08-29 03:00) — janela BRT sem publicação) e Hugging Face blog (nenhum post em D na janela BRT). Softwares genéricos com IA integrada foram excluídos. Lacuna: nenhum paper arXiv/LM novo com data verificável em D e nenhum modelo Hugging Face trending com lastModified em D.

Fontes​

WikiSkill: Compiling Agent Experience into Persistent Knowledge for Skill Evolution​

arXiv cs.AI/cs.CL — 2026-08-27

Agentes que descobrem skills automaticamente deixam insights espalhados no histórico. O WikiSkill co-evolui skills com uma wiki persistente, separando experiência bruta de conhecimento acumulado e permitindo reuso sistemático entre iterações. Em cenários multi-tarefa, o framework reduz redundância de descoberta, acelera adaptação e melhora transferência de skills entre agentes.

Abrir fonte

CritICL: Inference-Time Weak-to-Strong Generalization from Small Language Model Failure Modes​

arXiv cs.CL — 2026-08-27

Métodos de scaling em tempo de inferência dependem de geração repetida ou verificação externa. O CritICL observa que modos de falha de LLMs formam padrões estruturados entre escalas da mesma família e os usa como guia. Em vez de descartar erros, o método extrai falhas de um modelo pequeno para orientar o modelo grande na inferência, melhorando raciocínio com alta eficiência e sem re-treinamento.

Abrir fonte

TTPO: Test-Time Policy Optimization​

arXiv cs.CL — 2026-08-27

RL e auto-distilação on-policy impulsionaram raciocínio matemático em LLMs, mas exigem labels de verdade, impedindo treino em tempo de teste. Substituir por pseudo-labels de voto majoritário é frágil quando o voto está errado. O TTPO observa assimetria: rollouts que discordam do pseudo-label tendem a estar errados mesmo quando o voto falha, propondo otimização de política em test-time robusta a esse ruído.

Abrir fonte

Cascaded Batch Prompting: inferência em lote sem perda de qualidade​

arXiv cs.CL — 2026-08-27

Batch prompting acelera inferência ao processar múltiplas instâncias simultaneamente, mas degrada performance de forma imprevisível. O trabalho propõe cascaded batch prompting em duas etapas que desacopla raciocínio complexo de grounding simbólico. Experimentos em QA de múltipla escolha e NLI mostram que o método supera o baseline single-prompt e alcança speedup proporcional ao tamanho do lote.

Abrir fonte

FOCUS & RePAIR: mitigando degeneração de texto em LLMs podados​

arXiv cs.CL/cs.AI/cs.LG — 2026-08-27

Poda comprime LLMs, mas amplifica degeneração como loops de repetição mesmo quando perplexidade permanece estável. O estudo decompõe a falha em risco de entrada no loop e persistência, mostrando que a persistência depende da massa de escape atribuída a alternativas plausíveis. FOCUS e RePAIR oferecem guia token-a-token que preserva diversidade de decodificação sem re-treino e reduz repetição em modelos podados.

Abrir fonte

Meta-Learning Where to Allocate Experts: compressão layer-wise condicionada à tarefa para MoEs​

arXiv cs.CL — 2026-08-27

MoEs roteiam tokens para subconjuntos de experts, mas o número de experts ativos costuma ser fixo por camada e por tarefa, ignorando variação de redundância com profundidade. Offline aloca camada-a-camada e métodos token-level não consideram contexto da tarefa. O MetaNet meta-aprende, a partir do support set, onde alocar experts por camada condicionado à tarefa, comprimindo MoEs de forma adaptativa e melhorando tradeoff capacidade-compute.

Abrir fonte

Information-Guided Frontier Decoding: comprometimento guiado por utilidade contextual em dMLLMs​

arXiv cs.CL — 2026-08-27

Em diffusion multimodal LLMs, a ordem em que tokens mascarados são comprometidos determina qualidade de decodificação. Estratégias baseadas em confiança priorizam tokens localmente fáceis, como pontuação, antes de âncoras semânticas, enfraquecendo propagação de contexto. O IGFD ranqueia candidatos por confiança, incerteza de vizinhança e utilidade contextual, melhorando fidelidade sem treino adicional.

Abrir fonte

Performance Foundations of Parallel & Distributed Reasoning Language Models​

arXiv cs.LG/cs.AI — 2026-08-27

RL com recompensas verificáveis (RLVR) criou Reasoning LMs como DeepSeek-R1 e o3, mas o custo computacional — milhões de GPU-horas e pipelines multi-modelo fortemente acoplados — carece de fundamentos de performance. O paper estabelece bases de performance para RLMs paralelos e distribuídos, caracterizando gargalos de comunicação, memória e paralelismo, oferecendo modelo analítico para escalar raciocínio longo em larga escala.

Abrir fonte

RedEvoAgent: agente de red-teaming automático com evolução de skills guiada por experiência​

arXiv cs.CR/cs.AI — 2026-08-27

Agentes LLM já operam em harnesses de nível produto onde jailbreaks causam uso perigoso de tools e mutações persistentes de estado, risco maior que texto inseguro. Métodos atuais usam ataques fixos ou retrieval de trajetórias completas com viés e alto overhead. O RedEvoAgent co-evolui skills de ataque e memória estruturada, corrigindo viés de retrieval e selecionando skills relevantes com interpretação explícita, elevando taxa de jailbreak em harness realista.

Abrir fonte

Persona-Execution Separation: padrão arquitetural para agentes LLM auditáveis​

arXiv cs.SE/cs.AI — 2026-08-27

Em organizações governadas, a persona do agente (instruções, tom, auto-apresentação) precisa evoluir livremente, mas a execução (trabalho com estado e auditoria) deve ser rastreável. Um único domínio de confiança não resolve ambos de forma barata. O PES separa persona e execução em domínios distintos conectados por uma ponte contratual governada, mantendo execução sem rosto e auditada com DLP graduado.

Abrir fonte

When Context Gets Root: Privilege Escalation in LLM Harnesses​

arXiv cs.CR/cs.SE — 2026-08-27

Harnesses que orquestram LLMs com tools frequentemente tratam contexto como dados inertes, mas saídas de tools e documentos podem carregar instruções que escalam privilégio. O estudo formaliza escalada de privilégio via contexto, mostrando como conteúdo injetado herda permissões do harness e propõe controles de separação e sanitização para evitar que contexto se torne root executivo do agente.

Abrir fonte

A Layer Importance Metric for Quantization Accounting for the Speed-Quality Trade-off​

arXiv cs.LG — 2026-08-27

Quantização camada-a-camada exige decidir quais camadas toleram baixa precisão sem sacrificar qualidade nem velocidade. Métricas atuais focam apenas em erro de quantização, ignorando impacto em throughput. O paper propõe métrica de importância de camada que balanceia degradação de qualidade e ganho de velocidade, orientando alocação de bits mistos para compressão com tradeoff speed-quality explícito.

Abrir fonte

Verify Smarter, Evolve Further: Efficient Harness Evolution through Behavioral Verification​

arXiv cs.AI — 2026-08-27

Evoluir harnesses de agentes por tentativa e erro é caro quando cada candidato exige execução completa de workflow. O trabalho propõe verificação comportamental eficiente que poda candidatos de harness via verificação parcial de comportamento antes de rollout total, acelerando evolução de harness com menor custo de avaliação e mantendo fidelidade de seleção.

Abrir fonte

One Model, Many Minds: Unlocking Multi-Agent Synergy in a Single Agent via Self-Play​

arXiv cs.MA — 2026-08-27

Sinergia multi-agente tipicamente exige múltiplos modelos ou coordenação externa, aumentando custo e complexidade. O paper mostra como um único modelo pode emular múltiplas mentes via self-play estruturado, destravando ganhos de colaboração, debate e verificação interna sem orquestração multi-modelo, com implicações para harness leve e escalável.

Abrir fonte

Boosting LLM Exploration via Weak-Model Guidance in RLVR​

arXiv cs.CL — 2026-08-27

RL com recompensas verificáveis sofre com exploração limitada quando o modelo forte converge cedo para trajetórias de alta recompensa. O estudo guia exploração com um modelo fraco que propõe direções diversas, injetando ruído controlado durante RLVR para expandir cobertura de raciocínio e evitar colapso de modo, melhorando performance em matemática e código.

Abrir fonte

TwinKV: A Composable Repair Pass for KV Cache Eviction via Pairwise Key Redundancy​

arXiv cs.CL — 2026-08-27

Evicção de KV cache é chave para contexto longo eficiente, mas estratégias agressivas descartam informação crítica e degradam qualidade. O TwinKV observa redundância pairwise entre chaves e propõe um passe de reparo componível que reconstrói pares evictados a partir de chaves retidas, permitindo compressão mais agressiva de KV cache sem perda significativa para inferência de long-context em larga escala.

Abrir fonte

llama.cpp b10665 — suporte DSpark para Nemotron3.5​

GitHub ggml-org/llama.cpp — 2026-08-27

Release b10665 adiciona suporte ao modelo DSpark para a família Nemotron3.5, incluindo atualização do conversor dflash.cpp para arquitetura de atenção diferenciada. Co-autoria com Hugging Face, o PR #27804 amplia cobertura de arquiteturas suportadas em GGUF e mantém compatibilidade de inferência local via llama.cpp sem necessidade de backend cloud.

Abrir fonte

llama.cpp b10664 — operações HTP aceleradas por HVX (ABS e LOG) para Hexagon​

GitHub ggml-org/llama.cpp — 2026-08-27

O b10664 registra operações HTP_OP_UNARY_ABS e HTP_OP_UNARY_LOG no ggml-hexagon e implementa hvx_abs_f32_aa e hvx_log_f32_aa acelerados por HVX para o backend Hexagon. Ganha-se eficiência em operações unárias em SoCs Snapdragon com DSP Hexagon, relevante para inferência on-device quantizada e baixa potência.

Abrir fonte

llama.cpp b10660 — GGUF para Qwen3.8-Flash-Next (qwen4exp)​

GitHub ggml-org/llama.cpp — 2026-08-27

O b10660 introduz plumbing GGUF para HF model_type qwen4_exp (Qwen3.8-Flash-Next), com MODEL_ARCH.QWEN4EXP, tensores hc_* para variante hyper-connection de baixo rank e embeddings hash n-gram PLE. Difere dos tensores hc_* de DeepSeek-V4 e prepara llama.cpp para servir a nova geração Qwen com conexões hyper e routing eficiente em inferência local.

Abrir fonte

llama.cpp b10662 — ctx-per-slot (--kv-unified-per-slot) para KV cache unificado​

GitHub ggml-org/llama.cpp — 2026-08-27

O servidor do llama.cpp ganha flag --kv-unified-per-slot que substitui frações de contexto por slots de pool de contexto. O PR #24124 refatora gerenciamento de KV unificado por slot, simplificando alocação, isolamento entre slots concorrentes e throughput em serving contínuo com batching, útil para multi-tenant inference e agentes paralelos.

Abrir fonte

Nota de cobertura: buscas nativas nos 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com foco em harness/skills/modelos LLM, inference, quantização, fine-tuning e arquitetura (lm-eval-harness, vLLM, llama.cpp, agentes, quantização, tokenizers). Foram varridos releases de llama.cpp (18 releases em D, selecionados 4 representativos de arquitetura/inference), vLLM e lm-evaluation-harness (sem release em D), arXiv cs.* (230 papers em D, filtrados para engenharia de modelos/harness) e Hugging Face trending (nenhum modelo GGUF/text-generation com lastModified em D dentre top verificados). Softwares genéricos com IA integrada foram excluídos. Lacuna: nenhum release Hugging Face verificado em D e nenhum paper em chinês/coreano/japonês com data em D além dos arXiv em inglês.

Fontes​

JIT-Agent: Scaling Harness Intelligence via Just-in-Time Harness Evolution​

arXiv cs.CL — 2026-08-26

Capacidade do agente não depende só do modelo: o harness — gestão de memória, estratégia de planejamento, protocolo de ação e orquestração de tools/skills — pode dominar a contribuição do modelo base. O paper propõe JIT-Agent, que evolui o harness just-in-time por tarefa, automatizando desenho de harness antes considerado manual e não escalável. Resultados mostram ganhos de generalização ao otimizar harness em vez de apenas trocar modelo.

Abrir fonte

CaSKG: Counterfactual-Causal Skill Graphs for Scalable Agent Skill Retrieval​

arXiv cs.AI/cs.CL — 2026-08-26

Bibliotecas de skills reutilizáveis permitem reuso de conhecimento procedural, mas acesso vira problema de retrieval. Prompting com biblioteca completa tem custo alto de contexto; retrieval vetorial ignora dependências entre skills. CaSKG propõe grafo causal-contrafactual de skills para retrieval escalável, modelando relações causais entre skills e seletividade contextual, reduzindo custo de contexto e melhorando cobertura.

Abrir fonte

TOPAS: Workflow-Aware Prefix-State Scheduling for Multi-Agent LLM Serving​

arXiv cs.CL — 2026-08-26

Prefix caching em serving multi-agente cria tradeoff: manter cache KV longo acelera chamadas futuras, mas reduz memória GPU para batching concorrente. TOPAS propõe scheduler workflow-aware que gerencia estados de prefixo considerando estágios do workflow, priorizando retenção de caches relevantes para próximas chamadas do agente e liberando os demais para aumentar throughput.

Abrir fonte

AsymSpec: Context-Asymmetric Speculative Decoding for Agentic LLMs​

arXiv cs.AI/cs.CL — 2026-08-26

Pipelines agênticos acumulam contexto longo via retrieval e tool-use, encarecendo inferência. Compressão degrada acurácia; speculative decoding acelera sem perda mas assume que drafter e verifier compartilham mesmo contexto. AsymSpec introduz decodificação especulativa assimétrica de contexto, permitindo drafter leve operar com contexto comprimido enquanto verifier valida com contexto completo.

Abrir fonte

Learning New Facts with QLoRA: An Acquisition-Retention Frontier​

arXiv cs.CL — 2026-08-26

Fine-tuning eficiente com parâmetros é frequentemente assumido como preservador de capacidades por atualizar poucos parâmetros, mas a hipótese depende da capacidade do adaptador. Estudo com Qwen3-4B em benchmark geográfico derivado do OpenStreetMap mostra fronteira aquisição-retenção ao adquirir fatos anonimizados via QLoRA, mapeando como rank e dados afetam memorização sem esquecimento catastrófico.

Abrir fonte

When Personality Meets Quantization: A Layer-wise MBTI Analysis of Quantized LLMs​

arXiv cs.CL — 2026-08-26

Personalidade em LLMs afeta confiança e engajamento; MBTI tem sido usado para avaliá-la, mas estudos focam modelos em precisão completa. O trabalho analisa efeitos da quantização camada a camada sobre traços MBTI, mostrando que compressão não é neutra: certas camadas são mais sensíveis e deslocam personalidade medida, com implicações para deployment quantizado de assistentes.

Abrir fonte

Reflection Steering: Disentangling Reflection from Reasoning in Activation Space for Token-Efficient Inference​

arXiv cs.LG/cs.CL — 2026-08-26

Modelos de raciocínio longo geram traces com verificação e backtracking que desperdiçam tokens quando reflexão apenas re-verifica resultados já estabelecidos. Métodos atuais usam direção média derivada de labels, entrelaçando reflexão e raciocínio. O paper desembaraça reflexão de raciocínio no espaço de ativações, permitindo steering que reduz reflexão redundante e melhora eficiência de tokens na inferência.

Abrir fonte

Prefix Sliding for Efficient Test-Time Scaling​

arXiv cs.CL/cs.AI — 2026-08-26

Test-time scaling melhora performance ao deixar o modelo raciocinar mais, mas manter todo o trace em memória via full attention torna tarefas com raciocínio longo caras. Prefix Sliding mostra que a maioria dos tokens intermediários perde importância ao longo do raciocínio, propondo deslizamento de prefixo que descarta ou comprime prefixos antigos para escalar compute de teste com custo controlado.

Abrir fonte

Skill Issue: Are Skills Language-Invariant in LLMs?​

arXiv cs.CL — 2026-08-26

LLMs acessam conhecimento de forma inconsistente entre línguas, mas quão invariantes são suas skills? Via self-play multilíngue — duas instâncias do mesmo modelo interagindo — o estudo quantifica inconsistência de skills ortogonal a conhecimento e performance geral, revelando variação significativa de habilidades por língua com implicações para avaliação multilíngue e orquestração de agentes.

Abrir fonte

Beam Search, Self-Consistency, and the Limits of Inference-Time Scaling for Grammar-Constrained Text-to-SQL​

arXiv cs.CL — 2026-08-26

Tradeoff clássico é reduzir tamanho do modelo e aumentar compute em inferência via beam mais largo. Em Text-to-SQL com saídas restritas por gramática, o paper examina até onde scaling de inferência (beam search, self-consistency) compensa modelos pequenos, delimitando retornos decrescentes e quando aumentar beam deixa de superar um modelo maior.

Abrir fonte

Ornith 1.5 35B-A3B Genesis Hermes GGUF — MoE vision 35B lançado em Hugging Face​

Hugging Face — 2026-08-26

Modelo MoE 35B (3B ativos) baseado em Ornith-1.5-35B-A3B / Qwen3.5 MoE com capacidade vision multimodal e tuning Hermes agentic/function-calling. Publicado em 26/08 com variantes GGUF (APEX, APEX-Compact, Q8_0 e mmproj BF16) para inferência local via llama.cpp. Arquitetura image-text-to-text sob licença MIT, ampliando opções open-weight para serving quantizado e agentes tool-use.

Abrir fonte

Nota de cobertura: buscas nativas nos 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) com foco em harness/skills/modelos LLM, inference, quantização, fine-tuning e arquitetura. Nenhum release com data verificável em 2026-08-26 foi encontrado para vLLM, llama.cpp ou lm-evaluation-harness (últimos releases: vLLM 0.27.0 em 2026-08-10, lm-eval v0.4.0 anterior). Papers arXiv em cs.CL/CS.AI/CS.LG/CS.CV dentre 71 no dia foram filtrados para engenharia de modelos/harness; softwares genéricos com IA foram excluídos. Hugging Face contribuiu com 1 modelo GGUF do dia.

Fontes​

Granite 4.2 LLMs: How They're Built​

Hugging Face Blog · 2026-08-25 IBM detalha a família Granite 4.2, primeiros modelos densos decoder-only com raciocínio nativo em 3B, 8B e 30B parâmetros, treinados com RL agêntico para pensar e agir em ambientes. O post no Hugging Face Blog descreve escolhas de arquitetura, dados e treinamento que sustentam capacidades de reasoning e uso de ferramentas, com pesos abertos na plataforma. O lançamento posiciona a oferta enterprise da IBM com foco em eficiência e governança para casos de uso de negócio. Abrir fonte

Perplexity's new local-first AI runs on your PC — and asks before using the cloud​

Yahoo Tech · 2026-08-25 Perplexity apresentou o Portable Computer, agente de IA totalmente local que roda no NVIDIA DGX Spark e só aciona a nuvem com permissão explícita. A abordagem local-first busca reduzir latência, preservar privacidade e cortar custos de inferência ao manter contexto e execução no dispositivo. A cobertura contextualiza a parceria Perplexity–NVIDIA e o movimento por runtime local como alternativa a APIs hospedadas para agentes. Abrir fonte

Recursive Experiential-Working Memory Evolution for Long-Horizon Agent Harnesses (Recuris)​

arXiv · 2026-08-25 Propõe a arquitetura Recuris para harnesses de agentes de longo horizonte, onde Working Memory rastreia progresso da tarefa e guia seleção de skills a partir de Experiential Memory, alinhando invocação de skills ao estado atual. A evolução recursiva mitiga o problema de históricos crescentes que obscurecem o estado e desalinham o uso de skills. Contribuição direta para harnesses, orquestração de skills e melhoria recursiva de agentes. Abrir fonte

StarHarness: Evolving Harnesses with Stratified Search for Enterprise Environments​

arXiv · 2026-08-25 Apresenta o StarHarness, framework que evolui harnesses específicos do ambiente mantendo pesos do modelo fixos, incluindo prompts, framing da tarefa, interfaces de ferramentas, skills, providers via MCP, estrutura de subagentes e configuração do loop do agente. Usa estratificação de tarefas por comportamento de falha do baseline para construir um pool compacto de evolução e busca eficiente. Relevante para skills, subagentes e orquestração de modelos em cenários enterprise. Abrir fonte

Simthesizer: An Agent-Driven Simulation Framework for LLM Serving Systems​

arXiv · 2026-08-25 O Simthesizer é um framework de simulação em nível de sistema orientado por agentes para explorar o design space de serving de LLMs, onde deploys reais são caros e evoluções como workflows agênticos e serving desagregado já não cabem em simuladores monolíticos. A proposta supera o gargalo de simuladores mantidos manualmente, que evoluem mais devagar que o próprio serving moderno. Avanço em infraestrutura de treino/serving, vLLM e otimização de throughput e custo de inferência. Abrir fonte

Quantization Effects on Bangla Language Understanding in Large Language Models: A Systematic Evaluation​

arXiv · 2026-08-25 Avaliação sistemática dos efeitos de quantização pós-treino sobre compreensão de Bangla em LLMs, língua morfologicamente complexa e de baixo recurso. Mostra que conclusões sobre degradação ou preservação de desempenho derivadas de benchmarks em inglês não se transferem automaticamente, exigindo avaliação multilíngue. Estudo conecta quantização, inferência on-device e tokenizers, com implicações para deployment eficiente fora do eixo inglês. Abrir fonte

BrowserForge: Scaling Web Episode via Parallel Browser Sandboxes​

arXiv · 2026-08-25 Aborda a escala de dados de trajetórias para web agents que atuam a partir de pixels renderizados, evitando fragilidade e custo de tokens de HTML/árvore de acessibilidade. Propõe geração em larga escala via sandboxes de browser paralelos para produzir episódios web de alta qualidade, já que datasets públicos contêm apenas poucos milhares de trajetórias em conjuntos de sites restritos. Relevante para harnesses de agentes web, infraestrutura de treino e coleta de dados de interação. Abrir fonte

VisCache: Visual KV Cache Pruning for Efficient Vision Large Language Model Inference​

arXiv · 2026-08-25 Propõe o VisCache, método de poda de KV cache visual para inferência eficiente de Vision LLMs, cujo contexto longo sofre com overhead de memória e computação dos caches visuais. Diferente de compressão uniforme por tokens e camadas, aplica poda seletiva para preservar informação e evitar degradação. Contribuição em otimização de inference, quantização implícita de memória e serving de modelos multimodais. Abrir fonte

SPO++: Stream-Aligned Policy Optimization for Asynchronous Agentic RL​

arXiv · 2026-08-25 Estende o Single-stream Policy Optimization (SPO) para RL agêntico assíncrono, removendo a dependência de rollouts irmãos do mesmo prompt e usando estimativa persistente de valor por prompt. Mostra que centralização por trajetória anterior gera viés e propõe alinhamento por stream com perda de ator em média de tokens, melhorando estabilidade e eficiência em trajetórias longas e variáveis com uso de ferramentas. Relevante para fine-tuning via RL, orquestração de agentes e infraestrutura de treino. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) sobre harnesses, skills/agentes, fine-tuning, quantização, inference, tokenizers, interpretabilidade, vLLM, llama.cpp e arquitetura de modelos foram executadas via DDGS em 2026-08-26. DDGS news/text com timelimit retornou majoritariamente guias evergreen, páginas de projeto e datas fora de D (2026-08-24/26); consultas em italiano, francês, alemão, russo e coreano não retornaram resultados datados em D. Hugging Face Blog e Yahoo Tech cobriram Granite 4.2 e Perplexity local-first; arXiv API filtrou 100+ submissões de cs.CL/cs.LG/cs.AI/cs.CV/cs.AR em D, das quais 9 acima foram curadas como representativas do escopo. Lacuna: releases datadas de lm-eval-harness, vLLM e llama.cpp não publicaram versão em D; Hugging Face Hack, investigação do Alabama e Z.ai foram descartados por escopo (cibersegurança/regulatório vs. engenharia de LLMs). Paper 2608.24004 (AgentSpec, 02:49Z) foi excluído por cair em 2026-08-24 em America/Sao_Paulo (antes de 03:00Z).

Fontes​

Prime Agent: A Self-Improving RLM Harness​

arXiv · 2026-08-24 Harness open-source para avaliação de longo horizonte e workflows de coding agents. Propõe abstração Recursive Language Model com REPL IPython persistente para processamento programático de contexto e compute em tempo de teste, além de Continual Harness que preserva históricos, memórias, skills e especificações de subagentes entre trajetórias. Subagentes recursivos coordenam-se por comunicação direta agente-a-agente com visão unificada de execução. Abrir fonte

SkillAlchemy: Open-World Agent Skill Creation​

arXiv · 2026-08-24 Estuda criação de skills em mundo aberto, onde um criador deve descobrir requisitos omitidos pelo briefing a partir de materiais externos. Diferente de geração dependente de autoria humana ou traces de execução, o framework exige que o agente infira comportamentos relevantes a partir de especificação de acesso a fontes. Estabelece avaliação para skills reusáveis que estendem agentes com workflows especializados, convenções de ferramentas e comportamentos de domínio em tempo de inferência. Abrir fonte

Apodex 1.1: Scaling Agentic Intelligence for Complex Work​

arXiv · 2026-08-24 Apresenta scaling em duas dimensões para capacidade de trabalho verificável: Environment Scaling amplia diversidade e verificabilidade de ambientes de arquivos, busca e código executável, e Agentic Coordination Scaling treina agentes para manutenção de estado, recuperação de falhas e entrega auditável. Define working capability como progresso sustentado e verificável rumo a objetivos reais, além de raciocínio e síntese. Relevante para orquestração de modelos e infraestrutura de treino de agentes. Abrir fonte

How to Train a Critic Stably and Efficiently​

arXiv · 2026-08-24 Aborda instabilidade do treino de critic em RL para LLMs e propõe Best-Practice Critic Optimization (BPCO). Combina DPPO, predições de valor limitadas ao intervalo de recompensa, alvos Monte Carlo, vantagens de política não normalizadas e estimativa de vantagem generalizada adaptativa ao comprimento. Como o critic só é usado no treino, pode ser condicionado a informações definidoras de recompensa como gabarito ou rubrica ocultas da política. Valida cada escolha em raciocínio matemático em múltiplas escalas. Abrir fonte

ConvergeFlow: Language Flow with Provable Convergence to Token Embeddings​

arXiv · 2026-08-24 Propõe LM baseado em flow no espaço de embeddings que restringe o preditor de dados ao fecho convexo dos embeddings de tokens e treina apenas com erro quadrático médio derivado de flow matching. Diferente de frameworks contínuos que ainda dependem de decoder com entropia cruzada, garante convergência provada das trajetórias para embeddings válidos. Avanço em arquitetura de modelos, tokenizers e representações esparsas para eficiência de memória. Abrir fonte

The Emergence of Relevance Through Axiomatic Attention Patterns During LoRA Fine-Tuning​

arXiv · 2026-08-24 Investiga onde ganhos de reranking com LoRA emergem na rede RankLLaMA e se coincidem com padrões interpretáveis de relevância. Via ablações, mostra que, com MLPs ajustados por LoRA, restringir atualizações de atenção a camadas específicas preserva desempenho e revela emergência de matching lexical, sensibilidade à raridade e interação query-documento. Trabalho une fine-tuning eficiente e interpretabilidade de atenção. Abrir fonte

MediSkill-Evo: Process-Constrained Self-Evolution for Evidence-Grounded Clinical Interaction​

arXiv · 2026-08-24 Agente clínico que evolui conhecimento de processo governado sem fine-tuning do backbone. Separa experiência em quatro bancos tipados para skills clínicas, regras de processo, esquemas simbólicos e procedimentos de medição, com proveniência, suporte, replay e checagens de segurança antes de publicar snapshot congelado para teste. Demonstra evolução de skills sob restrições de evidência e observabilidade parcial, aplicável a orquestração de skills em domínios críticos. Abrir fonte

MetaCaster: Meta-Harness-Optimized Agent for End-to-End Few-Shot Learning of Lightweight Time Series Forecasters​

arXiv · 2026-08-24 Framework multiagente meta-harness-optimized para few-shot learning de previsores leves em séries temporais. Em cenários com dados escassos e sensíveis à privacidade, usa agentes para otimizar todo o pipeline de treino de modelos compactos, evitando custo de foundation models. Relevante para harnesses, orquestração e infraestrutura de treino eficiente em contextos com recursos limitados. Abrir fonte

ProxyFormer: A Dual-Stream Proxy Architecture for Ultra-Long Context and High-Resolution Generation​

arXiv · 2026-08-24 Arquitetura dual-stream que comprime features locais bottom-up em poucos tokens proxy, executa interações globais apenas no espaço comprimido e descomprime top-down para o stream local. Resolve crescimento quadrático de computação de atenção e cache KV com comprimento de sequência, viabilizando LLMs de contexto ultra-longo e geração de alta resolução. Avanço direto em inference e escalonamento de infraestrutura. Abrir fonte

Sigmoid Attention as a Better Substrate for Learned KV Cache Eviction​

arXiv · 2026-08-24 Estudo controlado 2×2×2 sobre tipo de atenção, gating aprendido e codificação posicional em Transformers escala GPT-2 treinados no OpenWebText. Mostra que, embora atenção sigmoid seja pior como LM denso, ela supera softmax quando combinada com evicção hard aprendida de KV cache, mitigando o mismatch soft-to-hard entre treino com gates diferenciáveis e remoção física em inferência. Implicações para quantização implícita e otimização de memória em serving. Abrir fonte

EarthVerse: Benchmarking Scientific Agents Across Dynamic Earth Systems and Natural Hazards​

arXiv · 2026-08-24 Benchmark com 405 tarefas reproduzíveis ancoradas em 199 eventos documentados e 19 famílias de hazards para avaliar agentes científicos. Exige inspeção de pacotes heterogêneos, escolha de evidências compatíveis, execução de cálculos transparentes e reconciliação de divergências entre fontes. Oferece harness de avaliação para agência científica de longo horizonte em sistemas terrestres dinâmicos. Abrir fonte

SWE Refactor Bench: Can Coding Agents Complete a Long-Horizon, Whole-Repository Stack Migration?​

arXiv · 2026-08-24 Benchmark de 20 migrações de stack em repositório inteiro para testar se coding agents realizam migrações além de correção de bugs. Introduz diagnóstico de Blindness, quando agentes copiam implementação original apenas para passar em testes comportamentais sem efetuar migração. Avalia migração efetiva versus correção superficial, com implicações para harnesses de avaliação de agentes de código de longo horizonte. Abrir fonte

Credal Large Language Models for Semantic Commitment under Uncertainty​

arXiv · 2026-08-24 Introduz CLLMs onde ensemble de adapters LoRA induz conjunto credal cujas probabilidades inferior e superior expõem dispersão de distribuições preditivas em vez de colapsar em único softmax. Deriva escores de comprometimento para separar ignorância epistêmica de ambiguidade genuína e mitigar respostas fluentes mas superconfiantes. Contribuição em fine-tuning com LoRA, quantização de incerteza e interpretabilidade. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) em harnesses, skills, vLLM, llama.cpp, fine-tuning, quantização e inference não retornaram publicações não-arXiv com data verificável em 2026-08-24 — DDGS com timelimit=d retornou guias evergreen ou datas 2026-08-25/26. Hugging Face Blog, Unsloth/Gigazine e comparativos vLLM/SGLang verificados estavam fora da janela D. Das 100 entradas arXiv de cs.CL/cs.LG/cs.AI em D, 70 continham termos LLM; 13 acima foram curadas como representativas de harnesses, skills, agentes, fine-tuning, inference/tokenizers e interpretabilidade. Lacuna: releases de lm-eval-harness, vLLM e llama.cpp não publicaram versão datada em D.