Pular para o conteúdo principal

IA — notícias de 2026-09-21

· 8 min para ler

Fontes​

llama.cpp b11090: correção de compilação CUDA sm_70 (Volta)​

GitHub · ggml-org/llama.cpp · 2026-09-21 Release b11090 do motor de inferência local llama.cpp corrige erro de compilação em GPUs Volta sm_70 introduzido pelo loader load_ldmatrix de 5 argumentos que só definia tile<16,8>. Generaliza o shape do tile para <I,J> e encaminha para o loader de 3 argumentos, restaurando build em arquitetura Volta. Publicado em 2026-09-21T23:29:59Z. Abrir fonte

llama.cpp b11081: test-llama-archs com stdev configurável e relatório de execução​

GitHub · ggml-org/llama.cpp · 2026-09-21 Release b11081 aprimora o harness de testes test-llama-archs tornando o desvio padrão dos dados de tensores configurável, melhorando help e exemplos e adicionando sumário de execução e falha em args desconhecidos. Inicializa ainda Mamba ssm_a negativo para validar arquiteturas recorrentes. Publicado em 2026-09-21T19:50:41Z com binários para macOS, Linux, Windows e Android. Abrir fonte

llama.cpp b11080: filtro regex em test-backend-ops​

GitHub · ggml-org/llama.cpp · 2026-09-21 Release b11080 estende test-backend-ops permitindo que entradas do filtro -o sejam tratadas como regex contra nomes de ops (ex: MUL_MAT.*), mantendo nomes exatos como antes. Facilita harnesses de validação de backends (CUDA, Vulkan, Metal) ao selecionar famílias de kernels para avaliação de inference. Publicado em 2026-09-21T19:17:51Z. Abrir fonte

llama.cpp b11078: variáveis de ambiente para temperatura e penalties no llama-server​

GitHub · ggml-org/llama.cpp · 2026-09-21 Release b11078 adiciona suporte a LLAMA_ARG_* para configurar --temp, --top-p, --min-p, --repeat-penalty, --presence-penalty e --frequency-penalty via EnvironmentFile (systemd em Debian). Permite controlar totalmente o serving de LLMs no llama-server sem linha de comando, relevante para orquestração de agentes e deploy em larga escala. Publicado em 2026-09-21T18:47:31Z. Abrir fonte

RedHatAI GLM-5.3-NVFP4: quantização FP4 para vLLM​

Hugging Face · RedHatAI/GLM-5.3-NVFP4 · 2026-09-21 Modelo quantizado NVFP4 derivado de zai-org/GLM-5.3 publicado em 2026-09-21T15:22:03Z com suporte a vLLM, llm-compressor e compressed-tensors. Tags nvfp4, fp4 e glm_moe_dsa indicam compressão de MoE para inference de alta throughput com memória reduzida. Licença GLM-5.3, pipeline text-generation conversacional bilíngue en/zh e otimização para serving em escala. Abrir fonte

Mini-K3 ablações: série linear-attention/MoE da família Kimi K3​

Hugging Face · nkkbr/Mini-K3-1H-* · 2026-09-21 Conjunto de ablações publicado em 2026-09-21 entre 14:58Z e 16:50Z incluindo decay-g64-v2_B, g32-v2_C, g16-v2_B, g8-v2_C, g4-v2_B, g2-v2_C, g1-v2_B, mamba2-n128-g4-v1_C e attnres-block6-v1_C, todos text-generation com pytorch/safetensors. Testa variações de decaimento, grouped-query, Mamba2 e atenção residual sobre base Kimi K3, focando arquitetura eficiente para pretraining e inference de MoE com atenção linear. Cada variante com 693–876 downloads iniciais para benchmark de harness. Abrir fonte

SamAI Tokenizer: tokenizador dedicado para família SamAI​

Hugging Face · Samai-sa/SamAI-Tokenizer · 2026-09-21 Tokenizador publicado em 2026-09-21T07:23:46Z para a família SamAI, relevante para pipeline de tokenização customizada em LLMs. Complementa estudos de arquitetura e inference ao permitir avaliação de fertility e eficiência de contexto em harnesses de avaliação multilíngue. Abrir fonte

fpadovani eng-latn 100MB checkpoint 500: GPT-2 multilíngue para distillation​

Hugging Face · fpadovani/eng-latn-100mb-after-ppt-Dp-100mb-packed-ckpt500_seed455_seed455 · 2026-09-21 Checkpoint GPT-2 publicado em 2026-09-21T11:30:28Z treinado sobre corpus eng-latn 100MB packed com seed 455, pipeline text-generation e safetensors. Representa recurso para estudos de fine-tuning eficiente, distillation e tokenização em modelos pequenos, útil em harnesses de baixa escala e quantização. Abrir fonte

Critical-State RL: diagnóstico de estados treináveis para tool use multi-turno​

arXiv · 2609.24985v1 · 2026-09-21 Propõe Critical-State RL para identificar qual chamada de um agente multi-turno realmente se beneficia de treino, separando variação de recompensa dependente da ação de ruído de continuação via nested sampling e treinando apenas estados críticos com contextual-bandit. Avalia no Berkeley Function Calling Leaderboard v4 e mostra ganho de ~14 pontos em tarefas missing-function quando o diagnóstico seleciona a resposta após a ferramenta ficar disponível, enquanto treinar estados alternativos não melhora. Publicado em 2026-09-21T17:57:20Z. Abrir fonte

onPanda: anotação eficiente de dados on-policy via correção em nível de token​

arXiv · 2609.24983v1 · 2026-09-21 Apresenta onPanda, ferramenta interativa que ao anotar resposta de LLM localiza o primeiro token inadequado, substitui por candidato do modelo ou edição livre, trunca o sufixo e continua geração em loop até aprovação. Estudo controlado indica redução de 52% no tempo mediano vs. pós-edição manual, preservando distribuição on-policy para SFT e preferências e gerando supervisão fina com pares positivo-negativo. Conecta-se a harnesses externos para trajetórias de agentes e libera dataset Panda-CVL. Publicado em 2026-09-21T17:56:53Z. Abrir fonte

LoRA-generating hypernetworks para personalização generativa on-device​

arXiv · 2609.24979v1 · 2026-09-21 Descreve hiper-redes que geram adapters LoRA para personalização de LLMs em dispositivos com recursos limitados, evitando fine-tuning completo no aparelho. Foco em eficiência de memória/computação para inferência local e adaptação rápida, com implicações para serving de LoRA multi-tenant e quantização on-device. Publicado em 2026-09-21T17:55:48Z. Abrir fonte

Harness-Zero: distilação de harness via Agent-as-Harness​

arXiv · 2609.24974v1 · 2026-09-21 Investiga como harnesses de agentes — prompts, controle de fluxo, tooling, memória e gestão de contexto — amplificam capacidade de LLMs mas mantêm ganhos acoplados ao sistema externo. Propõe distilação de harness onde o agente atua como harness para transferir comportamento do sistema para o modelo, visando deployment sem overhead de orquestração. Publicado em 2026-09-21T17:55:20Z. Abrir fonte

RRSI: melhoria recursiva regularizada de harnesses de agentes​

arXiv · 2609.24972v1 · 2026-09-21 Argumenta que a capacidade de um agente é largamente determinada pelo harness ao redor do LLM e propõe RRSI para auto-melhoria recursiva regularizada do harness, iterando sobre prompts e tooling com controle de regressão. Aborda infraestrutura de treino e orquestração contínua de skills de agentes. Publicado em 2026-09-21T17:54:49Z. Abrir fonte

DolphinBench: fronteira de Pareto para memória de agentes​

arXiv · 2609.24971v1 · 2026-09-21 Apresenta DolphinBench para mapear trade-offs de memória de longo prazo em agentes que tomam ações reais dependentes de recall contextual, indo além de benchmarks que só avaliam memória sintética. Fornece harness de avaliação para comparar estratégias de memória quanto a latência, custo e acurácia. Publicado em 2026-09-21T17:54:35Z. Abrir fonte

SPECTRA: execução adaptativa de speculative decoding em arquitetura tiled reconfigurável​

arXiv · 2609.24847v1 · 2026-09-21 Propõe SPECTRA para acelerar inference autoregressiva em edge combinando speculative decoding com arquitetura tiled runtime-reconfigurável, adaptando execução ao padrão de especulação. Visa ganhos de latência e energia sem perda de qualidade, relevante para quantização e serving de LLMs em hardware restrito. Publicado em 2026-09-21T16:25:24Z. Abrir fonte

Pinocchio: estimativas rápidas de incerteza para LLMs black-box​

arXiv · 2609.24881v1 · 2026-09-21 Propõe método para estimar incerteza de LLMs black-box sem acesso a logits, crucial para decisões de alta criticidade e calibração de harnesses de agentes. Foca em eficiência de inference e interpretabilidade de confiança, complementando benchmarks de avaliação e estratégias de abstention. Publicado em 2026-09-21T16:48:50Z. Abrir fonte

OSWorld-Pro: avaliação baseada em processo para agentes de uso de computador​

arXiv · 2609.24890v1 · 2026-09-21 Estende avaliação de Computer-Use Agents além do artefato final, pontuando processos de centenas de passos com verificação processual em OSWorld-Pro. Oferece harness que mede planejamento, uso de ferramentas e recuperação de erros em tarefas reais de desktop, avançando além de métricas de conclusão binária. Publicado em 2026-09-21T16:55:24Z. Abrir fonte

SLICEChat: poda progressiva de tokens in-encoder para VLMs de patologia​

arXiv · 2609.24894v1 · 2026-09-21 Apresenta SLICEChat com poda progressiva de tokens dentro do encoder para lidar com whole-slide images gigapixel em language models multimodais, reduzindo custo de inference mantendo acurácia diagnóstica. Técnica de token pruning relevante para eficiência de contexto e quantização de VLMs. Publicado em 2026-09-21T16:59:06Z. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) sobre harnesses, skills, vLLM, llama.cpp, fine-tuning, quantização e inference foram executadas; arXiv em D retornou >30 papers em cs.CL/cs.LG/cs.AI, dos quais 10 foram curados como centrais ao escopo LLM harness/skills/inference; HF retornou 21 modelos em D no intervalo BRT, dos quais 4 text-generation/arquitetura/tokenizer foram destacados (série Mini-K3 consolidada em um item) e 1 modelo quantizado NVFP4; 4 releases llama.cpp validados via GitHub API; sem release vLLM ou lm-evaluation-harness datado em D; sem novos papers no Hugging Face Daily Papers com data verificável em D dentro do escopo.

Etiquetas: