Pular para o conteúdo principal

IA — notícias de 2026-09-20

· 5 min para ler

Fontes​

llama.cpp b11065: tuning de FlashAttention para Gemma 4 em Ampere+ (CUDA)​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11065 publicada em 2026-09-20T21:52:35Z otimiza o kernel de FlashAttention para a família Gemma 4 em GPUs Ampere ou mais recentes via PR #29152. Traz binários para macOS, Linux, Windows e Android com variantes CUDA 12.8/13.3, Vulkan, ROCm, OpenVINO e SYCL. Essencial para quem serve Gemma 4 quantizado via GGUF com baixa latência e throughput estável. Abrir fonte

llama.cpp b11064: Metal com hc arbitrário para dsv4_hc_pre (Kimi-K3)​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11064 de 2026-09-20T15:19:21Z corrige limitação no Metal onde kernels dsv4_hc_pre hardcoded para hc=4 caíam para CPU com modelos como Kimi-K3. Passa n_hc como constant function e cria variantes de pipeline por valor, com loop e loads diretos, cobrindo hc 1,2,3,5,8,65 (gated e não-gated). Melhora inference em Apple Silicon para arquiteturas com residual stack banked variável por camada. Abrir fonte

llama.cpp b11063: tratamento de UTF-8 inválido no AST do PEG​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11063 de 2026-09-20T12:28:06Z corrige o parser PEG comum para lidar com sequências UTF-8 inválidas no AST, retornando a máxima subparte válida conforme recomendação Unicode. Evita falhas e truncamentos em prompts e gramáticas com caracteres corrompidos em pipelines de constrained decoding e tool calling. Mantém compatibilidade e inclui testes de regressão. Abrir fonte

llama.cpp b11062: habilita sparse FlashAttention para Qwen4 em CUDA​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11062 de 2026-09-20T09:46:58Z ativa sparse FlashAttention para modelos Qwen4 em backend CUDA via PR #28770. Reduz uso de memória e custo computacional em contextos longos esparsos sem degradar qualidade, beneficiando serving de Qwen4 quantizado em GPU. Entrega binários completos com suporte CUDA, Vulkan e CPU como nos demais releases do dia. Abrir fonte

llama.cpp b11060: correção de contiguidade em projeção time-step do Mamba​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11060 de 2026-09-20T06:07:14Z corrige a projeção de time-step do Mamba tornando a entrada contígua antes da operação e eliminando cópia contígua desnecessária após normalização. Melhora estabilidade e performance de SSMs tipo Mamba em CPU/GPU, relevante para inference de arquiteturas não-Transformer via llama.cpp. Publicado com atestações e binários para todas as plataformas. Abrir fonte

llama.cpp b11059: entrada F16 no FWHT do Metal​

GitHub · ggml-org/llama.cpp · 2026-09-20 Release b11059 de 2026-09-20T05:39:58Z adiciona entrada F16 ao kernel FWHT no backend Metal, parametrizando o tipo fonte para leitura direta sem conversão prévia. O nome do pipeline passa a carregar o tipo fonte e supports_op aceita src1 F16 para hints Hadamard nos tamanhos cobertos, mantendo F32 inalterado. Validado com test-backend-ops em M5 Pro (MUL_MAT_HADAMARD 16/16, MUL_MAT 1265/1265), melhora quantização e híbridos F16/F32 em Apple Silicon. Abrir fonte

Llama-3.3-70B-Instruct ablitetado em GGUF (Thaurock)​

Hugging Face · Thaurock/Llama-3.3-70B-Instruct-abliterated-GGUF · 2026-09-20 Quantização GGUF criada em 2026-09-20T08:58:23Z de Llama-3.3-70B-Instruct com abliteration, tags gguf, llama3.3 e text-generation-inference para uso direto em llama.cpp. Permite inference local de 70B em hardware com VRAM limitada via Q4_K_M/Q8_0 e variantes, sem necessidade de conversão manual. Útil para harnesses de avaliação e agentes que exigem modelo grande conversacional on-premise. Abrir fonte

Família ppt-pythia-1b: 8 checkpoints para estudo de permutação e estrutura (Pythia 1B)​

Hugging Face · qing-yao/ppt-pythia-1b-* · 2026-09-20 Oito modelos text-generation publicados em 2026-09-20 entre 16:37 e 17:53 UTC derivados de Pythia-1B (gpt_neox) para pesquisa de Permuted/Structured Pretraining: structured/permuted/baseline × seed 3407/3408 × stage 1/2, com tags transformers, safetensors e generated_from_trainer. Incluem stage1 publicados com lastModified em D e stage2 criados em D, todos verificáveis via API. Conjunto possibilita benchmark controlado de arquitetura e tokenização sob permutação, relevante para interpretabilidade e fine-tuning experimental. Abrir fonte

G4 WanaMeroQueen v3 31B heretic GGUF​

Hugging Face · vulture3/G4-WanaMeroQueen-v3-31B-heretic-GGUF · 2026-09-20 Variante quantizada GGUF de G4-WanaMeroQueen-v3-31B (heretic) criada em 2026-09-20T05:30:47Z com base quantizada declarada e licença Apache-2.0. Oferece modelo 31B conversacional em formato llama.cpp para deployment local com diferentes níveis de quantização IQ4_NL e similares. Adequada para testes de inference, serving e harnesses de avaliação de modelos criativos de grande porte. Abrir fonte

Nota de cobertura: varredura em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) em harnesses (lm-eval, vLLM, llama.cpp), skills, agentes, fine-tuning, quantização e inference. D=2026-09-20 (sábado) não teve papers arXiv — serviço não publica fim de semana e HF daily papers retornou vazio para a data; próximo listing é 2026-09-22. vLLM, lm-evaluation-harness, transformers, tokenizers, Ollama e MLX não publicaram release em D (últimos: vLLM v0.29.0 em 2026-09-09, lm-eval v0.4.13 em 2026-08-31). Hugging Face registrou apenas modelos acima como text-generation/GGUF relevantes em D após filtragem de text-classification e bio-assay; lacunas citadas são ausência real, não limite de coleta.

Etiquetas: