IA — notícias de 2026-09-18

Fontes

Unsloth v0.1.811-beta — Docker, multi-usuário e suporte AMD

GitHub · unslothai/unsloth · 2026-09-18 Release v0.1.811-beta publicada em 2026-09-18T16:11:15Z traz Docker renovado com imagens CUDA e ROCm, contas multi-usuário com isolamento em Settings > Accounts, suporte RDNA1/RDNA2 e ARM64 Windows CUDA para treino e inference. Inclui hotfix MTP 2× mais rápido para Qwen3.8-Flash-Next, inference INT8/FP8 para diffusion 2× mais veloz, melhorias de GRPO com Qwen3.5/TRL/vLLM e otimizações MLX com entrada de vídeo. Consolidando fine-tuning QLoRA acessível, a versão reforça Unsloth como harness de treino local eficiente em 2026. Abrir fonte

llama.cpp b11046 — OpenCL flash_attn_f32_f16_bin

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11046 publicada em 2026-09-18T23:56:03Z adiciona kernel OpenCL flash_attn_f32_f16_bin (#29046) com prefill guarded para flash attention. A mudança amplia cobertura de attention acelerado em GPUs OpenCL, reduzindo latência de prefill e melhorando throughput de inference local para modelos com attention híbrido. Binários assinados para macOS, Linux, Windows, Vulkan, ROCm e CUDA mantêm paridade GGUF. Abrir fonte

llama.cpp b11045 — Hexagon ROLL op

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11045 publicada em 2026-09-18T22:30:38Z adiciona suporte à operação ROLL no backend Hexagon (#29105). O op é fundamental para embeddings posicionais e manipulações de tensor em NPU Qualcomm, desbloqueando execução correta de arquiteturas recentes em dispositivos Hexagon. Mantém compatibilidade GGUF e assinaturas de binários para todas as plataformas. Abrir fonte

llama.cpp b11044 — Hexagon IM2COL completo (1D e padded)

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11044 publicada em 2026-09-18T21:52:43Z atualiza IM2COL no Hexagon (#29103) para aceitar ops 1D e padded, tornar kernel pure-DDR aware de is_2D e estender fast path DMA de patch-embed para 1D. Adiciona ainda kernel geral IM2COL com blocked-staging para DMA. As correções expandem suporte a vision transformers e convoluções em NPU Hexagon, melhorando eficiência de inference multimodal. Abrir fonte

llama.cpp b11043 — HMX flash-attention com head_dim=72 (SigLIP)

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11043 publicada em 2026-09-18T20:47:54Z permite HMX flash-attention com head_dim não múltiplo de 64, como DK=DV=72 do SigLIP (#26539), arredondando para 64 com lanes zero-filled. A padronização desbloqueia inference de modelos de visão SigLIP e híbridos em Hexagon HMX sem retrabalho de grafo. Impacto direto em multimodal local e quantização de attention em edge. Abrir fonte

llama.cpp b11042 — OpenCL Q6_K A8 binary kernel

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11042 publicada em 2026-09-18T18:19:50Z adiciona kernel binário OpenCL gemm_noshuffle_q6_k_f32_32b_trans_ila_a8_bin para Q6_K não-MoE com ativação A8 (#28678) e corrige compatibilidade de layout. O bin kernel acelera matmul quantizado Q6_K em GPUs OpenCL, elevando throughput de modelos GGUF quantizados sem MoE. Relevante para inference local com VRAM limitada. Abrir fonte

llama.cpp b11040 — checagem de falha de alocação em ggml

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11040 publicada em 2026-09-18T15:01:59Z adiciona verificação de falhas de alocação em ggml para prevenir crashes (#28149). A validação torna o grafo de inference mais robusto em cenários de OOM ou fragmentação, evitando segfaults silenciosos em serving com KV cache grande. Melhora estabilidade de long-context e batch concorrente. Abrir fonte

llama.cpp b11039 — Model-Saver corrige padrão SWA para 15 arquiteturas

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11039 publicada em 2026-09-18T14:10:21Z corrige escrita e leitura do padrão SWA (sliding window attention) para roundtrip de 15 arquiteturas (#29042). Introduz load_swa_pattern() que lê sliding_window_pattern como período ou array por camada, unificando loaders. A correção garante conversão GGUF fiel para modelos com atenção deslizante variável, essencial para fine-tuning e serving correto. Abrir fonte

llama.cpp b11037 — fix WebGPU GET_ROWS vec4

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11037 publicada em 2026-09-18T12:13:25Z corrige condição supports_op para GET_ROWS em ggml-webgpu (#28978), tratando alinhamento vec4 e checagem de strides. O fix evita fallback incorreto para CPU e corrige extração de rows em GPUs WebGPU, melhorando throughput de embeddings e MoE em browsers. Inclui caso de teste novo para validar strides. Abrir fonte

llama.cpp b11036 — tratamento de falha de reserva de buffer de grafo

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11036 publicada em 2026-09-18T11:32:57Z trata falha de reserva de buffer de grafo em ggml (#26070). Em vez de abortar, o runtime agora propaga erro controlado, permitindo recuperação graceful em pipelines de inference e orquestração de agentes. Reforça robustez de harnesses que encadeiam múltiplos forward passes com grafo dinâmico. Abrir fonte

llama.cpp b11035 — kernels Vulkan IQ3_S MMQ matmul

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11035 publicada em 2026-09-18T11:04:14Z adiciona kernels Vulkan IQ3_S MMQ matmul (#28822), com loads de 2 bytes para bloco de 110 bytes e alinhamento de tile K. O suporte amplia quantização ultra-baixa IQ3_S em GPUs Vulkan, reduzindo uso de VRAM e aumentando tokens/s em consumer GPUs. Relevante para deployment local de 7-27B em 4-6 GB VRAM. Abrir fonte

llama.cpp b11034 — pre-tokenizer ufakzeka

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11034 publicada em 2026-09-18T10:37:22Z adiciona pre-tokenizer ufakzeka (#29033) e registra o modelo na lista oficial com hash regenerado. O tokenizer estende cobertura multilíngue para turco/morfológico, garantindo tokenização fiel e compatível com GGUF. Impacta fine-tuning e evaluation de modelos multilíngues com vocab custom. Abrir fonte

llama.cpp b11033 — fix de build GGML_CPU=OFF + GGML_CUDA=ON

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11033 publicada em 2026-09-18T09:55:12Z corrige falha de build quando GGML_CPU=OFF e GGML_CUDA=ON (#29026) e corrige EOL em CMakeLists de conversão. O patch desbloqueia builds CUDA-only para containers e CI minimalista, reduzindo imagem e tempo de compilação. Útil para serving vLLM-like com llama.cpp como backend secundário. Abrir fonte

llama.cpp b11030 — bump setup-android 4.0.4

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11030 publicada em 2026-09-18T08:13:40Z atualiza CI para android-actions/setup-android 4.0.4 (#29065). Embora seja manutenção de pipeline, garante builds Android reprodutíveis para llama.cpp em 2026-09-18, mantendo binários mobile assinados. Infraestrutura de treino/inference edge depende de CI verde para releases GGUF em Android. Abrir fonte

llama.cpp b11029 — Vulkan eleva limite MoE para 1024 experts

GitHub · ggml-org/llama.cpp · 2026-09-18 Release b11029 publicada em 2026-09-18T07:34:36Z eleva limite de row-id hoisting em Vulkan mul_mat_id de 256 para 1024 experts (#28501). O shader count_experts.comp dimensionava arrays compartilhados com BLOCK_SIZE=256, desabilitando hoisting acima de 256 experts; o fix permite MoE massivo com hoisting ativo. Beneficia inference de Mixtral/DeepSeek-MoE e modelos com centenas de experts em Vulkan. Abrir fonte

Nota de cobertura: buscas nativas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) focadas em harnesses/skills/modelos LLM foram executadas — it/es/fr/zh/ja retornaram candidatos, pt/en também, de/ru/ko sem resultados qualificados em D. Nenhum release de vLLM, lm-evaluation-harness ou Hugging Face Transformers/Blog com data em 2026-09-18 foi encontrado — vLLM v0.29.0 é de 2026-09-09 e lm-eval v0.4.13 de 2026-08-31, ambos fora da janela D (00:00–23:59 BRT). Nenhum paper arXiv em cs.CL/cs.LG/cs.AI/cs.SE com published em 2026-09-18 00:00–23:59 BRT (03:00 UTC 2026-09-18 a 03:00 UTC 2026-09-19) atendeu ao filtro harness/quantização/inference — varredura de 200 itens confirmou último lote em 2026-09-17T17:59Z. Fontes sindicadas, guias evergreen e artigo Tech Insider de 2026-09-19 foram descartados por estarem fora de D. Das 15 entradas com data verificável em D, todas foram preservadas acima sem limite artificial.