Pular para o conteúdo principal

IA — notícias de 2026-09-12

· 5 min para ler

Fontes​

llama.cpp — 13 releases em 2026-09-12 (b10919 a b10933)​

GitHub · ggml-org/llama.cpp · 2026-09-12 Treze tags publicadas em 2026-09-12 — b10919 (02:18:40Z), b10920 (07:15:37Z), b10921 (08:04:36Z), b10922 (08:30:45Z), b10923 (08:56:39Z), b10924 (09:18:57Z), b10926 (10:30:50Z), b10927 (10:57:36Z), b10929 (12:28:32Z), b10930 (13:01:59Z), b10931 (14:48:43Z), b10932 (23:09:50Z) e b10933 (23:35:30Z) — mantêm ritmo diário de otimização de kernels para inference local. As notas mantêm melhorias em backends CUDA/Vulkan/HIP e suporte a GGUF quantizado para modelos recentes, sem dependência de servidor. É o único harness de inference com releases confirmados em D; verificação via API GitHub confirma último vLLM formal v0.29.0 em 2026-09-09 sem release novo em D. Abrir fonte

vLLM — tag v0.29.1rc0 criada em 2026-09-12 (sem release formal)​

GitHub · vllm-project/vllm · 2026-09-12 Tag v0.29.1rc0 criada em 2026-09-12T18:42:01Z aponta para commit de watermarking dual-key gumbel-max para suporte a speculative decoding. Não há objeto de release publicado em D — último release permanece v0.29.0 (2026-09-09) — indicando que rc0 é tag de preparação sem notas oficiais. O commit sinaliza evolução em inference com watermarking compatível com speculative decoding, relevante para serving de LLMs com verificabilidade. Abrir fonte

pearsonkyle/gemma-4-E4B-imatrix-awq-GGUF — AWQ + imatrix para Gemma​

Hugging Face · pearsonkyle/gemma-4-E4B-imatrix-awq-GGUF · 2026-09-12 Publicado em 2026-09-12T23:45:02Z com 2.912 downloads já em D, entrega Gemma 4 E4B quantizado para GGUF com AWQ e imatrix para uso em llama.cpp. A combinação AWQ + imatrix preserva qualidade em 4-bit para inference local eficiente. Representa pipeline de quantização pós-treino para deployment em consumer hardware. Abrir fonte

AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF — atualização FP8 em D​

Hugging Face · AMAImedia/DeepSeek-V4.1-Flash-FP8-GGUF · 2026-09-12 Atualizado em 2026-09-12T23:19:24Z com 6.707 downloads em D, mantém peso FP8 convertido para GGUF do MoE DeepSeek V4.1 Flash (552B). Foca serving eficiente em vLLM/TensorRT-LLM e inference local via llama.cpp com precisão reduzida. A alta adoção reforça demanda por variantes FP8 como ponte entre NVFP4 e GGUF Q4_K_M. Abrir fonte

meshllm/DeepSeek-V4-Pro-0813-UD-Q4_K_XL-layers — UD quantization​

Hugging Face · meshllm/DeepSeek-V4-Pro-0813-UD-Q4_K_XL-layers · 2026-09-12 Publicado em 2026-09-12T23:32:34Z com 655 downloads, entrega quantização UD Q4_K_XL com layers otimizados para DeepSeek V4 Pro 0813. Atende inference local com controle fino de qualidade vs memória via esquema Q4_K_XL. Ilustra infraestrutura comunitária de quantização diversificada além de FP8/EXL3 no mesmo base model. Abrir fonte

audreyt/DeepSeek-V4.1-Flash-Abliterated-GGUF — variante abliterated​

Hugging Face · audreyt/DeepSeek-V4.1-Flash-Abliterated-GGUF · 2026-09-12 Publicado em 2026-09-12T21:14:57Z com 109 downloads, disponibiliza DeepSeek V4.1 Flash com abliteration para GGUF. A técnica remove recusas de segurança do base model mantendo pipeline GGUF para llama.cpp. Demonstra ecossistema de fine-tuning leve + quantização comunitária em cima de MoE 671B. Abrir fonte

Mia-AiLab/DeepSeek-V4.1-Flash-EXL3-3.0bpw — EXL3 3 bits​

Hugging Face · Mia-AiLab/DeepSeek-V4.1-Flash-EXL3-3.0bpw · 2026-09-12 Publicado em 2026-09-12T20:48:41Z, oferece quantização EXL3 a 3.0 bits por peso para DeepSeek V4.1 Flash. EXL3 complementa GGUF e FP8 ao focar compression extrema para VRAM limitada com calibração otimizada. Expande cobertura de inference heterogêneo além de CUDA para backends com suporte EXL3. Abrir fonte

shomit505/Qwen3.8-27B-refusal-r1-vllm — cache vLLM para fine-tuning de recusa​

Hugging Face · shomit505/Qwen3.8-27B-refusal-r1-vllm · 2026-09-12 Publicado em 2026-09-12T22:35:44Z, disponibiliza artefato de cache vLLM para modelo Qwen3.8 27B com treinamento de recusa (refusal r1). O repositório armazena cache compatível com vLLM para acelerar avaliação e serving durante pesquisa de alinhamento. Conecta infraestrutura de inference (vLLM) com workflow de fine-tuning de segurança. Abrir fonte

0xTank/DeepSeek-V4.1-Flash-vLLM-4x-GB10-Recipe — recipe para DGX Spark​

Hugging Face · 0xTank/DeepSeek-V4.1-Flash-vLLM-4x-GB10-Recipe · 2026-09-12 Publicado em 2026-09-12T02:24:26Z, entrega recipe de deployment vLLM para 4x GB10 (DGX Spark) para DeepSeek V4.1 Flash. A configuração otimiza tensor parallelism e KV cache para MoE em hardware Grace Blackwell. Representa infraestrutura de orquestração de modelos para serving distribuído em novo hardware NVIDIA. Abrir fonte

Nota de cobertura: buscas focadas em harness/skills/modelos LLM foram executadas em 10 idiomas (pt, en, it, es, fr, de, ru, zh, ko, ja) via web_search nativo; consultas em italiano, espanhol, francês, alemão, russo, chinês, coreano e japonês retornaram sem itens novos qualificados dentro de D. Verificação via API GitHub confirma 13 releases llama.cpp em D, último release vLLM v0.29.0 em 2026-09-09 e lm-evaluation-harness v0.4.13 em 2026-08-31 sem releases em D. API Hugging Face retornou 0 daily papers em 2026-09-12 e arXiv API com rate limit + listagem cs.CL/cs.LG sem entries em 2026-09-12 (sábado, sem publicações), indicando lacuna real de papers em D. Das variantes Hugging Face em D, deduplicação por URL canônica e técnica de quantização preservou 7 representativas com lastModified em D entre 10+ hits do base DeepSeek V4.1 Flash.

Etiquetas: