Ähnliche Artikel
Previous
Mehrspaltige Matrixverarbeitung auf Intel XMX-Engines, überarbeitet von budiony · Pull Request #29864 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29864

llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
nemotron: Unterstützung für nicht standardmäßige GQA, BPE-Tokenizer und domyn-small-Pre-Type von martin-cimmino · Pull Request #23343 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23343

Modell: Unterstützung für Kolibri-1 (Aleph-Alpha) von riteme hinzufügen · Pull Request #30673 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30673

Unterstützung für GLM-5.3-Flash (GLM5-Next) hinzugefügt von timkhronos · Pull Request #27773 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27773

CUDA/HIP: Flash Attention Tuning (gfx1201) von pwilkin · Pull Request #28102 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/28102

chat: enable tool call in thinking for DS4 by pwilkin · Pull Request #26269 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26269

Modell: Kimi-K3-Textmodell von pwilkin hinzufügen · Pull Request #26185 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26185

Chat: Nachrichten an den StepFun-Parser kürzen (behebt lange Inferenzschleifen) von pwilkin · Pull Request #25238 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/25238

vulkan: TP-Implementierung durch pwilkin · Pull Request #25051 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/25051

ggml-webgpu: Verbesserung der Vorfüllgeschwindigkeit für k-Quanten + Refactoring von matmul für Q4/Q5/Q8 und k-Quanten von yomaytk · Pull Request #24225 · ...
github.com/ggml-org/llama.cpp/pull/24225

Vokabular: Gemma4-Tokenizer-Tests hinzugefügt, Sonderfall von pwilkin behoben · Pull Request #21534 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21534

Korrektur: Gemma4-Tokenizer von pwilkin · Pull Request #21343 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21343

Autoparser: Optionale Argument-Neuanordnungsfunktion hinzugefügt von pwilkin · Pull Request #20171 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20171
Hybridmodell-Cache: `--checkpoint-every-nb` hinzugefügt von pwilkin · Pull Request #20087 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20087

Autoparser – | Vollständige Refaktorisierung der Parserarchitektur von pwilkin · Pull Request #18675 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/18675

[Modell] Qwen3.5 dense und MoE-Unterstützung (keine Vision) von pwilkin · Pull Request #19435 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19435
![[Modell] Qwen3.5 dense und MoE-Unterstützung (keine Vision) von pwilkin · ...](https://external-preview.redd.it/LP9lWJIkvOFwEJy7i2edxqBM2iBmROue3pUEdiXyxYg.png?width=320&crop=smart&auto=webp&s=5047d4820eeaabac9c913a090edcfe1c449b2979)
Next
