vulkan: TP-Implementierung durch pwilkin · Pull Request #25051 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/25051
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 1 |
Hauptthemen
Vorrichtung zum manuellen Ergreifen oder Bedienen eines Gegenstandes
Ähnliche Artikel
Previous
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914
Unterstützung für GLM-5.3-Flash (GLM5-Next) hinzugefügt von timkhronos · Pull Request #27773 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27773
vulkan: fuse qwen4exp's SCALE -> SIGMOID -> SCALE -> hc_post chain by fxgsell · Pull Request #29520 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29520
CUDA/HIP: Flash Attention Tuning (gfx1201) von pwilkin · Pull Request #28102 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/28102
chat: enable tool call in thinking for DS4 by pwilkin · Pull Request #26269 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26269
Modell: Kimi-K3-Textmodell von pwilkin hinzufügen · Pull Request #26185 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26185
Erstes ET-Backend von marty1885 · Pull Request #24179 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/pull/24179
Chat: Nachrichten an den StepFun-Parser kürzen (behebt lange Inferenzschleifen) von pwilkin · Pull Request #25238 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/25238
Umstellung auf Backend-Sampling für den MTP-Entwurfspfad von gaugarg-nv · Pull Request #23287 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23287
Refactor: convert_hf_to_gguf.py von pwilkin · Pull Request #17114 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/17114
Release b8786 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b8786
Vokabular: Gemma4-Tokenizer-Tests hinzugefügt, Sonderfall von pwilkin behoben · Pull Request #21534 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21534
ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378
Korrektur: Gemma4-Tokenizer von pwilkin · Pull Request #21343 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21343
Vulkan: Unterstützung für GATED_DELTA_NET-Operationen von ProgenyAlpha hinzugefügt · Pull Request #20334 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20334
Autoparser: Optionale Argument-Neuanordnungsfunktion hinzugefügt von pwilkin · Pull Request #20171 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20171
Hybridmodell-Cache: `--checkpoint-every-nb` hinzugefügt von pwilkin · Pull Request #20087 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20087
Autoparser – | Vollständige Refaktorisierung der Parserarchitektur von pwilkin · Pull Request #18675 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/18675
[Modell] Qwen3.5 dense und MoE-Unterstützung (keine Vision) von pwilkin · Pull Request #19435 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19435
![[Modell] Qwen3.5 dense und MoE-Unterstützung (keine Vision) von pwilkin · ...](https://external-preview.redd.it/LP9lWJIkvOFwEJy7i2edxqBM2iBmROue3pUEdiXyxYg.png?width=320&crop=smart&auto=webp&s=5047d4820eeaabac9c913a090edcfe1c449b2979)
Next