Ähnliche Artikel
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request ...
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request ...
Unterstützung für maion-coder arch von mailkv23 hinzugefügt · Pull Request #29778 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29778
Unterstützung für maion-coder arch von mailkv23 hinzugefügt · Pull Request ...
cuda, hip: GDN chunked kernel by am17an · Pull Request #29353 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29353
cuda, hip: GDN chunked kernel by am17an · Pull Request #29353 · ...
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ...
ggml-cuda: Zuweisung von vier GDN-Statusspalten pro Warp von SongXiaoXi · Pull Request #30087 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30087
ggml-cuda: Zuweisung von vier GDN-Statusspalten pro Warp von SongXiaoXi · ...
RPC: `-sm tensor` von am17an hinzugefügt · Pull Request #26610 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26610
RPC: `-sm tensor` von am17an hinzugefügt · Pull Request #26610 · ...
DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/25784
DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama ...
[Speculative decoding] feat: add EAGLE3 speculative decoding support by ruixiang63 · Pull Request #18039 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/18039
[Speculative decoding] feat: add EAGLE3 speculative decoding support by ...
Entfernen von Padding und mehrfachen D2D-Kopien für MTP von gaugarg-nv · Pull Request #24086 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/24086
Entfernen von Padding und mehrfachen D2D-Kopien für MTP von gaugarg-nv · ...
llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398
llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ...
llama: MTP-Bereinigung von ggerganov · Pull Request #23269 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/23269
llama: MTP-Bereinigung von ggerganov · Pull Request #23269 · ...
ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378
ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von ...
kv-cache: Unterstützung der Aufmerksamkeitsrotation für heterogene iSWA von ggerganov · Pull Request #21513 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21513
kv-cache: Unterstützung der Aufmerksamkeitsrotation für heterogene iSWA ...
ggml: Unterstützung für Q1_0 1-Bit-Quantisierung (CPU) hinzugefügt von khosravipasha · Pull Request #21273 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21273
ggml: Unterstützung für Q1_0 1-Bit-Quantisierung (CPU) hinzugefügt von ...
(revert) kv-cache : SWA-KV-Cache nicht quantisieren von ggerganov · Pull Request #21332 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21332
(revert) kv-cache : SWA-KV-Cache nicht quantisieren von ggerganov · Pull ...
llama : rotate activations for better quantization by ggerganov · Pull Request #21038 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21038
llama : rotate activations for better quantization by ggerganov · Pull ...
Modelle: Optimierung des qwen3next-Graphen durch ggerganov · Pull Request #19375 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19375
Modelle: Optimierung des qwen3next-Graphen durch ggerganov · Pull Request ...
Spezifikation: ngram-mod von ggerganov hinzufügen · Pull Request #19164 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19164
Spezifikation: ngram-mod von ggerganov hinzufügen · Pull Request #19164 · ...