llama: Option --n-cpu-ffn hinzugefügt von John-194 · Pull Request #26622 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26622
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 3 |
Hauptthemen
Vorrichtung zum manuellen Ergreifen oder Bedienen eines Gegenstandes
Ähnliche Artikel
Previous
CUDA: MoE-Gate/Up-Matrixmultiplikation und GLU in MMQ fusioniert von anujj · Pull Request #31188 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31188
mtmd: Videoeingangsunterstützung für die LFM3-Modellfamilie aktivieren von tdakhran · Pull Request #31283 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31283
qwen: Zusammenführen von Tensoren bei Konvertierung von am17an · Pull Request #31028 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31028
CUDA: fuse FFN gate/up matmuls and GLU in MMQ with interleaved gate/up rows by anujj · Pull Request #29948 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29948
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965
Mehrspaltige Matrixverarbeitung auf Intel XMX-Engines, überarbeitet von budiony · Pull Request #29864 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29864
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640
nemotron: Unterstützung für nicht standardmäßige GQA, BPE-Tokenizer und domyn-small-Pre-Type von martin-cimmino · Pull Request #23343 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23343
webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914
Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull Request #30928 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30928
mtmd: Cohere2-Vision-Unterstützung hinzugefügt von Terrencezzj · Pull Request #30062 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30062
CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request #30296 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30296
mtp nextn offload von John-194 · Pull Request #26177 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/pull/26177
llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398
Was stimmt nicht mit der Release-Seite von llama.cpp?: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/releases
ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378
llama : rotate activations for better quantization by ggerganov · Pull Request #21038 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21038
Modelle: Optimierung des qwen3next-Graphen durch ggerganov · Pull Request #19375 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19375
Next