Ähnliche Artikel
Previous
Modell: MTP-Unterstützung für Mellum 2.1 von Xarbirus · Pull Request #30612 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30612

Spezifikation: DFlash2-Unterstützung hinzufügen (lokale Faltung + Kandidatenselektor) von SubSir · Pull Request #27342 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27342

llama: Option --n-cpu-ffn hinzugefügt von John-194 · Pull Request #26622 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26622

Modell: Unterstützung für MTP in GLM-4.5-Air von jacekpoplawski · Pull Request #26534 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26534

Release b9978 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b9978

Server: Anzeige der Generierungsgeschwindigkeit der letzten 5 Sekunden hinzugefügt (von akx) · Pull Request #24291 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/24291

llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398

Was stimmt nicht mit der Release-Seite von llama.cpp?: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/releases

ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378

llama : rotate activations for better quantization by ggerganov · Pull Request #21038 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21038

Hybridmodell-Cache: `--checkpoint-every-nb` hinzugefügt von pwilkin · Pull Request #20087 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20087

Next
