Ähnliche Artikel
Previous
qwen: Zusammenführen von Tensoren bei Konvertierung von am17an · Pull Request #31028 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31028

qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965

llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640

webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914

Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull Request #30928 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30928

CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30517

Modell: Unterstützung für Kolibri-1 (Aleph-Alpha) von riteme hinzufügen · Pull Request #30673 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30673

CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request #30296 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30296
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459

[feat] Unterstützung für dspark (Nanbeige4.2-3B) von zqlcode · Pull Request #27730 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27730
![[feat] Unterstützung für dspark (Nanbeige4.2-3B) von zqlcode · Pull ...](https://external-preview.redd.it/UiIVFfrv1DwgONdz7TaVGs_fz0aCQlVjOKQMC8B96yk.png?width=320&crop=smart&auto=webp&s=2fd7ffbeb732ed1514b3172e0ac9a77fb4f68d73)
llama: Option --n-cpu-ffn hinzugefügt von John-194 · Pull Request #26622 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26622

Release v0.1.0 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp, indem du ein Konto auf GitHub erstellst.
github.com/ggml-org/llama.cpp/releases/tag/v0.1.0

Modell: Kimi-K3-Textmodell von pwilkin hinzufügen · Pull Request #26185 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26185

Release b9978 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b9978

ggml-hip: enable -funsafe-math-optimizations (#24668) · ggml-org/llama.cpp@ccb0c34
github.com/ggml-org/llama.cpp/commit/ccb0c3422394fbbfc28fd91f8c77111b748cfa09

DeepSeek V4 von am17an · Pull Request #24162 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/pull/24162

llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398

ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378

Next
