Ähnliche Artikel
Previous
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965

Mehrspaltige Matrixverarbeitung auf Intel XMX-Engines, überarbeitet von budiony · Pull Request #29864 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29864

llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640

webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914

Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull Request #30928 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30928

CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30517

CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request #30296 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30296
Unterstützung für maion-coder arch von mailkv23 hinzugefügt · Pull Request #29778 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29778

common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459

GitHub - | Inovello/llama.cpp at flashnext-e06: Branch ot-host-buft-mmap: Host-Speicher für -ot-Überschreibungen unter mmap fixiert. - | GitHub - | ...
github.com/Inovello/llama.cpp/tree/flashnext-e06
[feat] Unterstützung für dspark (Nanbeige4.2-3B) von zqlcode · Pull Request #27730 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27730
![[feat] Unterstützung für dspark (Nanbeige4.2-3B) von zqlcode · Pull ...](https://external-preview.redd.it/UiIVFfrv1DwgONdz7TaVGs_fz0aCQlVjOKQMC8B96yk.png?width=320&crop=smart&auto=webp&s=2fd7ffbeb732ed1514b3172e0ac9a77fb4f68d73)
GitHub - | oussemah/llama.cpp at moe-cache-ousemma: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von oussemah/llama.cpp, indem du ein Konto auf ...
github.com/oussemah/llama.cpp/tree/moe-cache-ousemma
Spezifikation: Unterstützung von DSpark für LFM2-Modelle von tdakhran · Pull Request #27383 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/27383

DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/25784

Release b9978 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b9978

ggml-hip: enable -funsafe-math-optimizations (#24668) · ggml-org/llama.cpp@ccb0c34
github.com/ggml-org/llama.cpp/commit/ccb0c3422394fbbfc28fd91f8c77111b748cfa09

GitHub - | linuxid10t/llama.cpp-add-laguna: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von linuxid10t/llama ...
github.com/linuxid10t/llama.cpp-add-laguna
GitHub – TheTom/llama-cpp-turboquant: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Tragen Sie zur Entwicklung von TheTom/llama-cpp-turboquant bei ...
github.com/TheTom/llama-cpp-turboquant

Next