Ähnliche Artikel
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request ...
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request ...
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · ...
webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914
webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request ...
Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull Request #30928 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30928
Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull ...
CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30517
CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull ...
CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request #30296 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30296
CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request ...
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ...
[Model] Support MiniCPM-V 4.7 by tc-mb · Pull Request #29416 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29416
[Model] Support MiniCPM-V 4.7 by tc-mb · Pull Request #29416 · ...
GitHub - | mihailescu2m/llama.cpp: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von mihailescu2m/llama.cpp ...
github.com/mihailescu2m/llama.cpp
GitHub - | mihailescu2m/llama.cpp: LLM-Inferenz in C/C++
GitHub - | oussemah/llama.cpp at moe-cache-ousemma: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von oussemah/llama.cpp, indem du ein Konto auf ...
github.com/oussemah/llama.cpp/tree/moe-cache-ousemma
GitHub - | oussemah/llama.cpp at moe-cache-ousemma
GitHub - | haraldh/llama.cpp at dspark-dsv4: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von haraldh/llama.cpp, indem du ein Konto auf GitHub ...
github.com/haraldh/llama.cpp/tree/dspark-dsv4
GitHub - | haraldh/llama.cpp at dspark-dsv4
Modell: Kimi-K3-Textmodell von pwilkin hinzufügen · Pull Request #26185 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26185
Modell: Kimi-K3-Textmodell von pwilkin hinzufügen · Pull Request #26185 · ...
GitHub - | fewtarius/CachyLLama: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von fewtarius/CachyLLama ...
github.com/fewtarius/CachyLLama
GitHub - | fewtarius/CachyLLama: LLM-Inferenz in C/C++
Release b10087 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp, indem du ein Konto auf GitHub erstellst.
github.com/ggml-org/llama.cpp/releases/tag/b10087
Release b10087 · ggml-org/llama.cpp
Release b9978 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b9978
Release b9978 · ggml-org/llama.cpp
GitHub - | Addy-ad/llama-cpp-turbo-planar-iso: Hinzufügen von Turboquant + Planarquant + Isoquant zu llama.cpp
github.com/Addy-ad/llama-cpp-turbo-planar-iso
GitHub - | Addy-ad/llama-cpp-turbo-planar-iso: Hinzufügen von Turboquant + ...
GitHub – TheTom/llama-cpp-turboquant: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Tragen Sie zur Entwicklung von TheTom/llama-cpp-turboquant bei ...
github.com/TheTom/llama-cpp-turboquant
GitHub – TheTom/llama-cpp-turboquant: LLM-Inferenz in C/C++
Modell: Unterstützung für GLM-OCR mit ngxson · Pull Request #19677 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19677
Modell: Unterstützung für GLM-OCR mit ngxson · Pull Request #19677 · ...