DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama.cpp:
LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/25784
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 1 |
Hauptthemen
Vorrichtung zum manuellen Ergreifen oder Bedienen eines Gegenstandes
Ähnliche Artikel
Previous
qwen: Zusammenführen von Tensoren bei Konvertierung von am17an · Pull Request #31028 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31028
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640
CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30517
cuda, hip: GDN chunked kernel by am17an · Pull Request #29353 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29353
ggml-cuda: Zuweisung von vier GDN-Statusspalten pro Warp von SongXiaoXi · Pull Request #30087 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30087
RPC: `-sm tensor` von am17an hinzugefügt · Pull Request #26610 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26610
CUDA: Gemeinsame Experten in MMVQ integrieren von am17an · Pull Request #29184 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29184
CUDA: Sparse-FA für qwen4 aktivieren von am17an · Pull Request #28770 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/28770
qwen4exp: hc ops von am17an hinzugefügt · Pull Request #28901 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/28901
DeepSeek V4 von am17an · Pull Request #24162 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/pull/24162
qwen35: Verwendung des Post-Norm-Hidden-State für MTP von am17an · Pull Request #24025 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/24025
llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398
llama: MTP-Bereinigung von ggerganov · Pull Request #23269 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/23269
llama: Vermeidung des Kopierens von Logits während der Prompt-Dekodierung in MTP von am17an · Pull Request #23198 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23198
ggml: add graph_reused by am17an · Pull Request #21764 · ggml-org/llama.cpp: LLM inference in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/21764
ggml: Vorabruf von Tensor-Überschreibungen durch am17an · Pull Request #21067 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21067
Next