CUDA: Sparse-FA für qwen4 aktivieren von am17an · Pull Request #28770 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/28770

Details zur Berichterstattung

Zuletzt aktualisiert
Artikel gesamt	1

Hauptthemen

LLaMA-Sprachmodell

Folgen

#llama-sprachmodell

Griff (Vorrichtung)

Folgen

#griff-vorrichtung

Vorrichtung zum manuellen Ergreifen oder Bedienen eines Gegenstandes

Ähnliche Artikel

github.com Oct 25

qwen: Zusammenführen von Tensoren bei Konvertierung von am17an · Pull Request #31028 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/31028

1 ähnliche Artikel

github.com Oct 21

llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/30640

0 ähnliche Artikel

github.com Oct 17

CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/30517

0 ähnliche Artikel

github.com Oct 14

cuda, hip: GDN chunked kernel by am17an · Pull Request #29353 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/29353

0 ähnliche Artikel

github.com Oct 08

ggml-cuda: Zuweisung von vier GDN-Statusspalten pro Warp von SongXiaoXi · Pull Request #30087 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/30087

0 ähnliche Artikel

github.com Oct 06

RPC: `-sm tensor` von am17an hinzugefügt · Pull Request #26610 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/26610

0 ähnliche Artikel

github.com Oct 02

CUDA: Gemeinsame Experten in MMVQ integrieren von am17an · Pull Request #29184 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/29184

0 ähnliche Artikel

github.com Sep 16

qwen4exp: hc ops von am17an hinzugefügt · Pull Request #28901 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/28901

0 ähnliche Artikel

github.com Sep 12

ggml-cuda: hip: Fehlende AMD GCN MMQ-Konfiguration hinzugefügt von thelittlefireman · Pull Request #27841 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/27841

0 ähnliche Artikel

github.com Aug 02

DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...

github.com/ggml-org/llama.cpp/pull/25784

0 ähnliche Artikel

126

github.com Jun 29

DeepSeek V4 von am17an · Pull Request #24162 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteilige dich an der Entwicklung von ggml-org/llama.cpp ...

github.com/ggml-org/llama.cpp/pull/24162

0 ähnliche Artikel

github.com Jun 03

qwen35: Verwendung des Post-Norm-Hidden-State für MTP von am17an · Pull Request #24025 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/24025

0 ähnliche Artikel

github.com May 25

CUDA: Schnelle Walsh-Hadamard-Transformation von am17an hinzugefügt · Pull Request #23615 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/23615

0 ähnliche Artikel

github.com May 20

llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/23398

0 ähnliche Artikel

173

github.com May 17

llama: Vermeidung des Kopierens von Logits während der Prompt-Dekodierung in MTP von am17an · Pull Request #23198 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/23198

0 ähnliche Artikel

github.com Apr 16

ggml: add graph_reused by am17an · Pull Request #21764 · ggml-org/llama.cpp: LLM inference in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...

github.com/ggml-org/llama.cpp/pull/21764

0 ähnliche Artikel

github.com Mar 28

ggml: Vorabruf von Tensor-Überschreibungen durch am17an · Pull Request #21067 · ggml-org/llama.cpp

github.com/ggml-org/llama.cpp/pull/21067

0 ähnliche Artikel