Spezifikation: ngram-mod von ggerganov hinzufügen · Pull Request #19164 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19164
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 2 |
Hauptthemen
schmales, längliches Loch oder eine Vertiefung, die nur zur Aufnahme dünner Gegenstände dient
Vorrichtung zum manuellen Ergreifen oder Bedienen eines Gegenstandes
Ähnliche Artikel
Previous
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459
RPC: `-sm tensor` von am17an hinzugefügt · Pull Request #26610 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/26610
DeepseekV4 MTP + DSpark von am17an · Pull Request #25784 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/25784
llama.cpp/tools/server at master · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/tree/master/tools/server
Server: Anzeige der Generierungsgeschwindigkeit der letzten 5 Sekunden hinzugefügt (von akx) · Pull Request #24291 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/24291
[Speculative decoding] feat: add EAGLE3 speculative decoding support by ruixiang63 · Pull Request #18039 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/18039
![[Speculative decoding] feat: add EAGLE3 speculative decoding support by ...](https://external-preview.redd.it/zRu_wUfy9Cp3Pp1kRAc-36MR3EQOz-NzxEdhKIKhhV0.png?width=320&crop=smart&auto=webp&s=ea4c0c659aa03218c535641bc82dfe86c6980667)
mtp: Unterstützung für gemma-4 E2B- und E4B-Assistenten von max-krasnyansky · Pull Request #24282 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/24282
Server: Korrektur der Checkpoint-Erstellung durch jacekpoplawski · Pull Request #22929 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/22929
llama : Gemma4 MTP von am17an hinzufügen · Pull Request #23398 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23398
llama: MTP-Bereinigung von ggerganov · Pull Request #23269 · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama ...
github.com/ggml-org/llama.cpp/pull/23269
ggml: Backend-unabhängiger Tensor-Parallelismus (experimentell) von JohannesGaessler · Pull Request #19378 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19378
kv-cache: Unterstützung der Aufmerksamkeitsrotation für heterogene iSWA von ggerganov · Pull Request #21513 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21513
(revert) kv-cache : SWA-KV-Cache nicht quantisieren von ggerganov · Pull Request #21332 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21332
llama : rotate activations for better quantization by ggerganov · Pull Request #21038 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21038
metal: GDN-Kernel von ggerganov hinzugefügt · Pull Request #20361 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20361
Evaluierungsfehler: Erzwingen der vollständigen Neuverarbeitung der Eingabeaufforderung in Qwen3-Coder-Next · Problem Nr. 19394 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/issues/19394
Hybridmodell-Cache: `--checkpoint-every-nb` hinzugefügt von pwilkin · Pull Request #20087 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/20087
Fehler mit dem Prompt-Cache, Stoppen, Thread-Wechsel · Problem #19760 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/issues/19760
Modelle: Optimierung des qwen3next-Graphen durch ggerganov · Pull Request #19375 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/19375
Next