Release b8786 · ggml-org/llama.cpp:
LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp, indem Sie ein Konto auf GitHub ...
github.com/ggml-org/llama.cpp/releases/tag/b8786
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 1 |
Hauptthemen
Ähnliche Artikel
Previous
qwen: Zusammenführen von Tensoren bei Konvertierung von am17an · Pull Request #31028 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/31028
CUDA: fuse FFN gate/up matmuls and GLU in MMQ with interleaved gate/up rows by anujj · Pull Request #29948 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29948
qwen4exp: QSA-Auswahl ohne kq_mask erstellen von sanmai · Pull Request #30965 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30965
Mehrspaltige Matrixverarbeitung auf Intel XMX-Engines, überarbeitet von budiony · Pull Request #29864 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29864
llama : add adaptive single-graph MoE offload by pwilkin · Pull Request #30971 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30971
llama: Neuen fusionierten Operator für QSA-Maske von am17an erstellen · Pull Request #30640 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30640
nemotron: Unterstützung für nicht standardmäßige GQA, BPE-Tokenizer und domyn-small-Pre-Type von martin-cimmino · Pull Request #23343 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/23343
webgpu : Q2_0-Unterstützung von teddygood hinzugefügt · Pull Request #30914 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30914
Modelle: Flint-Modell (FlintForCausalLM) von alexey-rsi hinzugefügt · Pull Request #30928 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30928
mtmd: Cohere2-Vision-Unterstützung hinzugefügt von Terrencezzj · Pull Request #30062 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30062
CUDA: Schnelleres MMVQ für niedrigbitige Datentypen von am17an · Pull Request #30517 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30517
Modell: Unterstützung für Kolibri-1 (Aleph-Alpha) von riteme hinzufügen · Pull Request #30673 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30673
NVIDIAs Nemotron 3.5 Super VL mit Post-Training übertrifft Claude Opus 5 und GPT-6.1 Sol bei spezialisierten Aufgaben-Benchmarks.
venturebeat.com/technology/nvidias-new-open-nemotron-3-5-super-vl-with-post-training-beats-claude-opus-5-gpt-6-1-sol-on-specialized-task-benchmarks
CPU: AVX2-Tiled-Akkumulatoren durch Trivalik zusammenfassen · Pull Request #30296 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30296
Modell: Granite-Switch-Entscheidung von gabe-l-hart · Pull Request #30676 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30676
Modell: Muse Spark Open (Text, Bild und Audio) hinzufügen von ServeurpersoCom · Pull Request #30616 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30616
cuda, hip: GDN chunked kernel by am17an · Pull Request #29353 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29353
common : add --spec-draft-n-ubatch by ggerganov · Pull Request #30459 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30459
vulkan: TP-Implementierung durch pwilkin · Pull Request #25051 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/25051
Was stimmt nicht mit der Release-Seite von llama.cpp?: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/releases
Next