llama.cpp/tools/server at master · ggml-org/llama.cpp:
LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/tree/master/tools/server
Details zur Berichterstattung
| Zuletzt aktualisiert | |
| Artikel gesamt | 1 |
Hauptthemen
Leistungsstörung im Schuldrecht - Eine Fälligkeit wird trotz Möglichkeit nicht bedient
Ähnliche Artikel
Previous
GitHub – achyudh/llama.cpp: LLM-Inferenz in C/C++: LLM-Inferenz in C/C++. Tragen Sie zur Entwicklung von achyudh/llama.cpp bei, indem Sie ein Konto auf GitHub ...
github.com/achyudh/llama.cpp
Modell: MTP-Unterstützung für Mellum 2.1 von Xarbirus · Pull Request #30612 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/30612
Laufzeitunterstützung für Prism Bonsai 2 27B von bri-prism · Pull Request #29600 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/29600
GitHub - | wnzn/semif-go: System One-ähnliche Entscheidungsbewertung für llama.cpp mit multimodaler Eingabe
github.com/wnzn/semif-go
Ich habe mein altes Handy in einen lokalen LLM-Server verwandelt, und es erledigt Produktivitätsaufgaben besser als erwartet.
xda-developers.com/i-turned-my-old-phone-into-a-local-llm-server/
Feature: Unterstützung für den Import von qwen4exp (Qwen3.8-Flash-Next) aus dem Upstream-PR #27742 von giveen · Pull Request #324 · TheTom/llama-cpp-turboquant
github.com/TheTom/llama-cpp-turboquant/pull/324
GitHub - | mostlygeek/llama-swap: Zuverlässiger Modelltausch für jeden lokalen OpenAI/Anthropic-kompatiblen Server - | llama.cpp, vllm usw.
github.com/mostlygeek/llama-swap
Server: Korrektur der Checkpoint-Erstellung durch jacekpoplawski · Pull Request #22929 · ggml-org/llama.cpp
github.com/ggml-org/llama.cpp/pull/22929
llama.cpp/docs/backend/snapdragon/README.md at master · ggml-org/llama.cpp: LLM-Inferenz in C/C++. Beteiligen Sie sich an der Entwicklung von ggml-org/llama.cpp ...
github.com/ggml-org/llama.cpp/blob/master/docs/backend/snapdragon/README.md
GitHub - | ParmesanParty/llama.cpp: Spezialisierter Fork für (relativ) schnelle Single-GPU-Inferenz (in CUDA) mit großen MoE-Modellen ...
github.com/ParmesanParty/llama.cpp
llama : rotate activations for better quantization by ggerganov · Pull Request #21038 · ggml.org/llama.cpp
github.com/ggml-org/llama.cpp/pull/21038
GitHub - | peva3/SmarterRouter: SmarterRouter: Ein intelligentes LLM-Gateway und VRAM-fähiger Router für Ollama, llama.cpp und OpenAI ...
github.com/peva3/SmarterRouter
GitHub - | WayneCider/YourOwnPersonalJean-Luc: Ihr persönlicher Jean-Luc – ein lokaler KI-Programmieragent, basierend auf llama.cpp. Keine Cloud ...
github.com/WayneCider/YourOwnPersonalJean-Luc
Next