Bundle
dsh-bring-local-llm
让用户个人/本地 LLM 接入 DeepSeek Harness:Ollama、KoboldCpp、LM Studio 及任意 OpenAI 兼容端点作为本地冗余算力,本地优先处理一部分信息,难点才交给云端主模型。充分利用本地算力并节省 token。
Hed1an
2 results
让用户个人/本地 LLM 接入 DeepSeek Harness:Ollama、KoboldCpp、LM Studio 及任意 OpenAI 兼容端点作为本地冗余算力,本地优先处理一部分信息,难点才交给云端主模型。充分利用本地算力并节省 token。
DeepSeek Harness LLM adapter plugin for a local llama.cpp server over its OpenAI-compatible /v1/chat/completions API.