mw00/project-maya

text-llm ★ 1587 / fork 201 / 言及 1件 / C++

GLMやDeepSeekなどの大規模言語モデルをローカルGPUで推論するためのエンジンとAPIサーバーを提供。

GitHubで見る・ cudadeepseekdeepseek-v4glmglm-5llmllm-inferencelocal-llm