#glm

iimeta/fastapi

Go

90

health

企业级 LLM API 快速集成系统，支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等，简洁的页面风格，轻量高效且稳定，支持Docker一键部署。

iimeta/fastapi-admin

Go

89

health

企业级 LLM API 快速集成系统，支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等，简洁的页面风格，轻量高效且稳定，支持Docker一键部署。

sgl-project/sglang

Python

87

health

SGLang is a high-performance serving framework for large language models and multimodal models.

iimeta/fastapi-sdk

Go

86

health

企业级 LLM API 快速集成系统，支持OpenAI、Azure、文心一言、讯飞星火、通义千问、智谱GLM、Gemini、DeepSeek、Anthropic Claude以及OpenAI格式的模型等，简洁的页面风格，轻量高效且稳定，支持Docker一键部署。

NVIDIA-NeMo/Automodel

Python

79

health

🚀 Pytorch Distributed native training library for LLMs/VLMs with OOTB Hugging Face support