ModelGate 基于 FastAPI 的 LLM API 代理服务器,支持多提供商管理、API Key 控制、用量监控和 Web 管理面板。 功能特性 多提供商支持:智谱、DeepSeek、Ollama、Minimax 及任意 OpenAI 兼容 API 并发限流:基于信号量的提供商级并发控制 API Key 管理:支持按 Key 限制可访问的模型 流式响应:实时流式输出,支持 token
一个分布式任务调度平台,其核心设计目标是开发迅速、学习简单、轻量级、易扩展。现已开放源代码并接入多家公司线上产品线,开箱即用。