项目简介 本项目旨在开发一套高并发、高可用的 大语言模型 API 路由网关与多租户分发平台 系统核心解决多上游 API 渠道的负载均衡、Token 精确计费,并支持 多供应商(Providers)接入算力池进行按量收益分账 的功能 核心模块需求 模块 A:高并发路由网关(Core) 支持多 API 渠道(Anthropic 原生 API、AWS Bedrock、GCP Vertex 及通用 O