fastapi

智元 Fast API

企业级 LLM API 快速集成系统，有着轻量、高效、稳定等特点，将各类 LLM API 进行统一格式、统一规范、统一管理，使其在功能、性能和用户体验上达到极致。业务系统只需要按照统一API标准，对接一次的开发工作量，即可无缝对接N个大模型，无需考虑N个大模型背后的各种复杂逻辑等等，可大大降低开发和维护成本...

支持模型

项目预览

• 用户端: https://demo.fastapi.ai/login
• 管理端: https://demo.fastapi.ai/admin
• 账号/密码均是: demo/123456

专业版预览

• 用户端: https://demo.fastapi.pro/login
• 代理商: https://demo.fastapi.pro/reseller
• 管理端: https://demo.fastapi.pro/admin
• 账号/密码均是: demo/123456

部署支持

✔️ 集群部署
✔️ 多地部署
✔️ 跨区部署

Docker部署

传送门

部署视频

https://files.fastapi.ai/public/video/install.mp4

公益站点

社区版

• API接口: https://api.free.fastapi.ai
• 用户端: https://free.fastapi.ai/login

专业版

• API接口: https://api.free.fastapi.pro
• 用户端: https://free.fastapi.pro/login
• 代理商: https://free.fastapi.pro/reseller

社区版和专业版数据互通, 可以根据自己喜好选择, 社区版用户注册送1000万额度, 专业版用户注册送2500万额度, 专业版支持注册代理商

项目截图

管理端

用户端

API接口

同OpenAI接口

curl --location 'https://api.fastapi.ai/v1/chat/completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-FastAPI1YzE0kXf0zNb0ldX1nBLDm1Bh0SoSK0G0PzR1tNxW' \
--data '{
    "model": "gpt-3.5-turbo",
    "stream": true,
    "messages": [
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "hi"}
    ]
}'

开源地址

作者

交流群