Skip to content

first release v0.1

Latest
Compare
Choose a tag to compare
@tian-minghui tian-minghui released this 03 Apr 13:40
· 11 commits to main since this release
5a9ce02
  • 支持多种大模型,当前已支持
    • openai
    • azure open ai
    • claude-api
    • claude-web (将web端功能封装成openai api)
    • 智谱ai
    • bingchat(copilot)
    • 讯飞星火
    • gemini
    • 通义千问
  • 支持stream方式调用
  • 支持open ai的第三方代理服务,比如openai-sb等
  • 支持在线更新配置 http://0.0.0.0:8090/
  • 支持负载均衡,一个key可轮训/随机/并行等访问多个模型
  • 支持按照model_name进行路由