Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

[FEATURE] 是否考虑通过 One-API 项目管理和配置大模型接口? #361

Open
chixq opened this issue May 6, 2024 · 2 comments
Assignees

Comments

@chixq
Copy link

chixq commented May 6, 2024

MaxKB 版本

Latest

请描述您的需求或者改进建议

类似 Fastgpt( https://doc.fastai.site/docs/development/sealos/ ),集成了 One-API (https://github.com/songquanpeng/one-api)

优势:

  1. 不用再自己对接一遍各种大模型,工作量大且容易出错
  2. One-API 协议友好 MIT 协议
  3. One-API 自己默认带运营能力(计量计费),为 MaxKB 后面迭代可能有帮助
  4. 1Panel 商店已经集成了 One-API,可以做联动

请描述你建议的实现方案

No response

附加信息

No response

@baixin513
Copy link
Contributor

感谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,您可以在 MaxKB 添加 模型时选择 OpenAI供应商,然后 API 域名输入 OneAPI 的服务地址,基础模型输入你想要对接的OneAPI 中的模型名称。

@chixq chixq changed the title [FEATURE] 是否考虑 One-API 通过管理和配置大模型接口? [FEATURE] 是否考虑通过 One-API 项目管理和配置大模型接口? May 6, 2024
@hcppxgit
Copy link

hcppxgit commented Jun 4, 2024

谢谢反馈, OneAPI 应该和 OpenAI 的格式是通用的,强制 MaxKB 添加模型时选择 OpenAI 供应商,然后 API 域名输入 OneAPI 服务地址,基础模型输入你想要接的 OneAPI 中的模型名称。

请问一下能否把maxkb的应用接入oneapi,我想通过oneapi直接和对应的应用对话。

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants