大模型接入
1. 简介
大模型接入是指管理当前空间中已接入的大模型,用户可以通过「添加模型」接入自己购买的大模型。
2. 操作步骤
2.1 添加模型
2.1.1 添加自定义模型
在「大模型接入」中,点击「添加模型」,进入模型添加页面中。

2.1.2 设置基础信息
在添加自定义大模型页面中,进行如下设置:
- Base URL:填写模型所在平台的 URL 地址;
- API Key:填写模型所在平台的 API Key;
- 模型:系统将自动获取模型所在平台中可用的全部模型,在下拉框中选择所需模型。

2.1.3 模型高级配置
模型选择完成后,在「高级配置」处对所选模型进行如下配置:
- 连接方式:支持选择OpenAI 兼容协议、Claude 兼容协议、Response 兼容协议;
- 显示名称:填写模型在对话中的显示名称,该名称不影响模型使用;
- 单次输出上限:限制一次回答最多生成多少内容;
- 上下文输入上限:决定模型一次能理解多少历史对话;
- 回答风格:支持设置为严谨、均衡、更有创意,用户可根据需求进行选择;
- 思考模式:支持选择快速回答、深度思考、自动决策;
- 视觉能力:选择是否需要支持直接识图。
全部设置完成后,勾选「接入体检」并点击「直接接入模型」。

2.2 管理模型
2.2.1 模型停用/启用
用户可根据业务需求,对空间中的模型进行停用/启用。点击模型右侧的三个小圆点,选择「停用模型/启用模型」即可。如下所示:

2.2.2 编辑模型
若需对模型的配置进行修改,点击模型右侧的三个小圆点,选择「编辑」按钮,即可进入 模型编辑页面进行修改。如下所示:
注:仅支持对模型的高级配置进行修改,模型所在平台的 URL、API Key 和模型不可进行修改。

2.2.3 设为辅助任务模型
设为辅助任务模型是指在 AI 员工执行辅助任务时,调用该模型执行。未配置/启用辅助模型时,辅助任务将会使用对话主模型执行。
点击模型右侧的三个小圆点,选择「设为辅助任务模型」即可。

2.2.4 搜索模型
若当前空间中的大模型较多,在搜索框中输入模型名称,即可进行搜索。如下所示:

2.2.5 删除模型
1)删除单个模型
点击模型后面的三个小圆点,选择「删除」并进行删除确认后,完成删除。

2)批量删除模型
若需删除多个模型,点击「管理」按钮并勾选需删除的模型后,点击「删除」,进行删除确认后即可删除。


400-111-0890
在线咨询