大模型接入

1. 简介

大模型接入是指管理当前空间中已接入的大模型,用户可以通过「添加模型」接入自己购买的大模型。

2. 操作步骤

2.1 添加模型

2.1.1 添加自定义模型

在「大模型接入」中,点击「添加模型」,进入模型添加页面中。

2.1.2 设置基础信息

在添加自定义大模型页面中,进行如下设置:

  • Base URL:填写模型所在平台的 URL 地址;
  • API Key:填写模型所在平台的 API Key;
  • 模型:系统将自动获取模型所在平台中可用的全部模型,在下拉框中选择所需模型。

2.1.3 模型高级配置

模型选择完成后,在「高级配置」处对所选模型进行如下配置:

  • 连接方式:支持选择OpenAI 兼容协议、Claude 兼容协议、Response 兼容协议;
  • 显示名称:填写模型在对话中的显示名称,该名称不影响模型使用;
  • 单次输出上限:限制一次回答最多生成多少内容;
  • 上下文输入上限:决定模型一次能理解多少历史对话;
  • 回答风格:支持设置为严谨、均衡、更有创意,用户可根据需求进行选择;
  • 思考模式:支持选择快速回答、深度思考、自动决策;
  • 视觉能力:选择是否需要支持直接识图。

全部设置完成后,勾选「接入体检」并点击「直接接入模型」。

2.2 管理模型

2.2.1 模型停用/启用

用户可根据业务需求,对空间中的模型进行停用/启用。点击模型右侧的三个小圆点,选择「停用模型/启用模型」即可。如下所示:

2.2.2 编辑模型

若需对模型的配置进行修改,点击模型右侧的三个小圆点,选择「编辑」按钮,即可进入 模型编辑页面进行修改。如下所示:

注:仅支持对模型的高级配置进行修改,模型所在平台的 URL、API Key 和模型不可进行修改。

2.2.3 设为辅助任务模型

设为辅助任务模型是指在 AI 员工执行辅助任务时,调用该模型执行。未配置/启用辅助模型时,辅助任务将会使用对话主模型执行。

点击模型右侧的三个小圆点,选择「设为辅助任务模型」即可。

2.2.4 搜索模型

若当前空间中的大模型较多,在搜索框中输入模型名称,即可进行搜索。如下所示:

2.2.5 删除模型

1)删除单个模型

点击模型后面的三个小圆点,选择「删除」并进行删除确认后,完成删除。

2)批量删除模型

若需删除多个模型,点击「管理」按钮并勾选需删除的模型后,点击「删除」,进行删除确认后即可删除。

咨询
扫码领取100+零代码资料简道云官方微信号400-111-0890
图标在线咨询
立即体验