• 创建服务

  1.进入MaaS控制台界面，点击“模型部署”页签进入

  
  

  
  

  2. 在模型部署页面，点击右上角的创建按钮，创建一个新的在线服务

  
  

• 服务配置

  完成新建服务的各项设置，包括：

  
  

  
  

  服务设置：自定义您的服务名称和描述

  
  

  
  

  模型设置：选择您想要使用的模型，为了确保配合KooSearch使用的效果，我们建议使用如下模型：

  
  

  Qwen1.5系列

  
  

  Qwen2系列

  
  

  GLM4-9B-chat

  
  

  Llama3系列

  
  

  参数设置：推理的相关参数设置，如最大输入输出长度

  
  

  
  

  资源设置：选择部署服务所使用的算力资源，计费模式为按需计费，先使用后付费

• 在KooSearch中配合Maas部署的模型服务时，需要两个关键输入：

  服务调用时模型名称、服务接口地址，获取方式如下

  
  

  
  

• 获取调用时模型名称

  在您已经部署好的模型服务详情页的“参数设置”处可以查看到

• 获取服务接口地址

  在您已经部署好的模型服务详情页点击右上角的“调用”，在新的窗口中可以获取到该服务的在公网的地址

前往ModelArts控制台页面完成要使用的模型服务与appcode的绑定

• 新建服务

  
  

  1.在Koosearch控制台点击进入“模型管理”页签

  
  

  
  

  2.点击右上角“新建模型服务”

• 模型服务配置

  
  

  1.模型类型请选择“NLP模型-昇腾云”

  
  

  
  

  2.访问地址请填入步骤三中的:

  
  

  原始服务接口地址 + "v1/chat/completions"

  
  

  
  

  3.昇腾云模型名称请填步骤三中的调用时模型名称

  
  

  
  

  4.服务调用的鉴权信息请填写在自定义认证处：

  
  

  标头键请填写：X-Apig-AppCode

  
  

  标头值请填写您帐号的appcode

• 平台配置

  
  

  1.点击设置按钮

  
  

  
  

  2.在右侧窗口中选择NLP模型服务为您在步骤四中创建的服务名称

• KooSearch企业搜索服务使用

  现在您可以将需要使用的财务报表、交易记录等文档新建知识库后外挂使用，具体的操作演示可以点击下方按钮查看