对话机器人和虚拟助手 x KooSearch

对话机器人和虚拟助手 x KooSearch

KooSearch 企业搜索服务预置昇腾云NLP模型服务,基于开源模型构建多样对话机器人和虚拟助手

KooSearch 企业搜索服务预置昇腾云NLP模型服务,基于开源模型构建多样对话机器人和虚拟助手

方案适用场景

方案适用场景

主要能力

主要能力

文本精排模型

更加精准找到相关文本

  • 可用于对向量召回结果的重新排序

向量检索

GuassDB向量数据库的向量检索

  • 支持根据文本的向量的相似度进行召回

安全保障

集成内容审核组件,保证Session安全

搜索规划

大语言模型技术驱动

  • 支持Query分类、多轮改写、复杂查询分解

文档解析

支持PDF、JPG、DOC、TXT、XLS、PPT等文档格式

  • 可解析出文档版式、位置坐标、表格结构

多模态检索

使用多模态向量技术

  • 可以实现文搜图、实现结果的“图文并茂+”

方案操作流程

步骤一:KooSearch开通

申请开通KooSearch

  • KooSearch企业搜索服务支持新客户免费体验使用一段时间,请发送申请邮件至gallerydeal@huawei.com,并按照以下模板提供信息:


步骤二:创建模型服务

创建MaaS模型服务

  • 创建服务

    1.进入MaaS控制台界面,点击“模型部署”页签进入



    2. 在模型部署页面,点击右上角的创建按钮,创建一个新的在线服务


  • 服务配置

    完成新建服务的各项设置,包括:



    服务设置:自定义您的服务名称和描述



    模型设置:选择您想要使用的模型,为了确保配合KooSearch使用的效果,我们建议使用如下模型:


    Qwen1.5系列


    Qwen2系列


    GLM4-9B-chat


    Llama3系列


    参数设置:推理的相关参数设置,如最大输入输出长度



    资源设置:选择部署服务所使用的算力资源,计费模式为按需计费,先使用后付费

步骤三:服务地址与模型名称获取

MaaS服务信息获取

  • 在KooSearch中配合Maas部署的模型服务时,需要两个关键输入:

    服务调用时模型名称服务接口地址,获取方式如下



  • MaaS模型部署页面:


    1.服务状态为“运行中”时,此时可以点击右侧的调用按钮



    2.在弹窗中可以査看到该服务的API地址和调用时使用的模型名称

步骤四:API Key创建

创建MaaS的API Key

1.在MaaS左侧导航栏中,选择“鉴权管理”


2.在“鉴权管理”页面,单击“创建API Key″,填写描

述信息后,单击“确认″会返回“您的密钥”,请复制

保存密钥,单击“关闭”后将无法再次查看密钥。


说明:

-最多支持创建5个密钥,密钥只会在新建后显示一

次,请妥善保存。

-当密钥丢失将无法找回,请新建API Key获取新的

访问密钥。

步骤五:KooSearch新建模型服务

KooSearch新建模型服务

  • 新建服务


    1.在Koosearch控制台点击进入“模型管理”页签



    2.点击右上角“新建模型服务”

  • 模型服务配置


    1.模型类型请选择“NLP模型-昇腾云



    2.访问地址请填入步骤三中的API地址



    3.昇腾云模型名称请填步骤三中的模型名称



    4.服务调用的鉴权信息请填写在自定义认证处:


    标头键请填写:Authorization


    标头值请填写: Bearer 您的API Key

请选择云服务区域
步骤六:KooSearch服务使用

KooSearch体验平台配置使用

  • 平台配置


    1.点击设置按钮



    2.在右侧窗口中选择NLP模型服务为您在步骤四中创建的服务名称

  • KooSearch企业搜索服务使用

    现在您可以将需要使用的财务报表、交易记录等文档新建知识库后外挂使用,具体的操作演示可以点击下方按钮查看

定价信息

定价信息

服务名称

计费项

目录价

计费项说明

KooSearch 企业搜索服务
KooSearch Lite框架
¥ 6,175 / 月

包含搜索中控和文件解析的资源

包年价格为10个月的价格

算力费用:模型推理(搜索规划)
¥ 29,186.5 / 月

搜索规划:Query改写&意图分类

Embedding&Ranking:文本转向量&结果精排

NLP大模型:用于基于Prompt进行问答

包年价格为12个月的价格

算力费用:模型推理(Embedding&Ranking)
¥ 29,186.5 / 月
向量数据库
¥ 9,897 / 月

配置:3 x(16u64g,500GB超高IO)

包年价格为10个月的价格

合计
74,445
/月
OCR可选,如在文档解析时需要OCR,需单独报价

服务名称

计费项

目录价

计费项说明

KooSearch 企业搜索服务
KooSearch Lite框架
¥ 6,175 / 月

包含搜索中控和文件解析的资源

包年价格为10个月的价格

算力费用:模型推理(搜索规划)
¥ 29,186.5 / 月

搜索规划:Query改写&意图分类

Embedding&Ranking:文本转向量&结果精排

NLP大模型:用于基于Prompt进行问答

包年价格为12个月的价格

算力费用:模型推理(Embedding&Ranking)
¥ 29,186.5 / 月
向量数据库
¥ 9,897 / 月

配置:3 x(16u64g,500GB超高IO)

包年价格为10个月的价格

合计
74,445
/月
OCR可选,如在文档解析时需要OCR,需单独报价