1. 真如:10.51.17.34(原万国:10.16.64.34)
lakala
  • 相似度模型
    • 生产向量化模型备用节点路由转发接口
      POST
    • bge-reranker-v2-m3
      POST
    • bge-m3
      POST
    • 文档QA全领域通用相似度模型(20261010更新)
      POST
    • 旧 - 支付客服问答相似度模型 - 修
      POST
    • 通用客服问答相似度模型
      POST
    • 旧 - 支付客服问答相似度模型
      POST
    • 微调向量化模型
      POST
    • 支付开放平台调用相似度模型(20261008更新)
      POST
    • 关键词提取(20261008更新)
      POST
  • 分类模型
    • 新 - 意图识别多任务模型
      POST
    • 意图识别多任务模型
      POST
    • 情感分类模型
      POST
    • 旧 - 风控投诉分类模型
      POST
  • 打分模型
    • 培训机器人(20261008更新)
      POST
    • 新 - 培训机器人打分模型
      POST
    • 新 - 培训机器人更新问答库接口
      POST
    • 旧 - 培训机器人打分模型
      POST
    • 旧 - 培训机器人更新问答库接口
      POST
  • 真如:10.51.17.34(原万国:10.16.64.34)
    • E1(embedding 9997)
      POST
    • 新 - 风控投诉分类模型(bert_complain 9994)
      POST
    • 新 - 支付客服问答相似度模型(simi_chat 9941)
      POST
    • 风控客服问答相似度模型(risk_control 9998)
      POST
    • 问题重写(intention_recognition 9011)
      POST
  • RAG模型
    • 问题重写接口
      POST
    • PDF解析(新)
      POST
    • RAG总接口
      POST
    • PDF文件解析
      POST
    • Redis服务
      POST
  • 质检
    • 敏感词质检
    • 新敏感词质检系统
  • 其他
    • rembg
    • 图像分类与 OCR 服务
    • 沙箱环境MCP
  • 数据模型
    • 示例数据模型
      • Pet
      • Category
      • Tag
    • 相似度模型
    • 分类模型
    • RAG回调接口模型
  1. 真如:10.51.17.34(原万国:10.16.64.34)

新 - 支付客服问答相似度模型(simi_chat 9941)

POST
:9941/v1/embeddings

Simi Chat 向量化服务#

对客服问题进行向量化, 从而支持后面的向量化检索#

模型: 由 BAAI/bge-large-zh-v1.5 训练得到
训练数据: 支付客服, 对抗样本优化, 标点符号优化

接口信息#

项目说明
路径/v1/embeddings
方法POST
Content-Typeapplication/json
请求体:
{
  "model": "Pay_Customer",
  "input": "测试文本"
}
响应体:
{
  "model": "Pay_Customer",
  "object": "embedding",
  "data": [
    {
      "embedding": [0.0123, -0.0456, "..."],
      "index": 0
    }
  ],
  "created": 1712500000,
  "usage": {
    "prompt_tokens": 6,
    "total_tokens": 6
  },
  "duration": 0.05
}

环境部署#

环境地址目录端口部署方式
测试192.168.12.103/data1/hjc/simi_chat9941screen
生产(旧)10.16.64.35/home/xiaolan/simi_chat9941nohup(预下线)
生产(新)10.16.64.34/home/deploy/simi_chat9941systemd + logrotate

Python 路径#

环境路径
测试python3
生产(旧)python3
生产(新)/usr/local/bin/python3

测试环境部署#


生产环境部署(10.16.64.34 — systemd)#

1. 安装依赖#

2. 创建 systemd 服务文件#

3. 创建日志目录 + logrotate 配置(保留30天)#

4. 启动服务#

5. 验证#


日常运维命令(生产 10.16.64.34)#


生产环境(旧 — 预下线)#

项目说明
地址10.16.64.35
目录/home/xiaolan/simi_chat
启动命令nohup python3 deploy_process.py --model_dir ./model --server_port 9941 &
该环境计划下线,请逐步迁移至 10.16.64.34。

启动参数说明#

参数默认值说明
--model_dir/root/autodl-tmp/bge模型目录路径
--onnx_namemodel.onnxONNX 模型文件名
--providerCPUExecutionProvider推理后端,可选 CUDAExecutionProvider
--max_length512最大 token 长度
--server_port9997服务端口
--num_threadsCPU逻辑核心数/3(最小16)推理线程数

请求参数

Body 参数application/json

示例
{
    "input": "今晚月色真美"
}

请求示例代码

Shell
JavaScript
Java
Swift
Go
PHP
Python
HTTP
C
C#
Objective-C
Ruby
OCaml
Dart
R
请求示例请求示例
Shell
JavaScript
Java
Swift
curl --location ':9941/v1/embeddings' \
--header 'Content-Type: application/json' \
--data '{
    "input": "今晚月色真美"
}'

返回响应

🟢200成功
application/json
Bodyapplication/json

示例
{
    "model": "Pay_Customer",
    "object": "embedding",
    "data": [
        {
            "embedding": [
                0.032946616411209106,
                0.006173477973788977,
                0.0034124047961086035,
                0.024064181372523308,
                0.025598429143428802,
                0.03853713348507881,
                -0.01491178572177887,
                -0.018675247207283974,
                -0.018475929275155067,
                -0.036010436713695526,
                0.026502791792154312,
                0.006911436095833778,
                -0.008900693617761135,
                -0.012531563639640808,
                0.08673007041215897,
                -0.03336525335907936,
                0.009889224544167519,
                0.03039870224893093,
                -0.03796523064374924,
                0.031587980687618256,
                -0.062460679560899734,
                0.024586975574493408,
                0.045193593949079514,
                0.04228539019823074
            ],
            "index": 0
        }
    ],
    "created": 1730341478,
    "usage": {
        "prompt_tokens": 8,
        "total_tokens": 8
    },
    "duration": 0.10207343101501465
}
修改于 2026-10-19 07:39:28
上一页
新 - 风控投诉分类模型(bert_complain 9994)
下一页
风控客服问答相似度模型(risk_control 9998)
Built with