腾讯云 高性能应用服务(HAI) 是一款面向 AI 、科学计算的 GPU 应用服务产品。

本教程介绍如何通过 CNB 和 Docker 将 deepseek 部署到 HAI 上。

构建并发布基于 deepseek 开发的镜像，也可以在 cnb deepseek 仓库中选择封装好的 deepseek 镜像，如 docker.cnb.cool/examples/ecosystem/deepseek/1.5b:latest。

登录 HAI 控制台，点击 新建。

选择应用 的 基础环境 栏选择 Ubuntu 20.04。

其他表单项按需选择、输入，创建实例。

创建成功后，腾讯云会发站内信，里面有默认用户名和密码，可用于ssh登录。

在实例详情页的端口配置中开通 11434 和 8080 端口。

11434 是 ollama 提供的 deepseek 服务端口，8080 是 open-webui 的 web 访问端口。

用前面记录的默认用户名和密码，通过 ssh 客户端登录到 HAI 实例，

复制启动脚本 deploy.sh 到 HAI 实例，地址如 /app/deepseek/deploy.sh，执行如下命令：

sudo su
cd /app/deepseek/
chmod +x ./deploy.sh
./deploy.sh

启动 deepseek 容器后，可访问 http://{实例公网IP}:11434 查看 ollama 服务。

启动 open-weui 容器后等待约一两分钟，待容器状态为 healthy 后可访问 http://{实例公网IP}:8080 查看页面，进行对话。

也可以通过 CNB 流水线用 ssh插件 执行命令部署：

在私有或密钥仓库添加 yaml 文件记录实例的公网IP、账号和密码，例如：

# secret.yml
HAI_IP: xxx
HAI_USER: xxx
HAI_PASSWORD: xxx

# allow_* 等控制该文件的可访问范围
allow_slug: xxx

# .cnb.yml
.host-info: &host-info
  host: $HAI_IP
  username: $HAI_USERNAME
  password: $HAI_PASSWORD
  port: 22

main:
  push:
    # 引入上文中的 secret.yml 导出为环境变量
    - imports: https://xxx/secret.yml
      stages:
        # 通过插件上传脚本，也可预先上传好
        - name: trans shell
          image: tencentcom/scp
          settings:
            <<: *host-info
            target: /home/ubuntu/deepseek
            source:
              - ./deploy.sh
        - name: exec shell
          image: tencentcom/ssh
          settings:
            <<: *host-info
            script: |
              sudo chmod +x /home/ubuntu/deepseek/deploy.sh
              sudo bash /home/ubuntu/deepseek/deploy.sh
      

启动 deepseek 容器后，可访问 http://{实例公网IP}:11434 查看 ollama 服务。

启动 open-weui 容器后等待约一两分钟，待容器状态为 healthy 后可访问 http://{实例公网IP}:8080 查看页面。