logo
0
1
Login

Run DeepSeek-R1 671b via CNB

badge badge

快速体验 DeepSeek-R1 671b,无需等待,零帧起步。

快速体验

  1. Fork 本仓库到自己的组织下
  2. 点击云原生671b,启动,启动云原生开发环境
  3. 5~9 秒后,进入远程开发控制台,输入以下命令即可体验
./start.sh

说明

  1. 本项目演示了在 CPU 上运行 DeepSeek-R1 671b Q8_0 模型的效果。
  2. 实测 15s 载入模型,27s 进入对话,生成速度约 7 tokens/s 。
  3. 免去硬件选购及软件环境搭建的复杂过程,无需GPU,也能快速体验6710亿参数大模型。

其它版本体验

  1. 671b 其它量化版本 - ai-models/deepseek-ai/DeepSeek-R1-GGUF
  2. 1.5b~70b 蒸馏版本 - examples/ecosystem/deepseek

About

Run DeepSeek-R1 671b via CNB