logo
667
60
Login

Run DeepSeek-R1 671b via CNB

badge badge

本项目演示了在 CPU 上运行 DeepSeek-R1-Q8_0 模型的效果,无需GPU,也能快速体验6710亿参数大模型。

实测 15s 载入模型,27s 进入对话,生成速度约 7 tokens/s 。

注意事项

本项目体验已结束

实现原理

参见玄武实验室文章 DeepSeek-671B纯CPU部署经验分享

关于硬件

本仓同款机型:SA9.96XLARGE1152,更多资料见: 第九代云服务器

其它版本体验

About

Run DeepSeek-R1 671b via CNB

Language
Shell100%