anhao
/
DeepSeek-R1-Q8_0
Public
Search/Ask
0
0
WeChat Login
Login
Code
Issues
Pull requests
Events
Packages
Insights
main
Branch
1
Tag
0
Fork
Fork
from
ai-models/deepseek-ai/DeepSeek-R1-GGUF/DeepSeek-R1-Q8_0
, behind
:main
7
commits
哪都通在逃临时工
docs: update readme
ec8fb16f
29
commits
.cnb
DeepSeek-R1-Q8_0
.cnb.yml
.gitattributes
README.md
start.sh
Run DeepSeek-R1 671b via CNB
快速体验 DeepSeek-R1 671b,无需等待,零帧起步。
快速体验
fork
本仓库到自己的组织下
点击
云原生671b,启动
即可
说明
本项目演示了在 CPU 上运行
DeepSeek-R1 671b Q8_0
模型的效果。
实测 15s 载入模型,27s 进入对话,生成速度约 7 tokens/s 。
免去硬件选购及软件环境搭建的复杂过程,无需GPU,也能快速体验6710亿参数大模型。
其它版本体验
1.5b~70b 蒸馏版本 -
examples/ecosystem/deepseek
About
Run DeepSeek-R1 671b via CNB
664.35 GiB
0
forks
0
stars
1
branches
0
Tag
README
Release
0
Tag
0