8张A100-SXM4 80G共640G显存成功部署完整版Deepseek-R1【deepseek吧】_百度贴吧

03月05日漏签0天

deepseek吧关注：103,322贴子：175,792

1回复贴，共1页

<返回deepseek吧

8张A100-SXM4 80G共640G显存成功部署完整版Deepseek-R1

取消只看楼主收藏回复

送TA礼物

IP属地:广东

1楼2025-02-03 16:04回复

这就是NVIDIA带给我的自信
补充下，不爆显存最高每个回复可跑到25token/s
由于使用ollama部署，只能吃到一张卡的性能，其他卡都在空转

IP属地:广东

2楼2025-02-03 16:06

收起回复

扫二维码下载贴吧客户端

下载贴吧APP
看高清直播、视频！

贴吧热议榜

1回复贴，共1页

<返回deepseek吧

发表回复

发贴请遵守贴吧协议及“七条底线”贴吧投诉

内容:

使用签名档查看全部

发表

保存至快速回贴