newbing吧 关注:36,524贴子:126,286
  • 1回复贴,共1

微软的orca-2,13b可以本地部署,大家可以试试

取消只看楼主收藏回复

她这个回复模式让我想起来早期内测时期那个NewBing,有点好玩,可能是微软整活,夹带私货了,本人3060 12g显卡就能跑,7~8token/s左右,和我配置差不多的或者以上的都能跑,当然内存大低显存的也行,有guff版本,不过生成会特别慢,如果可以忍受的话,也可以尝试


IP属地:江苏1楼2024-02-21 00:53回复
    关键无任何限制,可以干什么懂得都懂


    IP属地:江苏2楼2024-02-21 00:54
    回复