stablediffusion吧 关注:32,890贴子:116,384
  • 6回复贴,共1

Nunchaku (SVDQuant) 0.2.0发布,再见了GGUF……

取消只看楼主收藏回复

前几天吧里还有人发过关于Nunchaku (SVDQuant) 的帖子,但是当时的版本局限性很大,但是前两天出了0.2.0版本后发生了质的变化。
新版本可以直接用原版flux lora不用转化了,支持加载多个lora,支持controlnet,支持redux,兼容20系显卡,这次更新可谓是把“鸡肋”变成了“牛肋排”。要知道GGUF虽然降低了硬件需求但是速度并没有什么提升,但是Nunchaku的速度却是翻倍的,并且画质损失微乎其微。
12g显存,原版fulx fp8轻松占用97%,Nunchaku的占用只有70%,速度还翻了不止一倍。

并且插件自带First-Block Cache,开启后速度再次大幅提升。


IP属地:河北1楼2025-04-07 16:26回复
    Nunchaku官方目前提供了多种模型,包括fp4的flux,50系显卡用了直接起飞,这次更新后,可以说它是flux下一个量化方向了。


    IP属地:河北2楼2025-04-07 16:29
    回复
      不过Nunchaku对使用环境有要求,必须要 PyTorch>=2.5,官方还提供了各版本环境的轮子。


      IP属地:河北3楼2025-04-07 16:31
      回复
        fill也很好用,以后需要用到fill的工作流都可以替换成用int4的量化的模型了。


        IP属地:河北4楼2025-04-07 16:45
        回复
          @贴吧用户_06eN4ab




          IP属地:河北17楼2025-04-08 14:57
          收起回复

            @lishita
            fill没问题,采样器前加一个“差异扩散”,提示词改一下例如,a cat in the basket再试试。


            IP属地:河北24楼2025-04-15 20:48
            收起回复
              @lishita
              我这里没问题,即使只有768p出图质量也非常好,12g显存占用70%左右,比不加lora提高了2%-3%



              IP属地:河北29楼2025-04-16 22:34
              收起回复