ollama吧 关注:110贴子:259
  • 0回复贴,共1

大佬们。为什么怎么配置用全部的显卡?用python调用ollama

只看楼主收藏回复

ollama serve启动,用python调用ollama库,代码里设置了os.environ["CUDA_VISIBLE_DEVICES"] = "0,1",结果还是只用第一个显卡跑?请问什么情况要怎么设置


IP属地:北京1楼2024-12-25 17:08回复