ollama0.5.9调用6750gre
下载专属版本ollama,
下载地址: Releases · likelovewant/ollama-for-amd
当前最新版本下载0.5.9
安装ollama,
一路下一步即可
下载 ollama-windows-amd64,
下完并解压ollama.exe和lib这两个文件/夹
替换解压文件
打开ollama安装目录,替换上面解压的文件,安装目录是
C:\Users\用户名\AppData\Local\Programs\Ollama
下载ROCm lib
下载地址:
Release v0.6.1.2 · likelovewant/ROCmLibs-for-gfx1103-AMD780M-APU · GitHub
替换rocm文件
解压出来,rocblas.dll和library目录,替换到对应的目录下,目录地址:
- libarary替换地址:
C:\Users\用户名\AppData\Local\Programs\Ollama\lib\ollama\rocm\rocblas\library - rocblas.dll替换:
C:\Users\用户名\AppData\Local\Programs\Ollama\lib\ollama\rocm\rocblas.dll
验证调用
重启ollama查看启动日志,是否有显卡型号信息如: level=INFO source=types.go:130 msg="inference compute" id=0 library=rocm variant="" compute=gfx1031 driver=6.1 name="AMD Radeon RX 6750 GRE 12GB" total="12.0 GiB" available="11.8 GiB"