ubuntu24跑起RagFlow
1. 安裝cuda
我是RTX A5000,安裝cuda依照下面連接就好了:
https://developer.nvidia.com/cuda-downloads
完成cuda安裝之后執(zhí)行:
sudo vim ~/.bashrc
在最后加入:
export PATH=/usr/local/cuda/bin:$PATH
export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
這樣輸入:
nvcc --version
有版本信息就證明ok了~
顯卡驅(qū)動(dòng)選沒有open的那個(gè)~
不知道為什么執(zhí)行
nvidia-smi
顯示【No devices were found】,嘗試了很多方法(AI或者Google)都沒有效果~
2. 應(yīng)用相關(guān)
sudo apt-get update # 更新軟件清單 sudo apt-get upgrade # 更新軟件關(guān)聯(lián) sudo apt-get install vim # 安裝vim dpkg --list # 列出已安裝的軟件 sudo apt-get --purge remove vim # 完整卸載
至于apt和apt-get的區(qū)別可以看這里:
https://www.sysgeek.cn/apt-vs-apt-get/
3. cfw安裝和配置jms
在下面的連接下載:
https://github.com/clashdownload/Clash_for_Windows/releases
然后在這里下載jms的配置文件模板:
https://vpsgongyi.com/clash_jms2.yaml
然后在自己jms的面板里面把ip,port,uuid,password啥的都往配置模板里面填一下。
然后導(dǎo)入這份配置模板。
然后 【有線設(shè)置】-【代理】-【手動(dòng)代理】,ip都填【127.0.0.1】,端口就是clash的端口(默認(rèn)是7890)
PS:jms比較敏感,連接就不放這里了~
4. RagFlow相關(guān)
安裝docker:
http://www.rzrgm.cn/ylz8401/p/18251415
總的來說就是:
sudo apt update sudo apt install apt-transport-https curl curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu $(. /etc/os-release && echo "$VERSION_CODENAME") stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null sudo apt update sudo apt install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin sudo systemctl is-active docker
然后docker切源:
https://patzer0.com/archives/configure-docker-registry-mirrors-with-mirrors-available-in-cn-mainland
大概就是:
sudo vim /etc/docker/daemon.json { "registry-mirrors": [ "https://docker.1panel.live", "https://hub.rat.dev" ] } sudo systemctl restart docker sudo docker info
安裝ollama:
安裝RagFlow,跟官方文檔走就好了:
https://github.com/infiniflow/ragflow/blob/main/README_zh.md
記得把/docker/.env里面的rag鏡像地址換成國內(nèi)源的就好了~
然后就可以愉快玩耍了~

浙公網(wǎng)安備 33010602011771號(hào)