本地部署AnythingLLM知識(shí)庫(kù)并通過(guò)Infortress App遠(yuǎn)程訪問(wèn)
本地部署完AnythingLLM知識(shí)庫(kù),怎么能在手機(jī)上訪問(wèn)?尤其是怎么能跨網(wǎng)絡(luò)隨時(shí)隨地使用?

今天分享個(gè)實(shí)用小技巧,不用折騰復(fù)雜設(shè)置,用Infortress App就能搞定遠(yuǎn)程訪問(wèn)。手機(jī)、平板、公司電腦都能像在本機(jī)一樣,直接訪問(wèn)本地部署的AnythingLLM。整個(gè)過(guò)程不需要命令行,不用碰代碼,純圖形化界面,新手小白也能上手!
只需以下3步:
安裝anythingLLM軟件
1、首先打開(kāi)anythingLLM官網(wǎng),根據(jù)你電腦的操作系統(tǒng)(Windows/macOS/Linux)選對(duì)應(yīng)版本,之后一鍵下載。

雙擊下載的安裝包,Windows用戶,需要雙擊安裝包,選擇安裝路徑(默認(rèn)路徑為C:\Users\用戶名\AppData\Local\Programs\anythingllm),點(diǎn)擊“安裝”完成操作。

MacOS/Linux用戶按提示完成安裝,無(wú)需額外配置。
2、打開(kāi) AnythingLLM 應(yīng)用程序,等待其完全啟動(dòng)。啟動(dòng)后,您將看到主界面。點(diǎn)擊下面的Get Started開(kāi)始配置;

3、選擇對(duì)應(yīng)的模型庫(kù),可以直接選擇anythingLLM自帶的大模型;

4、接下來(lái)的設(shè)置,可以直接點(diǎn)擊【下一步】即可

5、在工作區(qū)這里,可以根據(jù)自己的喜好,給工作區(qū)命名

6、導(dǎo)入知識(shí)庫(kù)數(shù)據(jù),在新建的知識(shí)庫(kù)工作區(qū)右側(cè),點(diǎn)擊“導(dǎo)入數(shù)據(jù)”按鈕。將文件上傳進(jìn)去;,

7、勾選上傳的文檔,點(diǎn)擊Move to Workspace移到工作區(qū),完成后進(jìn)行提問(wèn)會(huì)自動(dòng)解讀已有的文檔進(jìn)行回答!

現(xiàn)在就可以使用本地知識(shí)庫(kù)進(jìn)行對(duì)話了,如果需要遠(yuǎn)程訪問(wèn) 就需要下載infortress軟件,Infortress的安裝和使用也很簡(jiǎn)單,一起看下吧
二、安裝Infortress
1、安裝Infortress服務(wù)端
打開(kāi)瀏覽器訪問(wèn)Infortress官網(wǎng),

找到【服務(wù)端下載】入口。根據(jù)你電腦的操作系統(tǒng)(Windows/macOS/Linux)選對(duì)應(yīng)版本,之后一鍵下載。

下載完成后,雙擊安裝包,按向?qū)нM(jìn)行安裝操作即可。

2、配置AnythingLLM
打開(kāi)安裝好的AnythingLLM軟件,進(jìn)入設(shè)置頁(yè)面。找到“API密鑰”選項(xiàng),

點(diǎn)擊“創(chuàng)建新密鑰”,根據(jù)提示創(chuàng)建密鑰,并復(fù)制生成的密鑰。

打開(kāi)已安裝的Infortress服務(wù)端,進(jìn)入設(shè)置頁(yè)面。找到“本地知識(shí)庫(kù)”配置項(xiàng),

將之前復(fù)制的API密鑰粘貼到對(duì)應(yīng)位置,保存設(shè)置。

測(cè)試連接,點(diǎn)擊“對(duì)話”按鈕。如果彈出對(duì)話框,說(shuō)明本地知識(shí)庫(kù)已成功連接,可以進(jìn)行對(duì)話了。

3、安裝Infortress手機(jī)APP以及電腦客戶端
在手機(jī)應(yīng)用市場(chǎng)搜索“Infortress”,或訪問(wèn)官網(wǎng)掃碼下載。電腦客戶端也在官網(wǎng)掃碼下載,安裝完成后,用郵箱注冊(cè)并登錄賬號(hào)。

打開(kāi)App,下拉頁(yè)面自動(dòng)搜索局域網(wǎng)內(nèi)的Infortress服務(wù)端(如下圖)。找到設(shè)備后,點(diǎn)擊“連接”按鈕,確認(rèn)連接。

電腦客戶端也是同樣的操作步驟,安裝好后會(huì)自動(dòng)發(fā)現(xiàn)服務(wù)端,點(diǎn)擊注冊(cè)服務(wù)器及連接按鈕,即安裝完成

三、使用本地知識(shí)庫(kù)
手機(jī)端使用知識(shí)庫(kù)非常簡(jiǎn)單,進(jìn)入App首頁(yè),找到“AI大模型”功能入口(如下圖)。現(xiàn)在,你可以直接在手機(jī)上與本地部署的AnythingLLM對(duì)話。

Infortress不僅支持本地知識(shí)庫(kù),還支持一鍵部署本地大模型,如果部署了本地大模型與知識(shí)庫(kù),可以在頂部切換AI大模型及知識(shí)庫(kù),也可以在不同的知識(shí)庫(kù)工作區(qū)之間進(jìn)行切換。

電腦客戶端使用也是如此,在左側(cè)菜單找到AI大模型,點(diǎn)擊進(jìn)入,即可與知識(shí)庫(kù)進(jìn)行對(duì)話

頂部同樣可以切換AI大模型與本地知識(shí)庫(kù),以及切換知識(shí)庫(kù)的不同工作區(qū)。

由于Infortress自帶內(nèi)網(wǎng)穿透功能,所以跨網(wǎng)絡(luò)訪問(wèn)本地知識(shí)庫(kù)也不需要任何配置!

五、結(jié)語(yǔ):把本地AI裝進(jìn)口袋
通過(guò)Infortress,本地部署的AnythingLLM徹底突破了網(wǎng)絡(luò)限制,真正實(shí)現(xiàn)了“一次部署,隨處使用”,既享受私有化部署的安全感,又獲得云服務(wù)的便捷性。無(wú)論是個(gè)人學(xué)習(xí)還是工作應(yīng)用,都能在安全與便捷之間找到完美平衡。
大模型遠(yuǎn)程訪問(wèn)參考文章鏈接:鏈接地址,點(diǎn)擊進(jìn)入

浙公網(wǎng)安備 33010602011771號(hào)