摘要： 
千呼萬喚，GPUStack 迄今最受用戶關(guān)注、超多新功能的版本重磅發(fā)布！ 閱讀全文
千呼萬喚，GPUStack 迄今最受用戶關(guān)注、超多新功能的版本重磅發(fā)布！ 閱讀全文
posted @ 2024-12-09 10:20
Seal軟件
閱讀(731)
評論(0)
推薦(0)
摘要： 
使用 GPUStack 在昇騰 Ascend 910B 上運行 Qwen2.5 全系列的推理性能表現(xiàn) 閱讀全文
使用 GPUStack 在昇騰 Ascend 910B 上運行 Qwen2.5 全系列的推理性能表現(xiàn) 閱讀全文
posted @ 2024-11-04 13:11
Seal軟件
閱讀(3681)
評論(0)
推薦(1)
摘要： 
GPUStack 正式發(fā)布并開源，一個用于運行 LLM（大型語言模型）的開源 GPU 集群管理器。 閱讀全文
GPUStack 正式發(fā)布并開源，一個用于運行 LLM（大型語言模型）的開源 GPU 集群管理器。 閱讀全文
posted @ 2024-07-26 16:15
Seal軟件
閱讀(3929)
評論(2)
推薦(1)
摘要： 
配置 NVIDIA 容器運行時環(huán)境并使用容器方式運行 GPUStack 的操作教程 閱讀全文
配置 NVIDIA 容器運行時環(huán)境并使用容器方式運行 GPUStack 的操作教程 閱讀全文
posted @ 2024-11-19 10:57
Seal軟件
閱讀(1485)
評論(0)
推薦(0)
摘要： 
安裝 GPUStack 和 Dify，并使用 Dify 來對接 GPUStack 部署的對話模型、Embedding 模型和 Reranker 模型。 閱讀全文
安裝 GPUStack 和 Dify，并使用 Dify 來對接 GPUStack 部署的對話模型、Embedding 模型和 Reranker 模型。 閱讀全文
posted @ 2024-11-12 10:02
Seal軟件
閱讀(1104)
評論(0)
推薦(0)
摘要： 
使用 llama.cpp 制作并量化 GGUF 模型，并將模型上傳到 HuggingFace 和 ModelScope 模型倉庫 閱讀全文
使用 llama.cpp 制作并量化 GGUF 模型，并將模型上傳到 HuggingFace 和 ModelScope 模型倉庫 閱讀全文
posted @ 2024-11-07 11:51
Seal軟件
閱讀(650)
評論(0)
推薦(0)
摘要： 
單機多卡分布式推理、跨主機分布式推理、CPU 推理、各種調(diào)度策略，你想要的全都有 閱讀全文
單機多卡分布式推理、跨主機分布式推理、CPU 推理、各種調(diào)度策略，你想要的全都有 閱讀全文
posted @ 2024-09-19 10:11
Seal軟件
閱讀(1371)
評論(0)
推薦(0)
摘要： 
了解團(tuán)隊部署自助式IaC的實踐方法 閱讀全文
了解團(tuán)隊部署自助式IaC的實踐方法 閱讀全文
posted @ 2024-04-29 09:45
Seal軟件
閱讀(124)
評論(0)
推薦(0)
摘要： 
從開發(fā)者角度看PaaP，會關(guān)注哪些點？ 閱讀全文
從開發(fā)者角度看PaaP，會關(guān)注哪些點？ 閱讀全文
posted @ 2024-04-26 09:32
Seal軟件
閱讀(82)
評論(0)
推薦(0)
摘要： 
平臺工程通過改進(jìn)開發(fā)者體驗、整合、管理內(nèi)部API等方式，促進(jìn)API開發(fā) 閱讀全文
平臺工程通過改進(jìn)開發(fā)者體驗、整合、管理內(nèi)部API等方式，促進(jìn)API開發(fā) 閱讀全文
posted @ 2024-04-24 10:19
Seal軟件
閱讀(55)
評論(0)
推薦(0)
浙公網(wǎng)安備 33010602011771號