利用GeminiBalance搭建Gemini API號(hào)池
原理
每個(gè)谷歌賬號(hào)可以在AI Studio創(chuàng)建多個(gè)Project,每個(gè)Project可以申請(qǐng)多個(gè)API,通過(guò)多注冊(cè)幾個(gè)谷歌賬號(hào),可以獲得許多免費(fèi)API。
每一個(gè)AP每分鐘調(diào)用的次數(shù)有限,通過(guò)Gemini-Balance項(xiàng)目,可以搭建API號(hào)池,對(duì)API進(jìn)行輪詢(xún)調(diào)用。
前提條件
-
使用服務(wù)器部署時(shí),需要一臺(tái)海外服務(wù)器,保證可以調(diào)用到Gemini API。
-
一個(gè)LLM的交互軟件,如Cheery Studio。
步驟
- 登陸服務(wù)器,安裝docker。
- 新建
.env文件,ALLOWED_TOKENS為網(wǎng)站登陸密碼,API_KEYS為Gemini的API密鑰(API_KEYS可以先不修改,部署完后到管理網(wǎng)頁(yè)修改更方便)。
DATABASE_TYPE=sqlite
SQLITE_DATABASE=default_db
API_KEYS=["AIzaSyxxxxxxxxxxxxxxxxxxx","AIzaSyxxxxxxxxxxxxxxxxxxx"]
ALLOWED_TOKENS=["sk-123456"]
AUTH_TOKEN=sk-123456
TZ=Asia/Shanghai
- 在同一目錄下創(chuàng)建
docker-compose.yml文件,并填入以下內(nèi)容
services:
gemini-balance:
image: ghcr.io/snailyp/gemini-balance:latest
container_name: gemini-balance
restart: unless-stopped
ports:
- "8000:8000"
env_file:
- .env
volumes:
- ./data:/app/data
healthcheck:
test: ["CMD-SHELL", "python -c \"import requests; exit(0) if requests.get('http://localhost:8000/health').status_code == 200 else exit(1)\""]
interval: 30s
timeout: 5s
retries: 3
start_period: 10s
- 在文件所在目錄執(zhí)行
docker compose up -d命令以啟動(dòng)服務(wù) - 執(zhí)行
docker ps即可看到啟動(dòng)的容器 - 訪問(wèn)
<服務(wù)器IP>:8000,輸入第二步設(shè)置的密碼,登陸管理網(wǎng)頁(yè)。 - 點(diǎn)擊添加密鑰,把網(wǎng)頁(yè)滑動(dòng)到底部點(diǎn)擊保存配置。

- 打開(kāi)Cheery Studio,添加提供商

- API地址:Gemini Balance部署的地址;API密鑰:后臺(tái)管理頁(yè)面的密碼;然后自行選擇需要用到的模型

- 之后就可以愉快地開(kāi)始對(duì)話了。

- 如果要展示思考過(guò)程,就在管理網(wǎng)頁(yè)打開(kāi)“模型配置”,然后打開(kāi)“顯示思考過(guò)程”,添加需要顯示思考過(guò)程的模型


問(wèn)題解決:保存配置失敗,Status:400
如果按照上文的方法部署,一般不會(huì)出現(xiàn)此問(wèn)題。
如果不是按照上文部署,參考此Github Issue


浙公網(wǎng)安備 33010602011771號(hào)