LibreChat

掛載 LibreChat 自訂端點設定,讓使用者提供自己的金鑰。

安裝與準備

安裝 Git、Docker 和 Docker Compose,依 LibreChat Docker 部署複製儲存庫、將 .env.example 複製為 .env,並啟動含 MongoDB 的 Compose 服務。開啟 http://localhost:3080 註冊帳號。 選擇此端點前,每位使用者應在 routerra.ai/keys建立自己的網關金鑰。

git clone https://github.com/LibreChat-AI/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

設定連線

在儲存庫根目錄依下例建立 librechat.yaml;version 是 YAML 設定結構版本,不是應用程式版本。透過 docker-compose.override.yml 將檔案掛載至 api 服務的 /app/librechat.yaml。apiKey: user_provided 讓每位登入使用者選擇 routerra.ai 時自行輸入 YOUR_API_KEY,不需共享金鑰環境變數。若使用共享金鑰,改為 apiKey: "${ROUTERRA_API_KEY}",並在 .env 加入 ROUTERRA_API_KEY=YOUR_API_KEY。

version: 1.3.17
endpoints:
  custom:
    - name: routerra.ai
      apiKey: user_provided
      baseURL: https://routerra.ai/v1
      models:
        default: [YOUR_MODEL_ID]
        fetch: false

掛載設定檔

將此磁碟區設定加入儲存庫根目錄的 docker-compose.override.yml,與既有 api 覆寫設定合併。

services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml:ro

選擇模型與排除錯誤

執行 docker compose up -d --force-recreate 重建服務。選擇 routerra.ai,輸入金鑰並選 YOUR_MODEL_ID,傳送短訊息。fetch: false 使用明確的 default 清單;改成 true 可從伺服器探索模型。端點消失時檢查掛載、必填欄位 name/baseURL/apiKey/models、YAML 縮排和名稱唯一性。用 docker compose logs api 查看啟動錯誤。修改設定後必須重啟。