Apppublic

qaz175/Tavern-Docker

sourceHugging Faceupdated 1y agoView on Hugging Face

0likes

App README

SillyTavern Docker 与 Hugging Face 部署指南

本指南说明了如何使用提供的 Dockerfile 来构建和运行 SillyTavern，以及如何在 Hugging Face Spaces 上进行部署。部署的核心思想是通过环境变量在容器启动时动态配置 SillyTavern 和安装插件。

关键文件

—Dockerfile: 用于构建 SillyTavern 运行环境的 Docker 镜像。它会：
—基于官方 Node.js Alpine 镜像。
—安装必要的系统依赖（如 git）。
—从 GitHub 克隆 SillyTavern 的 staging 分支代码。
—设置工作目录和用户权限。
—定义容器启动时的 ENTRYPOINT 脚本，该脚本负责：
—读取 CONFIG_YAML 环境变量并写入 ./config.yaml 文件。
—读取 PLUGINS 环境变量，并克隆、安装指定的插件。
—启动 SillyTavern 服务器 (node server.js)。
—README.md: 本说明文件。

配置方式：环境变量

我们通过两个主要的环境变量来配置容器：

1.CONFIG_YAML: 必需。
2.作用: 定义 SillyTavern 的运行配置。
3.内容: 下面是推荐的默认配置内容。你可以直接复制粘贴使用，但强烈建议你修改其中的认证信息。
4.推荐配置内容:

yaml

        dataRoot: ./data
        listen: true
        listenAddress:
          ipv4: 0.0.0.0
          ipv6: '[::]'
        protocol:
            ipv4: true
            ipv6: false
        dnsPreferIPv6: false
        autorunHostname: "auto"
        port: 8000
        autorunPortOverride: -1
        ssl:
          enabled: false
          certPath: "./certs/cert.pem"
          keyPath: "./certs/privkey.pem"
        whitelistMode: false
        enableForwardedWhitelist: false
        whitelist:
          - ::1
          - 127.0.0.1
        whitelistDockerHosts: true
        basicAuthMode: true
        basicAuthUser:
          username: "用户名" # 请务必修改为你自己的用户名
          password: "密码" # 请务必修改为你自己的密码
        enableCorsProxy: false
        requestProxy:
          enabled: false
          url: "socks5://username:password@example.com:1080"
          bypass:
            - localhost
            - 127.0.0.1
        enableUserAccounts: false
        enableDiscreetLogin: false
        autheliaAuth: false
        perUserBasicAuth: false
        sessionTimeout: -1
        disableCsrfProtection: false
        securityOverride: false
        logging:
          enableAccessLog: true
          minLogLevel: 0
        rateLimiting:
          preferRealIpHeader: false
        autorun: false
        avoidLocalhost: false
        backups:
          common:
            numberOfBackups: 50
          chat:
            enabled: true
            checkIntegrity: true
            maxTotalBackups: -1
            throttleInterval: 10000
        thumbnails:
          enabled: true
          format: "jpg"
          quality: 95
          dimensions: { 'bg': [160, 90], 'avatar': [96, 144] }
        performance:
          lazyLoadCharacters: false
          memoryCacheCapacity: '100mb'
          useDiskCache: true
        allowKeysExposure: false
        skipContentCheck: false
        whitelistImportDomains:
          - localhost
          - cdn.discordapp.com
          - files.catbox.moe
          - raw.githubusercontent.com
        requestOverrides: []
        extensions:
          enabled: true
          autoUpdate: true
          models:
            autoDownload: true
            classification: Cohee/distilbert-base-uncased-go-emotions-onnx
            captioning: Xenova/vit-gpt2-image-captioning
            embedding: Cohee/jina-embeddings-v2-base-en
            speechToText: Xenova/whisper-small
            textToSpeech: Xenova/speecht5_tts
        enableDownloadableTokenizers: true
        promptPlaceholder: "[Start a new chat]"
        openai:
          randomizeUserId: false
          captionSystemPrompt: ""
        deepl:
          formality: default
        mistral:
          enablePrefix: false
        ollama:
          keepAlive: -1
          batchSize: -1
        claude:
          enableSystemPromptCache: false
          cachingAtDepth: -1
        enableServerPlugins: true
        enableServerPluginsAutoUpdate: false

—⚠️ 重要警告: 请务必修改上方配置中 basicAuthUser 下的 username 和 password 为你自己的凭据，以确保安全！不要使用默认的 "用户名" 和 "密码"！
—注意: 必须是有效的 YAML 格式，且不应包含任何 `#` 开头的注释行。

1.PLUGINS: 可选。
2.作用: 指定需要在容器启动时自动安装的 SillyTavern 插件。
3.内容: 一个逗号分隔的插件 Git 仓库 URL 列表。
4.推荐安装: 强烈建议安装 cloud-saves 插件，以便在不同部署环境（如本地和 Hugging Face）之间同步数据。
5.插件地址: https://github.com/fuwei99/cloud-saves.git
6.重要前置条件: 为了让容器/Hugging Face Space 能够拉取你的存档，你必须先在你本地的 SillyTavern 中安装好 cloud-saves 插件，并至少进行一次数据存档操作。这样，远程部署的环境才能通过该插件下载你的存档。
7.格式示例: https://github.com/fuwei99/cloud-saves.git (注意包含推荐的 cloud-saves 插件)
8.注意: URL 之间只能用英文逗号 `,` 分隔，且逗号前后不能有空格。如果留空或不提供此变量，则不会安装额外插件。

方法一：本地 Docker 部署

你可以在本地使用 Docker 来构建和运行 SillyTavern。

1.构建镜像: 在包含 Dockerfile 的目录下，运行：

bash

    docker build -t sillytavern-local .

将 sillytavern-local 替换为你想要的镜像名称。

1.准备配置: 将你的 config.yaml 内容（无注释）准备好。

1.运行容器: 使用 docker run 命令，并通过 -e 参数传递环境变量。
2.将上方提供的推荐配置内容复制，并作为 CONFIG_YAML 环境变量的值。确保你已经修改了其中的用户名和密码！
3.如果你需要安装插件（推荐安装 `cloud-saves`），请准备好插件 URL 列表。

bash

    # 示例：使用推荐配置并安装 cloud-saves 插件
    # 1. 将推荐配置（修改密码后）保存到名为 config_no_comments.yaml 的文件中
    # 2. 运行以下命令

    docker run -p 8000:8000 --name my-sillytavern \\
      -e CONFIG_YAML="$(cat config_no_comments.yaml)" \\
      -e PLUGINS='https://github.com/fuwei99/cloud-saves.git' \\
      sillytavern-local

    # 如果你需要安装更多插件，用逗号隔开添加到 PLUGINS 变量中
    # 例如：
    # docker run -p 8000:8000 --name my-sillytavern \
    #   -e CONFIG_YAML="$(cat config_no_comments.yaml)" \
    #   -e PLUGINS='https://github.com/fuwei99/cloud-saves.git,https://github.com/user/other-plugin.git' \
    #   sillytavern-local

—-p 8000:8000: 将容器的 8000 端口映射到宿主机的 8000 端口。
—--name my-sillytavern: 为容器命名，方便管理。
—-e CONFIG_YAML="$(cat config_no_comments.yaml)": 从文件读取配置内容并传递。这是处理多行 YAML 最可靠的方式。再次确认：运行前务必修改 `config_no_comments.yaml` 文件中的用户名和密码！
—-e PLUGINS='...': 传递插件列表，这里以安装 cloud-saves 为例。

1.访问: 打开浏览器访问 http://localhost:8000。

方法二：Hugging Face Spaces 部署

这是推荐的在线部署方式，利用 Hugging Face 的免费计算资源和 Secrets 管理功能。

1.创建 Space: 在 Hugging Face 上创建一个新的 Space，选择 Docker SDK。

1.上传文件: 将本项目中的 Dockerfile 和 README.md 文件上传到你的 Space 仓库根目录。

1.配置 Secrets: 进入你的 Space 页面的 Settings -> Secrets 部分。
2.添加 `CONFIG_YAML` Secret:
3.点击 "New secret"。
4.名称 (Name) 输入: CONFIG_YAML
5.值 (Value) 粘贴: 复制上方提供的推荐配置内容。再次强调：粘贴前请务必修改 `basicAuthUser` 下的 `username` 和 `password` 为你自己的安全凭据！
6.点击 "Add secret"。
7.(推荐) 添加 `PLUGINS` Secret:
8.再次点击 "New secret"。
9.名称 (Name) 输入: PLUGINS
10.值 (Value) 粘贴: 推荐至少包含 cloud-saves 插件。例如：https://github.com/fuwei99/cloud-saves.git。如果你需要其他插件，用逗号隔开添加，例如：https://github.com/fuwei99/cloud-saves.git,https://github.com/user/other-plugin.git。
11.重要提醒: 请确保你已经在本地 SillyTavern 安装了 cloud-saves 并至少进行了一次存档。
12.点击 "Add secret"。如果你确实不需要任何额外插件，可以跳过这一步。

1.构建与启动: Hugging Face 会自动检测到 Dockerfile 和 Secrets，并开始构建镜像、启动容器。你可以在 Space 的 Logs 标签页查看构建和启动过程。

1.访问: 构建成功并启动后，通过 Space 提供的公共 URL 访问 SillyTavern 界面。

插件访问

如果通过 PLUGINS 环境变量安装了插件，你需要根据各个插件的说明文档找到访问其界面的路径。

—对于推荐安装的 cloud-saves 插件，其管理界面通常位于: http://<你的SillyTavern访问地址>/api/plugins/cloud-saves/ui 例如，如果是本地部署，则为 http://127.0.0.1:8000/api/plugins/cloud-saves/ui。如果是 Hugging Face Space，则将 <你的SillyTavern访问地址> 替换为你的 Space 公共 URL。

其他插件的访问路径请参考其各自的文档。