skip to content
Urob's Black Hole

从入土到入门，在 IDC 环境下安装 SD 秋叶整合包

/ 17 min read

Last Updated:
stable diffusion, idc

背景

小明有一台运行在 IDC 内网的 NVIDIA GeForce RTX 3080 Ti GPU 服务器，他想要在这台 Linux 服务器上安装运行秋叶 SD 整合包，让自己在本地也可以运行整合包，以高效训练模型和生成图片。然而这个简单的想法第一步就把他难住了：“要怎么样才能把整合包上传到 IDC 内网呢？”。他开始抓耳挠腮，半个小时后他终于想出了一个完美的解决方案，然而紧接着另外的问题又出现了，不服输的精神让他走上了折腾 Linux 的不归路…

几经周折之后，小明终于成功的搭建起了本地可访问的 SD 工作流，开启了炼丹之路。他决定把自己漫长的折腾之路整理出来，希望看到这篇文章的人能少走一点弯路。

如何把秋叶整合包上传到 IDC 机器？

这个问题其实有多种解决方案，目前流传的整合包大多数都存储在在云盘上，可以根据自己的需求使用不同的云盘命令行工具下载，比如百度云可以通过 bypy 这个 pip 包来下载。

由于笔者没有百度云盘会员🤦，因此使用的是最粗暴的方法：先下载到本地，然后从本地通过 scp 上传。

scp -P 22  ~/downloads/sd-webui-aki-v4.1-original.zip user@host:~/

以上例子中，笔者的包存储在本地路径 ~/downloads/sd-webui-aki-v4.1-original.zip 下，其中：

  • user@host - 指的是你的服务器的用户名和地址，与 ssh 登陆时保持一致就行。
  • -P 22 - 指定的 ssh 端口，默认是 22，可根据服务器具体开放的端口修改。

如果你的 IDC 机器需要使用跳板机登陆，那么你需要用到 ProxyJump1

scp -o "ProxyJump=jumpuser@jumphost:jumpport" -P 22 ~/downloads/sd-webui-aki-v4.1-original.zip user@targethost:~/
  • -o "ProxyJump=jumpuser@jumphost:jumpport" - 表示使用跳板机进行连接，其中 jumpuser、jumphost、jumpport 分别表示跳板机的用户名、地址、端口，需要根据读者实际情况替换。

解决换行符问题

可能因为整合包里脚本在 windows 被编辑过，运行的脚本的时候会报错 command not found 或者其他，所以首先需要把启动脚本的换行符从 CRLF 换成 LF。 要这样做有两种解决方案，读者可以根据个人情况选择其中一种：

  1. 使用 vim 或者其他文本编辑器。以 vim 为例子，vim webui.sh 然后运行 :set fileformat=unix 即可。webui-user.sh 同理。
  2. 使用 doc2unix 包。以 ubuntu 为例，在命令行输入 sudo apt-get update、sudo apt install dos2unix 安装 doc2unix 包，然后执行 doc2unix webui.sh、doc2unix webui-user.sh 即可。

“科学” 访问外网

由于特殊原因，IDC 机房并不能访问类似于 Github、huggingface、pypi 这种网站，然而整合包第一次运行的时候需要安装这些依赖。

让我们来逐一解决这些问题，首先对于 pypi，我们可以把源更改为清华的镜像源，

python -m pip install --upgrade pip
pip config set global.index-url https://pypi.tuna.tsinghua.edu.cn/simple

对于 Github，也有国内的代理，具体的使用方法也非常简单，只需要在 Github 的仓库链接之前加上 https://ghproxy.com/，比如 https://ghproxy.com/https://github.com/stilleshan/ServerStatus。因为整合包里面的 Github 依赖是硬编码在 py 文件的变量里，所以需要编辑对应的文件里在 Github 地址的前面加上 https://ghproxy.com/。编辑 sd-webui-aki-v4.1/launch.py 文件： before edit 编辑后： after edit

解决了 Github 和 pypi 的问题，运行 webui.sh 的时候依赖可以成功安装了，但是 webui 成功运行起来之后会发现终端一直在报 MaxRetryError("HTTPSConnectionPool(host='huggingface.co', port=443): Max retries exceeded with url: /openai/clip-vit-large-patch14/resolve/main/merges.txt 的错误。幸运的是整合包里 sd-webui-aki-v4.1/.cache 中就包含了 openai/clip-vit-large-patch14 这个依赖，我们只需要把 sd-webui-aki-v4.1/.cache/huggingface/hub/ 目录复制并替换掉 ~/.cache/hugginface/hub 目录（即用户目录）即可。

# 首先删除掉现有的 hub 文件夹
rm -r ~/.cache/huggingface/hub/
# 然后复制整合包目录下的 hub 文件夹到用户 .cache 目录下
cd sd-webui-aki-v4.1
cp -r .cache/huggingface/hub/ ~/.cache/huggingface/

最后再次运行 ./webui.sh，会发现成功跑起服务并且没有任何报错 🎉。

难道装个 pytorch 也能击倒我吗？

这个问题不一定所有人都会遇到，如果在运行服务的时候碰到 pytorch 相关的报错，有可能是 pytorch 的 cuda 版本跟 webui 默认安装的 pytorch 版本不一致导致的，笔者就遇到过这个问题。

那么如何安装正确版本的 pytorch 呢？首先我们得先检查当前系统安装的 cuda 版本：

nvcc --version
cuda version

像这样，当前安装的 cuda 版本是 11.8，跟 webui 默认安装的版本吻合，因此无需重新安装正确的 pytorch 版本。

Tips: 如果你运行 nvcc --version 提示没有这个命令的话，可以尝试 ls /usr/local/ | grep cuda，会打印出安装的 cuda 版本

然而，如果你的机器安装的 cuda 版本是 12.2，那么相应的你就需要安装最新版本的 pytorch，安装方法也很简单：

# 首先，你需要进入整合包启动时的虚拟环境，具体就是 sd-webui-aki-v4.1/venv
cd sd-webui-aki-v4.1
source venv/bin/activate

# 然后，你需要卸载当前版本的 torch
pip uninstall torch torchvision torchaudio
# 安装最新版本的 torch，因为 cuda12.1 已经是 stable 版本，所以直接安装即可
pip install torch torchvision torchaudio

我要如何在本地访问 IDC 运行的 Web UI 服务呢？

经过一系列的折腾之后，我们离终点越来越近了。当前我们已经成功搭建起了 stable diffusion web ui 服务，然而，怎么样才能像在本机一样使用这个服务呢？

要解决这个问题，首先我们得对于我们当前所处的网络环境有一定了解。 network 通常来说，我们本地的网络环境是无法访问 IDC 机器的，所以需要借助跳板机作为桥梁。要实现本地可以直接访问 IDC 机器中 webui 服务的端口，我们就需要先把本地端口的流量转发到跳板机的某个端口，然后再把跳板机这个端口的流量转发到 IDC 机器中 webui 服务监听的接口（比如默认的 7860）。这样我们就可以实现本地访问端口时，获取来自远端 IDC 机器的服务的响应。如下图： network 这里需要正确理解 ssh 命令起的作用，简单来说，就是在本地设置一个端口转发，把发送给本地某个端口的数据通过 ssh 隧道发送给远端机器的端口。如：

ssh -CNg -L 6006:127.0.0.1:6006 urob@imurob.cn -p 37800

其中各个选项的参数详细解析为：

  • -C: 这个选项启用压缩。数据在传输之前会先进行压缩，有助于提高带宽使用效率。
  • -N: 这个选项告诉 SSH 不要执行任何远程命令，也就是说，只进行端口转发。
  • -g: 允许来自任何主机的连接使用本地转发。默认情况下，只有本地主机可以使用转发。
  • -L 6006:127.0.0.1:6006: 这是本地端口转发（Local port forwarding）的设置。
    • 6006: 本地主机（运行 SSH 客户端的计算机）上的端口。
    • 127.0.0.1: 远程服务器上，流量将被发送到的 IP 地址。
    • 6006: 远程服务器上，流量将被发送到的端口。
  • urob@imurob.cn: 你要登录的远程服务器的用户名和地址。
    • urob: 用户名。
    • imurob.cn: 服务器地址。
  • -p 37800: 指定远程服务器上 SSH 服务监听的端口号。在这里，该端口是 37881。 对于我们从本地到跳板机到 IDC 机器的场景，首先在本地到跳板机建立隧道，在本地机器运行：
# 下面两个 8080 端口是可替换的，可以根据当前系统可用端口或者个人喜好选择，user@jump_host -p 43001 替换成你跳板机的用户名、地址以及开放端口
ssh -CNg -L 8080:127.0.0.1:8080 user@jump_host -p 43001

然后，在跳板机运行：

# 下面 8080 端口需要跟上面跳板机指定的端口保持一致，也就是 127.0.0.1:8080 中的 8080，7860 是 webui 服务的默认端口，可以在运行脚本时指定 --port 来更改，user@idc_host -p 23001 替换成你 IDC 机器的用户名、地址以及开放端口
ssh -CNg -L 8080:127.0.0.1:7860 user@idc_host -p 23001

温馨提示：如果你本地可以直接访问 IDC 机器的话，那么可以不需要通过跳板机，直接在本地运行在上面需要在跳板机运行的指令即可。

Bonus

如果你偏好于使用 conda 配置环境依赖，那么你可以使用 conda 初始化虚拟环境，然后手动根据当前 cuda 版本和包的依赖（requirements.txt）安装依赖。这种方法适用于所有包的安装（不仅仅是秋叶的整合包）。需要注意的是，对于整合包而言，webui.sh 上有进入 venv 的指令，因此你需要单独运行整合包的根目录下的 launch.py。

下面我将以 lora 训练的脚本 sd-script 为例简单介绍一下如何创建所需要的 conda 环境。

# 拉取代码库
git clone https://github.com/kohya-ss/sd-scripts.git
cd sd-scripts
# 创建一个空的 conda 环境，指定版本为 3.10
conda create -n sd python=3.10
# 进入 conda 环境
conda activate sd
# 安装 conda，这里首先需要根据上面所介绍的一样，先查看当前系统 cuda 版本，再根据对应的 cuda 版本安装 pytorch
# 如果你不知道你的 cuda 版本应该安装哪个 pytorch 版本，那么你可以去 https://pytorch.org/#:~:text=Aid%20to%20Ukraine.-,INSTALL%20PYTORCH,-Select%20your%20preferences 查看
# 这里我对应的 cuda 版本是 12，因此只需要安装最新版本的
pip install torch torchvision torchaudio
# 最后按照 sd-scripts README 里面介绍的安装依赖
pip install --upgrade -r requirements.txt

配置 ssh config 简化端口映射创建流程

ssh 端口映射可以让我们轻松地从本地访问到远端服务器运行的服务。然而每次都需要输入一长串命令来映射各个端口，并且还需要在跳板机和本地分别建立端口映射，这个过程实在是繁琐又复杂。试想一下，如果我们需要建立 N 个服务呢？那么我们就需要打开 N * 2 个终端，运行 2 * N 次端口映射指令，输入 N * 2 次密码，心智负担实在是太重了。

那么有没有更轻松的建立端口映射的方法呢？还真有，ssh 配置文件和映射多个端口可以完美解决我们的问题。

配置 ssh config

ssh 配置文件的位置放在用户目录的 .ssh 文件夹上，在 windows 上就是 C:\Users\你的用户名或者Admin\.ssh\config，在 linux 或者 macos 上就是 ~/.ssh/config。这个 config 文件并不是默认存在的，因此如果不存在需要新建。

首先，通过 ssh 建立的隧道默认情况下会有一个心跳检测，如果服务端检测到客户端不在活跃之后，就会自动断开连接，要避免这种情况有很多种方式，为了避免侵入服务端配置我选择了修改本地 ssh 配置，配置每隔 30 秒发送一个保活数据包，以避免服务端关闭连接。打开或新建 .ssh/config 文件，添加：

Host *
    ServerAliveInterval 30
    ServerAliveCountMax 3
  • Host *: 表示对于所有的远程主机。
  • ServerAliveInterval: 每隔 30s 发送一个数据包。
  • ServerAliveCountMax: 如果在发送 3 个数据包后服务器还没有响应那么客户端主动断开连接。

然后，配置的重点在于需要为我们的跳板机和 idc 机器配置一个别名，以及给 idc 机器配置一个跳板机。比如，如果我的跳板机的 ip 地址是 192.168.1.1，用户名是 urob，连接端口是默认的 22；idc 机器的 ip 地址是 imurob.cn，用户名是 urob, 连接端口是 35013，那么 .ssh/config 就可以配置成下面这样：

Host jumpserver
    HostName 192.168.1.1
    User urob
    Port 22

Host a100
    HostName imurob.cn
    User urob
    Port 35013
    ProxyJump jumpserver
  • Host jumpserver/a100: 表示主机的别名，方便记忆。
  • HostName: ip 地址。
  • Port: ssh 端口。
  • User: 用户名。
  • ProxyJump: 表示指定一个跳板机（在这里是 jumpserver，也就是 192.168.1.1 这个主机）建立一个代理连接。实际上等同于手动先登录到跳板机，再从跳板机登陆到目标服务器，可以理解成一种快捷方式。设置 ProxyJump 有一个重要的好处是我们无需再手动设置从跳板机到 idc 机器的端口映射了，因为它会自动处理所有的端口转发。

配置好之后，如果我们需要设置一个从本地 8000 到 a100 机器 8000 端口的映射，我们只需要在命令行执行：

ssh -L 8000:localhost:8000 a100

有没有世界突然清净的感觉！？

更重要的是，如果你需要设置多个端口转发，比如你还需要设置本地 7860 到 idc 7860，本地 6006 到 idc 6006 的端口映射，那么你也可以直接设置多个端口转发：

ssh -L 8000:localhost:8000 -L 7860:localhost:7860 -L 6006:localhost:6006 a100

设置端口转发竟如此轻松！

最后

在浏览器直接访问 http://localhost:<你设置的本地转发端口号，例如 6006>（ps：3080 TI 的出图速度在 2s 之内还是挺快的orz） show

Footnotes

  1. 关于 ProxyJump 的简单说明和使用方法参考 👉 https://www.redhat.com/sysadmin/ssh-proxy-bastion-proxyjump ↩