dfserver
dfserver是一种开源的分布式后端AI管道服务器,用于构建自托管的分布式GPU群集,以运行稳定的扩散和各种AI映像或及时的建筑模型,但也有可能消耗大规模生产服务等。
给我们一个明星和您宝贵的反馈:)
消息
尝试稳定的扩散2实验工人:SD2.MD
该服务可以使用您的朋友共享的空闲幻想GPU来构建用于运行各种AI模型的GPU群集,或者只是在您自己的计算机上部署。将来,我们将根据每个GPU(Worker)的工作量进行计数和分配可能的收入。
我对dfserver有一个美丽的愿景,它可以是一个企业级服务应用程序,可以灵活地扩展管道以连接AI Image生成工作流程中不同任务的模型,例如用于支持多语言提示输入的DEEPL,或DD填充更多呈现的DD,以填充更多的呈现详细信息,同时填充详细信息,同时进行上升范围,等等。
很快将支持具有单个命令的多个图像的生成,并支持与Init-Image相关的功能。
dfserver管道服务器当前支持的任务
- AI图像发生器:稳定的扩散1.4(负提示)和WAIFU扩散1.3
- 图像升级(默认的RealEsrgan-X4Plus模型)
- 猜测图像的提示(剪辑审讯器)
- 及时构建辅助(通过使用200k提示并从Krea-ai Open-Prompts进行预处理的fineTunton。
系统拓扑
建筑学
任务序列图
开始
服务器先决条件
- 兔子
- Discord Developer帐户和Discord Bot令牌
工人先决条件
- 一群幻想GPU的朋友?
- Pytorch
- 扩散器和模型
构建dfserver
要求:
- 走1.18或更新
dfserver
$ make linux-amd64 #or make linux-arm64\”>
$ git clone \" https://gith**ub.*com/huo-ju/dfserver.git \" $ cd dfserver $ make linux-amd64 # or make linux-arm64
dfserver配置
cp configs/config.toml.sample configs/config.toml
编辑config.toml,设置RabbitMQ的用户名/密码/主机地址/端口。
默认配置定义了一个稳定扩散AI工作的一个任务队列(名称为AI.SD14),一个Discord Bot Service,一个用于Discord的过程工作者(名称为Discord.Server1)
运行dfserver
./dist/linux_amd64/ dfserver --confpath=./configs
或通过Docker-Compose(因此您不需要特别安装RabbitMQ):
docker compose up -d
PS:在Docker-Compose启动之后,您仍然需要在RabbitMQ中为AI Worker设置用户。
AI工人安装
将PYWORKER DIR复制到GPU服务器,然后安装所有扩散器依赖项(NVIDIA驱动程序,Cuda,Pytorch,Models等…)。
cd pyworker
pip install -r requirements.txt
AI工人配置
cp configs/sd14mega_config.ini.sample configs/sd14mega_config.ini # or cp configs/realesrgan_config.ini.sample configs/realesrgan_config.ini # or cp configs/clipinterrogator_config.ini.sample configs/clipinterrogator_config.ini
编辑config.ini,设置RabbitMQ的用户名/密码/主机地址/端口。
经营AI工人
python worker.py sd14mega # stable-diffusion worker with community SD Mega pipeline # or python worker.py realesrgan # realesrgan upscaling worker # or python worker.py clipinterrogator # clip-interrogator worker
用法
将Discord Bot添加到您的疾病服务器中,然后输入提示。
例子:
!梦想可爱的贴纸设计AI Image Generator机器人管道服务,应用程序图标,在Appstore上流行,Pixiv上的趋势,超详细,尖锐
带负的提示(扩散器> = V0.4.0):
!玫瑰的梦bouquet |红玫瑰:-1 |
AI任务将由Discord Bot从用户输入收集,并发布到RabbitMQ,然后由AI Worker(在GPU服务器上运行)获取该任务。
结果(生成的图像)将发布回兔子,由过程工作者(Discord.Server1)获取,并发送回用户。
在启动时运行dfserver和AIWorker,请参阅部署中的SystemD脚本
托多
- ✔️响应错误消息给用户
- ✔️更多的人工智能工人,例如:高档工人
- []多GPU工人支持
- ✔️初始图像
- []面具/涂料
学分
- 稳定性
- 用于剪贴式式饰物的药物精神病
- @catmus



