【xinference】（5）：在autodl上，使用xinference部署sdxl-turbo模型，效果好太多了，模型的进步效果更好，图像更加细腻，需要下载52G文件，显存需要20G左右_xinference 离线部署

1，视频地址

https://www.bilibili.com/video/BV1Pv42117TX/

2，关于sdxl-turbo

https://hf-mirror.com/stabilityai/sd-turbo

SDXL Turbo是基于SDXL 1.0开发而成的，采用了一种全新的对抗扩散蒸馏技术（ADD），将图像所需的生成步骤从50减少至1—4步，并且丝毫不影响图像质量。 这种技术可以在高质量图像下以1—4个步骤对大规模基础图像扩散模型进行采样。 SDXL Turbo的核心创新在于其高效的图像生成能力。

2，sdxl-turbo下载模型

https://inference.readthedocs.io/zh-cn/latest/models/builtin/image/index.html

xinference launch --model-name sdxl-turbo --model-type image

1
2

经过漫长等待，需要下载52G文件。

sd_xl_turbo_1.0_fp16.safetensors: 100%|██████████████████████████████████████████████████████████████████████████████| 6.94G/6.94G [25:23<00:00, 2.69MB/s]
Fetching 39 files: 100%|██████████████████████████████████████████████████████████████████████████████████████████████████| 39/39 [25:26<00:00, 39.13s/it]
Loading pipeline components...: 100%|███████████████████████████████████████████████████████████████████████████████████████| 7/7 [00:02<00:00,  3.02it/s]
 72%|████████████████████████████████████████████████████████████████████████████████████▏                                | 36/50 [00:36<00:14,  1.01s/it]

100%|█████████████████████████████████████████████████████████████████████████████████████████████████████████████████████| 50/50 [00:50<00:00,  1.01s/it]

1
2
3
4
5
6
7

3，生成图片效果

非常的细腻，细节更真实更好
执行 python代码：

from xinference.client import Client

client = Client("http://127.0.0.1:9997")

model = client.get_model("sdxl-turbo")
#input_text = "A cinematic shot of a baby racoon wearing an intricate italian priest robe."
input_text = "Beautiful and cute girl, 16 years old, denim jacket, gradient background, soft colors, soft lighting, cinematic edge lighting, light and dark contrast, anime, art station Seraflur, blind box, super detail, 8k"
out = model.text_to_image(input_text)
print(out)
1
2
3
4
5
6
7
8
9

苹果的效果：

咒语：
“A cinematic shot of a baby racoon wearing an intricate italian priest robe.”

4，总结

新的模型生成的图片确实非常不错。
但是随机比较大，需要多运行几次才能找到比较好的图片。
相同的咒语生成的图片也是每次都不一样。

新模型确实比之前的好太多了，坐等出中文模型。