技术笔记

stable diffusion 的 lora模型训练--饭饭

lora 是一种微调大模型的方法

饭饭是2岁的英短猫,毛色为黑白,拿它的照片正stable diffusion v1.5的模型基础上进行lora模型训练。训练图片17张,lora的特征维度设置为32,训练10个epoch的效果如下:

从结果看,基本还原饭饭的样貌和神态,但是细节处毛发不自然,脸上的泪痕在AI绘画中被放大了不少。主要是stable diffusion v1.5的base模型主要是基于动漫人物训练,利用deepdanbroou模型打的标签基本与图片不太符合(训练时的标签在deepdanbroou 上进行了大量修改),并且训练的图片的背景比较复杂,有沙发,墙壁,床,衣服等影响较大,导致细节处不够理想,并且经常出鬼图。

上面是测试了20来张图中生成效果还不错的,lora模型的大小只有36M,就能带饭饭周游世界0.0.(手动狗头)

  • 深度学习
  • LoRA
  • Stable Diffusion
  • 饭饭

← 返回技术笔记