3DIS-FLUX – 浙大联合哈佛推出的多实例生成框架

3DIS-FLUX是什么

3DIS-FLUX是基于深度学习的多实例生成框架，通过解耦实例合成实现高质量的图像生成。结合3DIS框架的深度驱动场景构建和FLUX模型的扩散变换器架构，分为两阶段：首先生成场景深度图，然后基于FLUX模型进行细节渲染。通过注意力机制控制，确保每个实例的图像令牌只关注对应的文本令牌，实现精确的实例渲染。3DIS-FLUX无需对预训练模型进行额外训练，保留了强大的生成能力，同时在实例成功率和图像质量上显著优于传统方法。

3DIS-FLUX的主要功能

深度驱动的场景构建：3DIS-FLUX 将多实例生成分为两个阶段，首先通过布局到深度模型生成场景深度图，用于准确的实例定位和场景布局。