加速扩散模型,最快1步生成SOTA级图片,字节Hyper-SD开源了

简介: 【5月更文挑战第9天】字节跳动研究团队推出Hyper-SD框架,实现快速图像生成,仅需1步即可达SOTA水平。该框架采用TSCD技术减少误差,整合ReFL优化加速模型,提高图像质量。在1步推理时,Hyper-SDXL在CLIP和Aes Score上超越SDXL-Lightning。开源LoRA插件促进社区发展,但可能牺牲部分模型通用性,未来仍需关注用户需求多样性。[论文链接](https://arxiv.org/abs/2404.13686)

在人工智能领域,图像生成技术一直是研究的热点。随着深度学习技术的不断进步,生成模型的能力也在不断提升。最近,字节跳动公司的研究团队在这一领域取得了显著的进展,他们提出了一种名为Hyper-SD的新型框架,该框架能够在极少的推理步骤下生成高质量的图像,并且在某些情况下,只需1步即可达到SOTA(State of the Art,即业界最佳水平)的性能。这一研究成果不仅在技术上具有创新性,而且对整个图像生成领域的发展具有重要的推动作用。

Hyper-SD框架的核心创新在于其独特的“轨迹分段一致性蒸馏”(Trajectory Segmented Consistency Distillation,简称TSCD)技术。这项技术通过将整个时间步范围分割成多个小段,并在每个小段内进行一致性蒸馏,从而实现了对原始轨迹的精细保留。这种方法有效地减少了模型拟合过程中的累积误差,提高了生成图像的质量。

此外,Hyper-SD框架还整合了人类反馈学习(Human Feedback Learning,简称ReFL)技术,通过优化加速模型的ODE(常微分方程)轨迹,使其更适合少步骤推理。这一技术的运用,使得在某些情况下,加速模型的性能甚至超过了原始模型。

在实验中,Hyper-SD在1到8步推理的情况下,对于SDXL和SD1.5两种架构均展现出了SOTA性能。特别是在1步推理的情况下,Hyper-SDXL在CLIP Score和Aes Score两个指标上分别超过了SDXL-Lightning 0.68和0.51,这一结果在图像生成领域是相当惊人的。

为了更全面地评估模型性能,研究团队还进行了广泛的用户研究。用户研究的结果表明,Hyper-SD在多种设置和方法中获得了显著更多的用户偏好,尤其是在与同一架构的基线模型相比时,Hyper-SD15在用户偏好上拥有超过三分之二的优势。

字节跳动公司的研究团队不仅在技术上取得了突破,还通过开源相关的LoRA(Low-Rank Adaptation)插件,为整个社区的发展做出了贡献。这些插件支持从1到8步的推理,并且提供了一个专门的单步SDXL模型,以进一步推动生成AI社区的发展。

Hyper-SD框架在图像生成领域的贡献是显而易见的。它不仅提高了生成图像的质量和效率,还通过开源其技术,促进了整个行业的技术共享和进步。然而,任何技术都有其局限性。Hyper-SD在实现快速生成高质量图像的同时,也牺牲了一部分模型的通用性。例如,该框架在处理某些特定类型的图像时,可能需要特定的优化策略来进一步提升性能。

此外,尽管Hyper-SD在用户研究中获得了较高的评价,但图像生成的主观性很强,不同用户对图像质量的评价标准可能存在差异。因此,如何进一步提升模型以满足更广泛的用户需求,仍是未来研究需要关注的问题。

论文链接:https://arxiv.org/abs/2404.13686

目录
相关文章
|
Rust 安全 程序员
Rust与C++:内存管理与安全性的比较
本文将对Rust和C++两种编程语言在内存管理和安全性方面进行深入比较。我们将探讨Rust如何通过其独特的所有权系统和生命周期管理来消除内存泄漏和悬挂指针等常见问题,并对比C++在这方面的挑战。此外,我们还将讨论Rust的类型系统和编译器如何在编译时捕获许多常见的运行时错误,从而提高代码的安全性。
|
6月前
|
安全 Java API
Java Web 在线商城项目最新技术实操指南帮助开发者高效完成商城项目开发
本项目基于Spring Boot 3.2与Vue 3构建现代化在线商城,涵盖技术选型、核心功能实现、安全控制与容器化部署,助开发者掌握最新Java Web全栈开发实践。
627 1
|
4月前
|
机器学习/深度学习 人工智能 物联网
大模型微调有必要做吗?全参数微调、LoRA还是RAG?看完这篇你就懂了
在人工智能时代,若想以最小成本、最高效率赋能通用大模型专业的行业能力,关键在于找到效果、成本与灵活性的黄金平衡点......
604 5
大模型微调有必要做吗?全参数微调、LoRA还是RAG?看完这篇你就懂了
|
SQL 数据采集 数据可视化
使用Python Pandas实现两表对应列相加(即使表头不同)
使用Python Pandas实现两表对应列相加(即使表头不同)
637 3
ModBus Pull的详细安装教程
ModBus Pull的详细安装教程
1250 1
|
算法 机器人 中间件
C++的主要优势是什么?
C++的主要优势是什么?
722 1
|
前端开发 Java 微服务
java电商项目(一)
文档介绍了乐购商城项目的架构设计与实现过程,涵盖需求分析、系统设计、框架搭建及商品微服务的开发。项目采用B2C电商模式,前后端分离架构,使用Spring Boot、Spring Cloud等技术构建。主要内容包括 1. **需求分析与架构设计** - 描述了在Docker中启动容器、后台服务、前台门户和后台管理的具体步骤 - 详细介绍了系统的B2C电商模式及其前后端分离的设计理念 2. **技术架构** - 项目采用Spring Boot 2.1.9.RELEASE和Spring Cloud Greenwich.SR3 - 系统架构图展示了各个微服务之间的关系和交互
285 0
|
SQL 自然语言处理 数据库
NL2SQL实践系列(2):2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
NL2SQL实践系列(2):2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
NL2SQL实践系列(2):2024最新模型实战效果(Chat2DB-GLM、书生·浦语2、InternLM2-SQL等)以及工业级案例教学
|
消息中间件 存储 缓存
RabbitMQ 部署及配置详解(集群部署)
RabbitMQ 部署及配置详解(集群部署)
2280 0
【自媒体直播】手机摄像电脑控制OBS多平台推流解决方案
【自媒体直播】手机摄像电脑控制OBS多平台推流解决方案
1246 0