ControlNet作者新项目爆火:仅一张图生成25秒绘画全过程!不到一天GitHub揽星600+

张吕敏

2024-07-11 10:48:00

关注

输入任意一张图,分分钟就能“拆解”成一个25秒的图像绘制过程视频:

从线稿到填色还有局部细节调整,全都有的那种:

图片

而且不止动漫风,各种风格都能驾驭:

图片

这个项目名为Paints-Undo,发布不到24小时,GitHub上已揽星600+:

图片

网友们针对它的讨论也经历了一轮又一轮,不少人纷纷表示“这个是真牛P”。

图片

……甚至因为效果太好,遭到网友吐槽:

手绘伪造成本又低了。

图片
图片
图片

还有不少网友已经玩上了:

图片

Ctrl+ZZZZZZZ

据GitHub主页上的介绍,Paints-Undo的命名有“其绘制过程就像是在绘画软件中多次按下撤消(Undo)按钮”之意。

图片

该项目包含一系列模型,展示了各种人类绘画行为,比如素描、勾线、上色、阴影、变形、左右翻转、调整色彩曲线、改变图层透明度,甚至在绘画过程中改变整体想法等等。

目前发布了两个型号paints_undo_single_frame和paints_undo_multi_frame。

paints_undo_single_frame为单帧模型,基于SD1.5架构进行了改进,输入为一张图和一个operation step,并输出一张图。

operation step相当于Ctrl+Z(撤销)多少次,比如operation step为100,就相当于会得到一张Ctrl+Z 100次的效果图。

paints_undo_multi_frame是多帧模型,基于VideoCrafter打造,但没有使用原始Crafter的lvdm,所有的训练/推理代码都是从头开始完全实现。

经过训练后,多帧模型整体架构类似于Crafter,包含5个组成部分:3D-UNet、VAE、CLIP、CLIP-Vision、Image Projection。

多帧模型输入为两张图片,输出是这两张图片之间的16帧中间帧,其结果比单帧模型更加一致,但也更慢,创造性较低。

代码库默认方法是将两个模型一起使用:

首先使用单帧模型获取5-7个“关键帧”,然后使用多帧模型来“插值”这些关键帧,最终生成一个相对较长的视频。理论上甚至可以生成无限长的视频,但在开发测试中帧数为100-500时,结果较好。

可以通过以下方式在本地部署:

图片

介绍中还提到,项目测试是在24GB显存的Nvidia 4090和3090TI上进行。理论上说,16GB的显存应该也够用,但8GB就不行了,最少需要大概10到12.5GB的显存

根据不同配置,处理一张图大约需要5-10分钟

生成视频时长25秒,帧率为4FPS,分辨率可能是320x512、512x320、384x448或448x384。

更多玩法展示

除了直接生成25秒的从线稿到上色的视频,还有其它玩法。

比如输入线稿,也能生成线稿绘制过程:

图片

单输入多输出也可以:

图片

或者还可以从一张图提取出不同精细程度的线稿:

图片
图片

插入一张线稿,直接在此线稿基础上填色也行:

图片

感兴趣的家人们可以亲自动手试试~


文章来源: 量子位

版权声明:【除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,因客观原因,或会存在不当使用的情况,如,部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联系及时处理,共同维护良好的网络创作环境,联系邮箱:603971995@qq.com】

欢迎来到情绪收容站,某种程度讲,没有技术的绘画更动人!

早高峰的通勤挤压、996的高强度节奏无休止的工作对接、层层叠加的生活压力你是否早已戴上克制情绪的面具
7.GAME 0评论 2026-07-24

第一波闯进戛纳的AI动画电影,已经让评委分不清了

还记得那部用15人、14天、不到50万美元就砸出来的95分钟AI长片《Hell Grind》吗?它在
敏 糸 0评论 2026-07-24

来自塞尔维亚的自由概念艺术家和插画师 | @Ognjen Sporin

来自塞尔维亚的自由概念艺术家和插画师 | @Ognjen Sporin
Ognjen Sporin 0评论 2026-07-24

腾讯的下一款单机大作,押对宝了吗?

下半年,腾讯在国内大型单机游戏领域的长线布局终于迎来开花结果。10月底发售的《影之刃零》无疑是今年单
黑猫 0评论 2026-07-23

法国插画师Ekaterina Grelagorela,充满奇遇的童话世界

Ekaterina Grelagorela ©️ 精灵小镇网站Ekaterina
西米 0评论 2026-07-23

任职育碧十余年!从助理一路晋升总监,刺客信条背后的概念大佬

Kobe Sek新加坡 | 概念艺术家AS:kobesek.artstation.com来自新加坡的
SoulofArt 0评论 2026-07-23

DC 御用插画大神 Picolo!少年泰坦青春日常氛围感插画封神

Picolo 本名 Gabriel Picolo,巴西圣保罗知名自学型漫画家、插画师,海外社交平台坐
CG热 0评论 2026-07-22

小众画风受无数粉丝追捧!不愧是格鲁吉亚顶级战锤御用画师,很有魅力

Akim Kaliberdaape.artstation.com//////来自格鲁吉亚的概念艺术家
七点GAME 0评论 2026-07-22

韩裔水粉大神!这写生和变调氛围完美演绎艺术源于生活,清新配色勾勒充满烟火气的日常

韩裔插画师擅长捕捉平凡人间里温柔动人的瞬间,创作题材紧贴现实生活,画面内容大多取材于日常随处可见的细
SoulofArt 0评论 2026-07-22

韩国插画师Mozza Lee,甜酷对冲是作品核心

Mozza Lee ©️ 宇宙大爆炸Mozza Lee是来自韩国的插画师,融合日
西米 0评论 2026-07-21

暴雪御用大神 Nesskain!守望先锋官方漫画主力画师,力量感人体天花板

Nesskain 法籍韩裔顶级游戏插画、漫画创作者,早年深耕独立漫画创作,后全职入职暴雪担任高级 2
审美小憩馆 0评论 2026-07-21

进步速度恐怖!美国00后二次元插画师名副其实彩蛋狂魔,这发丝光影刻画美到窒息

来自美国的新生代自由数字插画师、专业原画设计师是实打实的 00 后创作者,在社交平台持续更新创作,肉
SoulofArt 0评论 2026-07-21

这画风泰绝了!不愧是Dinsai Studio联合创始人,同是玩块面的新作为何如此优秀

来自泰国曼谷的概念艺术家,同时为泰国本土头部美术工作室 Dinsai Studio 联合创始人,长期
Soulofart 0评论 2026-07-20

18岁开始接包,将网易暴雪网飞漫威等收入囊中!品一品这趣味和张力拉满的角色设计!

Ognjen Sporinosporin.artstation.com来自塞尔维亚的概念设计师、插画
Cora 0评论 2026-07-20

业内公认狠人!不用上色也出圈,韩国大厂核心画师的线稿功底有多恐怖?

来自韩国的顶尖美术设计师,是圈内依靠色彩与光影叙事的代表创作者,拥有极强的氛围感塑造功底,每一幅作品
SoulofArt 0评论 2026-07-20

艺术与设计APP

  • 最新最热
    行业资讯
  • 最新最热
    行业资讯
  • 最新最热
    行业资讯