马斯克“最新直播”,不好好扣他那polo衫扣子,拿个手机打光晃来晃去。

看他脑袋左转右转,嘴角扬起的微笑,ak都压不下去。

Why啊?!

直播版Deepfake太恐怖:单张照片实时视频换脸 第1张

答案揭晓——这活灵活现的马斯克,根本不是马斯克本马!

而是一个最新AI换脸项目生成的:

只需一张照片,就能换脸搞直播。

不得不说,这样的马斯克还挺吓人的,有点鬼片怪蜀黍内味了~

本地安装一下,就能达到实时无延迟,还支持实时预览。

也就是说,无论搞在线会议还是直播带货,可以用任何人的脸了。

一打开会议软件,30个马斯克正在开视频会议;一打开直播间,100个董宇辉在发大额优惠券。

直播版Deepfake太恐怖:单张照片实时视频换脸 第2张

这个项目,叫做Deep-Live-Cam,无需专用硬件加速。

虽然AI换脸已经不是新鲜事,但因为“1张照片就能偷走你的脸去直播”,效果贼好,还被开源——项目一下就火了。

直奔GitHub热榜第一,24小时狂澜1600+星。

直播版Deepfake太恐怖:单张照片实时视频换脸 第3张

围观网友中,激动者有之:

笑不活了,以后我参加任何视频会议,再也不用本人出席了哈哈哈哈哈哈!

直播版Deepfake太恐怖:单张照片实时视频换脸 第4张

也有人连连感慨,连老人都能用AI直播挣钱的时代终于降临,这一天来得太快就像龙卷风:

想过这一天会来,但没想过它来得这么快!

直播版Deepfake太恐怖:单张照片实时视频换脸 第5张

实时换脸直播造假

你有看过马斯克穿着汗衫在出租屋的场景吗?

直播版Deepfake太恐怖:单张照片实时视频换脸 第6张

△“马斯克”一本正经盯着屏幕

这个项目一出,大家都开始疯玩了起来,目前GitHub已累计5300+星。(注意看,简介里还特意注明未经审查)

直播版Deepfake太恐怖:单张照片实时视频换脸 第7张

比如这位网友带来repo,对它给予了高度的评价。

它的工作几乎完美无瑕,而且完全是实时的。我只花了5分钟就完成了安装。

直播版Deepfake太恐怖:单张照片实时视频换脸 第8张

之所以安装这么快,在后面他也透露了自己计算配置,确实很顶了。

直播版Deepfake太恐怖:单张照片实时视频换脸 第9张

他换脸胡子拉碴的小扎扎克伯格,或许他老了之后就变成这样了吧。

直播版Deepfake太恐怖:单张照片实时视频换脸 第10张

随后摇身一变,变身成了帅气大叔乔治克鲁尼,但嬉皮笑脸版。

直播版Deepfake太恐怖:单张照片实时视频换脸 第11张

还有休格兰特。

直播版Deepfake太恐怖:单张照片实时视频换脸 第12张

相信细心的朋友也看出来了,为啥这三位的发型和胡子都一样。

这应该也是这款软件的一个小bug:发型不能轻易改变,胡须也很难隐藏。

直播版Deepfake太恐怖:单张照片实时视频换脸 第13张

因此它无法解决一些秃头的需求——没办法通过换脸长出头发……

直播版Deepfake太恐怖:单张照片实时视频换脸 第14张

也是注意到这个软件背后存在的风险,作者在项目最开始就特此声明。

直播版Deepfake太恐怖:单张照片实时视频换脸 第15张

首先,这款软件旨在为人工智能media行业做出贡献,去帮助一些博主啊什么的完成一些任务,比如制作自定义角色的动画、将角色用作服装模特等。

为了避免一些不道德的应用,它有个内置检查功能,可防止程序处理一些不适当的内容。

作者也坦言,未来项目也可能关闭或者在输出结果上添加水印。并建议大家如果使用的是真人面孔,建议征得当事人的同意,并在网上发布内容时明确说明这是DeepFake的。

随后作者分享了食用技巧。他首先表示,他在本地计算机(CPU)更有可能运行,但速度会非常慢。

简单四个步骤:首先进行一些配置:python (3.10版本推荐);pipgit;ffmpe;visual studio 2022 runtimes (windows);克隆存储库,然后下载两个模型:GFPGANv1.4和inswapper_128_fp16.onnx,并将其放到models这个文件夹中。

直播版Deepfake太恐怖:单张照片实时视频换脸 第16张

最后再安装依赖项;如果想使用GPU加速,作者也进一步提供了操作指导。

安装完成之后就可以进行使用啦~不过首次运行时会下载一个大约300M的模型。

直播版Deepfake太恐怖:单张照片实时视频换脸 第17张

如图所示,选择一张脸的图像以及目标图像or视频,然后点击Live。

这个项目的前身叫做roop-cam,拍摄一段视频,用你选择的人脸替换其中的人脸。

直播版Deepfake太恐怖:单张照片实时视频换脸 第18张

您只需要准备一张所需人脸,比如寡姐的图像。整个过程无需数据集,无需训练。

直播版Deepfake太恐怖:单张照片实时视频换脸 第19张

同样也支持Live模式。

直播版Deepfake太恐怖:单张照片实时视频换脸 第20张

几乎无法区分的照片级真实感

随着开源时间渐长,开发者和围观网友们的讨论也日益增多。

不少人认为这很“crazy”,因为操作门槛这么低、效果这么好的项目,它居然开源了。

直播版Deepfake太恐怖:单张照片实时视频换脸 第21张

另一群认为这很“crazy”的人,则是忧心忡忡,觉得这个世界更加真假难辨了。

直播版Deepfake太恐怖:单张照片实时视频换脸 第22张

后者担心的问题,显然摆在我们每一个人眼前。

AI换脸——无论是直播、视频会议还是图片、语音,都是现在网络冲浪的各位,需要瞪大眼睛仔细辨别的。

就拿近期AI绘画届,最新顶流FLUX来说吧!

这是Stable Diffusion原班人马官宣创业的第一个项目,连AI大神卡帕西都激情转发表达对其效果的赞赏。

不管是手还是文字,效果都很真实,很震撼。

直播版Deepfake太恐怖:单张照片实时视频换脸 第23张
△FLUX生成的“照片”

于是有推友,用FLUX、可灵等AI生成工具,做了一个100%AI的油管主播。

网友看了直流泪,“AI为什么生成得这么逼真,难道我们是不知道真人长啥样嘛。”

难怪有人感慨,这难道就是传说中的“硅谷遇上恐怖谷”?

以后的互联网,一定是超奇怪的地方……虽然现在就已经很奇怪了啊啊啊啊啊呜呜呜呜呜。

直播版Deepfake太恐怖:单张照片实时视频换脸 第24张

对此,量子位只能说——

那如果,再加上这个口型同步模型ReSyncer呢?(对,这有一个狗头)

ReSyncer放出了自己和Heygen在唇形同步效果上的对比:霉霉再现说中文神技。

观感是什么?

大概或多或少都和这位推友有共鸣:

AI技术让真·后真相时代到来了。

直播版Deepfake太恐怖:单张照片实时视频换脸 第25张

说到这儿就不得不放个近期的新闻:

3天前(8月7日),湖北黄石市公安局下陆分局对外公布,破获了一起用AI换脸技术解冻社交账号并倒卖获利的案件。

三名男子把一些视频进行AI换脸,然后用换脸后的动态面部,来解冻一些已被平台冻结了的账号。

最终,他们仨利用AI换脸,解锁了2000余个社交账号,非法获利超40万元。

谁说AI带来的诈骗风险,只来自于直接换脸呢?

直播版Deepfake太恐怖:单张照片实时视频换脸 第26张

但AI生成、AI换脸走向几乎无法区分的照片级真实感,已经是大势所趋。

怎么办?!

已经有人坐不住了,在讨论区表示,正在针对渲染时的编解码器,开发一个深度伪造检测插件。

让我们为ta加油吧……

参考链接:

[1]https://github.com/trending

[2]https://www.reddit.com/r/singularity/comments/1eo4sne/single_image_to_live_stream_deep_fake_deeplivecam/

[3]https://x.com/levelsio/status/1822067118914879808

收藏(0)