直播打游戏的马斯克、TED演讲谷歌小姐姐到底是不是真人？网友猜到怀疑人生

　　此外■■■■◆■，AI 生成的谷歌小姐姐还登上 TED 进行演讲，那逼真程度，一个字，绝！

　　今年年初时，一组 AI 换脸生成的霉霉（泰勒・斯威夫特）不雅照在社交平台上疯传，甚至惊动了美国白宫◆◆，发言人让・皮埃尔（Karine Jean-Pierre）表示★◆◆◆：「我们对此类虚假图像的流传感到担忧◆◆。」

　　不仅能生成人物视频，Flux + Gen 3 这个组合生成的动物世界也让人真假难辨。

　　就连小细节也是拿捏的非常精准。不过从视频来看，工作牌还是有些瑕疵的，当人物晃动身体时，我们还是能看到白色部分的伪影。

　　不过，也有不少网友担心■◆◆◆◆■，不法分子会趁机设计疯狂的骗局■◆★◆■■，假新闻也将更上一层楼★◆◆◆。

　　今年 1 月份，一家跨国公司成了 deepfake 诈骗的目标★■★■，其香港员工被骗了 2 亿港元。

　　在视频生成如此爆火的今天，就算你有一双火眼金睛■■■◆，可能也会面临一个真假难辨的困境。

　　今年的 Met Gala 红毯上★■◆◆■■，凯蒂・佩里和蕾哈娜明明未现身◆■★★◆■，但 AI 生成的红毯照满天飞★◆，如果不细看很难找出破绽◆◆★■■★。（以下照片均为 AI 生成）

　　图片是一位名叫 Leo Kadieff 的小哥在领英上率先发出，他表示这些图片没有经过放大或其他处理★◆■◆★，是 Flux +LoRA 的原始输出。

　　与此同时■◆，一位 Google 小姐姐开始刷爆社交媒体。只见一位带着谷歌工作证的小姐姐在 TED 中游刃有余的进行着演讲★◆■，时不时的和现场观众互动，表现的非常自然◆◆★◆■。

　　无论是做鬼脸★◆、挑眉毛，左右摇头，还是切换各种刁钻角度★■◆，脸部都丝毫没崩★■★★，也没有时间延迟。

　　Deep Live Cam 开发者意识到潜在的滥用风险★◆■■■，承诺采取预防措施◆■。该应用内置检查机制，避免处理■★★■◆、暴力或战争等敏感内容■■◆★■■。如有必要，他们也将会在输出内容上添加水印■◆。

　　虽然有些小缺点■★★★，但也不妨碍 AI 技术正变得越来越先进，难怪网友发出这样的感慨「现在的 FLUX + Runway Gen-3 Alpha 就是一个杀手组合。（上述视频就是这个组合生成的）」◆◆。

　　本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。

　　开发者还在 Github 上详细介绍了 Deep Live Cam 的安装运行攻略。感兴趣的朋友可以前往查看★◆★◆■：

　　这个消息让人一时难以接受，怎么说，现在的 AI 搞得视频已经不可信了■◆◆★，眼见不一定为真，视频确实可以 P。

　　或许以后■★◆■★，大家都不能再相信视频通话，或者仅通过照片来确认身份，如果好朋友借钱，最保险的方式将是亲自见面。

　　据了解，上述视频都是在这张图的基础上生成的，图像生成用的是 Flux + LoRA。

　　还有「失踪」几个月的凯特王妃突然现身，「真假难辨」的图片和视频引得全世界瓜民搬着板凳来「找茬」。

　　此外■◆，它还提供实时预览功能，能够立即看到替换效果◆◆，同时支持实时人脸增强、处理同一图像或视频中的多张人脸等。

　　这项名为 Deep Live Cam 的项目只需要一张图片，就能一键进行实时直播换脸。

　　但当他打开电脑摄像头，仅花 5 分钟安装了 Deep Live Cam◆★★■◆，他的面孔瞬间被替换成 JD Vance：

　　AI 诈骗猖狂的程度，连巴菲特都坐不住了★■■★。他在 2024 年度股东大会上表示，「基于深度伪造技术带来的 AI 欺诈投资可能将会成为一个『不断增长的行业』」★■★★。

　　回想三年前，图片生成还停留在牛油果座椅■★◆◆■，现在已经能生成真假难辨的人物图片了★◆。

　　这名员工受邀参加总部首席财务官发起的「多人视频会议」■★★■■★，并按照要求先后将 2 亿港元分 15 次转到 5 个账户内。得知受骗后■◆■◆，他才发现，那场会议中除了他自己，其它与会人员全部是经过「AI 换脸」和「AI 换声」的诈骗团队■■◆◆。