「AI 换脸」技术沉向大众，「素人」女性频频受害，治理「技术作恶」难点在哪？普通人应如何维权和防范？

随着AI技术的发展，打开AI换脸APP，选择和上传想要使用的图片和自己的脸部，简单操作便能实现AI换脸。新型技术加上低使用门槛，让不法分子发现了“商机”。北京浩伟律师事务所专职律师赵正彬向中新社国是直通车介绍，AI诈骗具有高度逼真、难以追踪、针对性强、手段多样的特点。

据36氪，00后大学生林林在5月份发现自己被色情照片盗脸了，这个女孩遭遇了和“广州地铁女孩”类似的脱衣处理。有人在加上她的微信后，发给她用生活照AI脱衣的照片，还用污秽的言语骚扰她。那张照片是她旅游时拍的，身后还有许多游客。林林给闺蜜看照片，她几乎看不出图片有被处理过的痕迹，身体裸露部分的光影、肤色都毫不违和，“如果不是旁边人表情都正常（如果是真的裸体，一定会引人注目），根本猜不到这是AI做的。”令女孩们惊讶的是，技术已经如此下沉，她们身边某个普通人都可能掌握深度合成的技术，在她们不知道的情况下盗脸、生成视频。

谢邀

治理上最大的症结并非立法、舆论监督、限制技术进步，而是——监管人员水平不够。

我们可以想像一下，官方层面的监管人员通常都是经过标准化的公务员、事业单位考试选进来，而考试的题目显然做不到足够与时俱进。

这就意味着，依靠考试进来的人员，未必就真的懂得现在日新月异的技术。

那么在日常监管过程中，就可能显得有些力不从心。

更不用说，在监管单位掌握话语权的人，更有可能手机里除了个抖音微信啥都没有。

让他们去认识到“AI造假”危害性，说实话真的很难。

那么，就不容易拿出有效的治理方案来。

目前为了解决这种问题，一个看似合理的做法就是——外聘互联网企业或者某些行业的专家。

毕竟这些专家始终在一线，总能懂得很多东西，提升治理效率。

但一方面是，这些专家本职工作肯定是自身领域，不可能时时刻刻过来帮忙处理张小姐李先生被换脸这种个案。

另一方面，如果因为监管人员“不懂”，将如何进行治理的话语权完全交给专家……

谁也不能保证专家就没有点私心。

我们可以回想一下，很多年前“网络实名制”的事情。

从理论而言，网络实名制属于我们普通公民完全让渡了在网络空间的隐私权，换取更加安全稳定和谐的上网环境。

但现实则是，实名制之后反而诈骗现象此起彼伏，网络暴力门槛大幅度降低。

实际上普通公民并没有感受到实名制带来了好处。

原因可能有很多，但我觉得最大问题就是，当决定实施“网络实名制”的时候，监管部门自身并没有能力承载这些数据。

而如果将相关工作外包给各大平台、机构，哪怕这些组织本身没有想法，但很多从业人员却可能充当“内鬼”。

现如今，AI换脸问题又到了考验监管部门能力的时候。

只希望这次不要再将话语权“转让”吧。

这个问题没提到的是明星换脸早已经是非常成熟的技术，而这种技术大多被应用在色情领域。你现在如果能上带有颜色的网站的话，找到一些你耳熟能详的明星合成片其实并不难。

但我必须澄清一点，问题补充里那个女孩提到的所谓无差别是彻头彻尾的谎言，中国的女性发出来的自拍照至少经过了化妆、滤镜、美颜、后期制作等多重魔法，她们发出来的照片本来就不是本人，而AI按照女性的夸张逻辑去换出来的人也肯定不是本人，根本存不存在什么毫无差别。我有个暴论：那就是中国那些爱发自拍的女性，她们真人比照片儿至少丑四个等级。以谎言为原料制造出来的只会是更大的谎言，而不是真实，所以AI换脸或者制图这项技术在女性的各种魔法之下其实已经被打败了。

现在比较危险的领域其实是经济和金融。比如问题里举的那个诈骗的例子。如果图像和声纹匹配正确，那么有些人可以不经验证的进行大额转账，这是很恐怖的，但整体上其实也相对容易。审批加手续就得了，对吧，你不可能既追求高效又不回避风险。为了回避一定的风险，增加一定的核验环节有必要性。

个人防范这种事儿其实非常容易，别在网上传照片就行了。但是前几天人大的那个事儿怎么说来着，有些地方你不得不传照片儿，甚至你还得传身份证儿，甚至个人手持身份证的照片。那这就没办法了，所以我告诉你，普通人根本就防不住。至于普通人维权，别搞笑了，比如一个普通人被做了黄图传到境外色情网站上，最多就把网站封了，没有办法去国外抓人也抓不到人。而像问题里举的这个例子，发黄图看上去是骚扰，其实是威胁，要么有财物需求，要么有性需求，本质上是敲诈。而这种敲诈勒索如果大规模发生，但是没有造成实际的损失，我们现在这些有限的人民警察解决的过来吗？他解决得了吗？放心，没戏。

接下来，更有趣的事情来了，AI本身不是一个责任主体。那么假设一个人拿着AI生成的某个女性的换脸图片发给了她及她的家人。那么怎么判这个男性呢？他最多也就是传播淫秽色情物品。如果控制在某个数量之下，都没有办法按这个罪顶格量刑，但是对当事人造成了多大的损害呢？

我在很久之前就提示各位，不要随便把自己的个人信息或者照片往网上扔，但是人微言轻。所以遇到这种不解的问题，就看着呗。

AI换脸技术现在太成熟了，通过一些AI的工具，包括AI绘画及AI数字人视频软件就可以做到。

想要鉴别确实很困难，包括现在还有AI语言合成技术，可以用极小的训练量来达到原声的效果，确实如果要用于诈骗或者涩情图片，防不胜防。

我想说对于不关心人工智能发展的大部分人来说，可能很难想象大概是什么样的情况，我下面放一段视频来解说下。

我用Stable Diffusion 、语言合成技术和DID软件做了一个母亲节的示例视频，可以说在不了解AI发展人的认知下，很难相信这个我没有用到一张照片和一点声音。

全程我都只采用了输入文字的形式，在不同的软件中进行调整：

我生成的AI人像做成数字人的视频https://www.zhihu.com/video/1660799033982484480

原来AI绘画最弱的就是手指等细节的辨别，现在随着技术迭代的进步，慢慢也被解决了。我觉得技术的发展，需要伴随的是法律的完善，可鉴别技术的提升。不可能光光依靠封锁技术，因为全球使用这一项技术的人太多了，封是封不住的。

我在想，公共的通讯工具，例如微信，视频通话等，是否有可能有插件通过识别是否是摄像或者是拍摄产生的参数原理，对于播放的视频文件进行反提示，这样可以有效制止这一项技术被用于诈骗？

我采用Stable Diffusion 这个软件进行图片生成，在下面的图片中我生成了几张，可以看到图片质量非常稳定，如果有足够的素材，AI绘画足以生成一张与本人极为相似的照片

以下图片均为我采用AI绘画生成效果，仅为示例，请勿用于其他用途

而我需要的是什么呢？对我来说，我是选择了合适的图片大模型，合适的训练过的特定Lora讯息和输入合理的提示词（Prompt),然后接下来的事情就交给电脑，它就能够帮我生成这样的图：

(((masterpiece))), (((best quality))), (((extremely detailed))), Depth of field, illustration, shiny, pastel color,(beautiful detailed face), (beautiful detailed eyes), (upper_body),A charming female TV show host, black hair,black eyes, hosting her talk show on a brightly-lit and warm set. She wears modern and professional navy blue suit with a white shirt and no tie, dark studio, rim lighting, two tone lighting,(high detailed skin:1.2), 8k uhd, dslr, soft lighting, high quality, volumetric lighting, candid, Photograph, high resolution, 4k, 8k, Bokeh,(small head),<lora:z:1>

Negative prompt: (worst quality, low quality:2), NSFW,monochrome, zombie,overexposure, watermark,text,bad anatomy,bad hand,extra hands,extra fingers,too many fingers,fused fingers,bad arm,distorted arm,extra arms,fused arms,extra legs,missing leg,disembodied leg,extra nipples, detached arm, liquid hand,inverted hand,disembodied limb, oversized head,extra body,extra navel,easynegative,(hair between eyes),sketch, duplicate, ugly, huge eyes, text, logo, worst face, (bad and mutated hands:1.3), (blurry:2.0), horror, geometry, bad_prompt, (bad hands), (missing fingers), multiple limbs, bad anatomy, (interlocked fingers:1.2), Ugly Fingers, (extra digit and hands and fingers and legs and arms:1.4), (deformed fingers:1.2), (long fingers:1.2),(bad-artist-anime), bad-artist, bad hand, extra legs ,(ng_deepnegative_v1_75t)

在这个文件中，我并没有采用特定训练的声音，而是用了默认的机器人配音，但是如果需要的话，通过类似PaddleSpeech等软件，是可以训练出具备自己声音特点的声线文件的，详细的不多说，如果有兴趣了解的可以采用飞浆PP的一个模拟项目试验，可点击下面链接体验，教程里面说的很清楚了，我就不再赘述：

首先我介绍下数字人的概念，数字人是指通过计算机程序和3D技术创建的虚拟人物，其外貌、语言、行为等都可以根据设计者的要求进行定制。
我的视频是通过UNISHAPE这个网站生成的，但是UNISHAPE这个网站目前出了点问题，无法登陆，如果想要了解体验的小伙伴，我推荐另外一个可以生成数字人的网站：DID，他可以帮助用户快速、便捷地创建自己的数字人。
这是一个免费的国外网站，只需要采用邮箱注册就可以了。
但是需要注意的是每个DID账号只能生成5分钟的视频，如果你还想免费试用，后期需多注册账号
注册网站：

具体要怎么操作呢？我这里简单介绍下：

1. 注册好账号后，点击 Create Video

2. 分别有视频创作主播（Chioose a Presenter）和 AI数字人（Generate AI presenter）两个选项，根据需要选择

3.可以选择系统已经设置好的人员，或者也可以点击ADD自己上传图片上传，我在想法中展示的是我自己用AI绘画生成的形象

4. 可以选择用AI机器人说话，在右侧的Script下自己输入文字，还可以增加语气停顿等要求，Language选择Chinese，就可以选择中文啦，然后在Voices选择男女不同的播影员名称。

5.也可以直接上传你自己的音频文件，点击Audio上传

6.最后选择GENERATE VIDEO合成最终视频。可以下载

听了以上的介绍，是否对于[AI换脸]这个技术有个初步了解了呢，可以看到，这一项技术是潘多拉魔盒，一旦打开就无法闭合，我们能做的不是一味地封杀，应该是了解研究后，想办法去限制不法分子的使用！

希望我的回答对大家有启发。

我是德里克文，一个对AI绘画，人工智能有强烈兴趣，从业多年的室内设计师！如果对我的文章内容感兴趣，请帮忙关注点赞收藏，谢谢！

个体性的作恶风险，个体承担。

哪里传出，抓哪里。

但是商业性的风险，要特别注意。

前段时间有影楼老板和一些做儿童摄影的摄影师找我做合成照片，但被我拒绝了，理由就是可能存在侵权风险。

毕竟，在拍摄照片的时候，没有告知用户会使用AI制作，且会流向第三方，在制作过程中才加入这种操作，显然是不合法的。

但这一行为，到底有多少人为了钱已经干着，是个“？”


而且现在的AI水平，不说别的，就下面这些一次成图未修的，漏洞已经较3个月之前很少了，若肆意妄为，迟早被铁拳打击。

治理的压力就不应该给到普通人。

就像题目里说的：普通人应如何维权和防范？

防范是没得防的，当代社会几乎没有隐私可言，说真的，自从多年前大三以来，开始接到游戏平台电话，其中有不少假装是我以前的游戏好友，要不是我基本不玩网游只玩单机我都快信了：因为这些电话连我的姓名家庭住址父母姓名大学专业都知道的一清二楚。

我曾经对这种电话破口大骂，得到的结果是连续两周的短信轰炸。现在仍然会接到，接起来以后听到他们来意我就直接挂断。

那么问题来了，面对这种情况，我维权有用吗？

我就不说当初我被轰炸那几天打有关部门电话的效果了，我就说一个，我连我的信息到底从哪儿泄露的我都搞不清楚。

防范无用，维权没辙。

能维权的都是出了恶性事件或者引起网络舆论的，普通人还闹不上热搜。

我现在挺小心翼翼的，朋友圈里不发自己照片，网上基本不说行业自己身边的事，但去年年末，在qq群里和一个人聊天，他说我能通过你qq号知道你很多个人信息。

我qq挺干净的，动态都没发几条，于是我说试试我的号。

几分钟后老哥私发过来了关于我的一堆真实信息。

我整个人都麻了。

但想想幸好老哥也没恶意，萍水相逢，无所谓了。

现在的难点不是追查什么的，因为的确现在不好追查，一个没法解决的问题就得换角度了，能换到的角度就是很多处罚不够重，很多来自个人的维权举报，在事情没闹大之前没什么后续有力的处罚。

技术已经发展出来了，在网络技术的领域你是没法再禁止的，毕竟硬件要求不高，而软件可复制。

线上不行，那就从线下入手。

你线下也不加重处罚也不重视这类事件，然后问普通人怎么维权和保护自己，本身就是个伪命题，没啥意义，还不如不讨论呢。

毕竟很多问题不上秤，闭住眼当没发生也都快成惯例了。