深度伪造骗局：当AI技术成为诈骗工具｜3·15特别报道(2)

因此，李昀锴律师建议，在发现侵权情形后，当事人可以通过如时间戳等第三方存证平台把涉嫌侵权内容通过手机录屏的方式进行保存，之后无论是向平台举报或者通过法院起诉都可以作为有效证据使用；如果涉及刑事责任，则要尽快前往去属地派出所报案，并保留侵权链接供公安侦查。

在瑞莱智慧联合创始人、算法科学家萧子豪的观察中，深度伪造的技术门槛在不断下降。“主要原因是这些技术遭逐渐开源出来，而且变得越来越好用。一些低门槛的开源软件已经可以来做出质量比较好的视频。”他说。

此前在网络上也曾广泛流传的一些辨别真伪的技巧，如观察对方的牙齿、舌头、耳朵或者手指是否会随着人物移动而出现不自然的阴影。在部分场景中，这些技巧确实存在可行性。布局出海短剧的易点天下也在尝试使用AI换脸技术。易点天下KreadoAI负责人罗晓奇也指出，在手部遮挡脸部的时候，AI产出的内容往往会有很大的瑕疵。

但如果想要追求准确分辨真伪，这些细节仅能作为参考。以此前梅西澄清视频事件为例，融易新媒体消息，有质疑指出原视频“面部反光不自然”、“未露出牙齿”等特征。但有业内人士告诉界面新闻，AI可以做到生成清晰的牙齿，这些特征不能作为证据。 

多年与深度伪造技术接触的萧子豪则直言，如果对方的技术方案相对精细，那么单纯用肉眼去分辨会有些挑战性。

由于深度合成内容越发逼真，采用技术手段进行鉴别的解决方案也随之出现。据业内人士介绍，常用的方法包括基于伪造内容数据集完成对模型检测器的训练、基于帧间不一致性实现对伪造内容的判别等。

据萧子豪介绍，从技术角度，其辨别思路大致可分为两种，一种是寻找图像编辑痕迹，另一类则是判断行为是否符合常识。

“一般来说这类换脸都会对原先的人脸进行编辑，做动画的过程中会有类似图片编辑的操作并且留下痕迹，这类痕迹和真正拍摄时的痕迹时不一样的，”萧子豪解释说。另一类则是检测视频中是否会展现出不符合常识的行为，如长时间不眨眼等等。

但由于新型伪造方法层出不穷，反深伪检测技术也需要持续更新与迭代优化。

正如一枚硬币的两面，AI换脸技术一方面可能触及隐私和伦理的敏感边界，另一方面却也为视频制作、心理疗愈等领域带来了新的可能性。 

在爆火的短剧领域，使用AI换脸技术可以快速将国内短剧中的华人面孔转变成外国演员的模样。布局出海短剧的易点天下已经开始尝试使用AI换脸技术。易点天下社媒营销经理李佩玉在采访时表示，如果对质量没有过高要求，那使用AI进行简单替换在时间和资金上至少可以降低20%的成本。

同时，业内也出现了“AI疗愈”的尝试，即利用AI换脸技术将客户逝去亲人的外貌附加在专业心理咨询师脸上，随后与客户进行视频聊天，以此提升心理疗愈的效果。

如何界定应用技术的边界是多方关注的焦点，其中服务提供方所扮演的角色尤为重要。

业务涉及“AI疗愈”的超级头脑创始人张泽伟告诉界面新闻，团队会事前明确委托人的诉求、与“克隆人”的关系，接单前也会与客户签署合同避免产品遭用于任何违法违规的途径。

这一做法与目前主流的AIGC产品不谋而合。小冰公司曾于去年5月于海外发布“GPT克隆人计划”，称最短只要采集三分钟数据，即可创造源于本人性格、技能、声音、外貌的AI克隆人。 

据小冰CEO李笛所说，在使用“GPT克隆人计划”服务前，使用者需提供本人权属证明，如是企业用户申请则需提供营业执照。同时他强调，该服务并未开放任何API接口，仅可在该平台内使用，不会存在转接至社交平台上的情况，公司内部也会配置技术手段以防范自身服务遭用作他处。 

伴随ChatGPT在国内迅速掀起生成式人工智能浪潮，国内针对AIGC产品的相关监管也快速跟进。