变脸又换声 “外孙”来骗钱

　　耳听可能为虚 眼见未必是实

　　变脸又换声“外孙”来骗钱

　　一位老人接到电话，对方自称是其战友，说自己因生病想借钱。老人熟悉这位战友的声音，先后汇款2000元、8000元到对方银行账户。没想到，钱刚到对方账户，“战友”就消失了，老人这才发现自己遭骗了……近日，一则“声音合成”骗局登上了热搜。

　　随着AI(人工智能)合成技术日益发展，一些非法分子也开始利用其合成音视频实施诈骗。“AI换脸换声”难度大吗？能有多逼真？  

　　诈骗

　　“外孙”打电话来要钱

　　“你姥姥接到了一个电话，是你表哥的声音，说是闯了祸，问你姥姥、姥爷要钱。”不久前，正在国外留学的小张从妈妈口中得知，姥姥接到了一通电话，有人用“表哥”的声音说，自己把同学打进医院了，要赔十几万元。“表哥”以此向姥姥、姥爷要钱，还让他们千万不要告诉自己的妈妈——也就是小张的大姨。

　　“我姥姥、姥爷大吃一惊，但还是信了。不过，觉得不能不告诉其他人，于是告诉了我妈。”小张解释道，两位老人日常是独自生活，只有小张的母亲每周去看望几次。由于两位老人习惯于什么电话都接，此前就遇到过诈骗电话，这让一家人始终提心吊胆。

　　小张觉得电话那头是骗子，“声音肯定是合成的”。初步推断后，小张给正在外地上学的表哥打了多个电话，终于取得了联系，果然表哥对于姥姥接到的电话也全然不知。

　　“鸡飞狗跳折腾了一圈，安抚了惴惴不安的我妈，叮嘱了不听劝的姥姥、姥爷。一到涉及晚辈的事，这两位老人就跟喝了迷魂汤似的。”小张无奈地说，除了“AI合成语音诈骗”，欺骗性更强的“AI合成视频诈骗”更让人担忧。对于这些骗局，小张感到十分愤怒，但又不知该如何杜绝。

　　乱象

　　假博主只为真“圈钱”

　　保护好了手机号，就能避免遭人利用AI技术“圈钱”吗？在互联网上，还有很多博主利用假视频来吸引流量、虚假宣传。

　　“有福气的奶奶您来了……”一个幼童双手合十，讲着一大段“正能量”语录，这样不符合常理的视频，却获得颇高人气。打开评论区，有不少头像为中老年人的账号留言称赞“小孙子说得好”。

　　“这类视频播放高，涨粉快。”相关视频博主介绍，除了儿童形象，智者老人、外国人等形象说语录的视频也受欢迎。“粉丝以中老年人为主。”

　　“很多人问我，为什么不回国发展，要在中国待着……”视频中，一位名叫“Wendy”的“外国女孩”用流利的中文侃侃而谈。和她用着“同一张脸”的账号有好几个，有的叫“阿琳娜”，有的叫“娜塔莎”。事实上，这些账号的“脸”都来自一位乌克兰网红博主Olga Loiek，不久前她发布视频称，她的面孔遭他人盗用，并利用AI技术生成了视频。

　　在短视频平台上，这类假冒外国人的账号还有不少。他们或发表鸡汤语录，或讨论争议性话题，以此为噱头来吸粉。3月27日，抖音发布《关于不当利用AI生成虚拟人物的治理公告》，针对站内仍有不当使用AI技术生成虚拟人物发布内容的账号进行处置，但目前平台上依然存在相关账号和视频。

　　点进这些账号的主页，融易新媒体消息，其中很多写着“收徒”“合作”，并附有联系方式。记者加上一个微信后，对方发来了数字人生成教程的信息，其中包括AI最新玩法等内容，报价1288元。这位商家还向记者强调，AI和短视频结合的“威力”很大。“现在流量就是钞票，你会搞流量还怕不能盈利吗？”

　　体验

　　一句话即可克隆一万句

　　利用AI技术来换脸换声、合成视频的难度大吗？实际上，使用门槛和技术门槛都不高。

　　记者以“AI克隆声音”“AI视频生成”等为关键词在电商平台搜索，出现不少提供相关服务的商家。有些提供专业的声音定制模型，价格需要几百元到数千元不等。有些则直接出售相关教程，部分价格低至9.8元。商家表示，这类教程适合于对AI这类工具该兴趣的人，并且要愿意学习和摸索。

　　即便是没有任何技术背景也没关系，目前市面上已经有多款软件可以快速实现AI换脸、AI克隆声音、数字人生成等功能。在一款生成视频数字人的软件中，提供了电商、金融理财、医疗保健、教育培训等领域的数字人视频素材，输入文字即可合成配音。此外，还可以利用照片定制专属的数字人形象，生成视频。