当前位置:主页 > 热点 > 滚动新闻 > 变脸又换声 “外孙”来骗钱

变脸又换声 “外孙”来骗钱

2024-04-12 00:37:16来源:新媒体

文章导读
耳听可能为虚 眼见未必是实 变脸又换声“外孙”来骗钱 一位老人接到电话,对方自称是其战友,说自己因生病想借钱。老人熟悉这位战友的声音,先后汇款2000元、8000元到对方银行账户。没...

  耳听可能为虚 眼见未必是实

  变脸又换声“外孙”来骗钱

  一位老人接到电话,对方自称是其战友,说自己因生病想借钱。老人熟悉这位战友的声音,先后汇款2000元、8000元到对方银行账户。没想到,钱刚到对方账户,“战友”就消失了,老人这才发现自己遭骗了……近日,一则“声音合成”骗局登上了热搜。

  随着AI(人工智能)合成技术日益发展,一些非法分子也开始利用其合成音视频实施诈骗。“AI换脸换声”难度大吗?能有多逼真?  

  诈骗

  “外孙”打电话来要钱

  “你姥姥接到了一个电话,是你表哥的声音,说是闯了祸,问你姥姥、姥爷要钱。”不久前,正在国外留学的小张从妈妈口中得知,姥姥接到了一通电话,有人用“表哥”的声音说,自己把同学打进医院了,要赔十几万元。“表哥”以此向姥姥、姥爷要钱,还让他们千万不要告诉自己的妈妈——也就是小张的大姨。

  “我姥姥、姥爷大吃一惊,但还是信了。不过,觉得不能不告诉其他人,于是告诉了我妈。”小张解释道,两位老人日常是独自生活,只有小张的母亲每周去看望几次。由于两位老人习惯于什么电话都接,此前就遇到过诈骗电话,这让一家人始终提心吊胆。

  小张觉得电话那头是骗子,“声音肯定是合成的”。初步推断后,小张给正在外地上学的表哥打了多个电话,终于取得了联系,果然表哥对于姥姥接到的电话也全然不知。

  “鸡飞狗跳折腾了一圈,安抚了惴惴不安的我妈,叮嘱了不听劝的姥姥、姥爷。一到涉及晚辈的事,这两位老人就跟喝了迷魂汤似的。”小张无奈地说,除了“AI合成语音诈骗”,欺骗性更强的“AI合成视频诈骗”更让人担忧。对于这些骗局,小张感到十分愤怒,但又不知该如何杜绝。

  乱象

  假博主只为真“圈钱”

  保护好了手机号,就能避免遭人利用AI技术“圈钱”吗?在互联网上,还有很多博主利用假视频来吸引流量、虚假宣传。

  “有福气的奶奶您来了……”一个幼童双手合十,讲着一大段“正能量”语录,这样不符合常理的视频,却获得颇高人气。打开评论区,有不少头像为中老年人的账号留言称赞“小孙子说得好”。

  “这类视频播放高,涨粉快。”相关视频博主介绍,除了儿童形象,智者老人、外国人等形象说语录的视频也受欢迎。“粉丝以中老年人为主。”

  “很多人问我,为什么不回国发展,要在中国待着……”视频中,一位名叫“Wendy”的“外国女孩”用流利的中文侃侃而谈。和她用着“同一张脸”的账号有好几个,有的叫“阿琳娜”,有的叫“娜塔莎”。事实上,这些账号的“脸”都来自一位乌克兰网红博主Olga Loiek,不久前她发布视频称,她的面孔遭他人盗用,并利用AI技术生成了视频。

  在短视频平台上,这类假冒外国人的账号还有不少。他们或发表鸡汤语录,或讨论争议性话题,以此为噱头来吸粉。3月27日,抖音发布《关于不当利用AI生成虚拟人物的治理公告》,针对站内仍有不当使用AI技术生成虚拟人物发布内容的账号进行处置,但目前平台上依然存在相关账号和视频。

  点进这些账号的主页,融易新媒体消息,其中很多写着“收徒”“合作”,并附有联系方式。记者加上一个微信后,对方发来了数字人生成教程的信息,其中包括AI最新玩法等内容,报价1288元。这位商家还向记者强调,AI和短视频结合的“威力”很大。“现在流量就是钞票,你会搞流量还怕不能盈利吗?”

  体验

  一句话即可克隆一万句

  利用AI技术来换脸换声、合成视频的难度大吗?实际上,使用门槛和技术门槛都不高。

  记者以“AI克隆声音”“AI视频生成”等为关键词在电商平台搜索,出现不少提供相关服务的商家。有些提供专业的声音定制模型,价格需要几百元到数千元不等。有些则直接出售相关教程,部分价格低至9.8元。商家表示,这类教程适合于对AI这类工具该兴趣的人,并且要愿意学习和摸索。

  即便是没有任何技术背景也没关系,目前市面上已经有多款软件可以快速实现AI换脸、AI克隆声音、数字人生成等功能。在一款生成视频数字人的软件中,提供了电商、金融理财、医疗保健、教育培训等领域的数字人视频素材,输入文字即可合成配音。此外,还可以利用照片定制专属的数字人形象,生成视频。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 江西南昌一交通事故致3死7伤:初步侦查驾驶员突发心脏不适

中新网南昌4月8日电 (记者 刘力鑫 李韵涵 )8日午间,南昌市公安局交通管理局发布通报称,当...

2 上海记录到野生鸟类527种 2023年新增9种

中新网上海4月8日电 (记者 陈静)记者8日获悉,结合史料文献和近年来野外监测侦查数据,上海...

3 变脸又换声 “外孙”来骗钱

耳听可能为虚 眼见未必是实 变脸又换声“外孙”来骗钱 一位老人接到电话,对方自称是其战...

4 “网吧接纳未成年人即担责”刻深未保法律门线

《未成年人保护法》规定,营业性歌舞娱乐场所、酒吧、互联网上网服务营业场所等不适宜未...

5 法国酿酒师“恋上”新疆葡萄“酿出”中法情缘

四月上旬,新疆北部气温回升,葡萄迎来了开墩季。 近日,在天山北麓玛纳斯县的葡萄园里,...

6 韶关武江安全转移危险区域民众164人

中新网韶关4月8日电 (记者 王坚)粤北韶关近期受持续强降雨天气的影响,山体含水量饱和,该...

7 山东烟台查获一起重大制贩毒案 捣毁制毒工厂两处

中新网烟台4月8日电 (王娇妮 刘丹)记者8日从烟台市公安局获悉,该局近日侦破一起制造、贩卖...

8 买“低碳房”公积金最高多贷40万

买“低碳房”公积金最高多贷40万 最高贷款额160万 适用于绿色建筑、装配式建筑或超低能耗建...

9 治水兴水惠民生 山西做活“水文章”

在山西省临汾市尧都区的吴村湿地,河水潺潺,候鸟不时掠过水面觅食嬉戏,“水量丰起来”...

10 台湾花莲县海域发生4.5级地震 震源深度23千米

中新网4月8日电 中国地震台网正式测定:4月8日13时09分在台湾花莲县海域(北纬24.23度,东经1...

1 江西南昌一交通事故致3死7伤:初步侦查驾驶员突发心脏不适

中新网南昌4月8日电 (记者 刘力鑫 李韵涵 )8日午间,南昌市公安局交通管理局发布通报称,当...

2 上海记录到野生鸟类527种 2023年新增9种

中新网上海4月8日电 (记者 陈静)记者8日获悉,结合史料文献和近年来野外监测侦查数据,上海...

3 变脸又换声 “外孙”来骗钱

耳听可能为虚 眼见未必是实 变脸又换声“外孙”来骗钱 一位老人接到电话,对方自称是其战...

4 “网吧接纳未成年人即担责”刻深未保法律门线

《未成年人保护法》规定,营业性歌舞娱乐场所、酒吧、互联网上网服务营业场所等不适宜未...

5 法国酿酒师“恋上”新疆葡萄“酿出”中法情缘

四月上旬,新疆北部气温回升,葡萄迎来了开墩季。 近日,在天山北麓玛纳斯县的葡萄园里,...

6 韶关武江安全转移危险区域民众164人

中新网韶关4月8日电 (记者 王坚)粤北韶关近期受持续强降雨天气的影响,山体含水量饱和,该...

7 山东烟台查获一起重大制贩毒案 捣毁制毒工厂两处

中新网烟台4月8日电 (王娇妮 刘丹)记者8日从烟台市公安局获悉,该局近日侦破一起制造、贩卖...

8 买“低碳房”公积金最高多贷40万

买“低碳房”公积金最高多贷40万 最高贷款额160万 适用于绿色建筑、装配式建筑或超低能耗建...

9 治水兴水惠民生 山西做活“水文章”

在山西省临汾市尧都区的吴村湿地,河水潺潺,候鸟不时掠过水面觅食嬉戏,“水量丰起来”...

10 台湾花莲县海域发生4.5级地震 震源深度23千米

中新网4月8日电 中国地震台网正式测定:4月8日13时09分在台湾花莲县海域(北纬24.23度,东经1...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图