当前位置:主页 > 财经 > 理财 > 看似“人工智能”实则人为陷阱,央媒揭AI诈骗新套路(2)

看似“人工智能”实则人为陷阱,央媒揭AI诈骗新套路(2)

2024-03-20 03:39:16来源:新华每日电讯

文章导读
号称可提供ChatGPT服务,实际是冒牌AI;视频电话中熟悉的“亲友”,是非法分子AI换脸模拟而成;为博取流量,用AI技术编造虚假谣言,流量变“流毒”…… 随着人工智能的发展迭代,生成式AI正以前所未有的速度重塑着日常生活,但由此衍生出的新骗局、新套路也在刷新人们对风险防范的认知。这背后不仅关乎广大消费者的财产安全,还潜藏着人身安全风险和隐患。记者梳理近期管理部门查办的AI相关案件,揭开人工智能“圈套”背后的真相。 9块9使用...

  从消费者角度出发,沈福俊建议提升全民个人信息保护意识,警惕隐私泄露。“不管是在互联网上还是社交软件上,尽量避免过多地暴露自己的信息,在涉及转账交易等行为时,可以多角度询问身份信息,反复验证对方是否为本人。”

  谨防“AI造谣”,小心“流量”变“流毒”

  当前AIGC技术已在文本生成、图片创作等方面广泛应用,输入几个关键词即可由AI快速生成一张画或一篇文章。但一些用户为博眼球、蹭热度,却将人工智能技术用以编“伪消息”,造“假通报”。

  2023年6月,一条名为《浙江工业园现大火浓烟滚滚,目击者称有爆炸声!》的视频在网络上流传,引发网友关注。后经相关部门核实为谣言。据侦查,当事人为给自己账号涨粉引流,获取更多利益,通过不法渠道购买了AI视频生成软件。该当事人将网络热门话题通过AI自动生成视频产品,并上传至多个热门视频平台。

  截至案发,相关当事人发布的虚假视频多达20余条,涉及浙江、湖南、上海、四川等多个省市,累计阅读观看量超过167万次。目前浙江绍兴上虞法院已开庭审理并当庭宣判了这起案件,两名遭告均遭判处有期徒刑。

  但“AI谣言”仍时有发生。2024年1月,广西东兴市骆某某为博取流量,将其他地区的抗洪、救灾视频,经AI软件自动编辑,编造新疆乌什县发生地震的虚假视频信息。同年1月,四川一网民在某平台发布“贵州女婴遭弃”的谣言文章。经侦查,该涉谣文章由AI系统生成并发布,相关言论及照片均为不实信息。

  技术的普及带动自媒体产业的繁荣。但一些网民为获取流量不惜利用技术手段编造生成虚假视频,让“AI谣言”在网络上传播,不仅给网络安全带来严峻挑战,也严重扰乱社会秩序。

  2023年,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定,对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形,依法从重处罚。

  对此,沈福俊等多位专家表示,一方面,要提高广大自媒体经营者的法律意识,从源头减少此类“AI谣言”的产生;另一方面,监管部门也要加强相关案件的宣传推广,提高网民对“AI谣言”的鉴别力。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 多家企业开展金融消费者权益保护系列活动

本报北京3月13日电 (记者杨召奎)为响应2024年“3·15”金融消费者权益保护教育宣传活动,多家...

2 看似“人工智能”实则人为陷阱,央媒揭AI诈骗新套路

号称可提供ChatGPT服务,实际是冒牌AI;视频电话中熟悉的“亲友”,是非法分子AI换脸模拟而成...

3 预付式消费退费难维权难,难在哪儿

近年来,预付消费模式已在教育培训、美容健身、餐饮旅游等行业广泛存在,因各种原因导致...

4 山东启动“3·15”金融消保宣传活动,八大特色助力知识普及

3月11日上午,国家金融监督管理总局山东监管局(下称山东监管局)召开“3·15”金融消费者权...

5 青海省开展金融消费者权益保护教育宣传活动

为进一步做好2024年“3·15”宣传服务活动,切实保护消费者权益,围绕金融消费领域热点问题...

6 国家金融监督管理总局山东监管局:六大举措保障金融消费者权

央广网济南3月12日消息(记者程立龙 实习生田高旭)日前,国家金融监督管理总局山东监管局(以...

7 又到一年一度“315”,内蒙古、山东两地监管局同日提示金融消

财联社3月11日讯(记者彭科峰)一年一度的“315”即将来临,各地金融监管部门也开始紧锣密...

8 “52000现金花束”竟成洗钱手法,相关部门不妨“以案说法”

当浪漫的方式嫁接了新型洗钱,造成了反洗钱的“灯下黑”,我们必须高度谨防,同时加强宣...

9 石家庄公积金如何提取 这些事项都要了解清楚

公积金是很多人拥有的待遇福利,让大家贷款买房更划算,而公积金怎么提取,这是最近粉丝...

10 商业保险报销需要什么材料 这些资料你都有吗

保险区分种类的,而商业保险就是其中的一种,这是以营利为目的的保险形式,由专门的保险...

1 多家企业开展金融消费者权益保护系列活动

本报北京3月13日电 (记者杨召奎)为响应2024年“3·15”金融消费者权益保护教育宣传活动,多家...

2 看似“人工智能”实则人为陷阱,央媒揭AI诈骗新套路

号称可提供ChatGPT服务,实际是冒牌AI;视频电话中熟悉的“亲友”,是非法分子AI换脸模拟而成...

3 预付式消费退费难维权难,难在哪儿

近年来,预付消费模式已在教育培训、美容健身、餐饮旅游等行业广泛存在,因各种原因导致...

4 山东启动“3·15”金融消保宣传活动,八大特色助力知识普及

3月11日上午,国家金融监督管理总局山东监管局(下称山东监管局)召开“3·15”金融消费者权...

5 青海省开展金融消费者权益保护教育宣传活动

为进一步做好2024年“3·15”宣传服务活动,切实保护消费者权益,围绕金融消费领域热点问题...

6 国家金融监督管理总局山东监管局:六大举措保障金融消费者权

央广网济南3月12日消息(记者程立龙 实习生田高旭)日前,国家金融监督管理总局山东监管局(以...

7 又到一年一度“315”,内蒙古、山东两地监管局同日提示金融消

财联社3月11日讯(记者彭科峰)一年一度的“315”即将来临,各地金融监管部门也开始紧锣密...

8 “52000现金花束”竟成洗钱手法,相关部门不妨“以案说法”

当浪漫的方式嫁接了新型洗钱,造成了反洗钱的“灯下黑”,我们必须高度谨防,同时加强宣...

9 石家庄公积金如何提取 这些事项都要了解清楚

公积金是很多人拥有的待遇福利,让大家贷款买房更划算,而公积金怎么提取,这是最近粉丝...

10 商业保险报销需要什么材料 这些资料你都有吗

保险区分种类的,而商业保险就是其中的一种,这是以营利为目的的保险形式,由专门的保险...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图