当人工智能聊天机器人被犯罪分子盯上
“她”的甜言蜜语就是陷阱
当下,以ChatGPT为代表的生成式人工智能类应用火热,有人看到科技方向、有人发掘乐趣、有人寻觅商业价值,但由此带来的风险也不容忽视,你能想到吗?它的“甜言蜜语”轻松就让人坠入爱河。
更隐蔽 让你坠入爱河的是“机器人”
AI合成声音、AI一键换脸已不是新鲜事,这些手段从形式上为诈骗类犯罪提供了“外观化”的作案工具,而ChatGPT等自动生成类应用则可以利用强大的语言库、信息检索、数据处理能力,从内容上提供具备思考能力的输出工具,使得诈骗类犯罪更加隐蔽。
以当前盛行的网络情感诈骗类犯罪来说,哪怕是“大汉”冒充“美女”,也还是需要一个人在网络另一端操作、实施诈骗,犯罪分子会用基本成型的“话术”,揣测被害人心理,一步步引诱对方上当。但随着ChatGPT的发展,诈骗团伙完全有可能只依赖“程序”进行诈骗。大数据可以分析出被害人的偏好,以“婚骗”为例,可以摸清当事人的喜好,如喜欢成熟稳重的,还是幽默风趣的,ChatGPT可以根据聊天上下文进行互动,生成的内容看上去真实性很强,它甚至可以生成完整的、“投其所好”的诈骗套路话术,比真人回应更能使被害人相信遇到了“真爱”。
今年2月,一家安全技术公司用AI生成过一封情书,并将它发送给全球5000位用户。结果显示,在已知这封情书有可能是由人工智能生成之后,依旧有33%的受访者愿意相信这些情话出自人类手笔,而坚信情书由AI创作的受访者占比仅为31%,其余36%的参与者则表示无法区分情书的创作者到底是人还是机器。从这些情况可以看出,在AI技术加入下,骗子们正变得比以往任何时候都更容易得逞。
要警惕 部分程序是假的 纯属骗钱
调研发现,生成式人工智能还会引发其他多种犯罪。例如目前在相关平台、软件中搜索,会出现众多名称中包含“ChatGPT”字样的微信公众号、小程序、网页、手机应用等,这些小程序或网页等,通过吸引用户点击链接或下载使用,误导用户填写个人信息甚至进行付费,存在损害用户财产利益的风险,涉嫌诈骗罪;此外,也有以投资生成式人工智能类应用等新技术为名吸收资金的违法犯罪行为。
有一种“山寨”版APP从名称到头像均照搬ChatGPT,并声称能够提供与ChatGPT类似的智能问答服务。它们有的只是提供中转通道,有的则是挂羊头卖狗肉,与ChatGPT毫不相干。这类APP的服务方式是先免费试用,融易新媒体,一旦免费次数用完,就开始收取费用,最高达上千元,还有的APP在安装时就留下“后门”,以便窃取用户信息。
ChatGPT能根据犯罪分子的要求编写、修改邮件的内容,并应用到犯罪活动中。使用ChatGPT编写网络钓鱼邮件,能简化诈骗过程,将导致网络钓鱼攻击的频率整体上升。
犯罪分子还会通过ChatGPT钓鱼链接传播病毒。目前,研究人员已经发现犯罪分子使用ChatGPT创建了一个完整的感染链:与广撒网式的网络钓鱼攻击不同,这种模式会生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更有欺骗性和迷惑性,接收者一旦点击,系统就会被恶意代码感染中毒。
ChatGPT等生成式人工智能类应用是对海量互联网信息的加工整合,往往造成信息真伪不明、道德边界感模糊。当前,互联网上发布的爆料、网评,甚至谣言,均可作为生成式人工智能类应用的整合资源,且生成内容以“检索结果”展示,易让用户误认为“标准答案”。若用户不加甄别地使用、盲目引用未经核实的信息,可能涉嫌侮辱、诽谤、侵犯公民个人信息等犯罪,并不因信息来源于互联网而不承担刑事责任。
分析 提供者要承担三大责任
今年4月11日,国家网信办发布了《关于〈生成式人工智能服务管理办法(征求意见稿)〉》(以下简称《意见稿》),着手从立法的角度规范我国生成式人工智能的发展。《意见稿》明确并强化了“提供者责任”。根据《意见稿》相关规定及相似事例,生成式人工智能的提供者要承担三大责任。
首先,提供者应承担信息源责任。内容提供者要确保信息源可信,包括数据安全、个人信息保护、知识产权等方面,从源头处保证信息来源合法合规。但是,面对海量的数据,如何进行信息过滤和筛选,尚需要可行性方案,以便提供者能够更好地把握信息来源。
中新网乌鲁木齐6月14日电 (陶拴科)新疆东天山深处,江布拉克草原上,被牧民称为“货郎”的...
2 当聊天机器人被犯罪分子盯上 “她”的甜言蜜语就是陷阱当人工智能聊天机器人被犯罪分子盯上 “她”的甜言蜜语就是陷阱 当下,以ChatGPT为代表的生...
3 上海逐日临床用血量约1500袋 号令更多爱心人士无偿献血中新网上海6月14日电(陈静 诸广宇 古琬婷 )上海市血液中心方面14日披露,对于上海这座超大型...
4 内蒙古赤峰一店铺发生燃气泄漏闪爆事故 致2死4伤中新网6月14日电 据“松山应急管理”微信公众号消息,6月14日上午8时20分许,赤峰市松山区玉...
5 中小企业协会副会长梁涛:“‘援青’是一件很有意义的事 我们中新网北京6月14日电(宫宏宇) “可以或许参加到‘玉树藏族青少年北京行’中,自己就是一个...
6 盐池湾人物群像:廉价白唇鹿生长相册,想让更多人相识它中新网兰州6月14日电 (刘潇)“我小的时候,听老人说,盐池湾乡以前时不时就会看到白唇鹿,...
7 广东逾200个镇街遭遇暴雨 广州一地降雨超200毫米中新网广州6月14日电 (王坚 梁巧倩)广东省气象局14日消息,13日白天到14日早晨,该省大部市县...
8 四川内江通报城管与摊贩发生冲突:6人被停职处理中新网6月14日电 据“掌上东兴”发布消息,针对6月13日晚东兴区城管与摊贩发生冲突一事,内...
9 利息低、无抵押、放款快?这类公司骗你“服务费”没商量家住黑龙江双鸭山的韩密斯策划着一家工场,2020年秋天,工场资金周转坚苦。韩密斯四处凑钱...
10 陌头琴声通报暖和 让都市成为每小我私家的精力故里热评丨街头琴声传递温暖 让城市成为每个人的精神家园 不久前,一名戴着安全帽、穿着工装的...
中新网乌鲁木齐6月14日电 (陶拴科)新疆东天山深处,江布拉克草原上,被牧民称为“货郎”的...
2 当聊天机器人被犯罪分子盯上 “她”的甜言蜜语就是陷阱当人工智能聊天机器人被犯罪分子盯上 “她”的甜言蜜语就是陷阱 当下,以ChatGPT为代表的生...
3 上海逐日临床用血量约1500袋 号令更多爱心人士无偿献血中新网上海6月14日电(陈静 诸广宇 古琬婷 )上海市血液中心方面14日披露,对于上海这座超大型...
4 内蒙古赤峰一店铺发生燃气泄漏闪爆事故 致2死4伤中新网6月14日电 据“松山应急管理”微信公众号消息,6月14日上午8时20分许,赤峰市松山区玉...
5 中小企业协会副会长梁涛:“‘援青’是一件很有意义的事 我们中新网北京6月14日电(宫宏宇) “可以或许参加到‘玉树藏族青少年北京行’中,自己就是一个...
6 盐池湾人物群像:廉价白唇鹿生长相册,想让更多人相识它中新网兰州6月14日电 (刘潇)“我小的时候,听老人说,盐池湾乡以前时不时就会看到白唇鹿,...
7 广东逾200个镇街遭遇暴雨 广州一地降雨超200毫米中新网广州6月14日电 (王坚 梁巧倩)广东省气象局14日消息,13日白天到14日早晨,该省大部市县...
8 四川内江通报城管与摊贩发生冲突:6人被停职处理中新网6月14日电 据“掌上东兴”发布消息,针对6月13日晚东兴区城管与摊贩发生冲突一事,内...
9 利息低、无抵押、放款快?这类公司骗你“服务费”没商量家住黑龙江双鸭山的韩密斯策划着一家工场,2020年秋天,工场资金周转坚苦。韩密斯四处凑钱...
10 陌头琴声通报暖和 让都市成为每小我私家的精力故里热评丨街头琴声传递温暖 让城市成为每个人的精神家园 不久前,一名戴着安全帽、穿着工装的...
备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 融易新媒体