当前位置:主页 > 观点 > 商业评论 > 记者侦查AI剧情聊天软件乱象:与孩子聊天的AI人设是“出轨对象”(2)

记者侦查AI剧情聊天软件乱象:与孩子聊天的AI人设是“出轨对象”(2)

2024-12-04 10:35:01来源:法治日报

文章导读
“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。” “我看了孩子和AI聊天的对话内容,AI角色竟然让她叫‘老公’,我10岁的女儿竟然真叫了,我现在都不知道该怎...

  除了聊天内容直白露骨、语言暴力之外,一些AI剧情聊天软件的功能使用也与充值机制密切关联,例如通过充值VIP会员或购买虚拟钻石等,增强智能体的记忆力、加速智能体的回复速度、解锁语音通话功能等,吸引未成年人“氪金”。

  北京初中生小宁在几个AI剧情聊天软件上的充值金额从几百元到上千元不等。

  “一方面想支持自己喜欢的角色,另一方面也想获得更多的付费权益。因为仅购买基础服务的话,用户仅能添加3个智能体,若想尝试新的智能体,必须删除已有的,想多样化体验,只能再购买进阶版VIP服务。”小宁说。

  记者发现,在这类AI剧情聊天软件中,用户创设人物时可以自定义虚拟人物的形象及风格,系统会生成AI人物形象。用户还能创建角色人设,如设置昵称、身份背景、开场语、为角色定制语音,但用户对角色的个性化需求,往往与充值挂钩。

  山东济南居民张岩的妹妹今年上初一,经常使用AI剧情聊天软件,发现一些聊天工具设置了免费使用区间,当用户用完免费聊天次数后,需要充值才可以继续。只有充值,才能解锁更有趣的内容,才能得到不一样的情感体验。

  “花钱买服务的背后,其实是花钱找刺激。”张岩说,尽管聊天软件有青少年模式,但无须实名认证即可登录使用,妹妹在未经父母同意的情况下经常充值消费。

  有业内人士告诉记者,AI剧情聊天其实就是此前的互联网语擦,套上了人工智能的马甲。所谓语擦,即语言cosplay,语擦师通过扮演二次元角色或三次元偶像,以文字交流的形式提供服务。在传统语擦模式中,语擦师由真人扮演,他们一般打着“提供情绪价值”的旗号,扮演不同角色与用户聊天,但也常常因为“打擦边球”“界限模糊”,引发法律与道德风险。AI剧情聊天是传统语擦的升级版,这类软件背后的大语言模型数据主要来源是对话式小说,或从小说里做一些文字提取。

  中国社会科学院大学法学院副教授、互联网法治研究中心主任刘晓春认为,在AI剧情聊天软件中,即便未启动青少年模式,若出现涉及黄色或暴力内容,也是存在问题的;若启用未成年人模式,则问题更为严重。

  担任数十家头部网络公司常年法律顾问的浙江垦丁律师事务所主任张延来分析,目前AI剧情聊天软件存在的问题,既说明了平台在内部治理中存在不足,又凸显了外部监管机制的重要性。

  张延来解释说,AI剧情聊天软件使用的是大模型技术,尽管大模型技术能够带来前所未有的创新性和灵活性,但同时也可能伴随着内容生成上的不可预测性和潜在的问题,需要外部监管机制加以规范。

  在刘晓春看来,强化内容审核是大语言模型上线前的必要环节,涵盖从前端数据训练到内容输出的完整合规调试处理。当前,我国的大语言模型需要进行相应的评估和备案。在此过程中,会对其输出内容的合法合规性以及是否适宜未成年人等问题,提前设定管理规定和评估标准。根据现行规定,在语言模型训练和微调阶段,应避免输出有害内容。

  智能拦截不良信息

  专门团队进行监管

  国家互联网信息办公室近日发布《移动互联网未成年人模式建设指南》,其中重点提出了未成年人模式建设的整体方案,鼓励和支持移动智能终端、应用程序和应用程序分发平台等共同参与。

  在中国政法大学传播法研究中心副主任朱巍看来,上述指南明确指出未成年人模式并非摆设,而是需要多方联动,特别是AI生成的内容,应当与青少年模式相契合。

  受访专家认为,在青少年模式下,如何强化内容审核机制,确保技术能有效筛选不良信息,是一个重要议题。而针对AI剧情聊天软件,特别是其青少年模式,应强化内容审核机制以确保技术能有效筛选并阻止不当对话。此外,平台需要对AI模型进行伦理审查,以保障其生成的内容符合相关法律与法规的要求。

  “在法律层面,虽然已有一些原则性的规定,提供了大致框架,但在究竟实践操作中,还需要开发者和技术服务提供者结合现实生活中遇到的各种问题,不断积累素材和经验,不断摸索,开发出真正符合未成年人需求且安全可靠的AI模型,融易新媒体消息,为未成年人的健康成长提供有力保障。”张延来说,既然AI虚拟人的行为表现是平台设计和管理的结果,那么平台负有监管和优化其AI模型的职责,以防止AI对用户造成伤害,确保AI模型的健康发展与用户权益的充分保护。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 提货预约排不上、客服电话打不通、物流单号查不到 蟹卡无法兑

如何防范蟹卡“套路”,避免蟹卡变“空头支票”?受访专家表示,既要消费者积极维权,也...

2 记者侦查AI剧情聊天软件乱象:与孩子聊天的AI人设是“出轨对象

“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。” “我看了孩子...

3 “传承经典 创新无界”AIIC2024酒业创新与投资大会盛大开幕

中国网财经11月22日讯 22日上午,“传承经典 创新无界”AIIC 2024酒业创新与投资大会在海口正式...

4 电商保持健康发展势头:前10月全国网上零售额达12.4万亿元

今年1-10月,我国电子商务保持健康发展势头,促进消费回升,推动数实融合,助力国际合作走...

5 威孚泰克北京总部入驻大兴榆垡镇,优化营商环境促发展

近日,大兴区榆垡镇迎来重大利好消息,阿联酋科技巨头威孚泰克北京总部正式入驻该镇,标...

6 强生遭曝裁员

强生中国多产品线遭曝裁员。 据媒体报道,这次裁员涉及多个部门,规模为20%,其中外科部门...

7 北京大兴榆垡镇“智能印章”引领公章管理新风尚

数字化革新:榆垡镇打造“智能印章”管理体系 在经济社会快速发展的今天,公章虽小,但其...

8 没必要看不起企业家直播带货

“我永远不会做直播带货……我看不起那些直播带货的企业家”,11月19日开始,连续发声“回...

9 得物App举办“国潮集结”活动:携手100+国潮品牌,助推国潮消费

“国色胭妆铺”中,花西子、谷雨、卡姿兰、橘朵Judydoll、PINK BEAR、稚优泉、法颂、理然等众多...

10 上海迪士尼度假区实名制购票政策12月23日起生效

11月20日,上海迪士尼度假区宣布,为提升游客体验同时积极配合政府打击不法商业活动,上海...

1 提货预约排不上、客服电话打不通、物流单号查不到 蟹卡无法兑

如何防范蟹卡“套路”,避免蟹卡变“空头支票”?受访专家表示,既要消费者积极维权,也...

2 记者侦查AI剧情聊天软件乱象:与孩子聊天的AI人设是“出轨对象

“我女儿上小学二年级,整天沉迷一款AI剧情聊天软件,学习成绩一落千丈。” “我看了孩子...

3 “传承经典 创新无界”AIIC2024酒业创新与投资大会盛大开幕

中国网财经11月22日讯 22日上午,“传承经典 创新无界”AIIC 2024酒业创新与投资大会在海口正式...

4 电商保持健康发展势头:前10月全国网上零售额达12.4万亿元

今年1-10月,我国电子商务保持健康发展势头,促进消费回升,推动数实融合,助力国际合作走...

5 威孚泰克北京总部入驻大兴榆垡镇,优化营商环境促发展

近日,大兴区榆垡镇迎来重大利好消息,阿联酋科技巨头威孚泰克北京总部正式入驻该镇,标...

6 强生遭曝裁员

强生中国多产品线遭曝裁员。 据媒体报道,这次裁员涉及多个部门,规模为20%,其中外科部门...

7 北京大兴榆垡镇“智能印章”引领公章管理新风尚

数字化革新:榆垡镇打造“智能印章”管理体系 在经济社会快速发展的今天,公章虽小,但其...

8 没必要看不起企业家直播带货

“我永远不会做直播带货……我看不起那些直播带货的企业家”,11月19日开始,连续发声“回...

9 得物App举办“国潮集结”活动:携手100+国潮品牌,助推国潮消费

“国色胭妆铺”中,花西子、谷雨、卡姿兰、橘朵Judydoll、PINK BEAR、稚优泉、法颂、理然等众多...

10 上海迪士尼度假区实名制购票政策12月23日起生效

11月20日,上海迪士尼度假区宣布,为提升游客体验同时积极配合政府打击不法商业活动,上海...

备案号:鄂ICP备2022006215号 Copyright © 2002-2024 关于我们 网站地图