当前位置:主页 > 科技 > 互联网 > 三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司划红线

三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司划红线

2022-12-19 11:10:02来源:界面新闻

文章导读
12月11日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。 深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型,如今大热的AI作画、AI创作、AI换脸以及虚拟人制作等,都属于深度合成技术支持下的应用。 12月12日发布的《答记者问》提到,《规定》出台主要基于多个方面考虑,一是深入贯彻落实党中央决策部署,进一步加强...

12月11日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》(以下简称《规定》),自2023年1月10日起施行。

深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型,如今大热的AI作画、AI创作、AI换脸以及虚拟人制作等,都属于深度合成技术支持下的应用。

12月12日发布的《答记者问》提到,《规定》出台主要基于多个方面考虑,一是深入贯彻落实党中央决策部署,进一步加强对新技术新应用新业态的管理;二是维护网络空间良好生态,避免影响传播秩序和社会秩序,损害人民群众合法权益,危害国家安全和社会稳定。三是促进深度合成服务规范发展,明确各类主体的信息安全义务。

对于深度合成技术的监管,此前在《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等法规中均有提及,而《规定》则对深度合成内容更有针对性地进行规制,标志着监管部门针对互联网信息内容监管版图的进一步细化。

“和之前相对碎片化的法规相比,新规的针对性非常强,且全链条管理。”世辉律师事务所合伙人王新锐对界面新闻记者表示,《规定》通过一系列的管理制度要求来管控深度合成带来的风险。

深度合成服务提供者主体责任被明确规定

《规定》对深度合成服务提供者主体责任进行了明确规定。《规定》强调,任何人或组织不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,或从事法律、行政法规禁止的活动。

《规定》同时要求,深度合成服务者需要采取技术或者人工方式对输入数据和合成结果进行审核,管理深度合成内容,并建立辟谣机制,并且建立健全用户注册、算法机制机理审核、科技伦理审查、信息发布审核、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度。

“目前来看,对于提供深度合成服务的创业公司来说影响较大,因为新规明显抬高了合规要求和合规成本。”世辉律师事务所合伙人王新锐表示。

一位人工智能行业人士对界面新闻记者称,《规定》虽然目前只做了相对宽泛的限制,但是至少未来有不法分子利用AI从事不法行为时能够有依据可以引用。

在具体的项目中,该人士提及,为满足合规要求,项目可能需要进一步调试各类图像/文字生成模型,保证模型不会输出暴恐色情内容、不会被人利用制作虚假图像(换脸)等。

另外, 对于新规所强调的“具有舆论属性或者社会动员能力的深度合成服务提供者,应当按照《互联网信息服务算法推荐管理规定》履行备案和变更、注销备案手续。”

王新锐律师提到,之前完成了算法备案的公司,大多数为大型互联网公司。在为这些企业提供算法备案的相关协助中,也感受到监管的要求较高,企业需要有比较完善的内控机制,才能满足相关文件要求。

使用人脸等生物特征信息需征求同意

此次《规定》对深度合成服务提供者和技术支持者提出了明确的数据和技术管理规范。其中包括,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。

清华大学公共管理学院教授、人工智能国际治理研究院副院长梁正向界面新闻记者分析,上述条例实际上是遵循了《个人信息保护法》,明确了在深度合成技术场景中的隐私保护。比如在AI换脸应用中,《规定》出台之后,未经他人同意情况下,使用他人照片进行AI换脸内容制作将是违规行为。

梁正还提及,在上述条例支持下,人工智能模型的训练不能随意使用未经同意的人脸、声音等带有生物特征的数据。

在以往,许多人工智能模型的训练通常会经历“全网爬取数据”的阶段,许多个人公布在公共社交媒体的照片、视频可能会在不被告知的情况下被机器学习,成为某个模型的养料。《规定》中对于人脸、声音等生物特征信息的使用提出明确的前提条件,一定程度上可以解决这个问题。

需对深度合成内容进行标识

对深度合成服务提供者和技术支持者的数据和技术管理规范,本质上是为了防范日益增长且无法预料的风险。

当下深度合成内容制作的技术门槛越来越低,普通人仅需少量的图像、视频、音频等样本数据,利用简便易用的合成工具,就能模糊真实和虚拟(虚假)的边界,甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。

免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 继美股之后,港股新增亚洲首个加密货币期货ETF敞口

记者 | 司林威 香港在 加密货币 方面再进一步 。 12 月 13 日 ,南方东英资产管理有限公司 宣...

2 三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司

12月11日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合...

3 币安单日净流出约11.4亿美元资产,赵长鹏称欢迎“压力测试”

全球最大加密交易平台币安遭遇了小规模的提款潮 。 12 月 13 日 , 币安 创始人 赵长鹏 (CZ)...

4 异地抢购布洛芬冲上热搜,多地政府、平台方已做出反应

近日,面对各大城市都抢不到“爆款药”的情况,有部分用户在社交平台分享了从偏远地区药...

5 京东调集1000余名快递员支援北京,生鲜电商、外卖等平台多办法

近日,随着居家人数增多、线上订单激增,北京多家生鲜电商及外卖平台均面临着运力紧张的...

6 配送无接触、健康有保障,美团配送多举措强化疫情防护屏障

“外卖放门口,我一会儿去拿,贫苦啦。”“您看到我门口挂的那块牌子没?外卖放牌子下面...

7 从1万人飙升至2万人,亚马逊裁员人数居硅谷大厂之首

上月,美国科技界发生了史无前例的裁员潮,仅亚马逊、 Meta 和推特三家大厂的裁员总数就有...

8 苹果向你“征税”的时代,要结束了?

文 | 虎嗅科技组 丸都山 在App Store正式上线的14年后,苹果生态系统引以为傲的“围墙”似乎即...

9 净利润年增10倍,但过于依赖头部供应商,蕊源科技拟创业板募

近日,成都蕊源半导体科技股份有限公司(简称“蕊源科技”)回复了深交所第2轮审核问询,...

10 FTX创始人SBF被巴哈马警方逮捕,或被引渡至美国

记者 | 司林威 崩溃的加密巨头FTX的创始人 SamBankman-Fried(SBF) 迎来大麻烦。 12 月 13 日 , 据...

1 继美股之后,港股新增亚洲首个加密货币期货ETF敞口

记者 | 司林威 香港在 加密货币 方面再进一步 。 12 月 13 日 ,南方东英资产管理有限公司 宣...

2 三部门发布“深度合成”技术新规,为元宇宙、人脸合成等公司

12月11日,国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合...

3 币安单日净流出约11.4亿美元资产,赵长鹏称欢迎“压力测试”

全球最大加密交易平台币安遭遇了小规模的提款潮 。 12 月 13 日 , 币安 创始人 赵长鹏 (CZ)...

4 异地抢购布洛芬冲上热搜,多地政府、平台方已做出反应

近日,面对各大城市都抢不到“爆款药”的情况,有部分用户在社交平台分享了从偏远地区药...

5 京东调集1000余名快递员支援北京,生鲜电商、外卖等平台多办法

近日,随着居家人数增多、线上订单激增,北京多家生鲜电商及外卖平台均面临着运力紧张的...

6 配送无接触、健康有保障,美团配送多举措强化疫情防护屏障

“外卖放门口,我一会儿去拿,贫苦啦。”“您看到我门口挂的那块牌子没?外卖放牌子下面...

7 从1万人飙升至2万人,亚马逊裁员人数居硅谷大厂之首

上月,美国科技界发生了史无前例的裁员潮,仅亚马逊、 Meta 和推特三家大厂的裁员总数就有...

8 苹果向你“征税”的时代,要结束了?

文 | 虎嗅科技组 丸都山 在App Store正式上线的14年后,苹果生态系统引以为傲的“围墙”似乎即...

9 净利润年增10倍,但过于依赖头部供应商,蕊源科技拟创业板募

近日,成都蕊源半导体科技股份有限公司(简称“蕊源科技”)回复了深交所第2轮审核问询,...

10 FTX创始人SBF被巴哈马警方逮捕,或被引渡至美国

记者 | 司林威 崩溃的加密巨头FTX的创始人 SamBankman-Fried(SBF) 迎来大麻烦。 12 月 13 日 , 据...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 融易新媒体