当前位置:主页 > 观点 > 经济评论 > 部分AI系统已学会欺骗人类 甚至能瞒过安全测试

部分AI系统已学会欺骗人类 甚至能瞒过安全测试

2024-05-11 19:09:13来源:互联网

文章导读
有些人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、表现出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中,研究人员描述了欺骗性AI的风险,并呼吁政府制定强有力的...

  有些人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、“表现”出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中,研究人员描述了欺骗性AI的风险,并呼吁政府制定强有力的法规尽快解决这个问题。

  论文第一作者、美国麻省理工学院人工智能安全研究员彼得·朴说,开发人员对导致AI出现欺骗这种不良行为的原因,还没有很好的理解。但总的来说,融易新媒体消息,AI欺骗之所以出现,是因为基于欺骗的策略,是在给定的AI训练任务中一种能得到良好反馈的方式,换句话说,欺骗可帮助AI实现目标。

  研究人员分析了文献,重点关注AI系统传播虚假信息的方式。通过欺骗,AI系统地学习了如何去操纵他人。

  研究人员在分析中发现的最引人注目的例子是Meta公司的CICERO。这是一个专注于《外交》游戏的AI系统,《外交》是一款涉及建立联盟征服世界的游戏。Meta声称训练 CICERO “在很大程度上是诚实和乐于助人的 ”,且在玩游戏时“从不故意背刺 ”人类盟友。但该公司与《科学》论文一起发布的数据显示,CICERO并不那么“忠厚”。

  研究人员发现这款AI或已成为欺骗大师。虽然Meta成功地训练其在《外交》游戏中获胜,但Meta未能训练它诚实地获胜。

  AI系统在游戏中作弊看似无害,但它将导致欺骗性AI在能力上出现突破,未来可能会演变成更高级的欺骗形式。一些AI系统甚至学会了欺骗旨在评估其安全性的测试。在一项研究中,数字模拟器中的AI生物会“装死”,以骗过旨在消除快速复制AI系统的重要测试。

  人类需要尽快对未来AI和开源模型的更高级欺骗技能作好准备。随着它们的欺骗能力越来越先进,其对社会构成的危险将变得越来越严重。如文中所称,它们会顺利通过人类开发人员和监管机构强加的安全测试,引导人类进入一种“虚假的安全感”。如果欺骗性AI进一步完善这种令人不安的技能,人类可能会完全失去对它们的控制。


免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 空气炸锅与洗地机分化 生活电器去年“优等生”还有多少

2023年,厨房小家电与清洁电器继续从优等生座位上滑落。空气炸锅冰火两重天,利仁科技、爱...

2 部分AI系统已学会欺骗人类 甚至能瞒过安全测试

有些人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、表现出有用且诚实的系统。10日...

3 【摄氏零度】锚定新一轮以旧换新(上):读懂政策关键信息

2024年4月,商务部联合14部门印发《推动消费品以旧换新行动方案》(下称行动方案),该行动方...

4 【摄氏零度】锚定新一轮以旧换新(下):市场“活水”效果初

各地 以旧换新政策的陆续出台,正在为家电市场注入新活力。五一假期,苏宁易购发布的销售...

5 董明珠谈质量创新:以人民美好生活为最终目标

在追求商业成功的道路上,质量一直是企业不可或缺的核心要素。然而,在2023年度国际质量创...

6 营收、净利接连下滑 帅丰电器如何适应“新常态”

5月9日,北京商报记者注意到开源证券对帅丰电器给予买入评级,原因是看好该公司的渠道变革...

7 眼部按摩仪渐成气候,行业发展令人期待

在数字时代,人们的生活每天都遭各种各样的电子产品环绕着,这些产品带来更智能、更便捷...

8 海外市场高质量布局 家电企业业绩再创新高

近日,家电企业亮出2023年和2024年第一季度成绩单。美的集团、海尔智家、格力电器、海信家电...

9 以旧换新高峰期将至,废旧家电如何重获新生

近期,各地纷纷出台消费品以旧换新政策,释放出更多换新补贴利好消息,汽车、家电的更新...

10 “去地产化”显著,年初以来累涨50%家电板块迎来“新春天”?

持续上涨的风似乎刮到家电板块了。 今年以来,港股市场行业轮动明显加快,除了AI、智能驾...

1 空气炸锅与洗地机分化 生活电器去年“优等生”还有多少

2023年,厨房小家电与清洁电器继续从优等生座位上滑落。空气炸锅冰火两重天,利仁科技、爱...

2 部分AI系统已学会欺骗人类 甚至能瞒过安全测试

有些人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、表现出有用且诚实的系统。10日...

3 【摄氏零度】锚定新一轮以旧换新(上):读懂政策关键信息

2024年4月,商务部联合14部门印发《推动消费品以旧换新行动方案》(下称行动方案),该行动方...

4 【摄氏零度】锚定新一轮以旧换新(下):市场“活水”效果初

各地 以旧换新政策的陆续出台,正在为家电市场注入新活力。五一假期,苏宁易购发布的销售...

5 董明珠谈质量创新:以人民美好生活为最终目标

在追求商业成功的道路上,质量一直是企业不可或缺的核心要素。然而,在2023年度国际质量创...

6 营收、净利接连下滑 帅丰电器如何适应“新常态”

5月9日,北京商报记者注意到开源证券对帅丰电器给予买入评级,原因是看好该公司的渠道变革...

7 眼部按摩仪渐成气候,行业发展令人期待

在数字时代,人们的生活每天都遭各种各样的电子产品环绕着,这些产品带来更智能、更便捷...

8 海外市场高质量布局 家电企业业绩再创新高

近日,家电企业亮出2023年和2024年第一季度成绩单。美的集团、海尔智家、格力电器、海信家电...

9 以旧换新高峰期将至,废旧家电如何重获新生

近期,各地纷纷出台消费品以旧换新政策,释放出更多换新补贴利好消息,汽车、家电的更新...

10 “去地产化”显著,年初以来累涨50%家电板块迎来“新春天”?

持续上涨的风似乎刮到家电板块了。 今年以来,港股市场行业轮动明显加快,除了AI、智能驾...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 网站地图