当前位置:主页 > 财经 > 经济 > 马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

2023-04-04 10:32:02来源:中国青年报

文章导读
最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的恐慌和对科技伦理的担忧,得到了更多关注。3月27日,《中国青年报》以《GPT-4再燃热点 拷问科技伦理边界》为题对该现象进行了报道。 最新的消息是,当地时间3月29日,美国非营利组织未来生命研究所(Future of Life Institute)发布了一封名为“暂停巨型AI实验”的公开信。上千名人工智能专家和行业高管在信中呼吁,所有人工智能实验室应当暂停对更强大的人工智...

  最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的恐慌和对科技伦理的担忧,得到了更多关注。3月27日,《中国青年报》以《GPT-4再燃热点 拷问科技伦理边界》为题对该现象进行了报道。

  最新的消息是,当地时间3月29日,美国非营利组织未来生命研究所(Future of Life Institute)发布了一封名为“暂停巨型AI实验”的公开信。上千名人工智能专家和行业高管在信中呼吁,所有人工智能实验室应当暂停对更强大的人工智能系统的开发和训练。至少,暂停半年。他们建议,如果不能迅速实施这种暂停,“政府应介入并实行暂停”。

  人工智能对社会和人类的潜在风险,已经成为不少科技人士的共识,其中包括“人工智能教父”杰弗里·辛顿、特斯拉和推特CEO埃隆·马斯克、图灵奖得主约书亚·本希奥。为此,他们在这封公开信上签下了自己的名字。

  “只有当我们能够确信,AI体系的有利因素都是积极的,且风险都可控,一个强大的AI体系才能成熟。”公开信中这样写道。

  实际上,这不是未来生命研究所第一次公开呼吁对人工智能发展的警惕。2014年,这个组织在美国成立,成立的初衷一方面是促进对“未来乐观图景”的研究,一方面则是“降低人类面临的现存风险”。而后者一直是其关注的重点。

  2015年,物理学家斯蒂芬·霍金和埃隆·马斯克等数位科学家、企业家,与人工智能领域有关的投资者,联名发出了一封公开信,融易新媒体,警告人们必须更多地注意人工智能的安全性及其社会效益。

  那时,AI还没有像今天这样,呈现出令人不安的“智能”。但从那时候开始,马斯克就已经表示,他坚信不受控制的人工智能“可能比核武器更危险”。

  8年后,在愈来愈动荡的经济形势中,新一封公开信的签署者们提出疑问:“我们是否应该让机器用宣传和谎言充斥我们的信息渠道?我们是否应该自动化所有工作,包括令人满意的工作?我们是否应该发展最终可能比我们更多、更聪明,淘汰并取代我们的非人类思维?我们应该冒险失去对我们文明的控制吗?”

  欧洲刑警组织3月27日也发出警告,ChatGPT等人工智能聊天机器人很可能被犯罪分子滥用:“大型语言模型检测和重现语言模式的能力,不仅有助于网络钓鱼和在线欺诈,还可以用来冒充特定个人或群体的讲话风格。”他们的创新实验室已经组织了多次研讨会,探讨犯罪分子可能会怎么做,列出了潜在的有害使用方式。

  这些签署者希望,奔向危险的脚步能够“暂停”,先共同开发出一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。AI开发人员也需要与政策制定者合作,开发强大的AI治理系统。

  至少,建立专门负责AI的、有足够准备和能力的监管机构。

免责声明
融易新媒体转载此文目的在于传递更多信息,不代表本网的观点和立场。文章内容仅供参考,不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品,请与我们取得联系,我们会及时修改或删除。
热门文章
日榜 周榜
1 困在投诉里的小哥,怎么“跳”出来?

面对不合理的投诉和差评,不少快递员、外卖骑手、网约车司机等新就业形态劳动者反映,通...

2 马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的...

3 287万人次,13915车! 长三角铁路单日客发量、装车数创新高

记者从中国铁路上海局集团有限公司获悉,4月1日,长三角铁路发送旅客287万人次,创今年以来...

4 AIGC规模风险事件频发 亟须立法保障财富可一连成长

连日来,AIGC(基于人工智能生成内容)规模产生多刮风险事件,激发社会各界高度存眷。 海内法...

5 造车新势力3月份交付后果普涨 海内汽车市场有望加快苏醒

截至4月2日,国内造车新势力陆续公布3月份成绩单。《证券日报》记者注意到,从同在纽交所...

6 湖北省最强“政企购车补贴”满月效果显现 国六A车型销售期或

湖北省史上最大力度汽车“政企补贴”于3月31日落下帷幕。4月1日,记者走访位于湖北省洪山区...

7 工业互联网点亮数字经济 创新激活数据潜能

热力表远程计量检定及故障排查、库存平台提醒动态补货、露天矿场无人驾驶汽车保持安全作...

8 摆脱锂依赖 电池企业押宝钠离子

4月2日,2023中国电动汽车百人会(以下简称“百人会论坛”)上,孚能科技董事长王瑀表示,目前...

9 油电决斗 终局尚远

油电决战,从手握暗箭,到高举明枪,不过百日。 在4月1日召开的中国电动汽车百人会论坛上...

10 太合音乐艺人经纪翻盘遇阻

有着“纯国产”之称的偶像团体MIC男团在近日迎来了16周年,背后公司太合音乐集团(以下简称...

1 困在投诉里的小哥,怎么“跳”出来?

面对不合理的投诉和差评,不少快递员、外卖骑手、网约车司机等新就业形态劳动者反映,通...

2 马斯克等全球千名科技人士联名呼吁暂停更强大的AI开发

最近,有关ChatGPT和人工智能,几乎每天都有新闻。随着更“聪明”的GPT-4发布,人们对技术的...

3 287万人次,13915车! 长三角铁路单日客发量、装车数创新高

记者从中国铁路上海局集团有限公司获悉,4月1日,长三角铁路发送旅客287万人次,创今年以来...

4 AIGC规模风险事件频发 亟须立法保障财富可一连成长

连日来,AIGC(基于人工智能生成内容)规模产生多刮风险事件,激发社会各界高度存眷。 海内法...

5 造车新势力3月份交付后果普涨 海内汽车市场有望加快苏醒

截至4月2日,国内造车新势力陆续公布3月份成绩单。《证券日报》记者注意到,从同在纽交所...

6 湖北省最强“政企购车补贴”满月效果显现 国六A车型销售期或

湖北省史上最大力度汽车“政企补贴”于3月31日落下帷幕。4月1日,记者走访位于湖北省洪山区...

7 工业互联网点亮数字经济 创新激活数据潜能

热力表远程计量检定及故障排查、库存平台提醒动态补货、露天矿场无人驾驶汽车保持安全作...

8 摆脱锂依赖 电池企业押宝钠离子

4月2日,2023中国电动汽车百人会(以下简称“百人会论坛”)上,孚能科技董事长王瑀表示,目前...

9 油电决斗 终局尚远

油电决战,从手握暗箭,到高举明枪,不过百日。 在4月1日召开的中国电动汽车百人会论坛上...

10 太合音乐艺人经纪翻盘遇阻

有着“纯国产”之称的偶像团体MIC男团在近日迎来了16周年,背后公司太合音乐集团(以下简称...

备案号:鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 融易新媒体