当前位置：主页 > 观点 > 经济评论 > OpenAI：超智能AI或在这个十年出现，将加大资源应对

OpenAI：超智能AI或在这个十年出现，将加大资源应对

2023-07-06 20:11:01来源：新媒体

文章导读
北京时间7月6日早间消息，当地时间周三，ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队，研究如何确保AI对人类的安全性，最终实现用AI来监督AI。 OpenAI联合创始人伊利亚苏茨凯弗(Ilya Sutskever)和AI对齐负责人简莱克(Jan Leike)在官方博客中表示：超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能AI，并防止其变成无赖。 这篇博文预测，超智能AI，即相比于人类更智能的系统，可...

　　北京时间7月6日早间消息，融易新媒体，当地时间周三，ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队，研究如何确保AI对人类的安全性，最终实现用AI来监督AI。

　　OpenAI联合创始人伊利亚·苏茨凯弗(Ilya Sutskever)和AI对齐负责人简·莱克(Jan Leike)在官方博客中表示：“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前，我们还没有解决方案来操纵或控制一个可能的超智能AI，并防止其变成无赖。”

　　这篇博文预测，超智能AI，即相比于人类更智能的系统，可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI，因此需要在“AI对齐研究”方面取得突破，确保人AI对人类持续有益。AI对齐是AI控制中的主要问题，即要求AI的目标和人类的价值观与意图保持一致。

　　作者写道，OpenAI将在未来4年内，将算力的20%专门用于解决这方面问题。此外，该公司将组建新的“超对齐”团队来组织这方面的工作。

　　该团队的目标是开发达到“人类水平”，由AI驱动的对齐研究员，随后通过庞大的算力推动其发展。OpenAI表示，这意味着将使用人工反馈来训练AI系统，通过训练AI系统来协助人工评估，最终训练AI系统来进行实际的对齐研究。

　　不过，人工智能安全的倡导者康纳·莱希(Connor Leahy)表示，OpenAI的计划存在根本性缺陷，因为最初的人类水平AI可能会失控并造成严重破坏，而这将迫使研究者去解决AI安全问题。他在接受采访时表示：“在构建人类水平的智能之前，必须先解决对齐问题，否则默认情况下你无法控制它。我个人认为这不是个特别好的、安全的计划。”

　　AI的潜在危险一直是AI研究员和公众最关心的问题。今年4月，一群AI行业领袖和专家签署公开信，呼吁暂停6个月开发比OpenAI的GPT-4更强大的系统，原因是对社会存在潜在风险。益普索今年5月的调查发现，超过2/3的美国人担心AI可能产生的负面影响，61%的人认为AI可能威胁人类文明。

免责声明
融易新媒体转载此文目的在于传递更多信息，不代表本网的观点和立场。文章内容仅供参考，不构成投资建议。如果您发现网站上有侵犯您的知识产权的作品，请与我们取得联系，我们会及时修改或删除。
上一篇：索尼，隐藏在幕后的显示新贵？
返回首页 返回栏目
下一篇：欧洲“新电池法”通过，手机电池重回成果机时代？
头条资讯
欧洲“新电池法”通过，手机电池重回成果机时代？
OpenAI：超智能AI或在这个十年出现，将加大资源应对 索尼，隐藏在幕后的显示新贵？ 一加手机“没节气”：从不迁就到不考究，只求销量丢了口碑
总投资51.5亿元，韩国大尺寸液晶显示模组项目拟落户湖南岳阳
清洁电器成家电行业新增长点 市场空间广 家用美容仪，在海外弯道超车 厨房小家电市场复苏脚步缓慢，消费市场
国产电视迎来新一轮涨价潮！康佳、长虹等宣布电视价格上调
张近东与海信集团董事长贾少谦会面，共探家电行业新机遇 炎炎夏日，你还在用冰箱制作冰块吗？教你如何挑选家用制冰机 华嵘控股跨界重组遭监管问询：是否有利于增强上市公司持续经
近期热点
热门文章
日榜 周榜
1 欧洲“新电池法”通过，手机电池重回成果机时代？

迫使苹果舍弃独有的 Lightning充电接口，转为统一的USB-C后，欧洲针对于智能手机又做出了新的...

 2 OpenAI：超智能AI或在这个十年出现，将加大资源应对

北京时间7月6日早间消息，当地时间周三，ChatGPT的开发者OpenAI表示计划投入更多资源并成立新...

 3 索尼，隐藏在幕后的显示新贵？

苹果MR设备Vision Pro的两块Micro OLED屏幕，将索尼从幕后推到了台前。这家在全球显示行业几乎没...

 4 一加手机“没节气”：从不迁就到不考究，只求销量丢了口碑

一加，曾是小而美手机的代名词，也是中国手机品牌在海外高端市场的代表之一。 但随着202...

 5 总投资51.5亿元，韩国大尺寸液晶显示模组项目拟落户湖南岳阳

近日，LG和三星30年来的主要合作伙伴韩国OSTech株式会社会长全宁植一行赴湖南城陵矶新港区考...

 6 梅雨季催生“梅雨经济” 除湿产品迎来销售旺季

虽然雨水在昨日按下暂停键，阳光也开始回归，但对于时不时出现的雨水，梅雨季带来的烦恼...

 7 清洁电器成家电行业新增长点 市场空间广阔

近年来，清洁电器市场快速崛起，成为家电行业的新增长点和消费的新热点。市场研究机构G...

 8 家用美容仪，在海外弯道超车

George C，这个曾经是演员的61岁外国男性，在AMIRO的官网上留下这样的评语：为了保持年轻，我...

 9 厨房小家电市场复苏脚步缓慢，消费市场逐渐回归理性

据奥维云网(AVC)综合渠道监测数据显示，2023年618厨房小家电品类(电饭煲、电磁炉、电压力锅、...

 10 国产电视迎来新一轮涨价潮！康佳、长虹等宣布电视价格上调

上游成本压力的倒推下，现如今国产电视领域掀起了涨价潮，包括康佳、TCL以及长虹等主流彩...
1 欧洲“新电池法”通过，手机电池重回成果机时代？

迫使苹果舍弃独有的 Lightning充电接口，转为统一的USB-C后，欧洲针对于智能手机又做出了新的...

 2 OpenAI：超智能AI或在这个十年出现，将加大资源应对

北京时间7月6日早间消息，当地时间周三，ChatGPT的开发者OpenAI表示计划投入更多资源并成立新...

 3 索尼，隐藏在幕后的显示新贵？

苹果MR设备Vision Pro的两块Micro OLED屏幕，将索尼从幕后推到了台前。这家在全球显示行业几乎没...

 4 一加手机“没节气”：从不迁就到不考究，只求销量丢了口碑

一加，曾是小而美手机的代名词，也是中国手机品牌在海外高端市场的代表之一。 但随着202...

 5 总投资51.5亿元，韩国大尺寸液晶显示模组项目拟落户湖南岳阳

近日，LG和三星30年来的主要合作伙伴韩国OSTech株式会社会长全宁植一行赴湖南城陵矶新港区考...

 6 梅雨季催生“梅雨经济” 除湿产品迎来销售旺季

虽然雨水在昨日按下暂停键，阳光也开始回归，但对于时不时出现的雨水，梅雨季带来的烦恼...

 7 清洁电器成家电行业新增长点 市场空间广阔

近年来，清洁电器市场快速崛起，成为家电行业的新增长点和消费的新热点。市场研究机构G...

 8 家用美容仪，在海外弯道超车

George C，这个曾经是演员的61岁外国男性，在AMIRO的官网上留下这样的评语：为了保持年轻，我...

 9 厨房小家电市场复苏脚步缓慢，消费市场逐渐回归理性

据奥维云网(AVC)综合渠道监测数据显示，2023年618厨房小家电品类(电饭煲、电磁炉、电压力锅、...

 10 国产电视迎来新一轮涨价潮！康佳、长虹等宣布电视价格上调

上游成本压力的倒推下，现如今国产电视领域掀起了涨价潮，包括康佳、TCL以及长虹等主流彩...
热门资讯

备案号：鄂ICP备2022006215号 Copyright © 2002-2022 关于我们 融易新媒体