周鸿祎：依托国家级安全能力构建首个“原生安全”大模型

2023-10-17 09:10:01来源：中国网科技

文章导读: 10月13日，第38次全国计算机安全学术交流会召开，三六零(601360.SH，下称“360”)公司创始人周鸿祎以“构建‘安全、向善、可信、可控’大模型”为题发表演讲，并透露360大模型安全解决方案细节。他表示，大模型发展已经进入第二阶段，重点是放低身段，赋能产业数字化发展，最大的障碍是如何打造真正安全可用的大模型。周鸿祎指出，大模型是一把“双刃剑”，将带来前所未有的安全挑战，他将安全风险划分为短期、中期、长期三个阶段。其中，...

　　10月13日，第38次全国计算机安全学术交流会召开，三六零(601360.SH，下称“360”)公司创始人周鸿祎以“构建‘安全、向善、可信、可控’大模型”为题发表演讲，并透露360大模型安全解决方案细节。他表示，大模型发展已经进入第二阶段，重点是放低身段，赋能产业数字化发展，最大的障碍是如何打造真正安全可用的大模型。

　　周鸿祎指出，大模型是一把“双刃剑”，将带来前所未有的安全挑战，他将安全风险划分为短期、中期、长期三个阶段。其中，短期风险是当前最迫切要解决的问题，主要围绕大模型自身引发的安全问题，如网络安全、数据安全、生成内容安全。中期风险主要指人为的对大模型的恶意应用，如日益猖獗的AI换脸、AI换声诈骗。长期风险则是当更强大的人工智能诞生，融易新媒体消息，对人类生存带来的安全挑战。

　　周鸿祎表示，基础大模型的安全问题，都会“遗传”给垂直大模型。为此，360躬身入局，在国家级安全能力基础上，打造原生安全大模型“360智脑”。周鸿祎介绍，在“安全、向善、可信、可控”这一安全四原则的基础上，360已经构建体系化的大模型安全解决方案，保证大模型在企业级场景落地。细节上，他透露，为了让大模型不作恶，360“向善”解决方案的核心是研发安全垂直“小模型”训练和监控大模型，保证大模型输出结果安全。

　　在解决大模型“可控”问题上，360将推出Agent框架，把人的能力赋予大模型，一方面让大模型变得更强大，另一方面也能起到对大模型的约束作用。面对国内大模型安全需求的井喷，周鸿祎表示，360的原生大模型安全解决方案能够平移、复制给有需求的行业合作伙伴和客户，以外挂式的“360大模型安全管家”的形式对外赋能，提供网络与数据安全、内容护栏、搜索知识增强、可视化数据监测等能力。

　　最后，周鸿祎为大模型“正名”，指出大模型不仅会带来新型安全风险，也可以作为“正义助手”服务安全发展。实践中，360已经推出“360安全大模型”，助力企业的安全运营。