ChatGPT因数据安全问题遭多国监管调查，网安企业能否助其跳出“潘多拉魔盒”？

不过两个月的时间，ChatGPT作为全球爆火的科技概念，在掀起一阵阵科技浪潮后，因可能引发的数据安全问题而被海外多个国家的监管机构调查。这背后，再次凸显出人们对与新科技伴生的网络安全的担忧。

据外媒报道，近日，德国联邦数据保护专员乌尔里希·凯尔伯表示，德国可能会追随意大利的脚步，因数据安全问题“封杀”ChatGPT。此前，意大利个人数据保护局宣布，禁止使用聊天机器人ChatGPT，并限制开发这一平台的OpenAI公司处理意大利用户信息，同时开始立案调查。

在国外，GPT-4的发展速度加重了公众对个人信息安全的担忧；而在国内，百度文心一言、阿里通义千问、华为盘古等大模型陆续浮出水面，如何更安全地追赶ChatGPT掀起的热潮成为各互联网企业不得不正视的问题。

信息安全领域专家张威向记者指出，对网络安全企业来说，AI引发了新安全领域，主要涉及数据安全，内容安全和算法安全等方面，网络安全企业在某些领域将成为重要支撑，但要求网络安全企业具备更强的安全技术整合和服务能力。

GPT被曝可能引发黑客攻击、隐私泄露等安全问题

AI模型大致可以分为决策式AI和生成式AI两种。决策式AI指学习数据中的条件概率分布，根据已有数据进行分析、判断、预测，主要应用模型有用于推荐系统和风控系统的辅助决策、用于自动驾驶和机器人的决策智能体。

生成式AI指学习数据中的联合概率分布，并非简单分析已有数据而是学习归纳已有数据后进行演技创造，基于历史进行模仿式、缝合式创作，生成了全新的内容，也能解决判别问题。

目前，作为生成式AI代表的ChatGPT已迭代到4.0版本，回答准确性不仅大幅提高，还具备更高水平的识图能力，且能够生成歌词、创意文本，实现风格变化。此外，GPT-4的文字输入限制也提升至2.5万字，且对于英语以外的语种支持有更多优化。

相较于GPT3.5，GPT-4最大的进化在于“多模态”和长内容生成，最大的突破是拥有了“读图能力”。有专家预测，未来会出现文字、图像、音频和视频等所有数据统一处理的新变革。

相关资料显示，初代GPT模型的参数是1.17亿个，GPT-2是15亿个，GPT-3模型参数量达到1750亿，是GPT-2的100倍；而GPT-4的真实参数在1750亿-2800亿之间，重点在数据处理优化上。

越来越强的算力意味着更大的数据和隐私风险，与初代GPT带来的惊喜不同，GPT-4的发展已让多国感受到威胁。

据外媒报道，三星在引入ChatGPT不到20天里，就已经发生了三起半导体机密资料外泄事故，涉及测量资料、产品良品率等内容，传闻已被存入到ChatGPT学习资料库中。对此，三星透过公告叮嘱职员注意ChatGPT的使用方式。

与此同时，意大利、德国、英国、加拿大、日本等多个国家的相关企业都开始发出警告，限制在业务运营中使用ChatGPT等交互式人工智能服务。

张威认为，人工智能技术本质上是一种工具，带来的网络安全危害主要是由于被坏人使用或钻了空子，目前，很多“坏人”在寻求钻这样的空子，所以GPT的安全威胁就展现了。

他把GPT带来的威胁分为五个方面，其一是支持诈骗，不论是智能换脸，智能聊天，智能文案等功能首先都会被诈骗分子用来支持他们的诈骗犯罪；其二是支持网络攻击，GPT的海量知识库可以让黑客更快速地搜集被攻击对象的内外部情况，同时黑客也会基于相同算法开发智能化自动攻击程序；其三是隐私泄露问题，如果人们长期和GPT交互，GPT会保留对话者的隐私或用户画像，这部分数据一旦被滥用，其危害比现有的隐私泄露大的多。

其四是算法本身存在漏洞，可以被恶意者污染或引导，产生有利于恶意者的结果；最后是使用GPT可能引发新伦理安全问题，就如同电车难题一样，GPT的智能化会使很多普通人错把它认为有人性，这会引发很多伦理安全的新问题。

在头豹研究院行业分析师常乔雨看来，鉴于很多人对GPT的工作原理缺乏详细的了解，且对语言本身所蕴含的能量信息缺乏妥善的认知，恶意攻击者可以通过GPT快速产出诱导性内容，然后以批量式重复性的信息淹没战术攻击受害者，从而达成不法目的。例如，GPT可以模拟可信任来源，自动化发送网络钓鱼邮件或信息，诱使用户点击恶意链接或输入敏感信息。

如何跳出“潘多拉魔盒”？