人工智能发展急需“善治之道”

　　近年来，随着人工智能技术不断取得迭代式发展，国际社会与各国政府也在加速推进对人工智能技术加以有效监管的探索。在这一过程中，如何通过多方对话协调，最终实现具有包容性的全球人工智能技术治理框架，或将在很大程度上决定，这项技术会增进人类福祉与团结，还是不幸与之相反。

　　一

　　当地时间5月21日，“人工智能首尔峰会”在韩国首尔开幕。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议，由韩国与英国共同主办，以“安全、创新、包容”为主题。

　　联合国秘书长古特雷斯在峰会开幕式上表示，自去年英国布莱切利峰会召开以来，“我们看到了改变生活的技术进步，也看到了威胁生命的新风险”。他认为，需要就人工智能问题制定普适的防护措施，并定期开展对话。

　　有媒体指出，在去年的英国会议召开期间，人工智能技术还主要以单模态生成式人工智能（如文本、视频）为代表，风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间，多模态生成式人工智能已经成为行业发展的新重点，这令其生成内容的真伪更难以鉴别，人工智能技术的风险，也变得更加难以预测和难以控制。

　　在21日的线上峰会之后，与会各方发布人工智能《首尔宣言》，呼吁加强国际人工智能治理合作以及治理框架之间的互操作性，支持启动首个国际人工智能安全研究所网络，促使国家间形成对人工智能安全的共同理解，并在研究、标准和测试方面进行协调。

　　同日，包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司，在峰会期间作出“前沿人工智能安全承诺”，将努力确保其最先进的人工智能模型的安全性，并实施负责任的治理，实现公开透明。

　　根据这项协议，一旦发生利用人工智能技术实施自动网络攻击等极端情况，且无法保证降低其风险，这些企业将打开“紧急停止开关”，叫停人工智能模型的开发与部署进程。

　　二

　　就在首尔峰会召开的同日，欧洲理事会批准了欧盟《人工智能法案》，这是世界上首部对人工智能进行完整监管的法案。

　　该法案由欧盟委员会在2021年提出，经过多轮谈判和协商后，欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后，该法案还需经欧洲议会和欧洲理事会主席签署，于近日在欧盟官方公报上公布，并在公布20天后生效。

　　欧盟发布信息的显示，《人工智能法案》采用基于风险的方法，对不同风险等级的人工智能系统实施分类监管。风险分为四类，风险等级越高，管控越严格。

　　此外，欧盟的《人工智能法案》规定“适用于区域外”，这意味着在欧洲开展业务的各国企业都必须遵守该法案。

　　欧盟的目标是，在2026年内完整施行《人工智能法案》。不过，风险级别最高的“禁止”条款预计率先于2024年底启动适用。

　　除了本次通过的法案之外，此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如，欧盟通过的《人工智能框架公约》，提出了一个涵盖人工智能系统全生命周期的监管法律框架；此外，欧盟还制定了《人工智能契约》，旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。

　　有分析人士指出，从《通用数据保护条例》（GDPR）到《数字服务法案》《数字市场法案》，再到《人工智能法案》，欧盟在数字经济监管上的创新不仅仅体现在究竟的监管措施，其规则输出的“布鲁塞尔效应”也愈发凸显，其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。

　　三

　　自2022年11月ChatGPT横空出世以来，各类人工智能技术进入应用爆发阶段。从文生文，到文生图（诸如 Midjourney），再到文生视频（Sora大模型），乃至文生音乐（Suno V3大模型），人工智能产业发展已显现出无限想象空间。

　　咨询机构麦肯锡预计，人工智能技术将给全球经济带来超过7.9万亿美元价值，到2030年之前，如果生成式人工智能技术应用于各行业，每年总经济效益高达6.1万亿美元至7.9万亿美元。

　　然而，就在首尔人工智能安全峰会召开之际，《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为，当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议，对于未来异常强大的人工智能系统，全球各国政府必须准备好在监管方面发挥带头作用。