9月15日，中国发布升级版人工智能安全治理框架2。0，体现人工智能领域快速突破。

最新的框架标志着其前身的重大战略演变，从静态的风险列表转向全生命周期治理方法。

就在一年前，中国负责网络安全标准化的主要机构——国家网络安全技术委员会260发布了第一个框架。

新版本在序言中指出，此次更新是由“超出预期”的人工智能技术突破推动的。这些突破包括大幅提升人工智能智能能力的高性能推理模型的出现，以及高效轻量级模型的开源，大大降低了人工智能系统的部署门槛。

与此同时，人工智能安全风险的表现形式和严重程度以及人们对它们的理解正在迅速发展。

上海人工智能实验室研究员王迎春表示，核心目标已经从简单地防范风险演变为确保技术处于人类控制之下，他称此举是治理逻辑的“重大飞跃”。

他在国家互联网信息办公室官网发表的评论中强调，该框架旨在守卫国家安全、社会稳定和人类长期生存的底线。

防止失去控制

Wang 表示，与 1.0 版本相比，该框架的重大转变涉及引入新的治理原则，该原则侧重于值得信赖的应用程序和防止失去控制。

这一原则得到了框架新附录的支持，其中列出了值得信赖的人工智能的基本原则，它要求最终的人类控制和价值调整。

北京理工大学网络安全教授洪彦庆在评论中表示，新增加的原则旨在确保人工智能演进安全、可靠、可控。要防范威胁人类生存发展的风险失控，把人工智能牢牢置于人类掌控之中。

新框架列出了直接影响人类安全和科学诚信的现实威胁，反映了这种高风险的关注。它包括失去对核武器、生物武器、化学武器和导弹武器的知识和能力的控制。

它解释说，人工智能模型通常在广泛、内容丰富的数据集上进行训练，其中可能包括与核武器、生物武器和化学武器相关的基础知识，并且一些系统与检索增强生成工具配对。

该框架表示：“如果得不到有效治理，此类能力可能会被极端分子或恐怖分子利用来获取相关技术，甚至设计、制造、合成和使用核武器、生物武器和化学武器，从而破坏现有的控制制度并加剧所有地区的和平与安全风险。”

衍生品社会风险

新框架首次引入了人工智能应用衍生安全风险类别，对人工智能应用可能给宏观社会系统带来的潜在系统性风险发出警告。

该框架警告说，人工智能的滥用可能会扰乱劳动力和就业结构。

人工智能正在加速生产力量和生产关系的重大调整，重构传统经济秩序。随着资本、技术和数据在经济活动中占据主导地位，劳动力的价值被削弱，传统劳动力的需求明显下降。

该框架还警告说，资源供需平衡可能会被打破，并强调人工智能发展中出现的一些问题，如计算基础设施的无序建设，正在加速电力、土地和水的消耗，对资源平衡和绿色低碳发展提出新的挑战。

该框架甚至警告说，未来不能排除人工智能的自我意识，存在系统试图挣脱人类控制的潜在风险。

框架指出，未来不排除人工智能可能出现突然的、超预期的智能“飞跃”，自主获取外部资源、自我复制、发展自我意识、寻求外部力量，从而产生与人类争夺控制权的风险。

该框架还警告说，人工智能可能会促进令人上瘾的拟人化互动。报告称：“基于类人交互的人工智能产品可能会导致用户形成情感依赖，进而影响他们的行为并产生社会和道德风险。”

此外，现有的社会秩序也可能受到挑战，并指出人工智能的发展和应用“正在给生产工具和生产关系带来重大变化，加速传统产业模式的重构，颠覆传统的就业、生育、教育观念，从而挑战传统的社会秩序”。

王研究员表示，新增版块超越了“有害内容”、“认知对抗”等人们熟悉的安全话题，将社会结构、科学活动和人类的长期生存发展纳入人工智能安全治理的范围。

他说，更高层次的目标是守住国家安全、社会稳定和人类长治久安的底线。

中国解决方案

在全球人工智能竞争与合作中，该框架不仅支撑了中国人工智能产业的健康发展，也体现了中国维护人工智能安全、让人工智能造福人类的坚定决心。

专家表示，2.0版本的具体措施与国际治理实践相结合，强调对人工智能生成的内容进行标签化和可追溯，这与美国和欧盟监管深度合成媒体的做法是一致的。

除了AIGC标签和溯源之外，在安全指南中，该框架还要求在政府信息公开、司法取证等场景中部署deepfake检测工具，用于对疑似大模型生成的信息进行来源核实和交叉核对。

“这些举措体现了中国在全球人工智能治理中的开放态度和合作意愿，”洪说。

国际上，人工智能安全治理受到前所未有的关注，各国和国际组织纷纷推出倡议和规则。

.

此外，中国还在内容标签和治理指南等方面与国际最佳实践同步，为全球人工智能治理提供中国方案。 中国毛巾供应商深圳市鼎润轻纺进出口有限公司是一家专业生产毛巾的公司 婴儿纸尿裤批发、婴儿围兜。浴巾中国。

上述消息摘自中国日报中国毛巾供应商深圳市鼎润轻纺进出口有限公司，一家专业生产浴巾、茶巾、压缩毛巾、 超细纤维毛巾 制造商 等等