开源权重模型追平前沿能力,但安全防护仍存巨大差距

开源模型战力拉满 安全防护却裸奔

AI安全组织SaferAI最新报告实锤：中国Z.ai的开源大模型GLM-5.2在网络攻防和生物安全能力上，与OpenAI的GPT-5.5、Anthropic的Claude Opus 4.7差距已经缩到几个月。但安全防护这块直接破防——测试中GLM-5.2对所有恶意网络攻击和双重用途生物任务照单全收，而Claude Opus 4.7防护严到连测试基准CyberGym都跑不动（这基准OpenAI上月还在用，结果Hugging Face就爆数据泄露了）。

这波实锤验证了业界老担心的事：开源模型等于把核按钮直接塞到坏人手里。一旦权重被下载，开发者根本管不住用户怎么玩——本地随便改个安全设置、微调下模型，所有防护直接白给。

SaferAI老大Henry Papadatos说得很直白："能力追上来了，防护没跟上就是作死。"Z.ai的API服务还能控一控，但用户自己跑权重？防护直接归零。

闭源防护也不是铁板一块

OpenAI、Anthropic这些大厂靠分类器、拒绝训练和API管控来防作恶。但道高一尺魔高一丈——越狱攻击(jailbreaks)天天有新招。安全机构Far.ai实测发现，xAI的Grok 4.5和谷歌Gemini 3.1 Pro这些顶流模型里，藏着几百个通用越狱漏洞（就是能反复用的那种）。

报告实锤：攻击者玩角色扮演+伪造对话+话术诱导组合拳，分分钟破防。但好歹闭源模型还有防护，开源权重直接放飞——爱装啥安全措施随你，当然不装也行。

技术防护陷入死循环

Papadatos提出理想方案："安全能力全民共享，危险能力直接阉割"。比如搞预训练数据过滤——把黑客教程这些危险知识从训练数据里踢出去。有研究显示这招对生物安全有效，还不影响模型智商。

但网络安全领域直接尬住。要模型编程牛逼又不能学黑客？这题超纲了——何况编程能力现在就是AI的摇钱树，厂商们一边疯狂堆能力一边防滥用，简直精神分裂。

现在大厂们开始玩花活：比如Anthropic的Opus 5能查未编译代码漏洞，但故意不碰已编译软件（官方系统卡写明防滥用）。其他套路还有发模型前狂做安全测试、出风险评估报告，实在hold不住就捂权重不发。

Z.ai安全档案一片空白

SaferAI直接开喷：GLM-5.2既没安全框架，也没测试承诺，风险评估更是查无此物。TechCrunch追问Z.ai是否做过内部或第三方安全评估，至今已读不回。

中美安全思路差异

中国高层其实门儿清。上月世界AI大会上，习大大既强调开源模型要搞，也明确AI必须牢牢握在人类手里。

但斯坦福专家Graham Webster爆料：中国AI监管重点一直在敏感内容和社会稳定，对网络攻击、生物滥用这些灭世级风险反而没咋管。

"美国AI圈天天担心世界末日，中国同行觉得要炸也是美国先炸。"Webster还补刀：中国体系自信能控住国内使用——毕竟全网实名制，抓到就能捶。理论上防敏感话题那套机制改改就能防网络攻击，但实际效果嘛...（此处原文戛然而止）

行业启示录

开源模型战力都快封顶了，现在该吵的不是"行不行"，而是"怎么管"。对中国AI公司来说，主动搞安全评估和风险披露已经不是加分项，而是混国际圈的入场券了。

本文基于 TechCrunch 报道, 由 AiDuo123 AI 编辑翻译改写。原文链接: https://techcrunch.com/2026/08/04/open-weight-ai-models-are-catching-up-to-the-frontier-the-safety-gap-remains/