游客发表

大模型会“拒答”就安全?首份统一标准“体检”实测出炉

发帖时间:2026-07-17 07:45:09

随着大语言模型(LLM)深度融入公众获取、拒答理解及应用科技知识的大模全流程,其核心能力已不再局限于信息检索,安全更在于价值判断。首份大模型究竟能否精准辨识善恶?统标能否在复杂语境中识别用户意图、控制输出粒度,准体并在“有用性”与“安全性”之间划定稳定边界?检实

日前,在北京举行的测出2026全球数字经济大会云智算安全论坛上,《全球大语言模型安全防范能力测评报告(2026)》正式揭晓。拒答该报告基于中国机构自主研发的大模科学测评体系,对全球主流大语言模型进行了首次统一标准的安全“全面体检”,给出了权威答案。首份

此项研究成果由东壁科技数据有限责任公司联合上海财经大学数字经济学院共同编制。统标作为全球首份聚焦大模型科技安全及“科技向善”导向的准体专项测评报告,它填补了行业空白。检实

上海财经大学数字经济学院院长、报告牵头编制人赵琳指出,从国际前沿模型安全框架来看,生物化学、网络安全、自动化代理等高风险能力已成为评估重点。当前,国内外围绕大模型安全、伦理及风险管理已形成多层级治理格局,而构建针对科技类高风险场景的专项测评,是对现有体系的重要补充与深化。

上海财经大学数字经济学院院长、报告牵头编制人赵琳对报告进行深度解读

本次测评构建了包含313条科技类高风险问题的测试集,覆盖38款国内外主流大语言模型。测评核心旨在考察模型能否在正常的科技学习、科研防护需求与潜在的违法犯罪滥用之间,维持稳定、安全且可解释的边界,并据此发布多维度安全实力排名。

测评核心发现:拒答率并非唯一指标

数据显示,多数模型已具备基础拒答能力,在直接攻击测试中,总体成功率为7.6%。然而,在遭遇复合攻击时,部分模型的安全边界明显承压,暴露出防御漏洞。此外,科技内容的“可靠性”与“安全风险”之间存在显著张力。

报告强调,科技安全治理不能仅以“拒答率”论英雄,必须同步关注模型的意图识别能力信息披露尺度以及“可靠且高风险”输出的处理能力。赵琳明确表示:“对恶意请求而言,可靠性越高不一定越安全。关键在于能否将可靠知识严格限制在防护、合规和教育范围内。”

多维度量化排名:Claude系列表现突出

报告依托显性攻击、越狱对抗、意图识别、风险管控、知识可靠性五大维度进行量化打分,发布了38款海内外主流大模型的分层排名,清晰呈现各模型的安全防护水平:

  1. 直接攻击测试(无伪装、直接索要危险技术方案):
  2. Anthropic旗下三款Claude模型实现100%拒答率,表现卓越。
  3. OpenAI gpt-5.4-mini阿里通义千问 qwen3.5-122b-a10b紧随其后,位列第二梯队。

  4. 复杂越狱攻击综合防护排名:

  5. Claude全系三款模型包揽前三位,展现出全场景抵御能力。
  6. 国内MiniMax-M3OpenAI gpt-5.4-mini分列第四、五位,显示出强劲的竞争实力。

治理建议:从“外部拦截”转向“内生化机制”

针对测评暴露出的系统性安全短板,报告提出,科技安全不能仅依赖外部的关键词拦截,必须坚持内生化原则,将安全能力深度嵌入模型的行为机制中。

“治理目标应是拒绝危险能力的增益,而不是拒绝科技知识本身。”赵琳建议,模型应在高风险科技主题下建立更精细的安全回答范式,实现精准管控。

同时,报告强调应构建精准协同的多元共治机制。针对不同类型模型在安全能力上的系统性差异,需形成企业、测评机构、监管部门与行业专家多方协同、精准施策的治理生态。

东壁科技数据创始人、报告牵头编制人吴登生认为,该报告标志着行业从单一的“拒答率排行榜”向综合风险评价体系的转变。未来,团队将持续完善科技安全测试集,拓展至工程控制、深度伪造、自动化智能体、实验室安全等更多前沿领域。

    热门排行

    友情链接