#safety
共 3 篇相关内容 · 安全漏洞、AI动态、技术文章
技术文章 3
LLM真的懂安全漏洞吗?CWE-Trace框架揭示大模型的“照猫画虎”困境
## TL;DR 研究人员发现,大语言模型(LLM)在安全漏洞检测基准测试中的高分表现,可能并非源于真正的安全推理能力,而更像是“照猫画虎”式的模式匹配。团队构建了CWE-Trace框架,用834个经人工标注的Linux内核代码样本覆盖7
DiffusionGemma推理透明度研究:扩散语言模型的黑箱到底有多黑
# DiffusionGemma的推理透明度:扩散语言模型的"黑箱"到底有多黑? ## TL;DR 扩散语言模型DiffusionGemma在连续潜空间中执行大量计算,其推理过程的透明度一直令人担忧。这项研究将透明度分解为"变量透明度"
当安全对齐的大模型看到好坏参半的示范:它到底学到了什么?
安全对齐后的大语言模型在面对混合了有害和无害示范的上下文时,会做出怎样的判断?本文深入解读一项来自多模型实验的系统性研究,揭示了示范内容、排列顺序和训练方法如何共同决定模型的安全行为,并探讨了这对AI安全对齐的深远意义。