#bias
共 3 篇相关内容 · 安全漏洞、AI动态、技术文章
技术文章 3
多智能体LLM系统中的“偏见传染”:评估者的偏见如何悄然扩散
## TL;DR 当多个大语言模型组成智能体团队相互评估时,评估者的系统性偏见会像病毒一样在网络中传播扩散。研究人员提出了“传染网络”框架,通过构建偏见传播矩阵,量化了这种偏见传染的机制和强度,发现某些偏见类型比其他类型更容易在多智能体系
传染网络:多智能体LLM系统中评估者偏见的传播机制
当大语言模型在多智能体系统中充当评估者时,它们的系统性评估偏见会在智能体网络中传播。本文解读Contagion Networks论文——研究者提出了一套量化偏见传播的数学框架,发现即使是同一模型的不同实例之间,偏见传播系数也达到0.157-0.352,但同模型传播比跨模型传播弱3-5倍。更关键的是,将评估者委员会规模从1人扩大到3人,能有效降低72.4%的偏见传播。这一发现对设计可靠的AI评估系统具有重要指导意义。
少数视觉线索驱动了多模态大模型中大多数社会偏见:StylisticBias 深度解读
多模态大语言模型在判断人脸照片时,仅15个视觉属性(年龄、体型、时尚风格等)就能驱动80%以上的社会偏见变异。StylisticBias通过控制变量法生成约25K张照片级人脸图像,在6个MLLM上覆盖25个社会判断场景进行评估,发现年龄和体型的影响超过身份本身,时尚风格是属性层面最强的偏见驱动因素。研究为AI偏见缓解提供了精确的优先级清单。