#bias
共 4 篇相关内容 · 安全漏洞、AI动态、技术文章
技术文章 3
传染网络：多智能体LLM系统中评估者偏见的传播机制
当大语言模型在多智能体系统中充当评估者时，它们的系统性评估偏见会在智能体网络中传播。本文解读Contagion Networks论文——研究者提出了一套量化偏见传播的数学框架，发现即使是同一模型的不同实例之间，偏见传播系数也达到0.157-0.352，但同模型传播比跨模型传播弱3-5倍。更关键的是，将评估者委员会规模从1人扩大到3人，能有效降低72.4%的偏见传播。这一发现对设计可靠的AI评估系统具有重要指导意义。
少数视觉线索驱动了多模态大模型中大多数社会偏见：StylisticBias 深度解读
多模态大语言模型在判断人脸照片时，仅15个视觉属性（年龄、体型、时尚风格等）就能驱动80%以上的社会偏见变异。StylisticBias通过控制变量法生成约25K张照片级人脸图像，在6个MLLM上覆盖25个社会判断场景进行评估，发现年龄和体型的影响超过身份本身，时尚风格是属性层面最强的偏见驱动因素。研究为AI偏见缓解提供了精确的优先级清单。
少数视觉线索驱动了多模态大模型中大多数社会偏见：StylisticBias 深度解读
多模态大语言模型在判断人脸照片时，仅15个视觉属性（年龄、体型、时尚风格等）就能驱动80%以上的社会偏见变异。StylisticBias通过控制变量法生成约25K张照片级人脸图像，在6个MLLM上覆盖25个社会判断场景进行评估，发现年龄和体型的影响超过身份本身，时尚风格是属性层面最强的偏见驱动因素。研究为AI偏见缓解提供了精确的优先级清单。