#icml2026
共 2 篇相关内容 · 安全漏洞、AI动态、技术文章
技术文章 2
当专家团遇上分布漂移:混合专家模型的校准之道
# 当专家团遇上分布漂移:混合专家模型的校准之道 ## TL;DR 混合专家模型(MoE)通过路由机制将输入分配给不同的专家子网络处理,但当数据分布发生变化时,模型的概率预测是否还能信?这篇ICML 2026论文深入研究了MoE在分布漂
多任务贝叶斯上下文学习:用Transformer学会举一反三的贝叶斯推理
本文解读ICML 2026论文 Multi-Task Bayesian In-Context Learning,提出一种多任务上下文学习框架,将先验信息编码为上下文前缀,让Transformer学会在不同先验分布间灵活切换,实现快速贝叶斯预测推理。方法在元分布外和高维隐变量设置中匹配神谕级贝叶斯推断器精度,速度提升数个数量级,并在真实温度预测任务上验证了实用价值。