arXiv cs.LG@Christopher Stith, Medha Barath, Vahid Balazadeh, Jesse C. Cresswell, Rahul G. Krishnan精选58因果推断在多个学科中至关重要,但连续治疗设置(干预变量为连续值)的研究远少于二元治疗。本文提出首个针对连续治疗设置的因果基础模型,通过元学习在未见任务上预测因果效应,无需额外训练。模型设计了一种新的数据生成过程先验,生成丰富的因果训练语料,并训练Transformer利用上下文学习从观测数据重建个体治疗-响应曲线。该模型在个体治疗-响应曲线重建任务上达到最先进性能,超越了专门训练的因果模型。论文因果推断基础模型连续治疗Transformer元学习推荐理由:连续治疗效应预测是因果推断的难点,做医疗、经济等领域的因果分析团队可以直接用这个基础模型零样本预测,省去大量模型训练成本。
百度 AI Baidu@Baidu_Inc70百度发布了其最新基础模型ERNIE 5.1,基于ERNIE 5.0的预训练基础构建。该模型在搜索、推理、知识问答、创意写作和智能体能力上进行了升级,同时预训练成本仅为同类模型的约6%。这一进展可能显著降低大模型的训练门槛。AI模型百度ERNIE 5.1基础模型低成本训练推荐理由:ERNIE 5.1以极低的预训练成本实现了能力的全面升级,这展示了高效模型优化的潜力,可能对行业降低成本具有示范意义。