返回每日动态论文Apple 发布三模态掩码扩散模型设计空间研究Apple Machine Learning Research(RSS)10月14日 08:00导读Apple 团队发布首个从零预训练的三模态掩码扩散模型(MDM)研究,在文本、图文和音频文本数据上训练。论文系统分析了多模态缩放规律、模态混合比例、噪声调度和 batch size 影响,提出基于 SDE 的重参数化方法免去调优最优 batch size,并在 3B 模型规模(6.4T tokens)上验证了文本生成、T2I 和 T2S 任务的表现。