美团解决训推概率不一致问题,实现训练推理概率逐位相同,根源差异来自浮点加法顺序

美团技术团队对外公布了一套大模型训推一致性方案,做到训练阶段和在线推理阶段输出的 token 概率逐 bit 完全一致,他们定位到造成训推