数据约束下混合预训练的扩展规律

Apple研究数据约束下的混合预训练扩展规律，探索如何将稀缺目标数据与丰富通用数据混合以扩展模型。