花开月下机器人 大语言模型的 Scaling:扩展方向、收益规律与训练配置

大语言模型的 Scaling:扩展方向、收益规律与训练配置


大语言模型的Scaling(规模化扩展)是过去十年AI领域最核心的工程范式,它通过系统性放大模型参数、训练数据、计算资源三个核心维度,实现模型能力的可预测指数级跃升,是从百亿参数小模型进化到万亿级通用大模型的底层理论支撑。

Top