题库 人工智能大模型 题目列表 学习率预热是大模型训练中一项非常重要的技术。它的主...
单选题
学习率预热是大模型训练中一项非常重要的技术。它的主要目的是什么?
A.
在训练初期快速降低损失,以节省训练时间。
B.
防止在训练初期,由于模型权重随机初始化且训练数据分布不稳定,过大的梯度更新导致模型不稳定或梯度爆炸。
C.
为了让模型在训练初期有更强的探索能力,避免过早陷入局部最优。
D.
主要是为了在预热阶段找到一个最优的初始学习率。
题目信息
成人组 样题/模拟题 2025年 选择题
80%
正确率
0
评论
339
点击