法收敛，过低则会导致训练速度过慢。建议采用学习率衰减策略 （如余弦衰减或步进衰减）或自适应学习率方法（如 Adam 优化 器）。批量大小的选择需权衡训练速度和模型性能，通常建议使用 2 的幂次方（如 32、64、128）以提高计算效率。优化器的选择应 根据模型的复杂度进行，对于简单的模型可以使用 SGD，而对于复 杂的深度学习模型，Adam 或 RMSprop 通常更具优势。 正则化系数（如 为更直观地展示超参数调优的过程，以下是一个简单的实验设 计示例： 超参数 搜索范围 调优方法 备注 学习率 [1e-5, 1e-1] 贝叶斯优化 初值建议为 1e-3 批量大小 [32, 256] 随机搜索 建议使用 2 的幂次方 优化器 SGD, Adam, RMSprop 网格搜索 根据模型复杂度选择 正则化系数 [0.01, 0.5] 贝叶斯优化 结合验证集性能评估 超参数 搜索范围 调优方法 备注 Dropout