前言：
此时各位老铁们对“随机搜索算法最佳参数搜索图”都比较着重，各位老铁们都想要剖析一些“随机搜索算法最佳参数搜索图”的相关知识。那么小编在网摘上汇集了一些有关“随机搜索算法最佳参数搜索图””的相关知识，希望同学们能喜欢，你们快快来学习一下吧！超参数调整是机器学习中最耗时的部分之一。必须对大量不同的超参数设置的性能进行评估，以找到最佳设置。尽管现代优化算法可以最大限度地减少所需的评估次数，但对单一设置的评估仍然很昂贵。使用重新取样技术，机器学习方法必须在不同的训练数据集上进行固定次数的K$拟合。作为对设定性能的估计，使用了K$拟合的各自平均值。许多超参数设置在不到K$的重采样迭代后就可以被抛弃，因为它们已经明显不如高性能设置。然而，在实践中，重新取样往往要到最后才进行，浪费了大量的计算精力。 我们建议使用一个连续的测试程序来尽量减少重采样迭代的次数，以检测劣质的参数设置。为此，我们首先分析了再抽样误差的分布，我们会发现，正态分布是有希望的。之后，我们建立一个假设该分布的连续测试程序。这个顺序测试程序被用于随机搜索算法中。 在一些现实的数据情况下，我们将标准的随机搜索与我们增强的顺序随机搜索进行比较。可以看出，顺序随机搜索能够找到相当好的超参数设置，但是，找到这些设置所需的计算时间大约减少了一半。
《Using Sequential Statistical Tests to Improve the Performance of Random Search in hyperparameter Tuning》
论文地址:
版权声明：
本站文章均来自互联网搜集，如有侵犯您的权益，请联系我们删除，谢谢。
标签： #随机搜索算法最佳参数搜索图
