前言:
如今各位老铁们对“梯度下降算法寻优方法”大致比较关注,我们都想要知道一些“梯度下降算法寻优方法”的相关知识。那么小编同时在网上搜集了一些有关“梯度下降算法寻优方法””的相关文章,希望你们能喜欢,咱们一起来了解一下吧!第一次接触GEP(Gene Expression Programming,基因表达式编程)算法是五年前公司做过的一个供热优化控制项目,一接触就被它简洁精妙的设计思想所吸引。GEP由传统遗传算法进化而来,其融合了GA(Genetic Algorithms,遗传算法)和GP(Genetic Programming,遗传程序设计)设计思想,并加以改造提升。GEP保留了GA具有的并行性和全局寻优能力,又吸收了GP树形结构灵活多变的特点,并且在运行速度与基因表现型有效性比原来的两种算法有了非常大的提升,效率比原有方法提高100-60,000倍。
近些年来,机器学习、人工智能技术与应用快速发展,深度学习日益受到人们的重视并成为当前学习研究的重点,而遗传算法等其它机器学习方法却被人们冷落。其实深度学习与遗传算法有共同点也有各自的特点:
· 相同点:神经网络与遗传算法都是基于样本数据通过迭代逐步优化获取结果;
· 不同点:深度学习是通过构建模拟人脑进行分析学习的神经网络,基于大量样本数据学习获取解决某一领域问题的解决方案(模型),比如图像识别、自然语言处理;遗传算法通常用来解决最优化问题,即在满足一系列限定条件基础上,使设计指标达到最优值。则期望模拟生物进化来再次产生思维;
遗传算法与深度学习相比较,还具有以下优点:
· 与深度学习基于反向传播加梯度下降的寻优方法相比,遗传算法采用概率化寻优方法不需要求导可自动获取和自适应调整搜索方向等优点;
· 深度学习构建的模型可读性比较差,无法解释模型做出决策的依据。而遗传算法可以给出便于理解最优化解决方案。比如在我们系列文章中会介绍利用GEP进行函数挖掘(回归分析),通过一组样本数据最终获得的模型就是一个函数。
基于以上原因,我们相信GEP算法在现实中一定会有更好的应用前景。本系列文章将分为七个部分:
1、 生物进化与遗传算法
2、 GEP基础要素
3、 GEP基本操作
4、 GEP算法
5、 GEP在分类与聚类中的应用
6、 GEP在时间序列中的应用
7、 GEP在函数挖掘中的应用
如果大家对此话题感兴趣,欢迎大家点击"关注"。
标签: #梯度下降算法寻优方法