龙空技术网

支付宝申请大模型推理引擎的参数调优方法及装置专利,实现利用BO算法适应不同优化目标

金融界 7

前言:

现在朋友们对“首次适应算法代码改成最佳适应算法怎么改”大概比较关怀,同学们都想要学习一些“首次适应算法代码改成最佳适应算法怎么改”的相关文章。那么小编同时在网上搜集了一些关于“首次适应算法代码改成最佳适应算法怎么改””的相关文章,希望小伙伴们能喜欢,小伙伴们一起来学习一下吧!

金融界2024年11月14日消息,国家知识产权局信息显示,支付宝(杭州)信息技术有限公司申请一项名为“大模型推理引擎的参数调优方法及装置”的专利,公开号CN 118940843 A,申请日期为2024年8月。

专利摘要显示,本说明书实施例披露一种大模型推理引擎的参数调优方法及装置,其中大模型推理引擎用于运行目标大模型以处理目标应用发起的推理请求。该方法包括:首先,获取多个观测样本,其中各观测样本包括一组配置参数,以及根据该组参数配置所述大模型推理引擎后,对所述目标应用的历史推理请求进行重放而确定的引擎性能指标;然后,利用所述多个观测样本初始化贝叶斯优化BO算法中的观测数据,以及,将所述BO算法中的目标函数定义为配置参数和引擎性能指标之间的映射关系,从而执行所述BO算法,得到使引擎性能指标发生优化的若干组配置参数。如此,可以实现利用BO算法适应不同上层应用关注的不同优化目标。

本文源自金融界

标签: #首次适应算法代码改成最佳适应算法怎么改