龙空技术网

如何最大化推理性能?Triton 社区技术交流活动与您畅聊

NVIDIA英伟达中国 86

前言:

今天我们对“蚂蚁算法工程师”可能比较看重,我们都想要分析一些“蚂蚁算法工程师”的相关知识。那么小编在网摘上汇集了一些有关“蚂蚁算法工程师””的相关知识,希望你们能喜欢,咱们快快来学习一下吧!

由蚂蚁集团和 NVIDIA 携手举办的“Triton Meetup 2023”将于 2 月 25 日在北京举行。该活动是 Triton 社区首次正式举办的线下技术交流活动。来自美团、京东、蚂蚁、NVIDIA 的技术专家将带来 AI Infra、推理引擎相关的专题分享,包括目前各企业面临的模型推理挑战、Triton 的应用及落地的具体方案等,现身说法,干货十足。此外,还有来自蔚来的特邀嘉宾,带来“AI 推理服务的当下与未来”圆桌主题讨论,欢迎到现场的小伙伴积极参与!

活动地点

北京 BCos 共享办公--多功能厅

(北京 WFC 环球金融中心办公店)

活动时间

2023 年 2 月 25 日

14:00 - 18:00

活动报名

长按扫描下方二维码

即可预约报名!

Triton Meetup 2023 活动流程

14:00 - 14:05

开场

14:05 - 14:45

NVIDIA Triton Inference Server 的现在和未来

14:45 - 15:25

Triton 在蚂蚁全场景落地的优化

15:25 - 15:40

NVIDIA & 蚂蚁开源社区共建启动仪式

15:40 - 16:20

Triton 在美团数据中心的应用

16:20 - 17:00

Triton 在京东零售的应用与实践

17:00 - 17:20

圆桌讨论:AI 推理服务的当下与未来

下面一起来看看嘉宾阵容吧!

议题一:NVIDIA Triton

Inference Server 的现在和未来

申意

NVIDIA 解决方案架构师

负责为消费互联网行业提供 GPU 计算解决方案。包括编解码,数据前后处理,模型推理及服务化等。

议题简介:

Triton 简介Triton 重要 Feature 简介和 Roadmap 更新Triton 的成功案例

议题二:Triton 在蚂蚁全场景落地的优化

饶星

蚂蚁集团高级技术专家

蚂蚁集团推理团队技术负责人,负责蚂蚁集团全部业务场景的推理服务,长期专注在推理相关的架构和性能优化。

议题简介:

Triton 在搜索、推荐、广告业务场景的解决方案Triton 在认知业务的解决方案结合业务场景,蚂蚁进一步的优化方案

议题三:Triton 在美团数据中心的应用

王新

美团机器学习平台预测引擎团队

技术负责人

美团机器学习平台预测引擎团队技术负责人,长期专注于机器学习预测引擎相关的开发工作。

议题简介:

机器学习模型在美团落地的痛点Triton 落地的具体方案使用 Triton 的业务收益与效果

议题四:Triton 在京东零售的应用与实践

杨培军

京东零售算法中台技术架构师

长期从事机器学习平台/深度学习推理加速和框架的研发,曾负责阿里妈妈搜索广告预估平台、Bigo 机器学习平台的建设。

议题简介:

京东零售的多元化算法需求给模型推理带来的挑战介绍京东算法中台在面向 CV/NLP 场景基于 Triton 二次开发的高性能推理框架阐述推理框架的架构演进和性能优化工作

圆桌讨论:AI 推理服务的当下与未来

特邀嘉宾:郭城

蔚来自动驾驶研发平台 (NADP)资深工程师

负责搭建 NADP 云上推理系统,模型 CICD。

交通指引 & 防疫政策:

1. 自驾到场:

开车行进至“环球金融中心”,在大楼南侧地下停车场进入。

2. 地铁前往:

地铁 10 号线至“金台夕照”站,从 A 口出,步行 3-5 分钟,从环球金融中心南门进入。

标签: #蚂蚁算法工程师