6月23日消息,阿里云推出面向自动驾驶领域模型的训练、推理加速框架PAI-TurboX,该框架可提升感知、规划控制乃至世界模型的训推效率,在多个行业模型的训练任务中,PAI-TurboX均可缩短50%的时间。

图片8.jpg

目前,业界主流的自动驾驶方案需要融合图像、激光雷达、毫米波雷达、GPS等多个模态数据,但大规模训练样本数据加载和预处理的效率较低,导致GPU资源浪费;同时,自动驾驶模型算子数量巨大,使用现有训推框架系统执行效率低下,且优化门槛高。

阿里云推出的PAI-TurboX,在多模态数据预处理、离线大规模模型训练以及实时智驾推理等环节提供了全面解决方案。在系统侧,PAI-TurboX通过优化CPU亲和性、动态编译、流水线并行等策略,显著提升模型的训练推理效率;在数据侧,PAI-TurboX提出了高性能的DataLoader引擎,并且优化了数据预处理流程和实现了智能训练样本分组,有效提升数据处理效率。

此外,PAI-TurboX还提供了算子优化和量化等能力,可进一步减少训练阶段的访存延迟,提升吞吐效率,同时在推理任务中,能在保障精度的同时降低计算开销与内存带宽需求,可实现异构平台下的高性能推理部署。

实测结果显示,在自动驾驶的3D物体检测模型BEVFusion训练任务中,PAI-TurboX可以将训练时间缩短58.5%;在实时在线矢量化高精地图构建模型MapTR训练任务中,PAI-TurboX可以将训练时间缩短53%;在端到端自动驾驶模型SparseDrive训练任务中,PAI-TurboX 可以在感知模块训练和联合训练两个阶段获得明显的速度提升,相同训练步数下可分别缩短51.5%和48.5%。

图片9.jpg

图片10.jpg

阿里云研究员林伟表示:“ TurboX不仅可以提升自动驾驶模型的训推效率,还将进一步加速世界模型的开发进程,让所有终端和人一样具备感知、思考和决策能力。”

据介绍,阿里云人工智能平台PAI可提供贯穿AI开发和运维全流程的平台服务。自2016年诞生以来,PAI已累计服务超过10万家企业客户及数百万AI开发者,支撑阿里云百炼、魔搭社区等MaaS服务及社区。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

本文来源于极客网,原文链接: https://www.fromgeek.com/ai/692264.html

分类: 暂无分类 标签: 暂无标签

评论