云边端一体化的异构AI计算

小鱼儿 2022-10-08 05:38 259阅读 0赞

图片

图片

中国人工智能市场快速增长,其中边缘计算占比越来越高,业务场景的碎片化以及底层硬件的多样性的问题给边缘计算的开发部署带来较大的挑战。

本次分享主要介绍阿里云AI异构计算编译框架HALO以及面向深度学习的异构硬件统一接口规范ODLA,通过具体的实例说明如何利用异构编译和硬件架构抽象实现上层应用在异构计算资源上的平滑迁移。后半部分介绍ODLA.CV (多媒体Pipeline自动生成)技术,以及多媒体+AI的相关探索和应用。

通过HALO总体框架介绍,以及异构硬件统一接口规范ODLA,通过静态全编译的方式可以让业务模型跟框架解耦合,通过ODLA实现和具体硬件解耦合,实现平滑迁移;通过具体的例子来说明Halo和ODLA的工作流程。

介绍多媒体Pipeline自动生成技术,解决上层业务场景的碎片化定制化的问题。

首先,通过HALO静态全编译的方式可以让业务模型跟框架解耦合,同时提升性能,避免框架开销;通过ODLA统一抽象的方式实现和具体硬件解耦合,实现平滑迁移,产生一次,随处执行;通过HALO/ODLA实现AI的平滑迁移。

其次,通过多媒体Pipeline自动生成技术解决上层业务场景的碎片化(需要高度定制)带来的开发效率问题。

最后,介绍多媒体+AI相关的一些探索和优化工作,以及相关的应用落地,和未来的思考。

来源:智能计算芯世界

下载链接:云边端一体化的异构AI计算

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

图片

来源:智能计算芯世界

下载链接:云边端一体化的异构AI计算

智能异构计算服务器

智能平台白皮书

2021年AI在工业领域的研究报告

异构芯片研究框架合集

图片

转载申明:转载本号文章请注明作者来源,本号发布文章若存在版权等问题,请留言联系处理,谢谢。

推荐阅读

更多架构相关技术知识总结请参考“架构师全店铺技术资料打包”相关电子书(37本**技术资料打包汇总详情可通过“阅读原文**”获取)。

全店内容持续更新,现下单“全店铺技术资料打包(全)”,后续可享全店内容更新“免费”赠阅,价格仅收198元(原总价350元)。

温馨提示:

扫描二维码关注公众号,点击阅读原文链接获取“**架构师技术全店资料打包汇总(全)**”电子书资料详情。

图片

图片

发表评论

表情:
评论列表 (有 0 条评论,259人围观)

还没有评论,来说两句吧...

相关阅读

    相关 计算与CUDA

    记录下关于异构计算的链接 [参考链接][Link 1] GPU和CPU执行程序是异步的,核函数调用后成立刻会到主机线程继续,而不管GPU端核函数是否执行完毕,所以上面

    相关

    > 云指云计算 > > 边指边缘计算 > > 端指设备 在物联网场景下,云计算模型越来越具有局限性,不能满足很多设备场景下的应用。 在今年3月份的云栖大会上,阿里云总裁