AI新浪潮：截止2022年，全球74%的计算将来自端侧

柔情只为你懂 2023-01-09 00:48 81阅读 0赞

根据Gartner的报告，今天91%的数据是在中心化的数据存储中心做计算。但是，截止到2022年，全世界74%的数据将在端侧进行分析和计算。

![20210120153830679.jpeg][]

有一种误解是边缘计算会取代云计算，相反，边缘+云计算的结合会是未来的主趋势，边缘计算甚至会进一步带动云计算的发展。把规模的数据计算一定是在云端处理，而与直接数据产生者相关的部分计算会被分配到端。接下来就具体分析下端侧计算的一些优势：

# 1.数据隐私性 #

#  #

个性化推荐等业务越来越被普遍应用到广大APP中，其本质是对用户行为数据的收集，并在云端进行统一分析。这种AI服务在给人们带来便利的同时，也带来了数据安全问题，很多国家开始出台法令限制用户数据的收集。边缘计算的引入可以允许用户数据不上传，只在用户自己的手机端侧进行分析。这样既能保证数据隐私性，又能同样满足个性化推荐等业务需求。

##    2.时效性 ##

目前大部分AI服务需要采集数据到云端的数据存储中心进行统一建模，然后将模型部署成Restful服务供终端调用。这种模式因为数据传输的带宽限制以及网络通信的时延限制，往往会影响服务的时效性。如果数据分析建模等服务发生在端侧，就避免了大量的数据传输和网络时延等问题。

# 3.负载平衡 #

传统的AI service完全依赖于云端服务，因为每个终端侧的请求有波峰、波谷的差别，在请求波峰阶段可能会受限于云端服务侧性能，这个时候就需要做一些负载平衡，端侧服务就可以很好地解决这个问题。当云端服务能力不足的时候，端侧可以做一些弥补。一些极端情况，比如突然断网，云端服务完全失效，这时候因为端侧的模型服务还在，也可以暂时解决一部分AI模型inference的问题。

Edge AI的一些问题：

#    1. 计算力问题 #

众所周知，分布式计算（俗称云计算）主要解决的就是计算力问题，而将计算任务下发到端侧，可能会受限于端侧的内存、磁盘大小的问题，导致只有小规模的模型产出。

# 2.端设备多样性问题 #

端侧设备各式各样，比如手机、手表、音箱、汽车。里面使用的操作系统也极为丰富，可能有Anroid、Linux、IOS。在框架层可能是TF或者PyTorch。底层计算芯片也有各种版本，比如英伟达就为不同的终端定制了不同类型的芯片设备，比如为汽车定制的NVDIA Drive Orin。

如何在这么多设备的变量因素之下，找到一条普适性的模型训练模式，是比较有挑战的。

[20210120153830679.jpeg]: /images/20221119/5677fa9d122e45f8b0be46662d31d35b.png