边缘智能应该是一种范式,它充分利用终端设备、边缘节点和云数据中心层次结构中的可用数据与资源,以优化DNN模型的训练和推理的整体性能。因此边缘智能并不一定意味着DNN模型在边缘得到充分训练或推理,而是可以通过数据卸载以云-边缘-设备协调的方式协同工作。具体来说,根据数据卸载的数量和路径长度,可以将边缘智能分为6个级别,如图6-2所示。具体而言,各种级别的边缘智能的定义如下。
● 云智能:在云中完全训练和推理DNN模型。
● 第一级——云-边缘联合推理和云训练:在云中训练DNN模型,但以边缘-云合作的方式推理DNN模型。这里,边缘云合作意味着数据被部分卸载到云中。
● 第二级——边缘内协同推理和云训练:在云中训练DNN模型,但在边缘推理DNN模型。这里,边缘内意味着模型推理在网络边缘内执行,数据将被全部或部分卸载到边缘节点或附近的设备上。
● 第三级——设备上推理和云训练:在云中训练DNN模型,但完全在本地设备上进行DNN推理。在这里,设备上意味着不会卸载任何数据。
● 第四级——云-边缘协同训练和推理:以云-边缘协同的方式训练和推理DNN模型。
● 第五级——全边缘:训练和推理DNN模型全部在边缘上实现。
● 第六级——全设备:训练和推理DNN模型全部在设备上实现。