本发明属于无人机集群协同推理，尤其涉及一种基于模型分割的无人机群协同推理方法和系统。
1、随着无人机技术的发展，无人机已被广泛应用于多种领域，如空中物体探测、灾区快速救援、智能城市监控、大型农业等。与传统的物联网设备相比，无人机不仅成本较低，而且具有更高的机动性和更强的数据采集能力。无人机提供了一种快速灵活的数据采集系统，可以从不同角度和高度密切监测人类活动和物体，从而获得用于提高复杂事件检测准确性的高分辨率数据。此外，由于具有飞行能力，无人机可以覆盖广泛的区域来检测事件，并进入火山和森林等传统监测工具无法进入的困难区域。
2、尽管无人机可以用于上述关键和复杂的任务，但如何处理这些应用程序生成的大量数据也是一个需要解决的问题。随着人工智能的发展，人们提出使用深度神经网络来处理生成的大量数据。虽然深度神经网络可以高效地处理数据，但其复杂的结构和高性能需要消耗大量的资源。更准确地说，一个典型的深度神经网络模型由与数千个神经元相关的多层组成，这需要大量的计算和内存占用。由于无人机的尺寸和成本限制，通用电源受到严重限制，计算能力较低。有两种传统的方法来解决这个问题。第一种方法是在无人机上部署轻型模型，以适应有限的资源。尽管轻量级模型可以减少计算量和推理延迟，但其准确性相对较低。另一种传统的方法是将数据传输回地面进行处理，这面临着高通信延迟和成本的问题。总之，单架无人机很难独立完成需要密集计算的任务，这对低延迟和推理精度提出了很大挑战。
3、为了在无人机上实时、高精度地处理这些数据，一些学者提出使用云服务器和边缘服务器来辅助无人机进行计算。一般来说，现有的研究可以分为两类：需要地面站辅助的无人机协同推理和仅使用无人机群的局部协同推理。尽管需要地面站协助的协同推理方法会对数据进行本地预处理，并根据不同的应用场景选择地面站的类型，但它仍然需要像传统的方法一样处理通信延迟问题，以及可靠性和可扩展性较弱。使用无人机群进行协同推理的一个主要优点是，它可以通过分配和执行子任务来处理更复杂的操作，从而减少执行时间并确保更好的容错性。然而，上述关于无人机群中协同推理的工作并没有充分考虑无人机群的资源局限性，例如内存、计算能力、能量和其他限制因素，以及无人机与更细粒度计算任务划分之间推理请求的实时负载。
1、本发明针对现有技术中的不足，提供一种基于模型分割的无人机群协同推理方法和系统。
4、将一架无人机作为源无人机，在接收到推理任务请求后，将推理任务发送至无人机群内剩余全部无人机；
5、在剩余全部无人机接收到源无人机发送的推理任务后，分别对自身状态和可用资源进行统计评估，同时对与其他无人机的信道情况进行感知，将统计评估结果和感知结果反馈给源无人机；
6、根据反馈的结果将推理任务按照深度学习模型的层结构和层数量划分为多个子任务，将子任务分配至满足要求的无人机执行，每架无人机仅执行一个子任务。
7、进一步地，所述根据反馈的结果将推理任务按照深度学习模型的层结构和层数量划分为多个子任务，将子任务分配至满足要求的无人机执行，每架无人机仅执行一个子任务，包括：
8、当深度学习模型的目标层被分割为多个子任务执行单元，一个子任务执行单元执行一个子任务，根据以下公式计算多架无人机执行目标层推理任务的计算时延和传输时延的和：
10、其中，t1(l)为目标层被分割为多个子任务执行单元情况下，无人机群接收第l-1层输出数据时延与执行第l层推理任务时延的和，第l层为目标层；cl,n为执行第l层推理任务的第n架无人机所需的计算量；fn为第n架无人机的每秒的加乘法操作次数；wl-1,n为执行第l层推理任务的第n架无人机接收第l-1层输出的数据大小；ρn为第n架无人机的信号传输速率；第l层推理任务由多架无人机并行处理，第l层推理任务的计算时延表示为被选中无人机中最大的计算时延；传输时延表示执行第l层推理任务的无人机接收第l-1层推理任务输出之和的时间，将执行第l层的总时延最小的多架无人机作为第l层推理任务的执行机。
11、进一步地，所述根据反馈的结果将推理任务按照深度学习模型的层结构和层数量划分为多个子任务，将子任务分配至满足要求的无人机执行，每架无人机仅执行深度学习模型中的一部分，包括：
12、当深度学习模型的目标层为最小子任务执行单元，根据以下公式计算一架无人机执行目标层推理任务的计算时延和传输时延的和：
14、其中，t2(l)为目标层为最小子任务执行单元情况下，无人机群接收第l-1层输出数据时延与执行第l层推理任务时延的和，第l层为目标层；cl,n为执行第l层推理任务的第n架无人机所需的计算量；fn为第n架无人机的每秒的加乘法操作次数；wl-1,n为执行第l层推理任务的第n架无人机接收第l-1层输出的数据大小；ρn为第n架无人机的信号传输速率；和分别表示无人机执行第l层推理任务的计算时延和接收输入数据的传输时延；
15、对于第n架无人机使用评估函数选出满足资源约束要求的最佳无人机作为第l层推理任务的执行机；cn为为第n架无人机的最大容许计算负荷，β和γ均为评估函数中的超参数系数，分别用于平衡无人机计算能力和传输速率。
16、第二方面，本发明提供一种基于模型分割的无人机群协同推理系统，包括：
17、模型部署模块，用于在无人机群中的每架无人机上部署相同的训练好的深度学习模型；
18、任务发送模块，用于将一架无人机作为源无人机，在接收到推理任务请求后，将推理任务发送至无人机群内剩余全部无人机；
19、结果反馈模块，用于在剩余全部无人机接收到源无人机发送的推理任务后，分别对自身状态和可用资源进行统计评估，同时对与其他无人机的信道情况进行感知，将统计评估结果和感知结果反馈给源无人机；
20、任务划分模块，用于根据反馈的结果将推理任务按照深度学习模型的层结构和层数量划分为多个子任务，将子任务分配至满足要求的无人机执行，每架无人机仅执行一个子任务。
22、第一时延计算单元，用于当深度学习模型的目标层被分割为多个子任务执行单元，一个子任务执行单元执行一个子任务，根据以下公式计算多架无人机执行目标层推理任务的计算时延和传输时延的和：
24、其中，t1(l)为目标层被分割为多个子任务执行单元情况下，无人机群接收第l-1层输出数据时延与执行第l层推理任务时延的和，第l层为目标层；cl,n为执行第l层推理任务的第n架无人机所需的计算量；fn为第n架无人机的每秒的加乘法操作次数；wl-1,n为执行第l层推理任务的第n架无人机接收第l-1层输出的数据大小；ρn为第n架无人机的信号传输速率；第l层推理任务由多架无人机并行处理，第l层推理任务的计算时延表示为被选中无人机中最大的计算时延；传输时延表示执行第l层推理任务的无人机接收第l-1层推理任务输出之和的时间，将执行第l层的总时延最小的多架无人机作为第l层推理任务的执行机。
26、第二时延计算单元，用于当深度学习模型的目标层为最小子任务执行单元，根据以下公式计算一架无人机执行目标层推理任务的计算时延和传输时延的和：
28、其中，t2(l)为目标层为最小子任务执行单元情况下，无人机群接收第l-1层输出数据时延与执行第l层推理任务时延的和，第l层为目标层；cl,n为执行第l层推理任务的第n架无人机所需的计算量；fn为第n架无人机的每秒的加乘法操作次数；wl-1,n为执行第l层推理任务的第n架无人机接收第l-1层输出的数据大小；ρn为第n架无人机的信号传输速率；和分别表示无人机执行第l层推理任务的计算时延和接收输入数据的传输时延；
29、对于第n架无人机使用评估函数选出满足资源约束要求的最佳无人机作为第l层推理任务的执行机；cn为为第n架无人机的最大容许计算负荷，β和γ均为评估函数中的超参数系数，分别用于平衡无人机计算能力和传输速率。
30、本发明提供一种基于模型分割的无人机群协同推理方法和系统，本发明方法中，在推理任务执行过程中，当无人机群产生推理请求时，由接收请求的无人机将信息发送至无人机群内的其他无人机，其他无人机感知当前计算能力、内存占用率、网络状态和能耗情况反馈给接收请求的无人机，然后接收推理请求的无人机根据当前无人机群状态，将推理任务根据深度学习模型的层数进行划分并分配给适合的无人机进行协同推理。不同于传统的数据回传推理模式和单机本地推理模式，本发明提出的方法通过在无人机群上部署深度学习模型，并通过多机协同推理，提高任务执行效率。同时，本发明方法还针对无人机电池容量的限制问题，实时感知无人机状态，调整参与的无人机和分配的模型计算量，在能耗限制下实现低延迟的协同推理，使得无人机群能够更加高效能地完成任务。
