一种面向多虚拟机的GPU安全共享方法与流程

本发明涉及接口管理领域，具体为一种面向多虚拟机的gpu安全共享方法。

背景技术：

1、随着科技的飞速发展，gpu作为一种强大的加速器芯片，在高性能计算、人工智能、机器学习以及大数据处理领域得到了广泛应用，gpu的并行计算能力使其在复杂的数据处理和算法加速方面展现出巨大优势，然而，在实际应用中，gpu资源的有效管理和安全共享成为了一个亟待解决的问题。

2、传统方式下，每个虚拟机或物理机通常被分配独立的gpu资源，导致gpu资源难以被高效利用，特别是在非高峰时段，gpu资源往往处于闲置状态，造成资源浪费，gpu设备本身价格昂贵，对于需要大量计算资源的场景，购买和维护成本都非常高，在多虚拟机共享gpu资源的环境中，存在严重的安全风险，恶意虚拟机窃取其他虚拟机的数据，或者通过非法手段占用过多gpu资源，导致其他虚拟机性能下降甚至崩溃。

3、针对上述问题，在原有的面向多虚拟机的gpu安全共享方法的基础上进行创新设计。

技术实现思路

1、本发明的目的在于提供一种面向多虚拟机的gpu安全共享方法，采用本装置进行工作，从而解决了现有虚拟机或物理机通常被分配独立的gpu资源，导致gpu资源难以被高效利用的问题。

2、为实现上述目的，本发明提供如下技术方案：一种面向多虚拟机的gpu安全共享方法，包括：

3、t-hyper：t-hyper为可信虚拟机管理系统，负责创建管理服务器虚拟机和用户虚拟机，确保虚拟机的安全隔离和资源的合理分配；

4、管理服务器虚拟机上层gpu后端：负责管理和调用gpu资源，通过中间层图像引擎库优化gpu任务的执行以及利用dma直接内存访问技术高效访问共享内存；

5、虚拟图像引擎接口：提供一套上层库模块，作为uos用户操作系统应用程序访问gpu图形处理功能的桥梁，通过标准接口封装，降低应用程序对底层gpu硬件的依赖，提供uos应用程序对上层图形处理功能的访问接口；

6、上层gpu编码器：用于对虚拟图像引擎接口产生的数据进行编码处理，转换为适合网络传输的格式，并发送到管理服务器虚拟机的上层gpu后端进行处理；

7、虚拟gpu上层接口：负责直接提供uos应用程序访问底层图形处理功能的接口，绕过传统的图形堆栈，图稿访问效率和性能；

8、virtio-gpu前端：负责调用中间层图像引擎库，并通过dma技术访问共享内存与virtio-gpu后端配合，实现gpu资源的虚拟化以及sos与gpu资源之间的高效通信和数据传输，支持gpu资源的灵活分配和共享。

9、进一步地，所述包括以下三种方法：

10、c1：通过基础图形访问接口访问gpu硬件；

11、c2：通过virtio-gpu前端与sos中的gpu后端进行通信访问；

12、c3：通过virtual gpu上层接口调用底层gpu接口的方法直接使用gpu资源。

13、进一步地，所述c1的具体步骤如下：

14、c1-1:uos应用程序调用虚拟图像引擎接口，负责调用上层gpu编码器将接口按照指定规则编码后通过快速通道传递给上层gpu后端；

15、c1-2:上层gpu后端，负责接收编码后的请求并进行解码，识别出真正的图像引擎库和接口名称，根据请求调用相应的图像引擎库，执行实际的gpu操作，能够支持多种图像引擎库，实现gpu资源的灵活调度和共享。

16、进一步地，所述c2的具体步骤如下：

17、c2-1:virtio-gpu前端与后端的直接通信：用于virtio-gpu实现前端与sos中gpu后端的直接通信，摒弃了编码器转换，通过标准内核接口高效交互；

18、c2-2:数据流地址与处理指令的发送：用于virtio-gpu前端发送数据流地址与处理指令至sos中gpu后端，直接定位数据并指定操作，避免数据复制，改善了在使用标准图形库接口同时处理大数据图像时的性能瓶颈。

19、进一步地，所述c3的具体步骤如下：

20、c3-1:vi rt i o-gpu的访问机制，包括：控制流：用于处理命令和状态信息的交换；数据流：虚拟机直接访问宿主机上的gpu数据，而无需进行数据的复制。

21、c3-2:3d引擎库与gpu底层接口：用于直接访问gpu底层接口和控制gpu的渲染和计算能力。

22、进一步地，所述c3的具体步骤如下：

23、c3-3:vi rtua l-opengl与gpu编码器：通过gpu编码器将3d引擎的api调用进行高效编码和序列化，减少在用户操作系统uos中的内存占用和复杂性，这些序列化后的数据通过vhost-dmabuf或网络机制传输到服务操作系统sos中的gpu后端进行解码和执行。

24、进一步地，所述c3的具体步骤如下：

25、c3-4:asg与快速ipc：asg是一种通讯方式，通过加速通道实现快速的进程间通信ipc，用于需要低延迟和高带宽的场景。

26、进一步地，所述包括以下第一步骤：

27、d1:服务器虚拟机与用户虚拟机的分离：在t-hyper虚拟化架构中，实现了服务器虚拟机sos与用户虚拟机uos在gpu资源访问上的明确分离，实现了资源的高效共享与安全隔离。

28、进一步地，所述包括以下第二种步骤：

29、d2:细粒度访问控制：基于微内核的t-hyper通过能力级capab i l i ty-based的方式，对系统资源进行细粒度划分。

30、进一步地，所述包括以下第三种步骤：

31、d3:gpu地址保护：为了防止潜在的dma攻击，gpu地址通过smmu系统内存管理单元或mpu内存保护单元硬件隔离机制进行保护。

32、与现有技术相比，本发明的有益效果如下：

33、本发明提出的一种面向多虚拟机的gpu安全共享方法，现有虚拟机或物理机通常被分配独立的gpu资源，导致gpu资源难以被高效利用；而本发明通过中间层图像引擎库、虚拟图像引擎接口、上层gpu编码器以及v i rt i o-gpu前后端等组件，实现了uos应用程序对gpu资源的间接访问，提高了访问效率和性能，并确保了gpu资源的安全性和灵活性，通过gpu虚拟化在物理gpu上创建多个虚拟gpu实例，将物理gpu资源划分为多个虚拟切片，每个虚拟切片被分配给一个虚拟机，这种方式不仅提高了gpu资源的利用率，还降低了管理成本。

技术特征：

1.一种多虚拟机gpu共享系统，其特征在于：包括：

2.如权利要求1所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：包括以下三种方法：

3.如权利要求2所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：所述c1的具体步骤如下：

4.如权利要求2所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：所述c2的具体步骤如下：

5.如权利要求2所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：所述c3的具体步骤如下：

6.根据权利要求5所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：所述c3的具体步骤如下：

7.根据权利要求6所述的一种多虚拟机gpu共享系统的共享使用方法，其特征在于：所述c3的具体步骤如下：

8.如权利要求1所述的一种多虚拟机gpu共享系统的安全共享方法，其特征在于：包括以下第一步骤：

9.根据权利要求8所述的一种面向多虚拟机的gpu安全共享方法，其特征在于：包括以下第二种步骤：

10.根据权利要求9所述的一种面向多虚拟机的gpu安全共享方法，其特征在于：包括以下第三种步骤：

技术总结
本发明涉及接口管理技术领域，公开了一种面向多虚拟机的GPU安全共享方法，本发明解决了现有虚拟机或物理机通常被分配独立的GPU资源，导致GPU资源难以被高效利用的问题。本发明通过中间层图像引擎库、虚拟图像引擎接口、上层GPU编码器以及virtio‑GPU前后端组件，实现了UOS应用程序对GPU资源的间接访问，提高了访问效率和性能，并确保了GPU资源的安全性和灵活性，通过GPU虚拟化在物理GPU上创建多个虚拟GPU实例，将物理GPU资源划分为多个虚拟切片，每个虚拟切片被分配给一个虚拟机，这种方式不仅提高了GPU资源的利用率，还降低了管理成本。

技术研发人员：张强,单中元,孟庆洋
受保护的技术使用者：宁波谦川科技有限公司
技术研发日：
技术公布日：2024/12/5