微服务系统、运行方法、电子设备、存储介质及程序产品与流程

本申请涉及计算机，特别涉及一种微服务系统、运行方法、电子设备、存储介质及程序产品。

背景技术：

1、随着云计算和互联网技术的发展，微服务架构已经成为构建大型分布式系统的一种流行方法。微服务架构将一个复杂的应用程序分解为一组小型、独立的服务，每个服务负责执行一个特定的业务功能。这些服务可以独立开发、测试、部署和扩展，大大提高了系统的灵活性和可维护性。

2、然而，传统的微服务架构也面临一些挑战，特别是在高并发、大数据量处理和复杂任务调度的场景下，无法满足高并发需求，扩展性和灵活性有限。

技术实现思路

1、本申请提供一种微服务系统、运行方法、电子设备、存储介质及程序产品，以解决相关技术中无法满足高并发需求，且扩展性和灵活性有限等问题。

2、本申请第一方面实施例提供一种微服务系统，微服务系统部署于kubernetes集群环境中，其中，系统包括：redis任务队列，用于接收并存储待处理的任务请求；至少一个微服务模块，用于基于任务请求调度对应的ai模型；与至少一个微服务模块对应的至少一个ai模型，用于执行任务，其中，ai模型基于pytorch或onnx框架构建。

3、可选地，在本申请的一个实施例中，redis任务队列上配置有集群模型，用于支持多个任务的并发处理。

4、可选地，在本申请的一个实施例中，微服务系统还包括：任务管理模块，用于从redis任务队列中取出任务请求并分配给对应的微服务模块。

5、可选地，在本申请的一个实施例中，微服务系统还包括：监控系统，用于监控微服务系统的运行状态和性能指标。

6、可选地，在本申请的一个实施例中，微服务系统支持异步处理多个任务请求。

7、可选地，在本申请的一个实施例中，微服务模块、任务管理模块和监控系统均基于flask应用框架构建。

8、本申请第二方面实施例提供一种微服务系统的运行方法，包括：接收用户提交的任务请求并存储于redis任务队列中；从redis任务队列取出任务请求并分配给对应的微服务模块，其中，微服务模块调度对应的ai模型，ai模型执行任务并输出执行结果；将执行结果反馈至所述用户。

9、本申请第三方面实施例提供一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行程序，以执行如上述实施例的微服务架构的运行方法。

10、本申请第四方面实施例提供一种计算机可读存储介质，其上存储有计算机程序或指令，计算机程序或指令被处理器执行，以执行如上述实施例的微服务系统的运行方法。

11、本申请第五方面实施例提供一种计算机程序产品，包括计算机程序或指令，计算机程序或指令被执行时，以实现如上述实施例的微服务系统的运行方法。

12、由此，本申请至少具有如下有益效果：

13、本申请实施例可以基于kubernetes和redis构建微服务系统，基于微服务系统执行用户的任务请求，可以利用kubernetes的强大功能，如自动扩展、高可用性、负载均衡等，确保稳定性和可靠性，采用redis作为任务队列，可以提高系统的高并发性能，并且能够确保任务不会丢失，每个微服务模块负责处理特定类型的任务，并调度对应的ai模型，可以使系统灵活地处理多种任务类型，并且基于pytorch或onnx框架构建的ai模型可以执行各种推理任务。由此，解决了相关技术中无法满足高并发需求，且扩展性和灵活性有限等技术问题。

14、本申请附加的方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实践了解到。

技术特征：

1.一种微服务系统，其特征在于，所述微服务架构部署于kubernetes集群环境中，其中，所述系统包括：

2.根据权利要求1所述的微服务系统，其特征在于，所述redis任务队列上配置有集群模型，用于支持多个任务的并发处理。

3.根据权利要求1所述的微服务系统，其特征在于，所述微服务系统还包括：任务管理模块，用于从所述redis任务队列中取出任务请求并分配给对应的微服务模块。

4.根据权利要求1所述的微服务系统，其特征在于，所述微服系统还包括：监控系统，用于监控所述微服务系统的运行状态和性能指标。

5.根据权利要求1所述的微服务系统，其特征在于，所述微服务系统支持异步处理多个任务请求。

6.根据权利要求4所述的微服务系统，其特征在于，所述微服务模块、所述任务管理模块和所述监控系统均基于flask应用框架构建。

7.一种微服务系统的运行方法，其特征在于，包括以下步骤：

8.一种电子设备，其特征在于，包括：存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述处理器执行所述程序，以执行如权利要求7所述的微服务系统的运行方法。

9.一种计算机可读存储介质，其上存储有计算机程序或指令，其特征在于，所述计算机程序或指令被处理器执行，以用于实现如权利要求7所述的微服务系统的运行方法。

10.一种计算机程序产品，包括计算机程序或指令，其特征在于，所述计算机程序或指令被执行时，以实现如权利要求7所述的微服务系统的运行方法。

技术总结
本申请涉及计算机技术领域，特别涉及一种微服务系统、运行方法、电子设备、存储介质及程序产品，其中，系统包括：Redis任务队列，用于接收并存储待处理的任务请求；至少一个微服务模块，用于基于任务请求调度对应的AI模型；与至少一个微服务模块对应的至少一个AI模型，用于执行任务，其中，AI模型基于Pytorch或ONNX框架构建。由此，解决了相关技术中无法满足高并发需求，且扩展性和灵活性有限等问题。

技术研发人员：吴双
受保护的技术使用者：大卓智能科技有限公司
技术研发日：
技术公布日：2024/12/5