1.本技术涉及计算机技术领域,尤其涉及一种数据处理方法、装置、设备及存储介质。
背景技术:
2.针对一个面向用户客户端的后台界面系统,一般需要进行账号登录后才能使用,假设将该系统称为中心系统。通常,用户通过客户端在中心系统进行账号登录后可为客户端提供认证功能,以增加系统安全性。此时,若新增另一个后台服务独立于中心系统,且若需要提供认证功能才能使用该新增后台服务时,目前,通常是重新设计系统架构或工程开发以实现对新增后台服务对应的认证功能。这种方式需要多次认证操作,繁琐复杂,因此,可能导致数据处理的复杂度较高,进而导致数据处理的效率较低。
技术实现要素:
3.本技术实施例提供了一种数据处理方法、装置、设备及存储介质,可以在多系统的数据处理的情况下,简化认证操作,并保证系统的安全性,也可以提高数据处理速度。
4.第一方面,本技术实施例公开了一种数据处理方法,所述方法包括:
5.接收客户端发送的用于请求获取目标数据的数据请求;
6.基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;
7.对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;
8.将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。
9.第二方面,本技术实施例公开了一种数据处理装置,所述装置包括:
10.接收单元,用于接收客户端发送的用于请求获取目标数据的数据请求;
11.连接单元,用于基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;
12.确定单元,用于对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;
13.发送单元,用于将所述新数据请求发送至所述目标子服务器,以使所述目标子服
务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。
14.第三方面,本技术实施例公开了一种数据处理设备,包括处理器、存储器,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行上述第一方面的方法。
15.第四方面,本技术实施例公开了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行上述第一方面的方法。
16.本技术实施例中,可以接收客户端发送的用于请求获取目标数据的数据请求,并基于数据请求对应的请求类型确定客户端与所述中心服务器,以及中心服务器和子服务器集群所建立的通信连接的连接类型,还可以对数据请求进行认证。当数据请求通过认证时,可以从子服务器集群中确定数据请求的目标子服务器,并基于目标子服务器对所数据请求进行请求调整,以得到新数据请求;进一步的,可以将新数据请求发送至目标子服务器,以使目标子服务器响应该新数据请求并得到响应数据,以及将响应数据转发给数据代理组件。通过实施上述方法,可以在多系统的数据处理的情况下,简化认证操作,并保证系统的安全性,也可以提高数据处理速度。
附图说明
17.为了更清楚地说明本技术实施例技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本技术的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
18.图1是本技术实施例提供的一种数据处理系统的架构示意图;
19.图2是本技术实施例提供的一种数据处理方法的流程示意图;
20.图3是本技术实施例提供的一种数据处理方法的流程示意图;
21.图4是本技术实施例提供的一种数据处理装置的结构示意图;
22.图5是本技术实施例提供的一种数据处理设备的结构示意图。
具体实施方式
23.下面将结合本技术实施例中的附图,对本技术实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本技术一部分实施例,而不是全部的实施例。基于本技术中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本技术保护的范围。
24.本技术实施例可以基于人工智能技术对相关的数据进行获取和处理。其中,人工智能(artificial intelligence,ai)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能,感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。
25.人工智能基础技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理技术、操作/交互系统、机电一体化等技术。人工智能软件技术主要包括计算机视觉技术、机器人技术、生物识别技术、语音处理技术、自然语言处理技术以及机器学习/深度学习等几大方向。
26.本技术实施例提供的方案涉及人工智能的机器学习等技术,具体通过如下实施例进行说明:
27.在本技术实施例中,为了简化认证操作,提高数据处理速度,本技术实施例提供了一种数据处理系统的架构示意图。如图1所示,该数据处理系统可以包括客户端、中心服务器以及子服务器集群,其中,子服务器集群中包括多个子服务器,中心服务器上部署有数据代理组件,中心服务器或子服务器集群中的任一子服务器可以是用于为客户端提供业务服务的设备。
28.在一种实现方式中,中心服务器可以配置有数据代理组件,该数据代理组件是一个可内置于中心服务器中的组件,该数据代理组件可用于对中心服务器的用户流量(用户流量也可以理解为用户通过客户端发起的数据请求)进行监听、拦截。在本技术中,该数据代理组件可以用于捕获指定流量。其中,指定流量可以是指用于请求获取目标数据的数据请求,且该目标数据存储于子服务器集群中的子服务器上。换言之,指定流量可以是指需要访问子服务器的用户流量。而在数据代理组件捕获到指定流量之后,还可以对获取到的指定流量进行认证,并在认证成功后将该指定流量转发至子服务器集群中的一个子服务器中,以使该子服务器可以响应该指定流量后,并将响应数据返回给数据代理组件,而数据代理组件接收到该响应数据之后,再将该响应数据返回给客户端。
29.在一种实现方式中,该数据代理组件可以通过引用包的形式直接引入到中心服务器中,而为了使数据代理组件可以实现对应的功能,可以设置一个配置文件来描述数据代理组件的相关功能。具体而言,配置文件可以是指对数据代理组件的行为进行规范说明的文件。例如,数据代理组件可以监听什么样的数据请求,监听到对应的数据请求后,该数据请求应该转发给子服务器集群中的哪一个子服务器等等。
30.在一种实现方式中,在该配置文件中,可以配置如下信息:
①
可处理的数据请求的请求类型,请求类型例如可以是http类型或websocket类型,以便于后续可以基于请求类型确定客户端和中心服务器,以及中心服务器和子服务器之间所要建立的通信连接类型,其中,该通信连接类型可以包括短连接和长连接;
②
拦截/捕获指定流量规则,该指定流量规则具体是指数据代理组件所要确定的中心服务器在接收到数据请求之后,这些数据请求中哪些数据请求需要转发至子服务器上。在本技术中,是将用于获取目标数据的数据请求确定为指定流量;
③
子服务器集群中各个子服务器对应的服务器标识符,各个子服务器对应的域名(url),服务器标识符可以用于唯一指示子服务器,这些数据可用于对后续数据请求的改写以及将数据请求转发至对应的子服务器上。如还需使该数据代理组件实现其他功能,还可以在该配置文本中配置对应的信息。在配置文件配置完成之后,在后续的数据处理过程中,则可以通过该数据代理组件对应的配置文件中所配置的针对数据代理组件的相关功能,完成对客户端所发起的数据请求对应的数据处理操作。
31.在一种可能的实现中,中心服务器配置的数据代理组件的数量可以包括多个,以利用多个数据代理组件进行并发处理,从而提高数据处理效率。可选的,每个数据代理组件可以针对性的获取不同类型的数据请求并进行转发,以实现数据的分离,保证数据的保密性。
32.可以看出,本技术实施例提供的数据处理系统,以数据代理组件的配置文件来实现客户端所对应的数据服务,这种数据处理系统中的数据代理组件可以将所有用户流量都
收敛到中心服务器上,以将用户流量收敛到一处进行同一管控,可以提高数据管控的便利性。同时,在用户流量收敛到中心服务器,也可以使对用户流量的认证过程均在中心服务器完成。而不需要对需要访问子服务器的用户流量在子服务器再次进行认证处理,可以避免中心服务器和子服务器都需要开发认证架构的工作量,可以将认证过程和子服务器解耦,也可以免去对子服务器的侵入性。也可以统一账号体系,例如,如果用户通过客户端的某一数据请求涉及多个平台的登陆,通过本技术也可以避免以多个平台所带来的多账号体系的问题。数据代理组件和子服务器之间的数据交易使用应用层交互,则数据代理组件的配置和子服务器之间也不涉及语言异构的问题。通过配置文件的设置,可以使得中心服务器存在较弱的侵入性,且通过在中心服务器一次集成数据代理组件之后,后续针对数据代理组件相应功能的调整,可以只需要修改配置文件中的配置信息即可。
33.基于图1的数据处理系统,本技术实施例提出了一种数据处理方法,请参阅图2,图2是本技术实施例提供的一种数据处理方法的流程示意图。图2所示数据处理方法可由中心服务器执行,具体可由中心服务器中数据代理组件执行。图2所示的数据处理方法可包括以下步骤:
34.s201:接收客户端发送的用于请求获取目标数据的数据请求。
35.在一种实现方式中,可以接收客户端发送的数据请求,在接收到数据请求之后,还可以进一步检测该数据请求是否是目标数据请求,该目标数据请求可以是指针对请求获取目标数据的数据请求,该目标数据可以是指在子服务器中存储的数据,即需要访问子服务器的数据请求。
36.s202:基于数据请求对应的请求类型确定客户端与所述中心服务器,以及中心服务器和子服务器集群所建立的通信连接的连接类型。
37.在一种实现方式中,根据数据请求的请求类型的不同,设备之间所建立的通信连接也可以不同。例如,当数据请求对应的请求类型为第一请求类型时,客户端与中心服务器,以及中心服务器和目标子服务器均建立第一通信连接;当数据请求对应的请求类型为第二请求类型时,客户端与中心服务器,以及中心服务器和目标子服务器均建立第二通信连接。
38.可选的,第一请求类型可以是http类型的数据请求,第一通信连接具体是短连接,客户端与中心服务器,以及中心服务器和目标子服务器均建立第一通信连接可以理解为:在确定数据请求为第一请求类型时,客户端与中心服务器之间可以建立通信连接,中心服务器与对应的目标子服务器之间可以建立通信连接,以进行数据的传输;而当中心服务器接收到目标子服务器响应于新数据请求所发送的响应数据,且客户端接收到中心服务器返回的响应数据之后,中心服务器与对应的目标子服务器之间可以断开通信连接,客户端与中心服务器之间也可以断开通信连接。即在基于数据请求建立通信设备之间的通信连接,而在完成该数据请求对应的数据传输之后,即可以断开通信设备之间的通信连接,这种连接方式,也可以有效的保证数据传输的安全性。
39.可选的,第二请求类型可以是websocket类型的数据请求,第二通信连接具体是长连接,客户端与中心服务器,以及中心服务器和目标子服务器均建立第二通信连接可以理解为:在确定数据请求为第二请求类型时,客户端与中心服务器之间可以建立通信连接,中心服务器与对应的目标子服务器之间可以建立通信连接,以进行数据的传输;而当中心服
务器接收目标子服务器响应于新数据请求所发送的响应数据,且客户端接收到中心服务器返回的响应数据之后,中心服务器与对应的目标子服务器之间可以不断开通信连接,客户端与中心服务器之间可以不断开通信连接。即在基于数据请求建立通信设备之间的通信连接,而在完成该数据请求对应的数据传输之后,可以不断开通信设备之间的通信连接,以便于后续用户通过客户端再次发起数据请求,可以继续复用客户端与中心服务器之间的通信连接进行数据的传输,或数据代理组件转发数据请求时,也可以继续复用中心服务器与目标子服务器之间的通信连接。这种连接方式,可以省去较多的通信的建立/关闭的操作,即可以节省为每个请求建立新连接所需的时间,那么,对于频繁请求资源的用户,也可以加快数据获取的速度。
40.s203:对数据请求进行认证,当数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于目标子服务器对数据请求进行请求调整,得到新数据请求
41.在一种实现方式中,在获取到数据请求之后,为了保证数据处理系统的安全性,可以对数据请求进行认证。例如,可以基于数据请求中所携带的令牌(token)进行数据请求的认证。为了验证数据请求对应的身份,需要通过客户端向服务器提供一个可靠的验证信息,而该验证信息可以称之为令牌,这个令牌可以由json数据格式组成,并通过哈希(hash)散列算法生成一个字符串。通常,当用户通过客户端第一次登陆某一系统时,登陆成功后系统可以返回一个令牌给客户端,客户端接收该令牌之后可以存储于客户端,而后客户端每次访问该系统时可以携带该令牌到服务器,则服务器可以基于该令牌进行数据请求的认证。基于此,对数据请求进行认证的具体实施方式可以是:首先,可以从数据请求中的请求头中获取目标令牌,该目标令牌可以用于唯一指示一个客户端。那么,在获取到该目标令牌之后,可以进一步检测该目标令牌与中心服务器所存储的客户端对应的存储令牌是否一致。其中,如果检测结果为目标令牌与存储令牌一致,则可以确定该数据请求通过认证;如果检测结果为目标令牌与存储令牌不一致,则可以确定该数据请求未通过认证。
42.在一种实现方式中,考虑到在某些情况下,可能存在令牌被窃听或篡改,则可以基于更加安全的认证方法进行数据传输。例如,可以对令牌进行加密处理,以使得后续在基于令牌进行数据请求的认证时,可以先对加密后的令牌进行解密处理,进而利用解密后的令牌进行数据请求的认证。即检测解密后的目标令牌与中心服务器所存储的客户端对应的存储令牌是否一致。其中,目标令牌可以是利用目标加密策略进行加密后的令牌,例如,该目标加密策略可以是指安全传输层协议(transport layer security,tls)技术,tls技术可以在两个通信应用程序之间提供保密性和数据完整性,也可以利用其他加密策略,在本技术不做限定。而对目标令牌的解密则可以利用tls技术对应的解密策略进行解密。
43.在一种实现方式中,在数据请求通过认证之后,即可以将该数据请求转发至目标子服务器,以使目标子服务器可以响应该数据请求,并得到对应的响应数据。可选的,该目标子服务器可以是从子服务器集群中随机选择的一个子服务器,即该目标子服务器可以是该子服务器集群中的任意一个,也可以是按照预设选取规则从子服务器集群中选择的一个子服务器。例如,预设选取规则可以是指从子服务器集群中选择一个最优的子服务器作为目标子服务器。其中,最优的评价标准可以是根据每个子服务器的优先级来判定,而最优的服务器可以是指子服务器集群中优先级最高的子服务器,即可以将优先级最高的子服务器
可以作为目标子服务器。可选的,每个子服务器的优先级可以根据每个子服务器的性能参数来确定。
44.具体实现中,可以获取子服务器集群中每个子服务器的第二性能参数,该第二性能参数可以包括传输带宽、安全系数等等,在本技术实施例中,主要以第二性能参数可以包括传输带宽、安全系数为例进行举例说明。而在获取到每个子服务器的第二性能参数之后,即可以根据第二性能参数确定每个子服务器的优先级,并将最高优先级对应的子服务器确定为该数据请求的目标子服务器。
45.可选的,假设第二性能参数包括传输带宽,则可以获取每个子服务器的传输带宽。其中,传输带宽越小,其对应的子服务器的优先级也就越低,对应的,传输带宽越大,其对应的子服务器的优先级也就越高。也就是说,最大传输带宽对应的子服务器的优先级最高,则可以将最大传输带宽对应的子服务器确定为目标子服务器。在一种实现中,获取每个子服务器的传输带宽的具体实施方式可以是:首先,可以向每个子服务器发送带宽探测请求,以请求每个子服务器返回指定数据量的数据。那么,在每个子服务器返回指定数据量的数据之后,可以接收每个子服务器返回的数据。进一步的,可以基于每个子服务器返回数据所消耗的时长,来确定每个子服务器的传输带宽。
46.可选的,假设第二性能参数包括安全系数,则可以获取每个子服务器的安全系数。其中,安全系数越小,其对应的子服务器的优先级也就越低,对应的,安全系数越大,其对应的子服务器的优先级也就越高。也就是说,最大安全系数对应的子服务器的优先级最高,则可以将最大安全系数对应的子服务器确定为目标子服务器。在一种实现中,获取每个子服务器的安全系数的具体实施方式可以是:首先,可以向每个子服务器发送一个安全系数获取请求,以请求每个子服务器返回各自的安全系数。而当各个子服务器接收该安全系数获取请求之后,可以确定自身的安全系数,并返回该安全系数,则数据处理设备可以接收到各个子服务器所返回的安全系数。其中,该安全系数可以用于衡量子服务器被成功窃取数据的概率。可选的,子服务器确定自身的安全系数的具体实施方式可以是:子服务器可以统计子服务器中数据存储量和子服务器中数据被成功窃取的数据量,并将子服务器中数据被成功窃取的数据量与子服务器中数据存储量之间的比值作为安全系数。还可以利用其他方式确定子服务器的安全系数,在本技术不作限定。
47.可选的,可以预先设置第二性能参数与优先级的对应关系,那么,数据处理设备在获取到第二性能参数之后,可以根据获取到的第二性能参数和该对应关系确定第二性能参数对应的优先级。其中,该对应关系可以是指第二性能参数与优先级呈正相关,也可以是指第二性能参数与优先级之间具体的数值对应关系,在本技术不作限定。例如,在第二性能参数包括传输带宽、安全系数中的一种时,该对应关系可以是指第二性能参数与优先级呈正相关,如上述描述的传输带宽越小,其对应的子服务器的优先级也就越低。又如上述描述的安全系数越小,其对应的子服务器的优先级也就越低。假设第二性能参数为传输带宽,子服务器的数量为3,且3个子服务器分别对应的传输带宽的大小关系为:p1(子服务器1)》p2(子服务器2)》p3(子服务器3)。根据传输带宽的大小关系可知,3个子服务器的优先级的高低关系为:子服务器1》子服务器2》子服务器3,即子服务器1的优先级最高。
48.可选的,假设第二性能参数包括传输带宽、安全系数,针对子服务器集群中的任一子服务器而言,数据处理设备可以获取该子服务器的传输带宽和安全系数,其具体获取方
式及可以参考上述描述。而在获取到传输带宽和安全系数之后,进一步可以根据该子服务器的传输带宽确定第一优先级,并根据该子服务器的安全系数确定第二优先级。而在确定每个子服务器对应的第一优先级和第二优先级之后,可以根据这两个优先级确定每个子服务器的优先级。例如,针对一个子服务器而言,可以将第一优先级和第二优先级之间的和值作为该子服务器的优先级。又如,可以将各个优先级与其对应的权重分别进行加权处理之后,将各个加权处理的和值作为该子服务器的优先级。其中,该两个权重之间的和值为1,每个优先级对应的权重可以预先设置,如可以根据实际的业务需求设置对应的权重。通过上述描述可知,可以根据第二性能参数确定每一个子服务器的优先级,那么,在确定每一个子服务器的优先级之后,则可以将最高优先级对应的子服务器确定为目标子服务器。
49.需要说明的是,本技术中的优先级(例如上述描述优先级、第一优先级、第二优先级)的高低可以理解为数值越大,优先级越高,上述的优先级也可以是其他数值,可以体现优先级和优先级的高低即可。
50.在一种实现方式中,在确定数据请求对应的目标子服务器之后,即可以将该数据请求转发至该目标子服务器,以使该目标子服务器可以响应该数据请求。而在将该数据请求发送至目标子服务器之前,需要对该数据请求对应的域名(url)进行改写,将原始数据请求中针对中心服务器的url改写为目标子服务器对应的url。其中,url的改写可以理解为请求网址的改写,即需要寻址到对应的目标子服务器上,以获取数据请求所请求的数据。而数据代理组件对应的配置文件中配置有各个子服务器对应的域名,则可以从该配置文件中获取目标子服务器对应的域名,可以将目标子服务器对应的域名称之为目标域名。那么,在获取到该目标域名之后,可以将数据请求中的原始域名调整为目标子服务器对应的目标域名,以得到新数据请求。
51.s204:将新数据请求发送至目标子服务器,以使目标子服务器响应新数据请求得到响应数据,并将响应数据发送给数据代理组件。
52.在一种实现方式中,在目标子服务器接收到系数据请求之后,该目标子服务器可以响应新数据请求,并获取该新数据请求对应的响应数据。进一步的,目标子服务器可以将该响应数据发送至中心服务器中的数据代理组件,而数据代理组件在接收到该响应数据之后,可以将该响应数据转发给客户端。
53.本技术实施例中,可以接收客户端发送的用于请求获取目标数据的数据请求,基于数据请求对应的请求类型确定客户端与所述中心服务器,以及中心服务器和所述子服务器集群所建立的通信连接的连接类型,还可以对数据请求进行认证。当数据请求通过认证时,可以从子服务器集群中确定数据请求的目标子服务器,并基于目标子服务器对所数据请求进行请求调整,以得到新数据请求;进一步的,可以将新数据请求发送至目标子服务器,以使目标子服务器响应该新数据请求并得到响应数据,以及将响应数据转发给数据代理组件。通过实施上述方法,可以在多系统的数据处理的情况下,简化认证操作,并保证系统的安全性,也可以提高数据处理速度。
54.请参阅图3,图3是本技术实施例提供的一种数据处理方法的流程示意图。图3所示数据处理方法可由中心服务器执行,具体可由中心服务器中数据代理组件执行。图3所示的数据处理方法可包括以下步骤:
55.s301:接收客户端发送的用于请求获取目标数据的数据请求。
56.s302:基于数据请求对应的请求类型确定客户端与所述中心服务器,以及中心服务器和子服务器集群所建立的通信连接的连接类型。
57.s303:对数据请求进行认证。
58.s304:获取子服务器集群中每个子服务器的第一性能参数。
59.在一种实现方式中,第一性能参数可以为上述描述的第二性能参数,例如,第一性能参数可以包括传输带宽、安全系数、当前请求访问量,还可以包括其他用于表征子服务器的性能的参数,在此处不一一举例。其中,第一性能参数的获取也可以参考上述描述,在此处不再赘述。
60.s305:调用类型识别模型对第一性能参数进行识别处理,得到每个子服务器的识别类型。
61.其中,类型识别模型可以是基于预设的机器学习模型训练得到的模型。机器学习模型可以是逻辑回归模型、决策树模型、随机森林模型、支持向量机等ai预测模型,在本技术中不限定具体模型。
62.在一种实现方式中,可以将每个子服务器对应的第一性能参数输入类型识别模型中,以得到每个子服务器分别对应的识别类型。其中,每个子服务器的识别类型可以用于指示子服务器被确定为目标子服务器的选择级别,选择级别越高,也可以表明该子服务器在第一性能参数的情况下,子服务器的性能较佳,那么,被选为目标子服务器的概率也就越大,而选择性能较好的子服务器作为目标子服务器,也可以提高数据传输质量。例如,识别类型可以是a、b、c等等,其中,a表明对应的选择级别最高,然后,b、c的选择级别依次降低。识别类型也可以利用其他数据表征,例如,数值等等,在本技术不做限定。
63.在一种实现方式中,在调用类型识别模型对第一性能参数进行识别处理之前,还可以对预设的机器学习模型进行训练,以得到该类型识别模型。具体实现中,可以获取训练样本集,该训练样本集可以包括一个或多个训练样本,任一训练样本包括一个子服务器对应的历史性能参数,历史性能参数可以参考上述第一性能参数的理解,历史性能参数可以理解在当前时间之前针对子服务器的第一性能参数。在得到训练样本集之后,可以对每个训练样本添加对应的训练识别类型,以根据训练样本集和训练样本集中每个训练样本的训练识别类型对预设的机器学习模型进行模型训练,得到类型识别模型。
64.在一种实现方式中,以训练样本集中的任一训练样本为例,对确定该任一训练样本对应的训练识别类型进行说明。针对训练样本集中的任一训练样本,可以根据任一训练样本所包括的历史性能参数确定任一训练样本的参数得分,可选的,历史性能参数可以包括传输带宽、安全系数、当前请求访问量,可以基于传输带宽、安全系数、当前请求访问量分别对应的具体值确定该任一训练样本的参数得分。例如,传输带宽为a、安全系数为b、当前请求访问量为c,为方便计算,a、b、c可以是十进制以内的数值(如可以是经过数值转换所得到的),然后再根据a、b、c确定参数得分,如参数得分可以是a、b、c的求和结果,也可以是加权求和结果,或其它方式得到的参数得分。在得到参数得分之后,再根据预设的参考参数得分与参考选择级别以及参数得分,确定任一训练样本的训练选择级别。例如预设的参考参数得分与参考选择级别可以如表1所示:
65.表1
66.参考参数得分参考选择级别
小于l1cl1~l2b大于l2a
67.那么,在得到该任一训练样本对应的参数得分之后,基于表1所示的映射关系即可以确定对应的训练选择级别,而基于该训练选择级别也就可以确定任一训练样本的训练识别类型,该训练选择级别即是训练识别类型。
68.在一种实现方式中,可以将每个子服务器的第一性能参数和对应的识别类型进行关联,并写入区块链(block chain),以便于后续对类型识别模型进行模型优化时,可以从区块链中获取关联后的第一性能参数和识别类型作为模型优化时所需要的训练样本集。具体实现中,在将每个子服务器的第一性能参数和对应的识别类型进行关联之后,可以通过区块链网络中的共识节点对关联后的第一性能参数和识别类型进行共识验证,如果共识验证通过,则可以将关联后的第一性能参数和识别类型封装为区块,并将该区块写入区块链。
69.依托于区块链的完整属性以及不可篡改属性,可以保证后续获取到关联后的第一性能参数和识别类型是可信且未被篡改的,以增加将其作为训练样本集的信任度。
70.s306:从每个子服务器的识别类型中筛选出目标识别类型,并根据目标识别类型对应的子服务器确定数据请求的目标子服务器。
71.在一种实现方式中,目标识别类型可以是指最高的选择级别,而最高的选择级别也表征了在子服务器集群中性能较优的子服务器,则可以从这些性能较优的子服务器中选择目标服务器。如果目标识别类型对应的子服务器的数量为1,则可以将该目标识别类型对应的子服务器确定为目标子服务器。如果目标识别类型对应的子服务器的数量为多个,则可以从该目标识别类型对应的多个子服务器中随机选择一个子服务器作为为目标子服务器。
72.s307:基于目标子服务器对数据请求进行请求调整,得到新数据请求。
73.s308:将新数据请求发送至目标子服务器,以使目标子服务器响应新数据请求得到响应数据,并将响应数据发送给数据代理组件。
74.其中,步骤s301-s303的具体实施方式可以参见上述实施例步骤s201-s203的具体描述,步骤s307的具体实施方式可以参见上述实施例步骤s203的具体描述,步骤s308的具体实施方式可以参见上述实施例步骤s204的具体描述,此处不再赘述。
75.在本技术实施例中,可以根据人工智能模型自动根据子服务器对应的性能参数,预测针对数据请求最优的子服务器,实现为响应数据请求,而为子服务器集群进行的合理化分配,可以保证数据请求的响应数据,从而提高数据处理速度,也可以提高选择智能性。
76.请参阅图4,图4是本技术实施例提供的一种数据处理装置的结构示意图。可选的,该数据处理装置可配置于数据代理设备,如配置于上述的数据代理组件中。该数据代理设备如数据代理组件可部署于中心服务器上,该中心服务器与子服务器集群通信连接,该子服务器集群包括多个子服务器。其中,本实施例中所描述的数据处理装置,包括:
77.接收单元401,用于接收客户端发送的用于请求获取目标数据的数据请求;
78.连接单元402,用于基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联
的第一通信连接或与所述第二请求类型关联的第二通信连接;
79.确定单元403,用于对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;
80.发送单元404,用于将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。
81.在一种实现方式中,所述确定单元403,具体用于:
82.从所述数据请求中的请求头中获取目标令牌,并检测所述目标令牌与所述中心服务器所存储的所述客户端对应的存储令牌是否一致;
83.若检测结果为所述目标令牌与所述存储令牌一致,则确定所述数据请求通过认证;
84.若检测结果为所述目标令牌与所述存储令牌不一致,则确定所述数据请求未通过认证。
85.在一种实现方式中,所述确定单元403,具体用于:
86.获取所述子服务器集群中每个子服务器的第一性能参数;
87.调用类型识别模型对所述第一性能参数进行识别处理,得到所述每个子服务器的识别类型,所述识别类型用于是指子服务器被确定为目标子服务器的选择级别;
88.从所述每个子服务器的识别类型中筛选出目标识别类型,并根据所述目标识别类型对应的子服务器确定所述数据请求的目标子服务器。
89.在一种实现方式中,所述确定单元403,还用于:
90.获取训练样本集,所述训练样本集包括一个或多个训练样本,任一训练样本包括一个子服务器对应的历史性能参数;
91.针对所述训练样本集中的任一训练样本,根据所述任一训练样本所包括的历史性能参数确定所述任一训练样本的参数得分,并根据预设的参考参数得分与参考选择级别以及所述参数得分,确定所述任一训练样本的训练选择级别,以基于所述训练选择级别确定所述任一训练样本的训练识别类型;
92.根据所述训练样本集和所述训练样本集中每个训练样本的训练识别类型对预设的机器学习模型进行模型训练,得到所述类型识别模型。
93.在一种实现方式中,所述确定单元403,还用于:
94.将所述每个子服务器的第一性能参数和对应的识别类型进行关联,并通过区块链网络中的共识节点对关联后的第一性能参数和识别类型进行共识验证;
95.若共识验证通过,则将所述关联后的第一性能参数和识别类型封装为区块,并将所述区块写入区块链。
96.在一种实现方式中,所述确定单元403,还用于:
97.获取所述子服务器集群中每个子服务器的第二性能参数;
98.根据所述第二性能参数确定所述每个子服务器的优先级,并将最高优先级对应的子服务器确定为所述数据请求的目标子服务器。
99.在一种实现方式中,所述确定单元403,具体用于:
100.从所述数据代理组件对应的配置文件中获取所述目标子服务器对应的目标域名,
所述配置文件中配置有各个子服务器对应的域名;
101.将所述数据请求中的原始域名调整为所述目标子服务器对应的目标域名,得到新数据请求。
102.可以理解的是,本技术实施例所描述的数据处理装置的各功能单元的功能可根据图2或图3所述的方法实施例中的方法具体实现,其具体实现过程可以参照图2或图3的方法实施例的相关描述,此处不再赘述。
103.本技术实施例中,接收单元401接收客户端发送的用于请求获取目标数据的数据请求;连接单元402基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;确定单元403对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;发送单元404将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。通过实施上述方法,可以提高数据处理速度。
104.请参阅图5,图5是本技术实施例提供的一种数据处理设备的结构示意图。该数据处理设备可以为上述的数据代理组件,或者可以执行上述数据代理组件执行的部分或全部步骤。本实施例中所描述的数据处理设备,包括:处理器501、存储器502以及网络接口503。上述处理器501、存储器502以及网络接口503之间可以交互数据。
105.上述处理器501可以是中央处理单元(central processing unit,cpu),该处理器还可以是其他通用处理器、数字信号处理器(digital signal processor,dsp)、专用集成电路(application specific integrated circuit,asic)、现成可编程门阵列(field-programmable gate array,fpga)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
106.上述存储器502可以包括只读存储器和随机存取存储器,并向处理器501提供程序指令和数据。存储器502的一部分还可以包括随机存取存储器。其中,所述处理器501调用所述程序指令时用于执行:
107.接收客户端发送的用于请求获取目标数据的数据请求;
108.基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;
109.对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;
110.将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。
111.在一种实现方式中,所述处理器501,具体用于:
112.从所述数据请求中的请求头中获取目标令牌,并检测所述目标令牌与所述中心服务器所存储的所述客户端对应的存储令牌是否一致;
113.若检测结果为所述目标令牌与所述存储令牌一致,则确定所述数据请求通过认证;
114.若检测结果为所述目标令牌与所述存储令牌不一致,则确定所述数据请求未通过认证。
115.在一种实现方式中,所述处理器501,具体用于:
116.获取所述子服务器集群中每个子服务器的第一性能参数;
117.调用类型识别模型对所述第一性能参数进行识别处理,得到所述每个子服务器的识别类型,所述识别类型用于是指子服务器被确定为目标子服务器的选择级别;
118.从所述每个子服务器的识别类型中筛选出目标识别类型,并根据所述目标识别类型对应的子服务器确定所述数据请求的目标子服务器。
119.在一种实现方式中,所述处理器501,还用于:
120.获取训练样本集,所述训练样本集包括一个或多个训练样本,任一训练样本包括一个子服务器对应的历史性能参数;
121.针对所述训练样本集中的任一训练样本,根据所述任一训练样本所包括的历史性能参数确定所述任一训练样本的参数得分,并根据预设的参考参数得分与参考选择级别以及所述参数得分,确定所述任一训练样本的训练选择级别,以基于所述训练选择级别确定所述任一训练样本的训练识别类型;
122.根据所述训练样本集和所述训练样本集中每个训练样本的训练识别类型对预设的机器学习模型进行模型训练,得到所述类型识别模型。
123.在一种实现方式中,所述处理器501,还用于:
124.将所述每个子服务器的第一性能参数和对应的识别类型进行关联,并通过区块链网络中的共识节点对关联后的第一性能参数和识别类型进行共识验证;
125.若共识验证通过,则将所述关联后的第一性能参数和识别类型封装为区块,并将所述区块写入区块链。
126.在一种实现方式中,所述处理器501,还用于:
127.获取所述子服务器集群中每个子服务器的第二性能参数;
128.根据所述第二性能参数确定所述每个子服务器的优先级,并将最高优先级对应的子服务器确定为所述数据请求的目标子服务器。
129.在一种实现方式中,所述处理器501,具体用于:
130.从所述数据代理组件对应的配置文件中获取所述目标子服务器对应的目标域名,所述配置文件中配置有各个子服务器对应的域名;
131.将所述数据请求中的原始域名调整为所述目标子服务器对应的目标域名,得到新数据请求。
132.具体实现中,本技术实施例中所描述的处理器501和存储器502可执行本技术实施例图2或图3提供的数据处理方法中所描述的实现方式,也可执行本技术实施例图4所描述的数据处理装置的实现方式,在此不再赘述。
133.本技术实施例中,处理器501可以接收客户端发送的用于请求获取目标数据的数据请求;基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。通过实施上述方法,可以提高数据处理速度。
134.本技术实施例还提供了一种计算机可读存储介质,该计算机可读存储介质中存储有程序指令,所述程序执行时可包括如图2或图3对应实施例中的数据处理方法的部分或全部步骤。
135.需要说明的是,对于前述的各个方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本技术并不受所描述的动作顺序的限制,因为依据本技术,某一些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本技术所必须的。
136.本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(read-only memory,rom)、随机存取器(random access memory,ram)、磁盘或光盘等。
137.需要强调的是,为进一步保证上述数据的私密和安全性,上述数据还可以存储于一区块链的节点中。其中,本技术所指区块链是分布式数据存储、点对点传输、共识机制、加密算法等计算机技术的新型应用模式。区块链(blockchain),本质上是一个去中心化的数据库,是一串使用密码学方法相关联产生的数据块,每一个数据块中包含了一批次网络交易的信息,用于验证其信息的有效性(防伪)和生成下一个区块。区块链可以包括区块链底层平台、平台产品服务层以及应用服务层等。
138.以上对本技术实施例所提供的一种数据处理方法、装置、设备及介质进行了详细介绍,本文中应用了具体个例对本技术的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本技术的方法及其核心思想;同时,对于本领域的一般技术人员,依据本技术的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本技术的限制。
技术特征:
1.一种数据处理方法,其特征在于,应用于数据代理组件,所述数据代理组件部署在中心服务器上,所述中心服务器与子服务器集群通信连接,所述子服务器集群包括多个子服务器,所述方法包括:接收客户端发送的用于请求获取目标数据的数据请求;基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。2.根据权利要求1所述的方法,其特征在于,所述对所述数据请求进行认证,包括:从所述数据请求中的请求头中获取目标令牌,并检测所述目标令牌与所述中心服务器所存储的所述客户端对应的存储令牌是否一致;若检测结果为所述目标令牌与所述存储令牌一致,则确定所述数据请求通过认证;若检测结果为所述目标令牌与所述存储令牌不一致,则确定所述数据请求未通过认证。3.根据权利要求1所述的方法,其特征在于,所述从子服务器集群中确定所述数据请求的目标子服务器,包括:获取所述子服务器集群中每个子服务器的第一性能参数;调用类型识别模型对所述第一性能参数进行识别处理,得到所述每个子服务器的识别类型,所述识别类型用于是指子服务器被确定为目标子服务器的选择级别;从所述每个子服务器的识别类型中筛选出目标识别类型,并根据所述目标识别类型对应的子服务器确定所述数据请求的目标子服务器。4.根据权利要求3所述的方法,其特征在于,所述调用类型识别模型对所述第一性能参数进行识别处理,得到所述每个子服务器的识别类型之前,所述方法还包括:获取训练样本集,所述训练样本集包括一个或多个训练样本,任一训练样本包括一个子服务器对应的历史性能参数;针对所述训练样本集中的任一训练样本,根据所述任一训练样本所包括的历史性能参数确定所述任一训练样本的参数得分,并根据预设的参考参数得分与参考选择级别以及所述参数得分,确定所述任一训练样本的训练选择级别,以基于所述训练选择级别确定所述任一训练样本的训练识别类型;根据所述训练样本集和所述训练样本集中每个训练样本的训练识别类型对预设的机器学习模型进行模型训练,得到所述类型识别模型。5.根据权利要求3所述的方法,其特征在于,所述调用类型识别模型对所述第一性能参数进行识别处理,得到所述每个子服务器的识别类型之后,所述方法还包括:将所述每个子服务器的第一性能参数和对应的识别类型进行关联,并通过区块链网络
中的共识节点对关联后的第一性能参数和识别类型进行共识验证;若共识验证通过,则将所述关联后的第一性能参数和识别类型封装为区块,并将所述区块写入区块链。6.根据权利要求1所述的方法,其特征在于,所述从子服务器集群中确定所述数据请求的目标子服务器,包括:获取所述子服务器集群中每个子服务器的第二性能参数;根据所述第二性能参数确定所述每个子服务器的优先级,并将最高优先级对应的子服务器确定为所述数据请求的目标子服务器。7.根据权利要求1所述的方法,其特征在于,所述基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求,包括:从所述数据代理组件对应的配置文件中获取所述目标子服务器对应的目标域名,所述配置文件中配置有各个子服务器对应的域名;将所述数据请求中的原始域名调整为所述目标子服务器对应的目标域名,得到新数据请求。8.一种数据处理装置,其特征在于,包括:接收单元,用于接收客户端发送的用于请求获取目标数据的数据请求;连接单元,用于基于所述数据请求对应的请求类型确定所述客户端与所述中心服务器,以及所述中心服务器和所述子服务器集群所建立的通信连接的连接类型,所述请求类型包括第一请求类型或第二请求类型,所述连接类型包括与所述第一请求类型关联的第一通信连接或与所述第二请求类型关联的第二通信连接;确定单元,用于对所述数据请求进行认证,当所述数据请求通过认证时,从子服务器集群中确定所述数据请求的目标子服务器,并基于所述目标子服务器对所述数据请求进行请求调整,得到新数据请求;发送单元,用于将所述新数据请求发送至所述目标子服务器,以使所述目标子服务器响应所述新数据请求得到响应数据,并将所述响应数据发送给所述数据代理组件。9.一种数据处理设备,其特征在于,包括处理器、存储器,其中,所述存储器用于存储计算机程序,所述计算机程序包括程序指令,所述处理器被配置用于调用所述程序指令,执行如权利要求1-7任一项所述的方法。10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机程序,所述计算机程序包括程序指令,所述程序指令当被处理器执行时使所述处理器执行如权利要求1-7任一项所述的方法。
技术总结
本申请涉及人工智能技术领域,公开了一种数据处理方法、装置、设备及存储介质,其中方法包括:接收客户端发送的用于请求获取目标数据的数据请求;基于数据请求对应的请求类型确定客户端与所述中心服务器,以及中心服务器和子服务器集群所建立的通信连接的连接类型;对数据请求进行认证;当数据请求通过认证时,从子服务器集群中确定数据请求的目标子服务器,并基于目标子服务器对数据请求进行请求调整,得到新数据请求;将新数据请求发送至目标子服务器,以使目标子服务器响应新数据请求得到响应数据,并将响应数据发送给数据代理组件。可以提高数据处理速度。本申请涉及区块链技术,如可将上述数据写入区块链中,以用于数据处理等场景。场景。场景。
技术研发人员:蒋佳峻 成杰峰
受保护的技术使用者:平安科技(深圳)有限公司
技术研发日:2021.11.29
技术公布日:2022/3/8