超时阈值的动态确定方法、装置、电子设备和介质与流程

allin2022-09-30  171



1.本公开涉及人工智能技术领域,更具体地,涉及一种服务请求超时阈值的动态确定方法、装置、电子设备、介质和计算机程序产品。


背景技术:

2.近年来,分布式系统以其可拓展性和易于开发等特点,得到了各大互联网公司的青睐,传统的单体应用逐渐被分布式系统所替代。随着微服务的不断发展,系统的规模不断增长,单体应用一个交易原本只需要一两个服务就可以完成的事情,在分布式微服务框架下,被拆分成了更多的微服务,交易链路变得越来越长。在交易链路变长的情况下,通常会对每个服务设置一个超时阈值,表示接收到服务请求到返回响应需要的最长等待时间。现有技术对于服务超时阈值的设置,普遍的做法是将超时阈值设置为一个固定值,具体地,服务超时阈值根据生产上该服务的耗时中位值设置为固定值。但是,服务的耗时是受交易流量、服务所在的服务器资源的使用情况等影响的。而设定为固定值,则无法很好的适应系统环境的改变,可能存在超时阈值设置过大、或者过小的情况。


技术实现要素:

3.有鉴于此,本公开提供了一种智能、准确的服务请求超时阈值的动态确定方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
4.本公开的一个方面提供了一种服务请求超时阈值的动态确定方法,包括:采集第i-1个监控周期的监控数据,其中,i为大于1的整数;根据所述监控数据,确定所述第i个监控周期的第一阈值参数;根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数;以及根据所述第一阈值参数和所述第二阈值参数,确定所述第i个监控周期的超时阈值。
5.根据本公开实施例的服务请求超时阈值的动态确定方法,通过第i-1个监控周期的监控数据确定的第i个监控周期的第一阈值参数可以反映出服务环境的变化;通过根据服务器的cpu利用率,确定的第i个监控周期的第二阈值参数可以反映出服务器资源的使用情况;因此,根据第一阈值参数和第二阈值参数,确定的第i个监控周期的超时阈值可以适应前一监控周期系统服务环境的改变,综合cpu利用率使用情况的影响确定数值,避免超时阈值设置过大、或者过小的情况。
6.在一些实施例中,所述监控数据包括交易数量参数、历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,所述根据所述监控数据,确定所述第i个监控周期的第一阈值参数,具体包括:根据所述交易数量参数,确定所述第i个监控周期的第一子阈值参数;根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数;以及根据所述第一子阈值参数和所述第二子阈值参数,确定所述第一阈值参数。
7.在一些实施例中,所述根据所述交易数量参数,确定所述第i个监控周期的第一子
阈值参数,具体包括:获取所述第i-1个监控周期的第一每秒交易数量;获取与所述第i-1个监控周期对应的上一时段的第二每秒交易数量,其中,所述上一时段为所述第i-1个监控周期的上周、上月或上年的同日同时段的每秒交易数量;获取所述第i个监控周期的每秒交易数量的最大值;以及根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数。
8.在一些实施例中,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量减去所述第二每秒交易数量的绝对值小于预设的每秒交易数量增长阈值时,确定所述第i个监控周期的第一子阈值参数为0。
9.在一些实施例中,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量减去所述第二每秒交易数量的绝对值大于等于预设的每秒交易数量增长阈值时,且当所述第二每秒交易数量减去所述第一每秒交易数量大于等于预设的每秒交易数量增长阈值时,确定所述第i个监控周期的第一子阈值参数为第一影响因子与经验值的乘积。
10.在一些实施例中,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第二每秒交易数量减去所述第一每秒交易数量小于预设的每秒交易数量增长阈值时,且所述第一每秒交易数量大于等于所述每秒交易数量的最大值时,确定所述第i个监控周期的第一子阈值参数为第二影响因子与经验值的乘积。
11.在一些实施例中,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量小于所述每秒交易数量的最大值时,确定所述第i个监控周期的第一子阈值参数为第三影响因子与经验值的乘积。
12.在一些实施例中,根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数,具体包括:当所述超时次数大于0时,确定所述第i个监控周期的第二子阈值参数为历史超时阈值+时间经验值
×
(超时次数
÷
服务请求的总次数)。
13.在一些实施例中,根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数,具体包括:当所述超时次数等于0时,确定所述第i个监控周期的第二子阈值参数为服务请求的最大响应时间+调整比例
×
(距离阈值的平均时长-波动范围)。
14.在一些实施例中,所述服务请求有m个,所述距离阈值的平均时长为历史超时阈值-平均响应时间,其中,所述平均响应时间为m个服务请求的响应时间的加和除以m,m为大于等于1的整数;所述波动范围为所述服务请求的最大响应时间-平均响应时间。
15.在一些实施例中,所述根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数,具体包括:当所述cpu利用率小于等于a%时,所述第i个监控周期的第二阈值参数为第一调节因子与距离阈值的平均时长的乘积,其中,0≤a≤50;当所述cpu利用率大于a%,且小于b%时,所述第i个监控周期的第二阈值参数为0,其中,50<b≤95;以及当所述
cpu利用率大于等于b%时,所述第i个监控周期的第二阈值参数为第二调节因子与距离阈值的平均时长的乘积。
16.本公开的另一个方面提供了一种服务请求超时阈值的动态确定装置,包括:采集模块,所述采集模块用于执行采集第i-1个监控周期的监控数据,其中,i为大于1的整数;第一确定模块,所述第一确定模块用于执行根据所述监控数据,确定所述第i个监控周期的第一阈值参数;第二确定模块,所述第二确定模块用于执行根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数;以及第三确定模块,所述第三确定模块用于执行根据所述第一阈值参数和所述第二阈值参数,确定所述第i个监控周期的超时阈值。
17.本公开的另一方面提供了一种电子设备,包括一个或多个处理器以及一个或多个存储器,其中,所述存储器用于存储可执行指令,所述可执行指令在被所述处理器执行时,实现如上所述方法。
18.本公开的另一方面提供了一种计算机可读存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
19.本公开的另一方面提供了一种计算机程序产品,包括计算机程序,所述计算机程序包括计算机可执行指令,所述指令在被执行时用于实现如上所述的方法。
附图说明
20.通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
21.图1示意性示出了根据本公开实施例的可以应用方法、装置的示例性系统架构;
22.图2示意性示出了根据本公开实施例的服务请求超时阈值的动态确定方法的流程图;
23.图3示意性示出了根据本公开实施例的根据监控数据,确定第i个监控周期的第一阈值参数的流程图;
24.图4示意性示出了根据本公开实施例的根据交易数量参数,确定第i个监控周期的第一子阈值参数的流程图;
25.图5示意性示出了根据本公开实施例的根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数的流程图;
26.图6示意性示出了根据本公开实施例的根据历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定第i个监控周期的第二子阈值参数的流程图;
27.图7示意性示出了根据本公开实施例的根据第一子阈值参数和第二子阈值参数,确定第一阈值参数的流程图;
28.图8示意性示出了根据本公开实施例的根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数的流程图;
29.图9示意性示出了根据本公开实施例的根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值的流程图;
30.图10示意性示出了根据本公开实施例的服务请求超时阈值的动态确定装置的框图;
31.图11示意性示出了根据本公开实施例的电子设备的方框图。
具体实施方式
32.以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
33.在本公开的技术方案中,所涉及的用户个人信息的获取,存储和应用等,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。在本公开的技术方案中,对数据的获取、收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
34.在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
35.在使用类似于“a、b或c等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有a、b或c中至少一个的系统”应包括但不限于单独具有a、单独具有b、单独具有c、具有a和b、具有a和c、具有b和c、和/或具有a、b、c的系统等)。术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个所述特征。
36.近年来,分布式系统以其可拓展性和易于开发等特点,得到了各大互联网公司的青睐,传统的单体应用逐渐被分布式系统所替代。随着微服务的不断发展,系统的规模不断增长,单体应用一个交易原本只需要一两个服务就可以完成的事情,在分布式微服务框架下,被拆分成了更多的微服务,交易链路变得越来越长。在交易链路变长的情况下,通常会对每个服务设置一个超时阈值,表示接收到服务请求到返回响应需要的最长等待时间。现有技术对于服务超时阈值的设置,普遍的做法是将超时阈值设置为一个固定值,具体地,服务超时阈值根据生产上该服务的耗时中位值设置为固定值。但是,服务的耗时是受交易流量、服务所在的服务器资源的使用情况等影响的。而设定为固定值,则无法很好的适应系统环境的改变,可能存在超时阈值设置过大、或者过小的情况。
37.本公开的实施例提供了一种服务请求超时阈值的动态确定方法、装置、电子设备、计算机可读存储介质和计算机程序产品。服务请求超时阈值的动态确定方法包括:采集第i-1个监控周期的监控数据,其中,i为大于1的整数;根据监控数据,确定第i个监控周期的第一阈值参数;根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数;以及根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值。
38.需要说明的是,本公开的服务请求超时阈值的动态确定方法、装置、电子设备、计算机可读存储介质和计算机程序产品可用于人工智能技术领域,也可用于除人工智能技术领域之外的任意领域,例如金融领域,这里对本公开的领域不做限定。
39.图1示意性示出了根据本公开实施例的可以应用服务请求超时阈值的动态确定方法、装置、电子设备、计算机可读存储介质和计算机程序产品的示例性系统架构100。需要注意的是,图1所示仅为可以应用本公开实施例的系统架构的示例,以帮助本领域技术人员理
解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
40.如图1所示,根据该实施例的系统架构100可以包括终端设备101、102、103,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
41.用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
42.终端设备101、102、103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
43.服务器105可以是提供各种服务的服务器,例如对用户利用终端设备101、102、103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
44.需要说明的是,本公开实施例所提供的服务请求超时阈值的动态确定方法一般可以由服务器105执行。相应地,本公开实施例所提供的服务请求超时阈值的动态确定装置一般可以设置于服务器105中。本公开实施例所提供的服务请求超时阈值的动态确定方法也可以由不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的服务请求超时阈值的动态确定装置也可以设置于不同于服务器105且能够与终端设备101、102、103和/或服务器105通信的服务器或服务器集群中。
45.应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
46.以下将基于图1描述的场景,通过图2~图9对本公开实施例的服务请求超时阈值的动态确定方法进行详细描述。
47.图2示意性示出了根据本公开实施例的服务请求超时阈值的动态确定方法的流程图。
48.如图2所示,该实施例的服务请求超时阈值的动态确定方法包括操作s210~操作s240。
49.在操作s210,采集第i-1个监控周期的监控数据,其中,i为大于1的整数。
50.在操作s220,根据监控数据,确定第i个监控周期的第一阈值参数。
51.在操作s230,根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数。
52.在操作s240,根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值。
53.可以理解的是,第i-1个监控周期为第i个监控周期的上一监控周期,通过上一监控周期的监控数据确定的第一阈值参数可以反映出服务环境的变化;通过cpu利用率确定的第二阈值参数可以反映出服务器资源的使用情况。这里,原始周期,也即第一个周期的超时阈值可以根据经验确定,从第二个周期开始的超时阈值则可以根据第一阈值参数和第二阈值参数确定。
54.根据本公开实施例的服务请求超时阈值的动态确定方法,通过第i-1个监控周期的监控数据确定的第i个监控周期的第一阈值参数可以反映出服务环境的变化;通过根据服务器的cpu利用率,确定的第i个监控周期的第二阈值参数可以反映出服务器资源的使用情况;因此,根据第一阈值参数和第二阈值参数,确定的第i个监控周期的超时阈值可以适应前一监控周期系统服务环境的改变,综合cpu利用率使用情况的影响确定数值,避免超时阈值设置过大、或者过小的情况。
55.根据本公开的一些实施例,监控数据可以包括交易数量参数、历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数。由此使得监控数据的种类更加丰富,为确定第一阈值参数提供了丰富的数据基础,使得第一阈值参数的计算更加准确,从而使得超时阈值的设置更加准确。
56.图3示意性示出了根据本公开实施例的根据监控数据,确定第i个监控周期的第一阈值参数的流程图。
57.操作s220根据监控数据,确定第i个监控周期的第一阈值参数,具体包括操作s221~操作s223。
58.在操作s221,根据交易数量参数,确定第i个监控周期的第一子阈值参数。
59.作为一种可能实施的方式,如图4所示,操作s221根据交易数量参数,确定第i个监控周期的第一子阈值参数,具体包括操作s2211~操作s2214。
60.在操作s2211,获取第i-1个监控周期的第一每秒交易数量,其中,第一每秒交易数量即为第i-1个监控周期的每秒交易数量。
61.在操作s2212,获取与第i-1个监控周期对应的上一时段的第二每秒交易数量,其中,上一时段为第i-1个监控周期的上周、上月或上年的同日同时段的每秒交易数量。可以理解的是,第二每秒交易数量即为与第i-1个监控周期对应的上一时段的每秒交易数量。作为一些示例,可以将一日24小时划分为多个监控周期,假设每个监控周期的时长为t分钟,则一日包括(24
×
60
÷
t)个监控周期。
62.为方便理解,假设t为60分钟,将0点~1点作为一个监控周期,1点~2点作为一个监控周期,2点~3点作为一个监控周期,3点~4点作为一个监控周期,以此类推。假设需要确定的超时阈值为2022年3月1日(周二)的3点~4点这一监控周期的超时阈值,则第i-1个监控周期为2点~3点这一监控周期。与第i-1个监控周期对应的上一时段可以理解为上周二的2点~3点这一监控周期;与第i-1个监控周期对应的上一时段也可以理解为上个月,也即2022年2月1日的2点~3点这一监控周期;与第i-1个监控周期对应的上一时段还可以理解为上一年,也即2021年3月1日的2点~3点这一监控周期。
63.在操作s2213,获取第i个监控周期的每秒交易数量的最大值。需要说明的是,由于每个监控周期的时长为一段时间,因此在第i个监控周期内可以获得多个每秒交易数量,从而可以在多个每秒交易数量中得到最大值。
64.在操作s2214,根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数。
65.因此,通过操作s2211~操作s2214可以便于实现根据交易数量参数,确定第i个监控周期的第一子阈值参数。
66.图5示意性示出了根据本公开实施例的根据第一每秒交易数量、第二每秒交易数
量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数的流程图。
67.操作s2214根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数,具体包括操作s001、操作s002、操作s003和/或操作s004。
68.在操作s001,当第一每秒交易数量减去第二每秒交易数量的绝对值小于预设的每秒交易数量增长阈值时,确定第i个监控周期的第一子阈值参数为0。
69.需要说明的是,每秒交易数量增长阈值可以根据需要设定,这里不作具体限制,当第一每秒交易数量减去第二每秒交易数量的绝对值小于预设的每秒交易数量增长阈值时,也即第i-1个监控周期的每秒交易数量与第i-1个监控周期的上周、上月或上年的同日同时段的每秒交易数量的差小于预设的每秒交易数量增长阈值,说明上个监控周期与历史同监控周期的每秒交易数量相比,波动在合理范围内,此时交易数量参数对超时阈值的影响可以忽略不计,因此确定第i个监控周期的第一子阈值参数为0。
70.根据本公开的另一些实施例,在操作s002,当第一每秒交易数量减去第二每秒交易数量的绝对值大于等于预设的每秒交易数量增长阈值时,且当第二每秒交易数量减去第一每秒交易数量大于等于预设的每秒交易数量增长阈值时,确定第i个监控周期的第一子阈值参数为第一影响因子与经验值的乘积。
71.可以理解的是,当第一每秒交易数量减去第二每秒交易数量的绝对值大于等于预设的每秒交易数量增长阈值时,继续判断第二每秒交易数量减去第一每秒交易数量是否大于等于预设的每秒交易数量增长阈值,当第二每秒交易数量减去第一每秒交易数量大于等于预设的每秒交易数量增长阈值时,说明上个监控周期的每秒交易数量下降超过预期,当每秒交易数量下降时,此时交易量变少,可以适当增加超时时间,避免超时,以提高交易的成功率,因此确定第i个监控周期的第一子阈值参数为第一影响因子与经验值的乘积。
72.在一些示例中可以将第一影响因子设置为x1,x1为0.2,表示超时阈值需要适当增加,经验值可以根据经验进行设定为y。第一子阈值参数用b表示,此时第一子阈值参数的计算公式为:b=x1*y=0.2y。例如,设置y为2秒,即对超时阈值的动态调整的影响为b=0.2*y=0.2*2=0.4,表示超时阈值要增加0.4秒,超时阈值的计算会在下文中详细介绍,这里仅作了解即可。
73.根据本公开的另一些实施例,在操作s003,当第二每秒交易数量减去第一每秒交易数量小于预设的每秒交易数量增长阈值时,且第一每秒交易数量大于等于每秒交易数量的最大值时,确定第i个监控周期的第一子阈值参数为第二影响因子与经验值的乘积。
74.可以理解的是,当第二每秒交易数量减去第一每秒交易数量小于预设的每秒交易数量增长阈值时,且第一每秒交易数量大于等于每秒交易数量的最大值时,可以认为上个监控周期的每秒交易数量上升超过预期,且达到了最大每秒交易数量的最大值,此时服务的交易量太大,需要适当减少超时时间,以避免调用量过大,等待时间太长,从而使得上游的服务出现线程过满等异常,因此确定第i个监控周期的第一子阈值参数为第二影响因子与经验值的乘积。
75.在一些示例中可以将第二影响因子设置为x2,x2为(-0.5),表示超时阈值需要减少,经验值可以根据经验进行设定为y。第一子阈值参数用b表示,此时第一子阈值参数的计算公式为:b=x2*y=(-0.5)*y。例如,设置y为2秒,即对超时阈值的动态调整的影响为b=
(-0.5)*2=(-0.5)*2=(-1),表示超时阈值要减少1秒,超时阈值的计算会在下文中详细介绍,这里仅作了解即可。
76.根据本公开的另一些实施例,在操作s004,当第一每秒交易数量小于每秒交易数量的最大值时,确定第i个监控周期的第一子阈值参数为第三影响因子与经验值的乘积。
77.可以理解的是,当第一每秒交易数量小于每秒交易数量的最大值时,可以认为上个监控周期的每秒交易数量上升超过预期,且未达到最大每秒交易数量的最大值,此时超时阈值可适当增加,以避免交易触发超时阈值报错返回,因此确定第i个监控周期的第一子阈值参数为第三影响因子与经验值的乘积。
78.在一些示例中可以将第三影响因子设置为x3,x3为0.5,表示超时阈值需要增加,经验值可以根据经验进行设定为y。第一子阈值参数用b表示,此时第一子阈值参数的计算公式为:b=x3*y=0.5*y。例如,设置y为2秒,即对超时阈值的动态调整的影响为b=0.5*2=0.5*2=1,表示超时阈值要增加1秒,超时阈值的计算会在下文中详细介绍,这里仅作了解即可。
79.通过操作s001~操作s004可以便于实现根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数。
80.在操作s222,根据历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定第i个监控周期的第二子阈值参数。
81.图6示意性示出了根据本公开实施例的根据历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定第i个监控周期的第二子阈值参数的流程图。
82.操作s222根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数,具体包括操作s2221和/或操作s2222。
83.在操作s2221,当超时次数大于0时,确定第i个监控周期的第二子阈值参数为历史超时阈值+时间经验值
×
(超时次数
÷
服务请求的总次数)。可以理解的是,当超时次数大于0时,说明在上一个监控周期内,有部分服务请求的响应时间大于超时阈值,此时可以适当将超时阈值调大。具体地,确定第i个监控周期的第二子阈值参数=历史超时阈值+时间经验值
×
(超时次数
÷
服务请求的总次数)。
84.其中,历史超时阈值可以理解为上个监控周期的超时阈值,时间经验值可以理解为根据经验设置的可增加的时间,服务请求的总次数可以理解为接收到服务请求的总次数,超时次数可以理解为在服务请求的总次数中,响应时间超过超时阈值的次数。
85.根据本公开的另一些实施例,在操作s2222,当超时次数等于0时,确定第i个监控周期的第二子阈值参数为服务请求的最大响应时间+调整比例
×
(距离阈值的平均时长-波动范围)。可以理解的是,当超时次数等于0时,说明在上一个监控周期内,所有服务请求的响应时间均未超过超时阈值,此时可以适当将超时阈值调小。具体地,确定第i个监控周期的第二子阈值参数=服务请求的最大响应时间+调整比例
×
(距离阈值的平均时长-波动范围)。
86.作为一种可实施的方式,服务请求可以有m个,距离阈值的平均时长为历史超时阈值-平均响应时间,其中,平均响应时间为m个服务请求的响应时间的加和除以m,m为大于等于1的整数。例如,假设m个服务请求的响应时间分别为响应时间1、响应时间2、响应时间3、响应时间4、......、响应时间m-2、响应时间m-1和响应时间m,则平均响应时间=(响应时间
1+响应时间2+响应时间3+响应时间4+......+响应时间m-2、响应时间m-1和响应时间m)
÷
m。由此,可以便于求得距离阈值的平均时长。
87.作为一种可实施的方式,波动范围为服务请求的最大响应时间-平均响应时间。其中,最大响应时间可以理解为m个响应时间中最大的响应时间。由此,通过最大响应时间与平均响应时间作差可以便于求得波动范围。
88.通过操作s2221和操作s2222可以便于根据第一每秒交易数量、第二每秒交易数量和每秒交易数量的最大值,确定第i个监控周期的第一子阈值参数。
89.在操作s223,根据第一子阈值参数和第二子阈值参数,确定第一阈值参数。
90.作为一种可能实施的方式,如图7所示,操作s223根据第一子阈值参数和第二子阈值参数,确定第一阈值参数,具体包括操作s2231。
91.在操作s2231,第一阈值参数=第一子阈值参数+第二子阈值参数。
92.可以理解的是,通过操作s2214求得了第一子阈值参数,通过操作s222求得了第二子阈值参数,将第一子阈值参数与第二子阈值参数相加即可得到第一阈值参数。从而可以便于实现根据第一子阈值参数和第二子阈值参数,确定第一阈值参数。
93.图8示意性示出了根据本公开实施例的根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数的流程图。
94.操作s230根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数,具体包括操作s231~操作s233。
95.在操作s231,当cpu利用率小于等于a%时,第i个监控周期的第二阈值参数为第一调节因子与距离阈值的平均时长的乘积,其中,0≤a≤50。可以理解的是,a为根据经验设定的阈值,当cpu利用率小于等于a%时可以认为服务器是空闲状态,服务可以得到及时的响应,此时可以减小超时阈值,因此确定第i个监控周期的第二阈值参数为第一调节因子与距离阈值的平均时长的乘积。这里,第一调节因子可以经验设定,例如第一调节因子可以设为(-0.5)。优选地,a为10。
96.在操作s232,当cpu利用率大于a%,且小于b%时,第i个监控周期的第二阈值参数为0,其中,50<b≤95。可以理解的是,b为根据经验设定的阈值,当cpu利用率大于a%,且小于b%时,可以认为服务器是既不空闲也不拥堵,此时超时阈值无需修改,因此确定第i个监控周期的第二阈值参数为0。优选地,b为75。
97.在操作s233,当cpu利用率大于等于b%时,第i个监控周期的第二阈值参数为第二调节因子与距离阈值的平均时长的乘积。可以理解的是,当cpu利用率大于等于b%时可以认为服务器是拥堵状态,服务得不到及时的响应,此时可以增加超时阈值,因此确定第i个监控周期的第二阈值参数为第二调节因子与距离阈值的平均时长的乘积。这里,第二调节因子可以经验设定,例如第一调节因子可以设为1。
98.通过操作s231~操作s233可以便于实现根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数。
99.图9示意性示出了根据本公开实施例的根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值的流程图。
100.操作s240根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值,具体包括操作s241。
101.在操作s241,第i个监控周期的超时阈值=第一阈值参数+第二阈值参数。由此,通过操作s241可以便于实现根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值。其中,第一阈值参数可以反映出服务环境的变化;第二阈值参数可以反映出服务器资源的使用情况;因此,通过第一阈值参数与第二阈值参数相加确定的第i个监控周期的超时阈值可以适应前一监控周期系统服务环境的改变,综合cpu利用率使用情况的影响确定数值,避免超时阈值设置过大、或者过小的情况。
102.下面详细描述根据本公开实施例的服务请求超时阈值的动态确定方法。值得理解的是,下述描述仅是示例性说明,而不是对本公开的具体限制。
103.本公开的服务请求超时阈值的动态确定方法包括步骤1~步骤5。
104.步骤1:采集每秒交易数量(tps)并存储到数据库。
105.优选的,每个监控周期设定为θ分钟,一天共(24
×
60
÷
θ)个监控周期。每个监控周期采集一次平均的tps,共采集(24
×
60
÷
θ)个平均的tps。θ一般为1分钟、2分钟、5分钟等,可以根据系统需要设定。特别的,在全部步骤中的监控周期时间均设置为相同的θ。
106.步骤2:采集上一个监控周期的超时阈值、服务请求的响应时间、超时次数,并根据超时次数n的不同,计算本监控周期的超时阈值参数a,超时阈值参数a的公式如下。
107.(1)超时次数n=0:a=最大的响应时间+(距离阈值的平均时长-波动范围的正值)
×
α,其中,0<α<1。
108.(2)超时次数n>0:a=超时阈值+β
×
(超时次数
÷
总请求次数),其中,β为可增加的时间,单位为秒。
109.步骤3:获取上一个监控周期的tps,过去一周相同时刻的对应服务的tps,该服务的最大tps,及设定tps的上升阈值,设置影响因子为x,超时时间的变化值为y,x和y可以根据经验值进行设定。根据这四者的关系,超时阈值参数b的公式如下:b=x*y。
110.优选的,当(tps上周期-tps历史)的绝对值<tsp上升阈值时,则b=0。
111.优选的,当tps历史-tps上周期≥tsp上升阈值时,则b=x*y=0.2*y。
112.优选的,当tps历史-tps上周期<tsp上升阈值且tps上周期>=tpsmax时,则b=x*y=(-0.5)*y。
113.优选的,当tps历史-tps上周期<tsp上升阈值且tps上周期<tpsmax时,则b=x*y=0.5*y。
114.步骤4:采集被调用服务所在的服务器的cpu,根据cpu利用率,确定超时阈值参数c的不同取值。
115.优选的,当cpu<=10%时,则c=(-0.5)*距离超时阈值的平均时长。
116.优选的,当cpu>10%且cpu<75%时,则c=0。
117.优选的,当cpu>=75%时,则c=1*距离超时阈值的平均时长。
118.步骤5:根据步骤2、步骤3、步骤4计算出来的超时阈值参数a、b、c,得到本监控周期的超时阈值ot=a+b+c,并动态调整该监控周期的超时阈值为ot。
119.下面详细介绍步骤1的具体实现方式。
120.s101:以θ作为一个监控周期,每θ分钟采集一次平均tps,一天共采集((24
×
60
÷
θ)次。
121.优选的,每个监控周期设定为θ分钟,一天共(24
×
60
÷
θ)个监控周期。每个监控周
期采集一次平均的tps,共采集(24
×
60
÷
θ)个平均的tps。θ一般为1分钟、2分钟、5分钟等,可以根据系统需要设定。特别的,在全部步骤中的监控周期时间均设置为相同的θ。
122.优选的,对于一个系统而言,其运行规律和日期以及时间点有较为密切的关系,且呈现一定的周期性规律。例如银行系统,银行网点周日没有营业,业务堆积到星期一,一般情况下,星期一的柜面业务量会比较多,这一天的柜面交易对应的服务接口tps会更大。星期天网点没有营业,且星期天大部分银行客户都不需要上班,故星期天的柜面交易业务量基本为0,而手机银行的业务量会比其他时间多。此外,一天中,交易的高峰期也各有不同,银行系统中,10:00-11:00,12:30-13:30,14:30-16:30均为银行的业务高峰期。所以,按照一定的监控周期采集所有服务的tps,以供步骤3使用。
123.s102:按照一定的格式将采集到的服务的tps存储到数据库中。
124.优选的,按照以下的格式存储到数据库:索引id-星期几-第几个监控周期-服务名-tps
125.优选的,星期几包括星期一、星期二、星期三、星期四、星期五、星期六、星期日。
126.优选的,第几个监控周期与监控的时间长度有关,从每日的凌晨00分开始,00-θ分钟,作为第一个监控周期,θ+1至2θ为第二个监控周期,以此类推,共有1440/θ个监控周期。
127.优选的,服务名表示该服务的名称。
128.优选的,tps为每个监控周期内的平均每秒交易笔数。
129.本实施例采集上一个监控周期的超时阈值、服务请求的响应时间、超时次数,并根据超时次数n的不同,计算本监控周期的超时阈值参数a具体包括以下步骤。
130.s201:采集上一个监控周期的超时阈值ot上、服务请求的响应时间list_time、超时次数n。
131.优选的,每个监控周期设定为θ分钟,一天共(24
×
60
÷
θ)个监控周期。θ一般为1分钟、2分钟、5分钟等,特别的,此处θ的取值和步骤s101中θ的取值相同。
132.优选的,从接收到服务请求到返回响应之间,会设置一个等待服务返回响应的最长等待时间,该最长等待时间即为超时阈值。上一个监控周期的超时阈值,表示上一个监控周期所设置的超时阈值,假设为ot上。
133.优选的,响应时间指的是,从服务端收到请求到服务端返回应答,中间所耗费的时间。上一个监控周期的服务请求的响应时间,表示上一个监控周期中,服务请求的响应时间。有m个服务请求,就有m个响应时间,以一定的格式存储m个响应时间,例如list_time={服务名,响应时间1,响应时间2,
……
,响应时间m}。
134.优选的,超时次数,指的是服务请求的响应时间超过设定的超时阈值的次数。上一个监控周期的超时次数,指的是在上一个周期(θ分钟)内,服务请求的响应时间超过超时阈值的次数,设为n。
135.s202:判断超时次数n是否大于零。如果超时次数n=0,则执行步骤s203;如果超时次数n>0,则执行步骤s204。
136.s203:超时次数n为0,则超时阈值参数a=最大的响应时间+(距离阈值的平均时长-波动范围的正值)
×
α。
137.优选的,如果超时次数n为0,则说明上一个监控周期内,所有的服务请求的响应时间均小于超时阈值,此时可以适当把超时阈值调小。公式如下:a=最大的响应时间+(距离
阈值的平均时长-波动范围的正值)
×
α。
138.优选的,最大的响应时间为采集到的上一个监控周期中m个服务响应时间中最大的响应时间。
139.优选的,距离阈值的平均时长=[m
×
ot上-(响应时间1+响应时间2+
……
+响应时间m)]
÷
m。
[0140]
优选的,波动范围的正值=最大响应时间-平均响应时间。其中,平均响应时间=(响应时间1+响应时间2+
……
+响应时间m)
÷
m。
[0141]
优选的,α为调整比例,α大于0且小于1,可根据经验设定。
[0142]
例如,超时阈值ot上=5秒,上一个监控周期采集到的服务请求的响应时间list_time为:{query_balance,4.7,4.7,4.7,4.7,4.8,4.9,4.9,4.9,4.6,1}。超时次数n为0。根据经验值,设定α为0.6。距离超时阈值的平均时长=[m
×
ot上-(响应时间1+响应时间2+
……
+响应时间m)]
÷
m=[5
×
10-(4.7+4.7+4.7+4.7+4.8+4.9+4.9+4.9+4.6+1)]
÷
10=0.61。波动范围的正值=最大响应时间-平均响应时间=4.9-(4.7+4.7+4.7+4.7+4.8+4.9+4.9+4.9+4.6+1)
÷
10=0.51。故当超时次数n=0时,超时阈值参数a=最大的响应时间+(距离阈值的平均时长-波动范围的正值)
×
α=4.9+(0.61-0.51)
×
0.6=4.96。
[0143]
步骤s204:超时次数n大于0,则超时阈值参数a=超时阈值+β
×
(超时次数
÷
总请求次数)。
[0144]
优选的,如果超时次数n大于0,则说明上一个监控周期内,有部分服务请求的响应时间大于超时阈值,此时可适当把超时阈值调大,公式如下:超时阈值参数a=超时阈值+β
×
(超时次数
÷
总请求次数)。
[0145]
优选的,超时次数除以总请求次数表示超时次数占总请求次数的比例。
[0146]
优选的,β为根据经验设置的可增加的时间。
[0147]
例如,上一个监控周期采集到的服务请求的响应时间list_time为:{query_balance,5,5,5,5,4.8,4.9,4.9,4.9,4.6,1}。超时次数n为4。根据经验值,设定β为1秒。故当超时次数n>0时,超时阈值参数a=超时阈值+β
×
(超时次数
÷
总请求次数)=5+1
×
(4
÷
10)=5.4。
[0148]
本实施例获取上一个监控周期的tps,过去一周相同时刻的对应服务的tps,该服务的最大tps,及设定tps的上升阈值,并计算超时阈值参数b,具体包括以下步骤。
[0149]
s301:获取上一个监控周期的tps,设为tps上周期;获取数据库中相同时刻的对应服务的tps,设为tps历史;获取该服务的最大tps,设为tpsmax;设定一个tps的上升阈值,设为tsp上升阈值。当tps增加值超过tsp上升阈值,则认为tps上升影响了服务响应时间。
[0150]
根据tps上周期与tps历史、tpsmax、tps上升阈值四者的关系,动态调整本监控周期的超时阈值。
[0151]
优选的,服务的tps会对服务的响应时间产生影响,使得服务的响应时间发生变化,而服务响应时间的变化,会影响服务是否会触发超时阈值。所以tps的变化对服务的超时时间的动态调整会产生影响,设置影响因子为x,超时时间的变化值为y,x和y可以根据经验值进行设定。
[0152]
s302:判断tps上周期-tps历史的绝对值是否小于tsp上升阈值,若是,则执行s303;否则,执行s304。
[0153]
s303:超时阈值参数b=0。
[0154]
优选的,当tps上周期-tps历史的绝对值<tsp上升阈值,则认为tps在合理的波动范围内,此时tps对服务的超时时间的影响可忽略不计,则超时阈值参数b=0。
[0155]
s304:判断tps历史-tps上周期≥tsp上升阈值,若是,则执行s305;否则,执行306。
[0156]
s305:超时阈值b=x*y=0.2*y(y根据经验设定)。
[0157]
优选的,tps历史-tps上周期≥tsp上升阈值,则认为上个监控周期的tps比历史同监控周期的tps下降超过预期,当tps下降时,此时交易量变少,可以适当增加超时时间,避免超时,以提高交易的成功率。此时影响因子x设置为0.2,表示超时时间需要适当增加,超时时间的变化值y根据经验进行设定。此时影响公式为:b=x*y=0.2y。例如,设置y为2秒,即对超时时间的动态调整的影响为b=0.2*y=哦0.2*2=0.4,表示超时时间要增加0.4秒。
[0158]
s306:判断tps上周期≥tpsmax,若是,则执行s307;否则,执行s308。
[0159]
优选的,当tps上周期-tps历史≥tsp上升阈值,则认为上个监控周期的tps比历史同监控周期的tps超过预期。
[0160]
s307:超时阈值参数b=x*y=(-0.5)*y(y根据经验值进行设定)。
[0161]
优先的,当tps上周期≥tpsmax,则认为tps上周期上升超过预期,且达到了最大tps,此时服务的交易量太大,需要适当减少超时时间,以避免调用量过大,等待时间太长,从而使得上游的服务出现线程较满等异常。
[0162]
优选的,超时阈值参数b=x*y(y根据经验值进行设定),此时影响因子x设置为(-0.5),表示超时时间需要减少,超时时间的变化值y根据经验值进行设定。此时影响公式为:b=x*y=(-0.5)*y。例如,设置y为2秒,即对超时时间的动态调整的影响为b=(-0.5)*2=(-0.5)*2=-1,表示超时时间要减少1秒。
[0163]
s308:超时阈值参数b=x*y=0.5*y(y根据经验值进行设定)。
[0164]
优选的,tps上周期<tpsmax,则认为此时的tps上周期上升超过预期,但未超过最大tps,此时的超时响应时间可适当增加,以避免交易触发超时阈值报错返回。
[0165]
优选的,超时阈值参数b=x*y(y根据经验值进行设定),此时影响因子x设置为0.5,表示超时时间需要适当增加,超时时间的变化值y根据经验进行设定。此时影响公式为:b=x*y=0.5*y。例如,设置y为2秒,即对超时时间的动态调整的影响为b=0.5*y=0.5*2=1,表示超时时间要增加1秒。
[0166]
本实施例采集被调用服务所在的服务器的cpu,根据cpu利用率,动态调整超时阈值,具体包括以下步骤。
[0167]
s401:采集被调用服务所在的服务器上一个监控周期的平均cpu利用率。
[0168]
优选的,cpu的利用率指的是在某个时间点机器的cpu资源使用情况,cpu利用率越低,说明资源充足,对运行在其上的程序可以较快响应;cpu利用率越高,说明资源比较紧张,有可能会出现交易拥堵等情况。
[0169]
cpu的范围为0到100%;一般情况下,cpu低于10%,则认为是空闲状态;cpu>10%且cpu<75%,则认为不空闲也不拥堵状态;cpu>75%,则认为是拥堵状态。
[0170]
被调用服务所在的服务器cpu对被调用服务的处理时间产生影响,故根据被调用服务的服务器的cpu的利用率,动态调整超时阈值,设cpu对超时阈值的影响设为超时阈值参数c。
[0171]
s402:判断cpu利用率的值,若cpu<=10%,则执行步骤s403;若cpu>10%且cpu<75%,则执行s404;若cpu>=75%,则执行s405。
[0172]
s403:当被调用服务所在服务器的cpu<=10%,认为是空闲状态,此时服务器较为空闲,服务可以得到及时的响应,此时可以减少超时阈值,超时阈值参数c=(-0.5)*距离超时阈值的平均时长。
[0173]
优先的,距离超时阈值的平均时长=[m
×
ot上-(响应时间1+响应时间2+
……
+响应时间m)]
÷
m。
[0174]
s404:当被调用服务所在服务器的cpu>10%且cpu<75%,认为服务器不空闲也不拥堵状态,此时超时时间无需修改,超时阈值参数c为0。
[0175]
s405:当被调用服务所在服务器的cpu>=75%,认为是拥堵状态,此时服务器较为拥堵,服务无法得到及时的响应,此时可以增大超时阈值,超时阈值参数c=1*距离超时阈值的平均时长。
[0176]
本公开的服务请求超时阈值的动态调整方法,可智能、有效的设置服务超时阈值,以使得超时阈值更合理,避免出现超时阈值过大或者过小,从而导致资源浪费或者频繁触发服务超时导致交易失败的问题。
[0177]
基于上述服务请求超时阈值的动态确定方法,本公开还提供了一种服务请求超时阈值的动态确定装置10。以下将结合图10对服务请求超时阈值的动态确定装置10进行详细描述。
[0178]
图10示意性示出了根据本公开实施例的服务请求超时阈值的动态确定装置10的结构框图。
[0179]
服务请求超时阈值的动态确定装置10包括采集模块1、第一确定模块2、第二确定模块3和第三确定模块4。
[0180]
采集模块1,采集模块1用于执行操作s210:采集第i-1个监控周期的监控数据,其中,i为大于1的整数。
[0181]
第一确定模块2,第一确定模块2用于执行操作s220:根据监控数据,确定第i个监控周期的第一阈值参数。
[0182]
第二确定模块3,第二确定模块3用于执行操作s230:根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数。
[0183]
第三确定模块4,第三确定模块4用于执行操作s240:根据第一阈值参数和第二阈值参数,确定第i个监控周期的超时阈值。
[0184]
根据本公开实施例的服务请求超时阈值的动态确定装置,通过第i-1个监控周期的监控数据确定第i个监控周期的第一阈值参数可以反映出服务环境的变化;通过根据服务器的cpu利用率,确定第i个监控周期的第二阈值参数可以反映出服务器资源的使用情况;因此,根据第一阈值参数和第二阈值参数,确定的第i个监控周期的超时阈值可以适应前一监控周期系统服务环境的改变,综合cpu利用率使用情况的影响确定数值,避免超时阈值设置过大、或者过小的情况。
[0185]
另外,根据本公开的实施例,采集模块1、第一确定模块2、第二确定模块3和第三确定模块4中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的
至少部分功能相结合,并在一个模块中实现。
[0186]
根据本公开的实施例,采集模块1、第一确定模块2、第二确定模块3和第三确定模块4中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(fpga)、可编程逻辑阵列(pla)、片上系统、基板上的系统、封装上的系统、专用集成电路(asic),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。
[0187]
或者,采集模块1、第一确定模块2、第二确定模块3和第三确定模块4中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
[0188]
图11示意性示出了根据本公开实施例的适于实现上述方法的电子设备的方框图。
[0189]
如图11所示,根据本公开实施例的电子设备900包括处理器901,其可以根据存储在只读存储器(rom)902中的程序或者从存储部分908加载到随机访问存储器(ram)903中的程序而执行各种适当的动作和处理。处理器901例如可以包括通用微处理器(例如cpu)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(asic))等等。处理器901还可以包括用于缓存用途的板载存储器。处理器901可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
[0190]
在ram 903中,存储有电子设备900操作所需的各种程序和数据。处理器901、rom 902以及ram 903通过总线904彼此相连。处理器901通过执行rom 902和/或ram 903中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除rom 902和ram 903以外的一个或多个存储器中。处理器901也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
[0191]
根据本公开的实施例,电子设备900还可以包括输入/输出(i/o)接口905,输入/输出(i/o)接口905也连接至总线904。电子设备900还可以包括连接至i/o接口905的以下部件中的一项或多项:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(crt)、液晶显示器(lcd)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如lan卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至输入/输出(i/o)接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
[0192]
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
[0193]
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(ram)、只读存储器(rom)、可擦式可编程只读存储器(eprom或闪存)、便携式紧凑磁盘只读存储器(cd-rom)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的
rom 902和/或ram 903和/或rom 902和ram 903以外的一个或多个存储器。
[0194]
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例的方法。
[0195]
在该计算机程序被处理器901执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
[0196]
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分909被下载和安装,和/或从可拆卸介质911被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
[0197]
在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被处理器901执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
[0198]
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如java,c++,python,“c”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(lan)或广域网(wan),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
[0199]
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
[0200]
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
[0201]
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实
施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

技术特征:
1.一种服务请求超时阈值的动态确定方法,其特征在于,包括:采集第i-1个监控周期的监控数据,其中,i为大于1的整数;根据所述监控数据,确定所述第i个监控周期的第一阈值参数;根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数;以及根据所述第一阈值参数和所述第二阈值参数,确定所述第i个监控周期的超时阈值。2.根据权利要求1所述的方法,其特征在于,所述监控数据包括交易数量参数、历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,所述根据所述监控数据,确定所述第i个监控周期的第一阈值参数,具体包括:根据所述交易数量参数,确定所述第i个监控周期的第一子阈值参数;根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数;以及根据所述第一子阈值参数和所述第二子阈值参数,确定所述第一阈值参数。3.根据权利要求2所述的方法,其特征在于,所述根据所述交易数量参数,确定所述第i个监控周期的第一子阈值参数,具体包括:获取所述第i-1个监控周期的第一每秒交易数量;获取与所述第i-1个监控周期对应的上一时段的第二每秒交易数量,其中,所述上一时段为所述第i-1个监控周期的上周、上月或上年的同日同时段的每秒交易数量;获取所述第i个监控周期的每秒交易数量的最大值;以及根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数。4.根据权利要求3所述的方法,其特征在于,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量减去所述第二每秒交易数量的绝对值小于预设的每秒交易数量增长阈值时,确定所述第i个监控周期的第一子阈值参数为0。5.根据权利要求3所述的方法,其特征在于,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量减去所述第二每秒交易数量的绝对值大于等于预设的每秒交易数量增长阈值时,且当所述第二每秒交易数量减去所述第一每秒交易数量大于等于所述预设的每秒交易数量增长阈值时,确定所述第i个监控周期的第一子阈值参数为第一影响因子与经验值的乘积。6.根据权利要求3所述的方法,其特征在于,所述根据所述第一每秒交易数量、所述第二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第二每秒交易数量减去所述第一每秒交易数量小于预设的每秒交易数量增长阈值时,且所述第一每秒交易数量大于等于所述每秒交易数量的最大值时,确定所述第i个监控周期的第一子阈值参数为第二影响因子与经验值的乘积。7.根据权利要求3所述的方法,其特征在于,所述根据所述第一每秒交易数量、所述第
二每秒交易数量和所述每秒交易数量的最大值,确定所述第i个监控周期的第一子阈值参数,具体包括:当所述第一每秒交易数量小于所述每秒交易数量的最大值时,确定所述第i个监控周期的第一子阈值参数为第三影响因子与经验值的乘积。8.根据权利要求2所述的方法,其特征在于,根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数,具体包括:当所述超时次数大于0时,确定所述第i个监控周期的第二子阈值参数为历史超时阈值+时间经验值
×
(超时次数
÷
服务请求的总次数)。9.根据权利要求2所述的方法,其特征在于,根据所述历史超时阈值、服务请求的响应时间、超时次数和服务请求的总次数,确定所述第i个监控周期的第二子阈值参数,具体包括:当所述超时次数等于0时,确定所述第i个监控周期的第二子阈值参数为服务请求的最大响应时间+调整比例
×
(距离阈值的平均时长-波动范围)。10.根据权利要求9所述的方法,其特征在于,所述服务请求有m个,所述距离阈值的平均时长为历史超时阈值-平均响应时间,其中,所述平均响应时间为m个服务请求的响应时间的加和除以m,m为大于等于1的整数;所述波动范围为所述服务请求的最大响应时间-平均响应时间。11.根据权利要求1~10中任一项所述的方法,其特征在于,所述根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数,具体包括:当所述cpu利用率小于等于a%时,所述第i个监控周期的第二阈值参数为第一调节因子与距离阈值的平均时长的乘积,其中,0≤a≤50;当所述cpu利用率大于a%,且小于b%时,所述第i个监控周期的第二阈值参数为0,其中,50<b≤95;以及当所述cpu利用率大于等于b%时,所述第i个监控周期的第二阈值参数为第二调节因子与距离阈值的平均时长的乘积。12.一种服务请求超时阈值的动态确定装置,其特征在于,包括:采集模块,所述采集模块用于执行采集第i-1个监控周期的监控数据,其中,i为大于1的整数;第一确定模块,所述第一确定模块用于执行根据所述监控数据,确定所述第i个监控周期的第一阈值参数;第二确定模块,所述第二确定模块用于执行根据服务器的cpu利用率,确定所述第i个监控周期的第二阈值参数;以及第三确定模块,所述第三确定模块用于执行根据所述第一阈值参数和所述第二阈值参数,确定所述第i个监控周期的超时阈值。13.一种电子设备,其特征在于,包括:一个或多个处理器;一个或多个存储器,用于存储可执行指令,所述可执行指令在被所述处理器执行时,实现根据权利要求1~11中任一项所述的方法。
14.一种计算机可读存储介质,其特征在于,所述存储介质上存储有可执行指令,该指令被处理器执行时实现根据权利要求1~11中任一项所述的方法。15.一种计算机程序产品,其特征在于,包括计算机程序,所述计算机程序包括一个或者多个可执行指令,所述可执行指令被处理器执行时实现根据权利要求1~11中任一项所述的方法。

技术总结
本公开提供了一种服务请求超时阈值的动态确定方法、装置、电子设备、介质和计算机程序产品。上述方法和装置可用于人工智能技术领域。服务请求超时阈值的动态确定方法包括:采集第i-1个监控周期的监控数据,其中,i为大于1的整数;根据所述监控数据,确定所述第i个监控周期的第一阈值参数;根据服务器的CPU利用率,确定所述第i个监控周期的第二阈值参数;以及根据所述第一阈值参数和所述第二阈值参数,确定所述第i个监控周期的超时阈值。定所述第i个监控周期的超时阈值。定所述第i个监控周期的超时阈值。


技术研发人员:张晓娜 暨光耀 傅媛媛 黄琼
受保护的技术使用者:中国工商银行股份有限公司
技术研发日:2022.04.24
技术公布日:2022/7/5
转载请注明原文地址: https://www.8miu.com/read-3711.html

最新回复(0)