Windows下做7层软负载的经验分享
发布时间:2023-01-03 09:12:24
本文将为大家介绍在windows下做7层软负载做了一些分析,对负载这块有兴趣的你,可以来看看哦。其实所谓四层就是基于IP+端口的负载均衡;七层就是基于URL等应用层信息的负载均衡;你对7层,有了浅显的印象吧,那大家有啥做7层软负载的经验可以讨论分享一下呢,当然最好是windows平台下的。
性能分析
1、 对外网的连接管理和协议解析使用http.sys(HttpApi.dll,HttpListener)内置机制,http.sys在内核级别进行HTTP的连接管理和协议解析,性能应该可以保证。
2、 对内网RealServer的连接管理和拼包使用HttpWebRequest的内置机制,但有如下问题
a) 连接管理:默认Proxy向RealServer发送请求会新建立一个连接,收到应答后会拆除连接,也就是说Proxy和RealServer之间会建立大量连接,但是由于受端口(65535)限制,出站连接不可能太多。这个问题要想办法解决,可以尝试把RealServer启用KeepAlive解决。
b) 拼包:HttpListener收到包后,虽然自动已经解析成对象,但是还要把这些包重新拼成HttpWebRequest的格式发给 RealServer,这里面包括拷贝Uri,HttpHeader,Cookies,Body等,这些数据量挺大的,在内存中拷贝一遍肯定损耗性能。该问题应该无法规避。
3、如果是常规的web应用(资源访问类),Request小,Response很大,RealServer返回Response时还要经过Proxy,还要进行内存拷贝,这个也非常影响性能。然后7层又做不到LVS的那种DirectRoute机制(需要修改网络包的mac地址),实现IP隧道和TCP的状态迁移需要修改操作系统的TCP/IP协议栈。鉴于代价太大,该问题也无法规避。
4、 Http协议规定请求和应答必须成对出现,默认情况下一条连接上发送出去请求后要等到收到该请求对应的应答后才能发送下一个请求,虽然Http1.1有 pipeline功能,可以成批发送请求,不必先等待应答,但是也有诸多限制,比如规定了POST不应该使用pipeline,一条连接上第一次发送请求也不可以使用pipeline机制,还有每批请求的请求数也不好定夺,批量发送请求后,如果连接断开,会有多个请求失败,等等。HTTP协议不像SIP协议那样靠CallID和Cseq来匹配请求和应答,那样可以纯异步的收发请求和应答,所以在实现Http协议栈时要同步等待应答,然后该连接上才能发送下一批请求,这必然会影响性能。
5、 HttpListener的异步接收请求和发送应答是普通的APM模式(BeginXXX,EndXXX格式),这种异步模式在频繁调用时会大量产生和销毁IAsyncRequest对象,从而增加了GC的压力,而且IAsyncRequest对象还没有提供自定义池化的接口。如果 HttpListener提供了新的基于事件的异步模式(XXXAsync(eventargs)模式,参考Socket.ReceiveAsync方法)会解决这个问题。
6、另外由于HttpLisenter是.net的包装类,在用户态执行,而HTTP.SYS是内核态运行,在接受请求,返回应答会进行两次用户态和内核态之间的切换,从而降低性能,如果能在内核态直接进行7层转发就好了,在linux下LVS(KTCPVS)可以做到内核态的基于内容的7层转发,在 windows下可能需要做TDI或者NDIS开发,查了些资料,太复杂了,所以也不考虑了先。
可靠性分析
为了容灾,提高可靠性,考虑如下方案
1. 7层软负载的前面要有4层负载设备,7层软负载多台,且共享哈希策略,4层设备按Session做随机负载,这样所有的7层软负载机器均可正确处理任何一个请求,且某台7层软负载宕机后,剩下的7层软负载可继续工作,由于4层负载有keepalive功能,可以检测出哪台7层软负载宕机了,并且不给其转发请求。
2. 7层软负载做双击热备,7层软负载直接接入外网,正常情况下由主服务器处理请求,如果主服务器宕机,备份服务器发现后,通过ARP欺骗获取主服务器原有 IP,以把请求吸引到备份服务器上处理(硬件如果支持可能可以考虑主备机共享一个MAC地址),主备切换时可能会造成短时请求失败的现象。
综合考虑,第二个方案有些山寨和不保险,优先考虑第一个方案。
猜你喜欢
- Win10系统下使用360浏览器无法打开qq空间怎么办?最近一位Win10用户,使用360浏览器来打开qq空间时,发现qq空间无法正常打开,
- win7用了好多年了,今天才知道win7他也有自带截图工具的,一起分享下吧。一、神奇截图工具Windwos7的截图工具,多种截屏方式供你选择
- Excel中经常需要用到绘制斜线分开项目,斜线具体该如何绘制呢?下面是由小编分享的excel2003绘制斜线的教程,以供大家阅读和学习。ex
- 比预期来得更早,今日苹果就给大家推送了iOS 13.5/iPadOS 13.5 正式版更新。iOS 13.5/iPadOS 13.5 正式版
- Acrobat文件怎么从url创建链接?Acrobat打开的pdf文件想要添加超链接,该怎么设置url创建链接呢?下面我们就来看看详细的教程
- Data Loader是一款非常专业的数据库文件转换工具。这款软件在使用过程中还是有一定的难度的,那么这款软件到底是如何使用的呢?下面这篇文
- 我们都知道,在使用Word2007对某些特定的字符,可以通过“Word2007自动更正”的方法实现快速替换,其实图片也是可以自动更正的,这在
- 你可以更改Word中默认标尺单位。那么如何更改Word中默认标尺单位呢?更改Word中默认标尺单位的方法很简单。本文就来介绍一下更改Word
- 精美的专业报告,经常要求既整洁又新颖的排版方式,但是如果使用相关图片、图形进行排版,经常都控制不好,且很难按照所需的位置进行摆放、对齐,对排
- Win7打印时文档被挂起如何解决?很多时候我们都会需要打印文档,但是打印过程中会有一些问题出现,如打印文档里无法打印,右下角显示文档被挂起,
- 一些朋友在使用WPS Office软件编辑文档时,希望把多个文档合并成一个,不知道该怎么做,今天系统之家小编就来给大家分享WPS如何把多个文
- 如果你获得一个Word文档而你不想要别人窥探它或修改它,那么你可以考虑用不易破解的密码来锁定你的文件。每个版本的Word软件都内置有密码保护
- 在Word中,怎么也不能将两个图形或一个图形和一个文本框组合,那么word组合功能怎么用?下面小编就为大家介绍word图片组合方法,一起来看
- word表格上方有一个空白区域,删不掉怎么办?1、首先,打开一个文档,在其中您可以看到单词有空行。2、同时按住键盘上的CTRL键打开查找和替
- iFinance Mac版是Mac平台上的一款财务管理工具,可轻松高效的管理你的个人财务,包括你的资金流,支持多个账户管理,完全重新设计的显
- 苹果日前发布了 iOS 14.5 和 iPadOS 14.5 第二个开发者测试版,iOS 14.5 beta2距离上个测试版相隔两周时间,以
- 在WPS 演示文稿中对于一些不能直接选中进行编辑或删除的对象,比如背景图形等等,我们都是通过“幻灯片母版”来进行选中和编辑的,其实,如果我们
- Win7网络图标不显示怎么办?一般图标不见了,多数都是设置的问题呢,下面小编为大家准备了两种解决方法,有需要的朋友们可以试着操作看看哦。方法
- 如果在Excel中选择了一个或多个区域,用下面的VBA代码可以统计当前工作表所选区域中单元格(或行、列)的数量:1. 统计选定区域中的单元格
- 在Excel表格中我们可以插入各种各样的图表,插入之后还可以设置想要的图表样式效果,进行图表类型的转换,设置显示或隐藏图标元素,设置图标的刻