服务器框架的基本介绍,简单的分析其特点
首先,基础C/S结构的服务器框架,请求和相应流程:
这种框架结构满足基础的基础的应用,客户端的请求多了的时候,就会存在一个请求等待的问题。处理请求都会有一个阀值,请求数量超出阀值,剩下的的请求需要等之前的处理好了,才能再访问数据库。不能很好的处理高并发的情况。
第二种设计思路可以在应用服务器和数据库服务器中间增加中间层DAL采用缓冲队列和连接池设计。
DAL设计缓冲队列,存储等待的请求,在DAL中设计数据库连接池,当数据库连接池中有空闲连接时,从缓冲队列中取出一个请求处理,这种方式并没有提高访问的速度,释放了服务器的压力,如果遇到高并发还是不能有效的处理。
第三种技术在此基础上添加一个缓存服务器,当有请求到来时,应用服务器先从缓存中获取数据,如果缓存中没有相应的数据,在访问数据库取出数据,并更新缓存。
缓存的方式就需要考虑缓存同步的情况,缓存是具有时效的,超时缓存失效,有需要重新去数据库查询,查询后再更新缓存,这样实时性比较差。我们可以当有请求修改数据时,再更新缓存,并且将要修改的数据投入DAL层,当数据库有空闲连接时,再持久化。
但是这种方式还是有一定的不足,大量的业务请求的时候,虽说可设计多个应用服务器,架设缓存服务器,完善中间层的缓冲队列和数据库连接池,但是大量复杂的读写操作数据库,还是会造成数据库操作阻塞的。
此时就需要将数据库实现读写分离。对数据库执行负载均衡。主流数据库都有replication机制,采用replication机制可以实现负载均衡。中间层的写数据库操作投递到master数据库中,读操作从slave数据库中读取,当master数据库中数据被修改后,数据库采用replication机制将数据同步给slave服务器。
同样的道理,应用服务器也可以实现负载均衡,架设多个应用服务器,不同的请求分配给不同的应用服务器。让应用服务器主动去请求任务服务器,主动获取任务处理,如果应用服务器处于忙碌状态就不需要请求新的任务,空闲的应用服务器会去请求任务服务器中的任务,这是最合理的负载均衡。如果所有应用服务器都处于忙碌状态,那么任务服务器将任务缓存至自己的任务队列,当应用服务器空闲时会来取任务。
任务服务器需要有多台,并且实现failover机制,当服务器出现故障的时候,其他服务器做为主任务服务器。
同时为保证数据库的响应速度和处理效率,我们还可以对数据库进行分区。
因为大部分情况下数据库中各个表是关联的,我们往往是将一个表的不同数据分配到各个数据库,数据库的表结构就是一样的,只是存储的用户数据不同而已。