Earticle

In this paper, we propose to new dispatcher method, which doesn't depend on an operating system of the server, and the direct routing method, by which a server answers a client's request at first hand. And, propose new web clustering scheme based on the contents on the web where web servers composed of cluster, with each different contents, answer client's request. The other purposes are to reduce overhead of the dispatcher through load balance, and to minimize the time to take in responding to a client's request. The performance of new web cluster scheme was improved by about 39% than that of the existing RR method. It was identified that the performance of the proposed web cluster method was extraordinary improved comparing with that of the existing RR method as a whole.

Web Map Tile Services (WMTS) have been widely used for quick and convenient sharing of geospatial information. In practice, when streaming requests to servers increase in scale, unacceptable response times and service unavailability might result. To address this scalability problem, we implemented a scalable WMTS framework on a high performance cluster (HPC), enabling the realization of elastic deployment as the client users grow in number. This scalable and high-concurrency WMTS is built totally with open-source software, including Nginx, GeoWebCache, and MongoDB. In this architecture, Nginx acts as a powerful load balancer for routing client requests; GeoWebCache is customized to publish the required WMTS and process client requests; while MongoDB is used to store the large volume of tile images in the HPC. Evaluation experiments were carried out to assess the efficiency and scalability of our WMTS system, using one synthetic workload. Experimental results illustrate that this distributed WMTS framework can achieve about 15% performance improvement when the service nodes are increased with a 0.5~2s reduction in the load time and a 5~10MB increase in network throughput.

Web application server cluster has been widely used to improve the performance of web application servers. Because web load is highly variable, we need to dynamically manage cluster’s deployment so as to reduce power consumption and meanwhile satisfy load performance demand. To facilitate researchers to evaluate a management strategy or choose key parameters for it, we propose a CloudSim-based simulation platform in this paper. It can simulate different cluster deployment algorithm, request scheduling algorithm and load feature, where cluster’s deployment includes the on/off state, CPU frequency and request scheduling parameter(s) of each server. By the aid of HookTimer component, the platform supports periodical and conditional deployment trigger modes, and can calculate some common performance indicators. The usage of interface, dynamic proxy technique and XML configuration file make the platform have good extensibility and configurability. In addition, a request-number-triggered management strategy is proposed and simulated by the platform. The simulation results demonstrate the feasibility of the platform.

최근에 리눅스 가상 서버 프로젝트를 이용한 클러스터를 많이 구축하고 있다. 리눅스 가상 서버는 확장성이 뛰어날 뿐만 아니라 성능도 뛰어나다. 그러나 하나의 전면 서버가 사용자 요청을 받아서 후면 서버가 처리를 하여 사용자에게 응답을 보내는 구조이므로 하나의 전면 서버는 사용자 요청의 급격한 증가로 병목현상을 일으킬 수 있고, 이 때문에 다수의 후면 서버가 있음에도 불구하고 서비스를 할수 없는 상황이 발생하게 된다. 따라서 본 논문에서는 다수의 전면 서버를 두어 병목현상을 근본적으로 없애는 방법을 제안하였다. 모든 클러스터 노드들은 전면 서버와 후면 서버의 역할을 모두 할 수 있도록 하였고 부하량이 많지 않으면 자기 노드에서 직접 처리를 하여 사용자에게 웅답할 수 있도록 하고, 부하량이 많을 때에만 클러스터의 다른 노드들 중 부하가 가장 작은 노드를 선택하여 사용자 요청을 처리할 수 있도록 하였다. 그리고 클러스터 노드들의 부하량을 고려한 스케줄링 알고리즘을 개발하여 좀 더 효율적인 부하 분배방식을 제안하였다.

인터넷이 새로운 산업의 형태로 발전하면서 웹 사이트에 클러스터링 기술을 많이 적용하고 있다. 고성능 하드웨어 스위치를 사용하면 성능이 우수하지만 중소형 사이트를 구성하는 데에는 비용 부담이 많이 된다. 최근에는 무료이면서 성능이 뛰어난 리눅스 가상 서버(Linux Virtual Server)를 이용한 클러스터를 많이 구축하고 있다. 그러나 리눅스 가상 서버는 하나의 전면서버를 가지는 중앙집중식 부하분배 구조이므로 사용자 요청의 급격한 증가로 병목현상을 일으킬 수 있다. 따라서 본 논문에서는 다수의 전면서버를 두어 리눅스 가상 서버의 병목현상을 없애는 방법을 제안한다. 모든 클러스터 노드들은 전면서버와 후면서버의 역할을 모두 할 수 있도록 구성한다. 서버의 부하가 많지 않으면 자기 노드에서 직접 처리하여 사용자에게 응답할 수 있도록 하고, 부하가 많은 경우 부하가 가장 작은 노드를 선택하여 사용자 요청을 전달한다. 그리고 클러스터 서버들의 부하를 고려한 스케줄링 알고리즘을 제안하여 서버들 사이의 부하를 고르게 한다. 실험결과 기존 웹 서버 클러스터들은 서버의 수가 증가하면서 성능향상 폭이 감소하지만, 본 논문에서 제안한 웹 서버 클러스터는 선형적으로 증가하는 것을 보였다. 리눅스 가상 서버 환경에서 다수의 전면서버를 구성함으로써 병목현상을 없애고, 비용 부담이 없고 고성능의 중소형 사이트를 구축할 수 있다.

These days, various clustering technologies have been adopted to construct web sites. High performance hardware switches have good performance, but have disadvantage of high cost for constructing small and middle-sized web sites. Now a days, many sites have been constructed with the LVS (Linux Virtual Server), which is free of charge and has good performance. Having a centralized load balancing with one front-end, the LVS causes a bottleneck when it receives all at once. In the paper, we suggest a way to remove the LVS bottleneck by providing multiple front-ends. In this architecture, all of cluster nodes act as both a front-end and a back-end. When the load of a node receiving requests is not large enough, the node responds to the client directly. When the load of a node is large enough, the node send the request to a node which is selected by a scheduling algorithm. The scheduling algorithm is discussed to balance loads between servers. While single front-end cluster raises the throughput curvedly, the multiple front-end cluster raises the throughput linearly.

최근 웹 서비스가 다양한 컨텐츠와 전자상거래 둥 비즈니스와 관련된 서비스로 변화함에 따라 대용량 서비스뿐만 아니라 고품질 서비스(QoS)를 제공하기 위한 연구가 진행되고 있다. 웹 서버 클러스터에서도 서버 성능 향상과 함께 005를 제공하기 위한 차별화된 서비스가 필요하다. 본 논문에서는 사용자 계층별로 차별화된 서비스를 제공하기 위해서 서버 노드를 동적으로 분할하는 기법을 제안한다.

Although the web is becoming a widely accepted medium, it provides relatively poor performance and low availability. A cluster consists of a collection of interconnected stand-alone computers working together and provides a high-availability solution in application area such as web services or information systems. Web server clusters require a high-availability service with a proactive and practical fault management. However, as the system complexity grows, it is not easy to meet the requirement. Therefore, web server clusters must have self-fault management capability for meeting high-availability requirement. In this paper, we propose high availability web server clusters using self-healing technique with a minimal human intervention. Our experimental results show that a proposed method can be used to improve the availability of web server clusters.

본 논문에서는 서버의 운영체제에 의존적이지 않은 디스패처(Dispatcher)방식과 클라이언트의 요청에 대한 서버의 응답을 클라이언트와 직접 통신하는 직접 라우팅(Direct Routing) 방식을 혼합하고, 클러스터로 구성된 웹 서버들은 각각 서로 다른 컨텐츠를 가지고 클라이언트 요청에 해당 서버에서 응답하는 컨텐츠를 기반으로 한 웹 서버 클러스터 기법을 제안한다. 기존의 디스패처는 해당 디스패처에 관련된 서버들 간의 부하 분산을 효과적으로 처리하는데 목적을 두지만, 제안한 컨텐츠를 기반으로 한 웹 서버 클러스터 기법은 부하 분산보다는 디스패처에 대한 오버헤드(Overhead)를 감소시키고 클라이언트의 서비스에 대한 응답시간(Response-time)을 최소화하는데 그 목적을 둔다. 또한 본 논문에서는 서로 다른 컨텐츠로 구성되어 있는 서버들 중에 특정한 한 서버가 페일(Fail)이 발생했을 때 전체 컨텐츠로 구성되어 있는 또 하나의 서버를 가지고 페일 문제를 해결한다. 본 논문에서 제안한 컨텐츠를 기반으로 한 웹 서버 클러스터 기법을 월드 와이드 웹(World Wide Web)에 적용시 폭발적으로 증가하는 서비스 요청과 이로 인만 디스패처의 오버헤드를 효과적으로 처리하여 보다 빠르고 신뢰적인 서비스가 가능할 것으로 기대된다.

최근 클러스터에 대한 연구는 내용 기반 클러스터의 부하 분배와 캐시 정책에 집중되고 있다. 본 논문에서는 웹 서비스의 고가용성 및 확장성을 제공하는 클러스터 환경에서 힌트 기반 협력적 캐싱의 캐시 적중률을 향상시키기 위해 기존의 DFR 기법을 개선하였다. 서비스 접근 확률을 이용하여 주 복사본과 종속 복사본을 선택적으로 제거하는 메모리 교체 방법을 제시하였으며, DFR 방식과 성능을 비교, 분석한 결과 DFR 방식보다 적은 디스크 접근률을 얻을 수 있었다.

인터넷 사용이 보편화되면서 많은 사용자의 요청이 있더라도 만족할 만한 서비스를 제공할 수 있는 웹 서버가 필요로 하게 되었다. 이로 인해 최근 가상서버를 이용한 웹 서버 클러스터의 구축사례가 늘고 있다. 리눅스 운영체제와 값 싼 일반 PC를 이용하여 추가적인 비용 부담이 덜하고, IP Tunneling과 Direct Routing 같은 방법을 사용하여 후면 서버가 사용자에게 직접 응답할 수 있으므로 전면 서버의 병목현상을 줄일 수 있는 장점이 있다. 그러나 한 대의 전면 서버로는 그 한계가 있다. 그래서 본 논문에서는 전면 서버와 후면 서버의 구분을 없애고 모든 서버가 전면 서버와 후면 서버의 역할을 다 할 수 있는 웹 서버 클러스터를 제시한다. 다수의 전면 서버를 두어 전면 서버의 고가용성도 보장할 수 있고, 병목현상에 대해 좀 더 효율적인 대응을 할 수 있으며, 시스템 추가에 대한 손쉬운 확장성을 보장할 수 있다. 각 노드의 부하 정보에 의한 스케쥴링을 통해 좀 더 효율적인 클러스터 시스템을 구성하였다.

In this paper, we consider issues related to the autonomous management of a server cluster Server clustering technique is widely used for high available Internet servers such as a web server, because it provides very scalable and reliable service. However, it is very burden-some to manage the cluster system. For instance, installation or configuration of a new node requires skilled administrators. Also, when a node is failed, it should be recognized and recovered by a human. The management complexity gets higher while increasing the number of machines for higher throughput. Here, we are going to alleviate the management complexity by building an autonomous cluster server with Jini $_{TM}$ technology from Sun Microsystems.

인터넷 사용의 일반화로 인터넷을 통한 전자 상거래가 점차 늘고 있다. 이 가운데 많은 사용자들이 이용하는 사이트는 하루 수 백만건의 접속이 이루어지고 있고 사용자의 요구도 다양해지고 있다. 이러한 사이트에서는 사용자에게 최적의 성능을 보장해야 될 뿐만아니라 시스템의 다운 타임을 최소화 할 수 있는 방안이 필요하게 된다. 기존의 단일 시스템 체계는 이런 면에서 한계에 도달하였다. 단일 시스템의 한계점을 극복하기 위해서 클러스터를 이용한 대안이 제시되고 있다. 따라서 본 논문에서는 리눅스 플랫폼 상에서 클러스터를 이용한 웹 서버를 설계 및 구현하였다.

인터넷 서비스에 대한 요청의 기하학적인 증가와 그 요구의 양과 질에 대한 다양성은 이질적인 능력을 지닌 서버들로 구성된 웹 서버 클러스터를 구축하게 되었다. 클러스터 환경에서 가장 결정적인 역할을 하는 요청 대 서버의 맵핑 기법이 최근 활발히 논의되고 있다. 기존의 맵핑 방식은 요청의 수를 기반으로 서버들이 동일한 양의 부하를 할당받는 것을 목적으로 한다. 하지만, 최근의 다양한 서비스의 증가로 인해 단순한 부하의 균등화만으로 적절한 지연 시간을 기대할 수 없게 되었다. 이에 요구되는 내용을 기반으로 맵핑을 수행하여 응답 시간을 단축하고 전체 서버들의 캐시 적중률도 높이는, 내용-기반 맵핑(content-based mapping)이 최근의 인터넷 환경에서 매우 긍정적으로 평가받고 있다. 이에 본 논문에서는 내용-기반 맵핑 방식을 이질적 환경에 적합하도록 개선시킨 우선 순위 최상 임의 가중치 맵핑(Prioritized Highest Random Weight Mapping, PHRW Mapping)을 제안하였다. 요구되는 내용을 기반으로 맵핑하며, 이질적 서버들에 대해 능력에 따라 우선 순위를 부여하여 높은 성능의 서버가 많은 요청들을 처리하는 방식이다. 이를 통해 이질적인 서버들로 구성된 클러스터에서 매우 효과적으로 적용하며, 특히 지연 시간에 제한을 갖고 있는 실시간 데이타 서비스의 지연 시간을 효과적으로 감소시킨다. 알고리즘과 시뮬레이션을 통하여, 제안된 기법을 사용하는 경우 짧은 지연 시간을 보장하여 전체 시스템의 성능이 향상됨을 증명하였다.

For many years clustered heterogeneous web server architecture has been formed on the internet because the explosive internet services and the various quality of requests. The critical point in cluster environment is the mapping schemes of request to server. and recently this is the main issue of internet architecture. The topic of previous mapping methods is to assign equal loads to servers in cluster using the number of requests. But recent growth of various services makes it hard to depend on simple load balancing to satisfy appropriate latency. So mapping based on requested content to decrease response time and to increase cache hit rates on entire servers - so called “content-based” mapping is highly valuated on the internet recently. This paper proposes Prioritized Highest Random Weight mapping(PHRW mapping) that improves content-based mapping to properly fit in the heterogeneous environment. This mapping scheme that assigns requests to the servers with priority, is very effective on heterogeneous web server cluster, especially effective on decreasing latency of reactive data service which has limit on latency. This paper have proved through algorithm and simulation that proposed PHRW mapping show higher-performance by decrease in latency.

최근 인터넷과 웹은 널리 사용되는 미디어로 인식되고 있으나 상대적으로 빈약한 성능과 낮은 가용도를 제공한다. 클러스터 구조는 고가용도와 고성능 그리고 확장성을 요구하는 웹 서비스나 정보시스템 같은 응용 분야에서 저 비용으로 유용하게 사용 가능하다. 본 논문에서는 고가용도 및 확장성을 제공하는 클러스터링 웹 서버를 대상으로 부하 분배기의 구조를 제안하고 문서 접근 확률과 문서 크기 정보를 이용한 부하 분배 알고리즘을 개발하여 성능을 최대화할 수 있도록 하였다. 특히 제안된 알고리즘은 각 서버 노드가 동일한 운영체제로 구성되지 않아도 되고 처리 용량이 서로 달라도 되며 기존의 알고리즘에 비해 캐쉬 적중률을 향상시킨다.

Although the web is becoming a widely accepted medium, it provides relatively poor performance and low availability. A cluster consists of a collection of interconnected stand-alone computers working together and provides a high-availability solution in application area such as web services or information systems. In this paper, we propose a load balancer architecture under the web server cluster that provides high-availability, high performance and scalability. In addtion, we propose an efficient load balancing algorithm that considers access rate and size of documents. Specially, our algorithm does not require the nodes running under similar configurations and the same operating system. Also, server cache can be utilized more efficiently.

최근 인터넷과 웹은 널리 사용되는 미디어로 인식되고 있으나 상대적으로 빈약한 성능과 낮은 가용도를 제공한다. 클러스터 구조는 고가용도와 고성능 그리고 확장성을 요구하는 웹 서비스나 정보시스템 같은 응용 분야에서 저 비용으로 유용하게 사용 가능하다. 본 논문에서는 고가용도 및 확장성을 제공하는 클러스터링 웹 서버를 대상으로 부하 분배기의 구조를 제안하고 문서 접근 확률과 문서 크기 정보를 이용한 부하 분배 알고리즘을 개발하여 성능을 최대화할 수 있도록 하였다. 특히 제안된 알고리즘은 각 서버 노드가 동일한 운영체제로 구성되지 않아도 되고 처리 용량이 서로 달라도 되며 기존의 알고리즘에 비해 캐쉬 적중률을 향상시킨다.

Although the web is becoming a widely accepted medium, it provides relatively poor performance and low availability. A Cluster consists of a collection of interconnected stand-alone computers working together and provides a high-availability solution in application area such as web services or information systems. In this paper, we propose a load balancer architecture under the web server cluster that provides high-availability, high performance and scalability. In addition, we propose an efficient load balancing algorithm that considers access rate and size of documents. Specially, our algorithm does not require the nodes running under similar configuration and the same operating system. Also, server cache can be utilized more efficiently.

최근 인터넷의 사용이 크게 증가하면서 웹을 이용한 상품 및 서비스가 크게 보급, 확산되고 있으나 상대적으로 빈약한 성능과 신뢰도를 제공한다. 클러스터링 기법은 비용 측면에서 매우 유리하며 특히 웹서비스나 정보 시스템과 같이 고성능과 고가용도를 요구하는 응용 분야에서 결함 허용 컴퓨터의 대안으로 등장하고 있다. 본 논문에서는 고가용도 및 확장성을 제공하는 클러스터링 웹 서버를 대상으로 부하 분배기의 구조를 제안하고 문서 접근 확률과 문서 크기 정보를 이용한 부하 분배 알고리즘을 개발하여 성능을 최대화할 수 있도록 하였다. 특히 제안된 알고리즘은 각 서버 노드가 동일한 운영체제로 구성되지 않아도 되고 처리 용량이 서로 달라도 되며 기존의 알고리즘에 비해 캐쉬 적중률을 향상시킨다.

일반적으로 부하 분산 정책은 사용자의 서비스 요청 특성에 관계없이 들어오는 그대로 처리 하고 있다. 본 논문에서는 이러한 것을 개선하기 위하여 차별 큐를 가진 최단 작업 우선 기 법을 제안하였다. 제안한 기법은 부하 분산 서버에 사용자의 서비스 요청이 들어오면 해당 요청의 처리시간을 파악하고 이미 들어온 서비스 요청들과 비교해서 먼저 처리가 완료될 수 있는 서비스 요청을 부하 분산 정책에 할당해주는 전략을 사용함으로써, 사용자들의 평균 응답 시간을 향상시키도록 하였다.

본 논문에서 웹 서버 클러스터 환경에서 웹 요청들의 분산을 위한 부하 분산 기법을 제안한다. 전통적인 주기적 부하 정보 갱신 기반의 부하 분산 기법에서는 동기화된 부하 정보와 동적 페이지에 포함된 스크립트들의 갱신 정보 때문에 Cyber Foraging 서비스 같은 동적 웹 응용 프로그램에서는 적합하지 않다. 이를 해결하기 위해 Update-on-Finish 부하 분산 알고리즘은 비주기적인 부하 갱신 방법을 사용하고 있다. 웹 스위치는 비주기적인 부하 리포팅 후, 서버들의 실제 부하 정보를 알 수 있다. 그런후 실제 정보에 따라 부하 분산 스케줄을 재배열 한다. 하지만 Update-on-Finish 알고리즘의 경우 부하 정보를 유지하기 위한 통신 부하가 크다는 문제점을 가진다. 본 논문에서는 각 서버가 K%의 작업을 마친 후 비주기적 부하 정보 보고를 통하여부하감소시킨 방법을 제안한다. 또한 서버의 처리능력이 다른 환경을 고려하여 서로 다른 threshold Ti값을 적용함으로써, 다양한 처리 능력을 가진 서버들을 위한 로드 밸런싱 알고리즘으로 확장하여 제안하고 있다. 시뮬레이션 결과에서 제안된 K-Percent-Finish Reporting 방법은 Update-on-Finish 방법보다 최소 50% 이상의 통신 부하를 감소시키면서, 기존 주기적 부하 정보 갱신 기반의 관련 연구들보다 향상된 시스템 처리 능력을 보여주고 있다.

This paper introduces a load-balancing algorithm focusing on distributing web requests evenly into the web cluster servers. The load-balancing algorithms based on conventional periodic load-information update mechanism are not suitable for dynamic page applications, which are common in Cyber Foraging services, due to the problems caused by periodic synchronized load-information updating and the difficulties of work load estimation caused by embedded executing scripts of dynamic pages. Update-on-Finish algorithm solves this problem by using non-periodic load-update mechanism, and the web switch knows the servers’ real load information only after their reporting and then distributes new loads according to the new load-information table, however it results in much communication overhead. Our proposed mechanism improve update-on-finish algorithm by using K-Percents-Finish mechanism and thus largely reduce the communication overhead. Furthermore, we consider the different capabilities of servers with a threshold Ti value and propose a load-balancing algorithm for servers with various capabilities. Simulation results show that the proposed K-Percents-Finish Reporting mechanism can at least reduce 50% communication overhead than update-on-finish approach while sustaining better load balancing performance than periodic mechanisms in related work.