Earticle

컨테이너 기반 마이크로서비스는 마이크로서비스 아키텍처의 실현 방법으로 컨테이너 오케스트레이션 프레임워크를 통해 컨테이너화된 마이크로서비스를 관리하고 경량 통신 프로토콜을 사용하여 마이크로서비스 간 약결합을 구현한다. 컨테이너 기반 마이크로서비스는 컨테이너 기술, 약결합 기술 등의 다양한 유형의 기술 결합으로 인해 기술적 복잡성이 높고, 이에 따라 오류의 분석 및 처리와 같은 서비스 관리가 어렵다는 문제가 있다. 이러한 어려움을 해소하기 위해 생성형 AI와 같은 약 인공지능 기술의 도입 시도가 늘어나고 있다. 그러나 생성형 AI의 적용 시, 복잡성이 높은 마이크로서비스 아키텍처에 대한 질의는 환각(hallucination) 문제의 주요 원인이 된다. 이에 본 논문에서는 검색 증강 생성(Retrieval-Augmented Generation, RAG)을 활용하여 컨테이너 기반 마이크로서비스의 오류 처리에 적용하는 방법을 제안한다. 제안하는 방법은 컨테이너 기반 마이크로서비스의 오류 유형을 분류하고 RAG 적용을 위한 지식 베이스를 구축한 후, 지식 베이스를 활용하여 RAG 프로세스를 적용하는 것을 핵심으로 한다. 오픈소스 마이크로서비스 아키텍처 프로젝트를 대상으로 한 오류 처리 사례 연구를 통해 제안하는 방법의 실질적인 활용 가능성을 검증하였다. 생성형 AI의 답변 생성을 고도화하는 다른 기법들인 생성형 AI 파인튜닝, Zero-Shot Chain-of-Thought(CoT), Self-Refine 기법과의 비교 평가를 수행한 결과, 제안하는 방법이 수행 시간 측면에서 각각 390.528초, 18.966초, 26.047초만큼 우수한 성능을 보임을 확인하였다. 본 연구에서 제안하는 방법은 컨테이너 기반 마이크로서비스를 안정적으로 운영하기 위한 기반 기술로 활용될 수 있을 것으로 기대된다.

Container-based microservices are an implementation approach of microservice architecture that manages containerized microservices through container orchestration frameworks and realizes loose coupling between microservices using lightweight communication protocols. However, container-based microservices involve a combination of various technologies, such as container technologies and loose coupling mechanisms, which leads to high technical complexity. As a result, service management tasks such as error analysis and handling become difficult. To address these challenges, attempts to introduce weak artificial intelligence technologies, such as generative AI, have been increasing. However, when applying generative AI, queries related to highly complex microservice architectures become a major cause of hallucination problems. Therefore, this paper proposes a method for applying Retrieval-Augmented Generation(RAG) to error handling in container-based microservices. The core of the proposed method is to classify error types in container-based microservices, build a knowledge base for RAG application, and then apply the RAG process using this knowledge base. The practical applicability of the proposed method is verified through a case study of error handling on an opensource microservice architecture project. In addition, a comparative evaluation is conducted against other techniques that enhance answer generation in generative AI, including generative AI fine-tuning, Zero-Shot Chain-of-Thought(CoT), and the Self-Refine method. The results show that the proposed method outperforms these techniques in terms of execution time by 390.528 seconds, 18.966 seconds, and 26.047 seconds, respectively. The proposed method is expected to be utilized as a foundational technology for the stable operation of container-based microservices.

변화하는 서비스 요구사항을 충족하고 안정적인 서비스를 유지하기 위해 기업에서 마이크로서비스 구조를 도입하는 사례가 많아지고 있다. 마이크로서비스 구조는 단일 기능을 수행하는 독립적인 소규모의 서비스들로 시스템을 구성하여, 모놀리식 구조에 비해 높은 확장성과 가용성을 가진다. 하지만, 컨테이너 기반 마이크로서비스는 각 서비스 사이의 약결합(Loosely Coupling) 형성을 위해 마이크로서비스의 조합 구성에 대한 고려가 부족하고 배포에 대한 모든 과정을 개발자에게 일임하는 문제점을 가지고 있다. 이를 해결하기 위해서 마이크로서비스 조합을 위한 기반 구조로 Boundary-Control-Entity의 유형으로 구분할 수 있는 패턴을 적용한 방안을 제시한다. 또한 컨테이너 기반 마이크로서비스의 설계, 구현, 배포의 전 주기를 지원하기 위해 마이크로서비스에 대한 단일 명세와 조합 명세를 활용하는 기법을 제시한다. 제시된 기법을 컨테이너 오케스트레이션 프레임워크인 쿠버네티스에 적용한 사례연구를 바탕으로 컨테이너 기반의 마이크로서비스가 구성됨을 확인하였다. 본 논문의 기법은 컨테이너 기반 마이크로서비스를 배포 및 관리하는 환경의 기반 모델로 적용될 수 있을 것으로 기대된다.