Earticle

본 연구는 LLM 기반 세션 추천 환경에서 Mixture-of-Experts(MoE) 구조가 GPU 메모리 사용량과 추론 지연 시간에 미치는 구조적 특성을 분석하고, 자원 제약 상황에서 고려해야 할 구조적 고려 요소를 분석하여 제시한다. 동일한 백본 구조를 기준으로 FFN 기반 모델과 MoE 기반 모델을 비교한 결과, 전문가 수가 증가함에 따라 GPU 메모리 점유와 지연 시간이 함께 증가하는 경향이 나타났다. 이러한 특성은 짧은 세션 시퀀스를 반복적으로 처리하는 세션 추천 환경에서 자원 관리 측면의 주요 고려 요소가 될 수 있다. 이에 본 연구는 전문가 활성빈도와 세션 특성을 고려한 자원 관리 및 전문가 활용 방식의 구조를 정리하고, MoE 기반 LLM 세션 추천 시스템을 자원 사용 특성을 분석하기 위한 관점을 제시한다.

This study analyzes the structural characteristics of a Mixture-of-Experts (MoE) architecture in an LLM-based session recommendation environment, focusing on its impact on GPU memory consumption and inference latency. In addition, we identify and discuss structural considerations required under resource-constrained settings. Using an identical backbone architecture, we compare an FFN-based model with an MoE-based model and observe that GPU memory usage and step-wise inference latency tend to increase as the number of experts grows. This characteristic can become a critical consideration in session-based recommendation scenarios where short session sequences are processed repeatedly. Based on these observations, we organize a structural perspective on resource management and expert utilization strategies that take into account expert activation frequency and session characteristics. Finally, we present an analytical viewpoint for examining resource usage patterns in MoE-based LLM session recommendation systems.

최근 빅데이터와 클라우드 보안에 대한 관심이 증가함에 따라 이를 효율적으로 암호화하기 위해 경량화된 고속 암호에 대한 연구가 진행되어 왔다. 그 결과, 국가보안기술연구소에서는 경량 고속 블록 암호인 LEA를 개발하였다. 경량화 암호인 LEA를 효율적으로 암 복호화를 위해 CPU가 아닌 GPU를 이용한 고속화 연구들이 최근에 소개되었다. 그럼에도 불구하고, GPU사용에 있어서의 가이드라인에 대한 연구는 여전히 미흡하다. 본 논문에서는 LEA알고리즘이 대용량 처리를 위해 사용될 때, 효율적인 GPU를 활용한 LEA 최적화방안에 대해 제안한다.

As big-data and cloud security technologies become popular, many researchers have recently been conducted on faster and lighter encryption. As a result, National Security Research Institute developed LEA which is lightweight and fast block cipher. To date, there have been various studies on lightweight encryption algorithm (LEA) for speeding up using GPU rather than conventional CPU. However, it is rather difficult to explore any guideline how to manipulate the GPU for the efficient usage of the LEA. Therefore, we introduce a guideline which explains how to implement and design the optimal LEA using GPU.