년 - 년
다중작업학습 기법을 적용한 Bi-LSTM 개체명 인식 시스템 성능 비교 분석 KCI 등재
한국디지털정책학회 디지털융복합연구 제17권 제12호 2019.12 pp.243-248
※ 기관로그인 시 무료 이용이 가능합니다.
4,000원
다중작업학습(Multi-Task Learning, MTL) 기법은 하나의 신경망을 통해 다양한 작업을 동시에 수행하고 각 작업 간에 상호적으로 영향을 미치면서 학습하는 방식을 말한다. 본 연구에서는 전통문화 말뭉치를 직접 구축 및 학습데 이터로 활용하여 다중작업학습 기법을 적용한 개체명 인식 모델에 대해 성능 비교 분석을 진행한다. 학습 과정에서 각각 의 품사 태깅(Part-of-Speech tagging, POS-tagging) 과 개체명 인식(Named Entity Recognition, NER) 학습 파 라미터에 대해 Bi-LSTM 계층을 통과시킨 후 각각의 Bi-LSTM을 계층을 통해 최종적으로 두 loss의 joint loss를 구한 다. 결과적으로, Bi-LSTM 모델을 활용하여 단일 Bi-LSTM 모델보다 MTL 기법을 적용한 모델에서 1.1%~4.6%의 성능 향상이 있음을 보인다.
Multi-Task Learning(MTL) is a training method that trains a single neural network with multiple tasks influences each other. In this paper, we compare performance of MTL Named entity recognition(NER) model trained with Korean traditional culture corpus and other NER model. In training process, each Bi-LSTM layer of Part of speech tagging(POS-tagging) and NER are propagated from a Bi-LSTM layer to obtain the joint loss. As a result, the MTL based Bi-LSTM model shows 1.1%~4.6% performance improvement compared to single Bi-LSTM models.
딥러닝 기반 영상 데이터의 객체 추적과 감정 인식 통합 프레임워크
한국창업융합컨설팅학회 창업융합컨설팅연구 제5권 제1호 2026.03 pp.93-105
※ 기관로그인 시 무료 이용이 가능합니다.
4,500원
본 논문은 영상 데이터에서 객체 추적과 감정 인식을 동시에 수행할 수 있는 딥러닝 기반 통합 프레임워크를 제안한다. 기존 시스템에서는 객체 추적과 감정 인식이 독립적으로 운영되어, 하 나의 영상에서 두 작업을 동시에 처리할 때 연산 비효율성과 정보 불일치가 발생하는 한계가 있었 다. 이를 해결하기 위해 본 연구에서는 사전 학습된 ResNet50 기반 CNN 모델을 통해 공간적 특징 을 추출하고, Stacked LSTM 모델을 통해 시간적 의존성을 학습하여 객체 위치와 감정을 동시에 예 측하는 멀티태스크 통합 인식 구조를 설계하였다. 후처리 단계에서는 칼만 필터와 헝가리안 알고리 즘을 활용한 객체 ID 관리 및 IoU 기반 감정-객체 매칭을 수행하여 다중 객체 환경에서의 추적 안 정성을 확보하였다. CK+, AFEW 감정 데이터셋과 MOT17 객체 추적 데이터셋을 활용한 실험 결과, 제안 시스템은 객체 추적 MOTA 72.6%, 비디오 감정 인식 정확도 73.4%(AFEW 기준), 통합 처리 시 실시간 처리 속도 28.3 FPS를 달성하였으며, 기존 독립 파이프라인 대비 연산량 34.2% 절감 효과를 확인하였다. 절제 실험을 통해 각 모듈의 기여도를 검증하였으며, 본 연구는 감시 시스템, 스마트 리 테일, 인간-컴퓨터 상호작용 등 다양한 분야에 실용적으로 적용 가능하다.
This paper proposes a deep learning-based integrated framework that simultaneously performs object tracking and emotion recognition in video data. Existing systems operate these two tasks independently, resulting in computational inefficiency and information inconsistency when processing both tasks from a single video stream. To address these limitations, the proposed framework employs a pre-trained ResNet50-based CNN model for spatial feature extraction and a Stacked LSTM model for temporal dependency learning, enabling simultaneous prediction of object positions and emotions through a unified multi-task recognition architecture. In the post-processing stage, Kalman Filter and Hungarian Algorithm-based object ID management, along with IoU-based emotion-object matching, ensure tracking stability in multi-object environments. Evaluated on the CK+, AFEW emotion datasets and the MOT17 object tracking dataset demonstrate that the proposed system achieves a MOTA of 72.6% for object tracking, 73.4% accuracy for video-based emotion recognition (on AFEW), and a real-time processing speed of 28.3 FPS, with a 34.2% reduction in computational load compared to independent pipeline approaches. Ablation studies validate the contribution of each module, and the proposed framework demonstrates practical applicability in surveillance systems, smart retail, and human-computer interaction.
[NRF 연계] 한국통신학회 ICT Express Vol.11 No.6 2025.12 pp.1173-1180
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
This paper presents a real-time vehicle detection and tracking system using an unmanned aerial vehicle (UAV) to address challenges in dynamic urban environments. The system combines a convolutional neural network (CNN) for vehicle detection with a deep Q-network (DQN)-based navigation policy for continuous tracking. Input images are enhanced using contrast limited adaptive histogram equalization (CLAHE) and unsharp masking. The CNN jointly predicts vehicle center coordinates and probabilistic heatmaps, while a self-attention module captures long-range spatial dependencies to improve detection under clutter and occlusion. The DQN is trained on multi-step spatiotemporal states to learn optimal UAV movement strategies under diverse weather and structural conditions. Experiments conducted in a three-dimensional (3D) urban simulation environment using Unity’s machine learning agents (ML-Agents) show that the self-attention design reduced pixel-level localization error by about 7%, and the DQN-based tracking policy achieved stable convergence after approximately 2000?3000 episodes. These results demonstrate high tracking accuracy and system stability, highlighting the potential of the proposed approach for real-world UAV-based traffic monitoring applications. 2018 The Korean Institute of Communications and Information Sciences. Publishing Services by Elsevier B.V. This is an open access article under the CC BY-NC-ND license (http://creativecommons.org/licenses/by-nc-nd/4.0/).
[NRF 연계] 한국통신학회 ICT Express Vol.11 No.4 2025.08 pp.734-742
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Task offloading in multi-access edge computing (MEC) systems is critical for managing computational tasks in dynamic urban environments. Existing strategies face challenges such as high communication overheads and regional performance deviations including centralized and distributed methods. Clustering approaches have been explored to address these issues, yet they often rely on physical proximity to form clusters, overlooking the variability in task rate distributions across edges. To overcome these limitations, this paper proposes a graph-driven inter-cluster resource distribution (GIRD) clustering scheme that clusters edge nodes based on task request distribution and computing resource status, ensuring similar resource utilization across clusters. Building on this, a proximal policy optimization (PPO)-enabled intra-cluster task offloading algorithm (PITO) is introduced to determine one execution server for task offloading?either an edge server within a cluster or a cloud server?using various network state information. This dynamic decision-making process optimizes a multi-objective function that includes task processing delay, consumed energy, success rate, and cloud cost. Simulation results demonstrate the proposed GIRD-PITO framework achieves superior task success rates, reduced delays, and improved regional performance fairness, making it a promising solution for large-scale MEC systems. 2018 The Korean Institute of Communications and Information Sciences. Publishing Services by Elsevier B.V. This is an open access article under the CC BY-NC-ND license (http://creativecommons.org/licenses/by-nc-nd/4.0/).
다국어 혐오표현 탐지를 위한 클래스 불균형 개선 및 멀티태스크 학습
[NRF 연계] 전북대학교 문화융복합아카이빙연구소 디지털문화아카이브지 Vol.8 No.2 2025.10 pp.215-237
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
다국어 혐오표현 탐지를 위한 클래스 불균형 개선 및 멀티태스크 학습
[NRF 연계] 전북대학교 문화융복합아카이빙연구소 디지털문화아카이브지 Vol.8 No.2 2025.10 pp.215-237
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
온라인 커뮤니티에서는 익명성을 기반으로 한 혐오표현이 지속적으로 발생하며, 심각한 사회문제로 이어지고 있다. 안전한 플랫폼 환경을 유지하기 위해서는 혐오표현을 탐지하는 기술이 필요하다. 그러나 언어마다 표현 방식이 달라, 다국어 데이터에서는 심각한 클래스 불균형이 발생한다. 본 연구에서는 한국어와 영어 기반의 6개 공개 데이터셋을 통합하여 9개의 레이블로 구성하였으며, 이 과정에서 극히 희소한 언어-레이블 조합이 나타났다. 이를 해결하기 위해 희소한 조합에 한정하여 로짓 조정, 소프트 타깃 학습, Group-DRO를 적용하고, 다중레이블 분류와 이진 분류를 결합한 멀티태스크 학습 구조를 도입하였다. 실험 결과, 제안 모델은 micro/macro F1에서 각각 0.79를 기록하였으며, 특히 희소 조합에서 단일 태스크 기준 대비 +0.22p와 +0.38p의 효과를 보였다. 이러한 결과는 희소 조합의 재현율 저하와 언어 간 성능 격차를 동시에 완화할 수 있음을 보여준다.
Hate speech, often fueled by the anonymity of online communities, continues to proliferate and poses a serious social problem. To maintain safe and trustworthy online platforms, effective detection of hate speech is essential. However, linguistic variations across languages lead to severe class imbalance in multilingual datasets. In this study, we integrated six publicly available datasets in Korean and English into a unified dataset with nine labels, which revealed extremely sparse language?label combinations. To address this issue, we applied logit adjustment, soft-target learning, and Group-DRO specifically to these sparse combinations, and introduced a multi-task learning framework that combines multi-label and binary classification. Experimental results show that our model achieved a micro/macro F1 of 0.79, with improvements of +0.22p and +0.38p over single-task baselines in the most sparse combinations. These findings demonstrate that the proposed approach can simultaneously mitigate recall degradation in sparse cases and reduce performance disparities across languages.
과제 중심 다감각운동 프로그램이 학습지연을 동반한 ADHD성향 아동의 자아효능감과 쓰기능력에 미치는 변화 KCI 등재
대한지역사회작업치료학회 대한지역사회작업치료학회지 제8권 제2호 2018.08 pp.1-14
※ 기관로그인 시 무료 이용이 가능합니다.
4,600원
목적 : 학습지연을 동반한 ADHD성향을 지닌 아동에게 교육매체를 접목한 과제 중심 다감각운동 프로그램을 적용한 후 자아효능감과 쓰기능력의 변화를 알아보고자 하였다. 연구방법 : 학습지연을 동반한 ADHD성향을 지닌 아동을 대상으로 과제 중심 다감각운동 프로그램을 실시하였다. 연구 절차는 사전검사, 중재, 사후검사 순으로 진행되었다. 사전-사후검사로 자아효능감 및 KNISE-BAAT 쓰기검사 ‘가’ 형과 ‘나’형을 사용하였다. 중재는 총 8회기 동안 실시하였다. 수집된 자료는 SPSS version 18 프로그램을 사용하여 분석하였다. 결과 : 과제 중심 다감각운동 프로그램 적용 결과 자아효능감(학교, 사회), 쓰기능력(어휘구사력, 문장구사력)에 유의미 한 향상이 나타났다. 결론 : 과제 중심 다감각운동 프로그램은 학습지연을 동반한 ADHD성향을 지닌 아동의 자아효능감 및 쓰기능력을 향 상시킬 수 있는 유익한 중재방안으로 활용될 수 있을 것이다. 후속 연구에서는 교육매체를 접목한 과제 중심 다감각 운동 중재모형을 다양하게 구안할 필요가 있다고 사료된다.
Objective : The purpose of this study was to investigate the change in self-efficacy and writing ability after applying a Task-Oriented Multi-Sensory Movement Program to children with ADHD tendency accompanied by learning delays. Methods : A Task-Oriented Multi-Sensory Movement Program was implemented to children with ADHD tendency accompanied by learning delays attending S elementary school. The research proceeded in the order of a pre-test, Task-Oriented Multi-Sensory Movement intervention, and a post-test. The first session involved a pre-test, in which the children’s self-efficacy and writing ability were examined using self-efficacy test and type ‘A’ KNISE-BAAT writing test. The multisensory group activity program intervention was conducted for a total of 8 sessions. In the last session, a post-test was conducted using self-efficacy test and type ‘B’ KNISE-BAAT writing test. Data collected from the tests were analyzed using SPSS Statistics 18. Results : According to the tests taken before and after implementing the Task-Oriented Multi-Sensory Movement Program, there was a significant improvement in self-efficacy (school, society), writing ability(command of vocabulary and sentence). Conclusion : Task-Oriented Multi-Sensory Movement Program may be used as a beneficial measure to improve the self-efficacy and writing abilities of children with ADHD tendency accompanied by learning delays. It is necessary to design various intervention models by combining educational media based on a multisensory approach.
국제인공지능학회(구 한국인터넷방송통신학회) The International Journal of Advanced Smart Convergence Volume 14 Number 3 2025.09 pp.134-143
※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.
Effective emotional support conversations demand nuanced, multi-turn interactions that adaptively employ context-sensitive strategies—an area where large language models (LLMs) often fall short despite their strong general capabilities. To address this gap, we propose a multi-task learning framework that jointly fine-tunes a lightweight DialoGPT model to generate supportive responses and predict the support strategy stage. Using uncertainty-based loss weighting, our method dynamically adjusts multi-task learning objectives based on task-specific uncertainty, enabling balanced optimization between generation and classification tasks. Experiments on the psychologically grounded ESConv dataset show significant improvements, achieving an accuracy of 86.4% and a weighted F1 score of 0.86 in the next-stage strategy prediction task, with particularly strong performance in early dialogue phases such as Exploration. Our study demonstrates that compact LLMs, when guided by task-specific supervision, can effectively deliver strategy-aware emotional support, advancing scalable and reliable mental health conversational agents.
A Federated Multi-Task Learning Model Based on Adaptive Distributed Data Latent Correlation Analysis
[Kisti 연계] 한국정보처리학회 Journal of information processing systems Vol.17 No.3 2021 pp.441-452
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Federated learning provides an efficient integrated model for distributed data, allowing the local training of different data. Meanwhile, the goal of multi-task learning is to simultaneously establish models for multiple related tasks, and to obtain the underlying main structure. However, traditional federated multi-task learning models not only have strict requirements for the data distribution, but also demand large amounts of calculation and have slow convergence, which hindered their promotion in many fields. In our work, we apply the rank constraint on weight vectors of the multi-task learning model to adaptively adjust the task's similarity learning, according to the distribution of federal node data. The proposed model has a general framework for solving optimal solutions, which can be used to deal with various data types. Experiments show that our model has achieved the best results in different dataset. Notably, our model can still obtain stable results in datasets with large distribution differences. In addition, compared with traditional federated multi-task learning models, our algorithm is able to converge on a local optimal solution within limited training iterations.
정지궤도 기상위성 및 수치예보모델 융합을 통한 Multi-task Learning 기반 태풍 강도 실시간 추정 및 예측
[Kisti 연계] 대한원격탐사학회 대한원격탐사학회지 Vol.36 No.5 2020 pp.1037-1051
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
최근 기후변화로 인해 강도가 높은 태풍의 빈도가 높아짐에 따라 태풍 예측의 중요성이 강조되고 있는 데, 태풍경로예측에 비해 태풍강도예측에 대한 연구는 미비한 상황이다. 이에 본 연구에서는 딥러닝 모델인 Multi-task learning (MTL) 기법을 활용하여 정지궤도기상위성을 활용한 관측자료와 수치예보모델을 융합한 실시간 추정 및 6시간, 12시간 후의 태풍강도예측 모델을 제안하고자 한다. 본 연구에서는 2011년에서 2016년까지 북서태평양에서 발생한 총 142개의 태풍을 대상으로 강도 예측 연구를 시행하였다. 한국 최초의 기상위성인 Communication, Ocean and Meteorological Satellite (COMS) Meteorological Imager (MI)를 활용하여 태풍의 관측영상을 추출하였고, National Center of Environmental Prediction (NCEP)에서 제공하는 Climate Forecast System version 2 (CFSv2)를 활용하여 6시간, 12시간 후의 태풍 주변 대기 및 해양 예측변수를 추출하였다. 본 연구에서는 각 입력자료의 활용성을 정량화 하기 위하여, 위성 기반 태풍관측영상만을 활용한 MTL 모델(Scheme 1)과 수치예보모델을 융합적으로 활용한 MTL 모델(Scheme 2)을 구축하고, 각 모델의 훈련 및 검증 성능을 정량적으로 비교하였다. 실시간 강도 추정의 결과 scheme 1과 scheme 2에서 비슷한 성능을 보이는 반면, 6시간, 12시간 후 태풍강도예측의 경우 scheme 2에서 각각 13%, 16% 개선된 결과를 보였다. 태풍 단계별 예측성능에 대한 분석을 시행한 결과, 저강도 태풍일수록 낮은 평균제곱근오차를 보인 반면, 대부분의 강도 단계에서 평균제곱근편차비는 30% 미만의 값을 보이며 유의미한 검증 결과를 보였다. 이에 본 연구에서 제시한 두가지 모델을 기반으로 2014년 발생한 태풍 HALONG의 시계열검증을 시행하였다. 그 결과, scheme 1의 경우 태풍 초기발달단계에서 태풍의 강도를 약 20 kts가량 과대 추정하는 경향을 보이는데, 환경예측자료를 융합한 scheme 2에서는 오차가 약 5 kts가량으로 과대 추정 경향이 줄어들었다. 본 연구에서 제시하는 현재, 6시간, 12시간 후 강도를 동시에 추출하는 MTL 모델은 Single-tasking model 대비 약 300%의 시간 효율을 보이며, 향후 신속한 태풍 예보 정보 추출에 큰 기여를 할 수 있을 것으로 기대된다.
The accurate monitoring and forecasting of the intensity of tropical cyclones (TCs) are able to effectively reduce the overall costs of disaster management. In this study, we proposed a multi-task learning (MTL) based deep learning model for real-time TC intensity estimation and forecasting with the lead time of 6-12 hours following the event, based on the fusion of geostationary satellite images and numerical forecast model output. A total of 142 TCs which developed in the Northwest Pacific from 2011 to 2016 were used in this study. The Communications system, the Ocean and Meteorological Satellite (COMS) Meteorological Imager (MI) data were used to extract the images of typhoons, and the Climate Forecast System version 2 (CFSv2) provided by the National Center of Environmental Prediction (NCEP) was employed to extract air and ocean forecasting data. This study suggested two schemes with different input variables to the MTL models. Scheme 1 used only satellite-based input data while scheme 2 used both satellite images and numerical forecast modeling. As a result of real-time TC intensity estimation, Both schemes exhibited similar performance. For TC intensity forecasting with the lead time of 6 and 12 hours, scheme 2 improved the performance by 13% and 16%, respectively, in terms of the root mean squared error (RMSE) when compared to scheme 1. Relative root mean squared errors(rRMSE) for most intensity levels were lessthan 30%. The lower mean absolute error (MAE) and RMSE were found for the lower intensity levels of TCs. In the test results of the typhoon HALONG in 2014, scheme 1 tended to overestimate the intensity by about 20 kts at the early development stage. Scheme 2 slightly reduced the error, resulting in an overestimation by about 5 kts. The MTL models reduced the computational cost about 300% when compared to the single-tasking model, which suggested the feasibility of the rapid production of TC intensity forecasts.
HiSS: 자기 지도 보조 작업을 결합한 계층적 다중 작업 학습
[Kisti 연계] 한국통계학회 The Korean journal of applied statistics Vol.37 No.5 2024 pp.631-641
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
다중 작업 학습 은 여러 관련 작업들 사이에서 정보를 공유하며 동시에 학습하는 기계 학습에서 널리 사용되는 방법론이다. 본 논문에서는, 동일한 주요 작업(main task) 하에 속한 하위 작업(sub task)들의 계층적 구조를 고려하며 다중 작업 학습을 수행하기 위한 HiSS (hierarchical multi-task learning with self-supervised auxiliary task)라는 새로운 계층적 다중 작업 학습 방법론을 제안한다. 해당 방법론은 하위 작업을 해결하기 위한 표현 벡터를 학습하기 위해 전역적 공유층, 지역적 공유층, 작업 별 특정층을 활용하는 계층적 구조를 가진다. 또한, 제안한 방법론은 계층적 다중 작업 학습을 주요 과제로 하고, 자기 지도 학습을 보조 과제로 사용하여 학습을 동시에 진행한다. 이는 레이블 없이 입력 데이터만을 활용하여 획득한 군집 레이블을 보조 분류 태스크의 가상 레이블로 사용함으로써, 레이블이 없는 데이터로부터도 추가적인 정보를 획득하고자 함이다. 제안된 접근 방식은 AI 동반 로봇이 수집한 노인 개인의 사용자 정보와 활동 로그로 구성된 효돌 데이터를 사용하여 검증되었으며, 시간대와 월을 기반으로 응급 호출을 예측한다. HiSS는 작업의 수에 관계없이 단일모델만을 필요로 하여 작업에 따라 개별 모델을 사용하는 기존의 기계 학습 알고리즘보다 더 효율적이고, 다양한 메트릭을 사용하여 분류 작업에서 우수한 성능을 확인하였다. 해당 알고리즘에 대한 소스 코드는 다음링크에서 확인할 수 있다: https://github.com/seunghan96/HiSS.
Multi-task learning is a popular approach in machine learning that aims to learn multiple related tasks simultaneously by sharing information across them. In this paper, we consider a hierarchical structure across multiple related tasks with a hierarchy of sub-tasks under the same main task, where representations used to solve the sub-tasks share more information through task-specific layers, globally shared layers, and locally shared layers. We thus propose the hierarchical multi-task learning with self-supervised auxiliary task (HiSS), which is a novel approach for hierarchical multi-task learning that incorporates self-supervised learning as an auxiliary task. The goal of the auxiliary task is to further extract latent information from the unlabeled data by predicting a cluster label directly derived from the data. The proposed approach is tested on the Hyodoll dataset, which consists of user information and activity logs of elderly individuals collected by AI companion robots, for predicting emergency calls based on the time of day and month. Our proposed algorithm is more efficient than other well-known machine learning algorithms as it requires only a single model regardless of the number of tasks, and demonstrates superior performance in classification tasks using various metrics. The source codes are available at: https://github.com/seunghan96/HiSS.
음성감정인식 성능 향상을 위한 트랜스포머 기반 전이학습 및 다중작업학습
[Kisti 연계] 한국음향학회 한국음향학회지 Vol.40 No.5 2021 pp.515-522
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
음성감정인식을 위한 훈련 데이터는 감정 레이블링의 어려움으로 인해 충분히 확보하기 어렵다. 본 논문에서는 음성감정인식의 성능 개선을 위해 트랜스포머 기반 모델에 대규모 음성인식용 훈련 데이터를 통한 전이학습을 적용한다. 또한 음성인식과의 다중작업학습을 통해 별도의 디코딩 없이 문맥 정보를 활용하는 방법을 제안한다. IEMOCAP 데이터 셋을 이용한 음성감정인식 실험을 통해, 가중정확도 70.6 % 및 비가중정확도 71.6 %를 달성하여, 제안된 방법이 음성감정인식 성능 향상에 효과가 있음을 보여준다.
It is hard to prepare sufficient training data for speech emotion recognition due to the difficulty of emotion labeling. In this paper, we apply transfer learning with large-scale training data for speech recognition on a transformer-based model to improve the performance of speech emotion recognition. In addition, we propose a method to utilize context information without decoding by multi-task learning with speech recognition. According to the speech emotion recognition experiments using the IEMOCAP dataset, our model achieves a weighted accuracy of 70.6 % and an unweighted accuracy of 71.6 %, which shows that the proposed method is effective in improving the performance of speech emotion recognition.
사출성형공정에서 다수 품질 예측에 적용가능한 다중 작업 학습 구조 인공신경망의 정확성에 대한 연구
[Kisti 연계] 한국금형공학회 한국금형공학회지 Vol.16 No.3 2022 pp.1-8
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
In this study, an artificial neural network(ANN) was constructed to establish the relationship between process condition prameters and the qualities of the injection-molded product in the injection molding process. Six process parmeters were set as input parameter for ANN: melt temperature, mold temperature, injection speed, packing pressure, packing time, and cooling time. As output parameters, the mass, nominal diameter, and height of the injection-molded product were set. Two learning structures were applied to the ANN. The single-task learning, in which all output parameters are learned in correlation with each other, and the multi-task learning structure in which each output parameters is individually learned according to the characteristics, were constructed. As a result of constructing an artificial neural network with two learning structures and evaluating the prediction performance, it was confirmed that the predicted value of the ANN to which the multi-task learning structure was applied had a low RMSE compared with the single-task learning structure. In addition, when comparing the quality specifications of injection molded products with the prediction values of the ANN, it was confirmed that the ANN of the multi-task learning structure satisfies the quality specifications for all of the mass, diameter, and height.
비전 기반 멀티태스크 학습을 위한 연합학습 알고리즘의 성능 분석
[Kisti 연계] 한국스마트미디어학회 스마트미디어저널 Vol.14 No.6 2025 pp.42-49
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 논문은 비전 기반 멀티태스크 학습으로의 확장을 염두에 두고, 연합학습(Federated Learning) 환경에서 대표적인 알고리즘인 FedSGD(Federated Stochastic Gradient Descent), FedAVG(Federated Averaging), FedRep(Federated Representation Learning)의 성능을 비교·분석한다. 데이터 프라이버시와 통신 효율성을 고려한 분산 학습 구조인 연합학습은 실제 환경에서 클라이언트 간 데이터 불균형(Non-IID) 문제가 빈번하게 발생한다. 본 논문에서는 FEMNIST(Federated Extended MNIST) 데이터셋을 Non-IID 방식으로 분할하여 각 알고리즘의 정확도, 통신 효율성, 손실을 정량적으로 평가하였다. 실험 결과, FedAVG는 전반적으로 우수한 성능과 안정성을 보였으며, FedRep은 사용자 맞춤형 학습에 강점을 보였다. FedSGD는 통신량은 적었으나 정확도 면에서는 상대적으로 취약하였다. 이러한 결과는 향후 분류뿐만 아니라 객체 탐지, 의미론적 분할 등 멀티태스크 학습 환경으로 연합학습을 확장할 때 알고리즘 선택의 기초 자료로 활용될 수 있다.
This study aims to evaluate the performance of key Federated Learning (FL) algorithms-FedSGD(Federated Stochastic Gradient Descent), FedAVG(Federated Averaging), and FedRep(Federated Representation Learning)-with a view toward future expansion into vision-based multitask learning. Federated learning, a distributed training paradigm that prioritizes data privacy and communication efficiency, faces significant performance degradation in real-world settings due to the frequent presence of Non-IID (non-identically distributed) data across clients. In this work, we partitioned the FEMNIST(Federated Extended MNIST) dataset in a Non-IID manner and quantitatively assessed the convergence speed, accuracy, and communication efficiency of each algorithm. Experimental results show that FedAVG consistently delivers strong performance and stability, while FedRep demonstrates advantages in personalized learning. FedSGD, despite requiring fewer communications, exhibited notable limitations in accuracy. These findings provide valuable insights for selecting appropriate algorithms when expanding FL to multitask scenarios, such as object detection and semantic segmentation, beyond simple classification tasks.
[Kisti 연계] 한국군사과학기술학회 한국군사과학기술학회지 Vol.28 No.6 2025 pp.553-563
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Detection and classification of target at early stage are critical in modern defense systems. Previous studies have primarily focused on binary classification between targets and non-targets, or single-task learning which is structurally limited in detecting and classifying targets simultaneously. This paper proposes a multi-task learning framework based on LSTM that jointly learns prediction and classification tasks, enabling both detection and classification within a single model. The model captures both the temporal patterns of target sequences and decision boundaries between target classes. To improve detection performance, we introduce a two-dimensional score vector that integrates prediction error and k-NN(k-nearest neighbor) distance, followed by Mahalanobis distance calculation. Experimental results show that the proposed anomaly score outperforms conventional methods on target detection. The model achieves high accuracy and macro F1-scores using full-length sequences and maintains reliable performance even with shorter input segments. These results confirm its potential for early stage classification during tracking.
Low-Resource 환경에서 Multi-Task 학습을 이용한 카자흐어 형태소 분석
[Kisti 연계] 한국정보처리학회 한국정보처리학회 학술대회논문집 2021 pp.437-440
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
지난 10년 동안 기계학습을 통해 자연어 처리 분야에서 많은 발전이 있었다. Machine translation, question answering과 같은 문제는 사용 가능한 데이터가 많은 언어에서 높은 정확도 성능 결과를 보여준다. 그러나 low-resource 언어에선 동일한 수준의 성능에 도달할 수 없다. 카자흐어는 형태학적 분석을 위해 구축된 대용량 데이터셋이 없으므로 low-resource 환경이다. 카자흐어는 단일 어근으로 수백 개의 단어 형태를 생성할 수 있는 교착어이다. 그래서 카자흐어 문장의 형태학적 분석은 카자흐어 문장의 의미를 이해하는 기본적인 단계이다. 기존에 존재하는 카자흐어 데이터셋은 구체적인 형태학적 분석의 부재로 모델이 충분한 학습이 이루어지지 못하기 때문에 본 논문에서 새로운 데이터셋을 제안한다. 본 논문은 low-resource 환경에서 높은 정확도를 달성할 수 있는 신경망 모델 기반의 카자흐어 형태학 분석기를 제안한다.
멀티태스크 러닝 심층신경망을 이용한 화자인증에서의 나이 정보 활용
[Kisti 연계] 한국음향학회 한국음향학회지 Vol.38 No.5 2019 pp.593-600
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
화자 간 음색의 유사성은 화자 인증 시스템의 성능을 하락 시킬 수 있는 요인이다. 본 논문은 화자 인증 시스템의 일반화 성능을 향상시키기 위해, 심층신경망에 멀티태스크 러닝 기법을 적용시켜 발화자의 화자 정보와 나이 정보를 함께 학습 시키는 기법을 제안한다. 멀티태스크 러닝 기법은 은닉층들이 하나의 태스크에 과적합 되지 않도록 하여 심층신경망의 일반화 성능을 향상시킨다고 알려져 있다. 하지만 심층신경망을 멀티태스크 러닝 기법으로 학습시키는 과정에서, 나이 정보에 대한 학습이 효율적으로 수행되지 않는 것을 실험적으로 확인하였다. 이와 같은 현상을 방지하기 위해, 본 논문에서는 심층신경망의 학습 과정 중 화자 식별과 나이 추정 목적 함수의 가중치를 동적으로 변경 하는 기법을 제안한다. 동일 오류율을 기준으로 RSR2015 평가 데이터세트에 대해 화자 인증 성능을 평가한 결과 나이 정보를 활용하지 않은 화자 인증 시스템의 경우 6.91 %, 나이 정보를 활용한 화자 인증 시스템의 경우 6.77 %, 나이 정보를 활용한 화자 인증 시스템에 가중치 변경 기법을 적용한 경우 4.73 %의 오류율을 확인하였다.
The similarity in tones between speakers can lower the performance of speaker verification. To improve the performance of speaker verification systems, we propose a multi-task learning technique using deep neural network to learn speaker information and age information. Multi-task learning can improve generalization performances, because it helps deep neural networks to prevent hidden layers from overfitting into one task. However, we found in experiments that learning of age information does not work well in the process of learning the deep neural network. In order to improve the learning, we propose a method to dynamically change the objective function weights of speaker identification and age estimation in the learning process. Results show the equal error rate based on RSR2015 evaluation data set, 6.91 % for the speaker verification system without using age information, 6.77 % using age information only, and 4.73 % using age information when weight change technique was applied.
다중 레이블 분류 작업에서의 Coarse-to-Fine Curriculum Learning 메카니즘 적용 방안
[Kisti 연계] 한국컴퓨터정보학회 한국컴퓨터정보학회 학술대회논문집 2022 pp.29-30
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Curriculum learning은 딥러닝의 성능을 향상시키기 위해 사람의 학습 과정과 유사하게 일종의 'curriculum'을 도입해 모델을 학습시키는 방법이다. 대부분의 연구는 학습 데이터 중 개별 샘플의 난이도를 기반으로 점진적으로 모델을 학습시키는 방안에 중점을 두고 있다. 그러나, coarse-to-fine 메카니즘은 데이터의 난이도보다 학습에 사용되는 class의 유사도가 더욱 중요하다고 주장하며, 여러 난이도의 auxiliary task를 차례로 학습하는 방법을 제안했다. 그러나, 이 방법은 혼동행렬 기반으로 class의 유사성을 판단해 auxiliary task를 생성함으로 다중 레이블 분류에는 적용하기 어렵다는 한계점이 있다. 따라서, 본 논문에서는 multi-label 환경에서 multi-class와 binary task를 생성하는 방법을 제안해 coarse-to-fine 메카니즘 적용을 위한 방안을 제시하고, 그 결과를 분석한다.
0개의 논문이 장바구니에 담겼습니다.
선택하신 파일을 압축중입니다.
잠시만 기다려 주십시오.