년 - 년
A-CAVE: Network abnormal traffic detection algorithm based on variational autoencoder
[NRF 연계] 한국통신학회 ICT Express Vol.9 No.5 2023.10 pp.896-902
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
With the rapid development of the Internet and the rapid popularity of the network. Increasing network traffic also leads to frequent abnormal attacks, which seriously affects user information security. Then intrusion detection is studied as an active defense technology. In order to increase the ability of network abnormal traffic detection, a network abnormal traffic detection algorithm based on variational autoencoder is proposed in this paper. In addition to normal data, the algorithm subdivides the intrusion attack types into 4 major categories, which contain 38 specific attacks, each specific attack category as an intrusion label, which will be used as the input of the decoder together with the hidden vector to obtain the classification results more accurately and efficiently and to recover the data features in the incomplete data set. Finally, the trained Deep Belief Nets (DBN) is used for further feature extraction and classification of the data. It is verified that the proposed variational autoencoder-based supervised classification scheme is simple and effective, which is able to identify new attacks well and outperforms other classification schemes in terms of data classification.
Variational Autoencoder Based Detection and Reconstruction of Traffic Sensor Malfunctions
한국ITS학회 한국ITS학회 학술대회 Towards a Connected Future : Innovations in Mobility Technology 연결된 미래를 향하여: 모빌리티 기술의 혁신 2025.04 pp.703-708
※ 기관로그인 시 무료 이용이 가능합니다.
4,000원
가구통행실태조사와 변분 오토인코더를 활용한 도시간 통행 스케줄 생성
한국ITS학회 한국ITS학회 학술대회 ITS, Connected World 2024.10 pp.782-787
※ 기관로그인 시 무료 이용이 가능합니다.
4,000원
한국EA학회 한국EA학회 학술발표논문집 디지털 비즈니스 혁신을 위한 국가 디지털 전환 정책지원 방안 2022.11 pp.137-141
※ 기관로그인 시 무료 이용이 가능합니다.
4,000원
VAE(Variational AutoEncoder) 기반 머신러닝 모델을 활용한 체중 라이프로그 이상탐지에 관한 연구 KCI 등재
국제문화기술진흥원 The Journal of the Convergence on Culture Technology (JCCT) Vol.8 No.4 2022.07 pp.91-98
※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.
웨어러블 기기를 통해 지속적으로 수집되는 라이프로그 데이터는 많은 이상값을 포함할 수 있으므로 데이터 품질을 향상시키기 위해서는 이상값을 찾아 제거하는 것이 필요하다. 일반적으로 이상치의 개수가 정상 데이터의 개 수보다 적기 때문에 클래스 불균형 문제가 발생한다. 이러한 불균형 문제를 해결하기 위해 Variational AutoEncoder 를 outlier에 적용하는 방법을 제안한다. 제안된 방법으로 이상치 데이터를 전처리한 후, 다수의 머신러닝 모델(분류) 을 통해 검증한다. 체중 데이터를 이용한 검증 결과, 모든 분류 모델에서 성능이 향상됨을 확인하였다. 실험 결과를 바탕으로 라이프로그 체중 데이터 분석 시 본 연구에서 제안한 이상치 처리 방법을 이용하여 데이터를 전처리한 후 성능이 가장 좋은 LightGBM 모델을 적용할 것을 제안한다.
Lifelog data continuously collected through a wearable device may contain many outliers, so in order to improve data quality, it is necessary to find and remove outliers. In general, since the number of outliers is less than the number of normal data, a class imbalance problem occurs. To solve this imbalance problem, we propose a method that applies Variational AutoEncoder to outliers. After preprocessing the outlier data with proposed method, it is verified through a number of machine learning models(classification). As a result of verification using body weight data, it was confirmed that the performance was improved in all classification models. Based on the experimental results, when analyzing lifelog body weight data, we propose to apply the LightGBM model with the best performance after preprocessing the data using the outlier processing method proposed in this study.
Detecting Abnormal Human Movements Based on Variational Autoencoder
국제인공지능학회(구 한국인터넷방송통신학회) International Journal of Internet, Broadcasting and Communication Vol.15 No.3 2023.08 pp.94-102
※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.
Anomaly detection in human movements can improve safety in indoor workplaces. In this paper, we design a framework for detecting anomalous trajectories of humans in indoor spaces based on a variational autoencoder (VAE) with Bi-LSTM layers. First, the VAE is trained to capture the latent representation of normal trajectories. Then the abnormality of a new trajectory is checked using the trained VAE. In this step, the anomaly score of the trajectory is determined using the trajectory reconstruction error through the VAE. If the anomaly score exceeds a threshold, the trajectory is detected as an anomaly. To select the anomaly threshold, a new metric called D-score is proposed, which measures the difference between recall and precision. The anomaly threshold is selected according to the minimum value of the D-score on the validation set. The MIT Badge dataset, which is a real trajectory dataset of workers in indoor space, is used to evaluate the proposed framework. The experiment results show that our framework effectively identifies abnormal trajectories with 81.22% in terms of the F1-score.
국제인공지능학회(구 한국인터넷방송통신학회) The International Journal of Advanced Smart Convergence Volume 14 Number 1 2025.03 pp.66-74
※ 원문제공기관과의 협약기간이 종료되어 열람이 제한될 수 있습니다.
This paper presents a novel hybrid data drift detection framework, the Ensemble Modeling-based Hybrid Drift Score (EM-HDS), that integrates Principal Component Analysis (PCA), Variational Autoencoders (VAEs), and ensemble modeling to effectively detect both global structural shifts and localized non-linear variations in feature space. PCA identifies global changes by monitoring variance alignment and principal component transformations, while VAEs enhance sensitivity to localized anomalies through probabilistic modeling of reconstruction errors. The EM-HDS framework integrates complementary techniques using a Random Forest ensemble model, effectively capturing complex, non-linear relationships between PCA and VAE metrics. Experimental evaluations on synthetic datasets with simulated drift and real-world COCO image features demonstrate the robustness and adaptability of the proposed method. EM-HDS delivers superior drift detection performance, significantly improving detection accuracy, particularly in scenarios involving simultaneous global and local drifts, surpassing standalone PCA and VAE approaches. Although the framework requires careful tuning of hyperparameters to adapt to specific datasets, its ability to dynamically adjust to diverse drift patterns makes it a practical and effective solution for real-time monitoring and adaptation in dynamic environments. This research establishes a strong foundation for enhancing the reliability of machine learning models in complex, real-time applications for future work.
Variational Autoencoder를 활용한 기업 전용 서체 차별성 평가
[NRF 연계] 한국마케팅학회 마케팅연구 Vol.41 No.2 2026.05 pp.1-20
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
기업이 전용 서체를 제작하여 배포하는 사례가 늘어나고 있다. 소비자의 브랜드 참여를 유도하여 기업의 아이덴티티를 각인시키고, 디지털 세대의 감성을 담아 소통하며, 사회 공헌의 목표도 달성할 수 있다는 점에서, 전용 서체는 즉각적 매출신장 효과 없이도 효과적 마케팅 커뮤니케이션 수단으로 인식되고 있다. 이제는 다수의 기업과 관공서, 지방자치단체들까지 연이어 전용 서체를 배포하고 있어, 소비자들이 접하는 서체의 수가 폭증하고 있다. 기업 전용 서체 본래의 목적에 부합하도록 각 서체들이 충분한 시각적 차별성을 갖춰 제작되고 있는 것인지 확인할 필요가 있다. 본 연구에서는 Variational Autoencoder (VAE) 모형을 활용하여 서체의 특성과 경쟁관계를 파악할 수 있는 직관적이고 실용적인 기업 전용 서체 차별성 평가 도구를 제안한다. 타겟 서체의 이미지를 VAE의 추론 모형에 입력하여 얻은 잠재 벡터 간의 유사도를 기반으로 서체의 ‘레트로’, ‘디지털’, ‘뉴트로’ 지수를 산출하고, 서체 간 유사도를 시각화하여 제시함으로써, 서체의 시각적 특성에 대한 전문적인 지식이 없이도 서체의 차별성에 대해 판단해볼 수 있는 객관적인 근거를 제공한다는 데 의의가 있다.
Brands increasingly distribute custom typefaces as a marketing tool to enhance brand identity, foster consumer engagement, and fulfill corporate social responsibility objectives. Since the early 2000s, this practice has expanded rapidly and has been recognized as an effective communication strategy for digital-native consumers. However, the proliferation of corporate typefaces has created a need for systematic evaluation tools at the design stage. This study proposes a practical method for measuring the differentiation of corporate typefaces from a marketing perspective. Building on prior research in Korean typography, the study develops three evaluation indices using latent vectors extracted through a variational autoencoder: Retro, Digital,and Newtro. The proposed framework enables marketers without specialized typographic expertise to generate an interpretable profile of a corporate typeface, capturing its differentiation across multiple dimensions and its positioning relative to competing designs.
Variational Autoencoder를 활용한 필드 기반 그레이 박스 퍼징 방법
[Kisti 연계] 한국정보보호학회 정보보호학회논문지 Vol.28 No.6 2018 pp.1463-1474
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
퍼징이란 유효하지 않은 값이나 임의의 값을 소프트웨어 프로그램에 입력하여, 보안상의 결함을 찾아내는 소프트웨어 테스팅 기법 중 하나로 이러한 퍼징의 효율성을 높이기 위한 여러 방법들이 제시되어 왔다. 본 논문에서는 필드를 기반으로 퍼징을 수행하면서 커버리지, 소프트웨어 크래쉬와 연관성이 높은 필드가 존재한다는 것에 착안하여, 해당 필드 부분을 집중적으로 퍼징하는 새로운 방식을 제안한다. 이 때, Variational Autoencoder(VAE)라는 딥 러닝 모델을 사용하여 커버리지가 높게 측정된 입력 값들의 특징을 학습하고, 이를 통해 단순 변이보다 학습된 모델을 통해 재생성한 파일들의 커버리지가 균일하게 높다는 것을 보인다. 또한 크래쉬가 발생한 파일들의 특징을 학습하고 재생성 시 드롭아웃을 적용하여 변이를 줌으로써 새로운 크래쉬를 발견할 수 있음을 보인다. 실험 결과 커버리지가 퍼징 도구인 AFL의 큐의 파일들보다 약 10% 정도 높은 것을 확인할 수 있었고 Hwpviewer 바이너리에서 초기 퍼징 단계 시 발생한 두 가지의 크래쉬를 사용하여 새로운 크래쉬 두 가지를 더 발견할 수 있었다.
Fuzzing is one of the software testing techniques that find security flaws by inputting invalid values or arbitrary values into the program and various methods have been suggested to increase the efficiency of such fuzzing. In this paper, focusing on the existence of field with high relevance to coverage and software crash, we propose a new method for intensively fuzzing corresponding field part while performing field based fuzzing. In this case, we use a deep learning model called Variational Autoencoder(VAE) to learn the statistical characteristic of input values measured in high coverage and it showed that the coverage of the regenerated files are uniformly higher than that of simple variation. It also showed that new crash could be found by learning the statistical characteristic of the files in which the crash occurred and applying the dropout during the regeneration. Experimental results showed that the coverage is about 10% higher than the files in the queue of the AFL fuzzing tool and in the Hwpviewer binary, we found two new crashes using two crashes that found at the initial fuzzing phase.
Variational Autoencoder를 활용한 필드 기반 그레이 박스 퍼징 방법
[Kisti 연계] 한국정보보호학회 정보보호학회논문지 Vol.28 No.6 2018 pp.1463-1474
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
퍼징이란 유효하지 않은 값이나 임의의 값을 소프트웨어 프로그램에 입력하여, 보안상의 결함을 찾아내는 소프트웨어 테스팅 기법 중 하나로 이러한 퍼징의 효율성을 높이기 위한 여러 방법들이 제시되어 왔다. 본 논문에서는 필드를 기반으로 퍼징을 수행하면서 커버리지, 소프트웨어 크래쉬와 연관성이 높은 필드가 존재한다는 것에 착안하여, 해당 필드 부분을 집중적으로 퍼징하는 새로운 방식을 제안한다. 이 때, Variational Autoencoder(VAE)라는 딥 러닝 모델을 사용하여 커버리지가 높게 측정된 입력 값들의 특징을 학습하고, 이를 통해 단순 변이보다 학습된 모델을 통해 재생성한 파일들의 커버리지가 균일하게 높다는 것을 보인다. 또한 크래쉬가 발생한 파일들의 특징을 학습하고 재생성 시 드롭아웃을 적용하여 변이를 줌으로써 새로운 크래쉬를 발견할 수 있음을 보인다. 실험 결과 커버리지가 퍼징 도구인 AFL의 큐의 파일들보다 약 10% 정도 높은 것을 확인할 수 있었고 Hwpviewer 바이너리에서 초기 퍼징 단계 시 발생한 두 가지의 크래쉬를 사용하여 새로운 크래쉬 두 가지를 더 발견할 수 있었다.
Fuzzing is one of the software testing techniques that find security flaws by inputting invalid values or arbitrary values into the program and various methods have been suggested to increase the efficiency of such fuzzing. In this paper, focusing on the existence of field with high relevance to coverage and software crash, we propose a new method for intensively fuzzing corresponding field part while performing field based fuzzing. In this case, we use a deep learning model called Variational Autoencoder(VAE) to learn the statistical characteristic of input values measured in high coverage and it showed that the coverage of the regenerated files are uniformly higher than that of simple variation. It also showed that new crash could be found by learning the statistical characteristic of the files in which the crash occurred and applying the dropout during the regeneration. Experimental results showed that the coverage is about 10% higher than the files in the queue of the AFL fuzzing tool and in the Hwpviewer binary, we found two new crashes using two crashes that found at the initial fuzzing phase.
심전도 이상 탐지를 위한 Variational Autoencoder 비교 연구
[NRF 연계] 한국자료분석학회 Journal of The Korean Data Analysis Society Vol.26 No.2 2024.04 pp.489-499
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
심전도는 심장질환을 감지하고 진단하기 위한 도구로 널리 이용되고 있다. 이상 심전도를 탐지하기 위해 지도학습에 기반한 다양한 딥러닝 모형들이 제안되었으나, 정상 및 이상 데이터의 불균형 등으로 인해 제한적인 성능을 보였다. 이러한 문제를 해결하기 위해 생성모형인 variational autoencoder(VAE)를 이용한 이상 탐지 모형이 제안되었다. 이 방법은 정상 데이터로 VAE 모형을 학습하고, 검증 데이터를 이용하여 정상 및 이상을 구분하는 임계값을 설정한 후, 이를 통해 테스트 데이터의 정상 및 이상을 구분한다. VAE 모형은 인코더, 잠재변수 층, 디코더로 구분되며, 인코더 및 디코더에 딥러닝 모형을 내포할 수 있다. 본 논문에서는 다양한 설정 하에서 MLP, RNN, LSTM 모형이 내포된 VAE 모형을 비교하도록 한다. 우선 원자료 뿐만 아니라 심전도 자료의 시계열적 특성을 고려하여 1차 차분한 자료를 이용하였다. 또한 기존 연구에서 디코더의 분산을 1로 고정한데 반해, 본 연구에서는 디코더의 분산에 딥러닝 모형을 설정한 경우 역시 고려하였다. 분석 결과 원자료를 이용하고 디코더의 분산에 딥러닝 모형을 설정한 LSTM 기반의 VAE 모형의 성능이 가장 우수하였다. 또한 차분한 자료를 이용하는 것보다 원자료를 이용하는 경우 모든 모형의 성능이 더 우수하였다.
Electrocardiogram is widely used as a tool for detecting and diagnosing heart disease. Previous research revealed that deep learning models based on supervised learning have limited performance due to imbalance between normal and anomaly. To overcome this problem, anomaly detection models using variational autoencoder (VAE) have been proposed. After training VAE model using normal data, a threshold to distinguish normal and anomaly is set by using validation data, then test data is applied. VAE model has encoder, a latent variable layer, and decoder. and deep learning models are embedded in encoder and decoder. In this paper, VAE models embedding MLP, RNN, and LSTM are compared under various settings which are the type of data (original data or the first-order differential data) and the assumption for the variance of decoder. As results of analysis, VAE model based on LSTM is performed best when original data is used and a deep learning model for the variance of decoder is embedded. Additionally, the performance of VAE models using original data were better than models using first-order differential data.
[NRF 연계] 서울대학교 인지과학연구소 Journal of Cognitive Science Vol.21 No.1 2020.03 pp.141-160
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Being a notoriously complex problem, writing is generally decomposed into a series of subtasks: idea generation, expression, revision, etc. Given some goal, the author generates a set of ideas (brainstorming), which he integrates into some skeleton (outline, text plan, outline). This leads to a first draft which is submitted then for revision possibly yielding changes at various levels (content, structure, form). Having made a draft, authors usually revise, edit, and proofread their documents. We confine ourselves here only to academic writing, focusing on sentence production. While there has been quite some work on this topic, most writing assistance has mainly dealt with grammatical errors, editing and proofreading, the goal being the correction of surface-level problems such as typography, spelling, or grammatical errors. We broaden the scope by also including cases where the entire sentence needs to be rewritten in order to express properly all of the information planned. Hence, Sentence-level Revision (SentRev) becomes part of our writing assistance task. Obviously, systems performing well in this task can be of considerable help for inexperienced authors by producing fluent, well-formed sentences based on the user’s drafts. In order to evaluate our SentRev model, we have built a new, freely available crowdsourced evaluation dataset which consists of a set of incomplete sentences produced by nonnative writers paired with final version sentences extracted from published academic papers. We also used this dataset to establish baseline performance on SentRev.
오토인코더와 변이형 오토인코더를 활용한 공유 킥보드 사용자 인증 시스템 강화
[Kisti 연계] 한국정보처리학회 한국정보처리학회 학술대회논문집 2021 pp.643-646
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
경찰청에 따르면 도로교통법이 개정된 이후 3개월단 개인형 이동장치(PM)를 단속한 결과 무면허 운전이 3199건에 달하는 것으로 나타났다. 공유 킥보드 서비스의 경우 회원가입을 할 때 운전면허증 취득 여부를 확인하긴 하지만 서비스를 이용할 때는 별도의 확인 절차 없이 대여할 수 있기 때문에 운전면허증을 취득하지 않았어도 대여하는 경우가 발생한다. 본 논문에서는 공유 킥보드 서비스의 보안 취약점을 보완하기 위해 오토인코더와 변이형 오토인코더를 사용한 딥러닝 기반의 공유 킥보드 대리 대여 방지 시스템을 제안한다. 오토인코더는 지문 데이터로부터 특징만을 추출할 수 있어, 사용자의 지문 원본을 서버에게 노출시키지 않을 수 있다. 변이형 오토인코더는 생성형 모델로써, 사용자의 지문 데이터를 증폭 시켜 합성곱 신경망의 성능을 높이는데 도움을 준다. 이러한 오토인코더와 변이형 오토인코더의 특징을 이용해 사용자의 지문을 서버에 노출시키지 않으면서 적은 데이터로 신뢰성 높은 사용자 인증이 가능한 전동 킥보드 대여 시스템을 제안한다.
강화학습의 신속한 학습을 위한 변이형 오토인코더 기반의 조립 특징 추출 네트워크
[Kisti 연계] 한국로봇학회 로봇학회논문지 Vol.18 No.3 2023 pp.352-357
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Since robotic assembly in an unstructured environment is very difficult with existing control methods, studies using artificial intelligence such as reinforcement learning have been conducted. However, since long-time operation of a robot for learning in the real environment adversely affects the robot, so a method to shorten the learning time is needed. To this end, a method based on a pre-trained neural network was proposed in this study. This method showed a learning speed about 3 times than the existing methods, and the stability of reward during learning was also increased. Furthermore, it can generate a more optimal policy than not using a pre-trained neural network. Using the proposed reinforcement learning-based assembly trajectory generator, 100 attempts were made to assemble the power connector within a random error of 4.53 mm in width and 3.13 mm in length, resulting in 100 successes.
단일세포 RNA-SEQ의 유전자 발현 군집화를 위한 변이 자동인코더 기반의 차원감소와 군집화
[Kisti 연계] 한국정보통신학회 한국정보통신학회논문지 Vol.25 No.11 2021 pp.1512-1518
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
단일세포 RNA-Seq 은 개별 세포의 유전자 발현을 제공하므로 세포마다 차등적인 고해상도 정보를 준다. 단일세포 RNA-Seq 자료에 대하여 군집화는 세포의 유형과 고수준의 생물 과정을 이해하기 위하여 수행된다. 매우 고차원이고 대용량인 단일세포 RNA-Seq을 효과적으로 처리하기 위하여, 본 논문은 변이 자동인코더를 사용하여 고차원의 자료공간을 저차원의 잠재공간으로 변환하여, 보다 정확한 군집화를 수행할 수 있는 특징공간을 만든다. 차원이 축소된 잠재공간에 다양한 군집화 방법을 적용하는 접근을 다양한 전통적인 단일세포 RNA-Seq 군집화 방법과 성능을 비교하였다. 군집화 실험을 통하여, 제안한 방법은 기존 방법들보다 다양한 군집화 성능기준에서 성능이 개선되었다.
Since single cell RNA sequencing provides the expression profiles of individual cells, it provides higher cellular differential resolution than traditional bulk RNA sequencing. Using these single cell RNA sequencing data, clustering analysis is generally conducted to find cell types and understand high level biological processes. In order to effectively process the high-dimensional single cell RNA sequencing data fir the clustering analysis, this paper uses a variational autoencoder to transform a high dimensional data space into a lower dimensional latent space, expecting to produce a latent space that can give more accurate clustering results. By clustering the features in the transformed latent space, we compare the performance of various classical clustering methods for single cell RNA sequencing data. Experimental results demonstrate that the proposed framework outperforms many state-of-the-art methods under various clustering performance metrics.
[Kisti 연계] 한국컴퓨터그래픽스학회 컴퓨터그래픽스학회논문지 Vol.27 No.5 2021 pp.33-43
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 논문에서는 변형 자동 인코더 네트워크(variational autoencoder network)의 잠재 공간 내에 스타일 자동 인코더 네트워크를 적용하여 컨텐츠 캐릭터의 모션에 스타일 캐릭터 모션의 스타일 정보를 이전하는 프레임워크를 제안한다. 이 프레임워크를 사용하면 기존의 변형 자동 인코더를 통해 얻은 모션의 다양성을 스타일 캐릭터 모션의 스타일 정보를 이전하여 증가시킬 수 있다. 또한 입력 데이터 및 출력 데이터에 모션의 속도 정보를 포함시켜 이전 프레임의 모션에 속도를 적분하여 모션을 계산함으로써, 변형 자동 인코더로 인한 샘플링과 잠재 공간 내에서 스타일 정보가 이전된 새로운 잠재 변수의 디코더 네트워크를 통한 확장으로 발생할 수 있는 부자연스러운 동작을 개선할 수 있다.
In this paper, we propose a framework that transfers the information of style motions to content motions based on a variational autoencoder network combined with a style encoding in the latent space. Because we transfer a style to a content motion that is sampled from a variational autoencoder, we can increase the diversity of existing motion data. In addition, we can improve the unnatural motions caused by decoding a new latent variable from style transfer. That improvement was achieved by additionally using the velocity information of motions when generating next frames.
도메인 적응 및 오토인코더를 사용한 회전 및 비회전 기기의 음향신호 기반 고장 진단
[NRF 연계] 사단법인 미래융합기술연구학회 아시아태평양융합연구교류논문지 Vol.10 No.8 2024.08 pp.67-89
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 연구는 기계 장비에서 발생되는 음향 신호를 기반으로 이상 징후 및 고장 감지에 딥러닝을 적용하는 방법을 다루고 있다. 학습에 이용한 데이터는 회전 및 비회전 장비의 MIMII(Malfunctioning Industrial Machine Investigation and Inspection) 데이터셋을 딥러닝 모델에 적용하였다. 딥러닝 모델은 오토인코더(VAE: Variational Autoencoder)와 도메인 적응 신경망(DANN: Domain Adaptation Neural Network)을 적용하였다. 우선 오토인코더 모델에서는 음향신호의 신호처리 과정으로 얻어진 MFCC 계수의 통계적 특징(Features)으로 음향 신호의 길이에 관계 없이 적용 가능한 특징을 추출하였다. 오토인코더 모델은 정상 상태의 데이터만으로 고장 분류가 가능하지만, 회전 장비의 특성을 고려하여 마그네틱 스펨트럼 차감 및 특징 경량화 과정을 통해 고장 특징을 보강하고 추출된 특징에 GAN을 적용하여 데이터를 증강하였다. 이는 주변의 노이즈가 증가하면 고장 진단 정확도가 감소하는 오토인코더의 단점을 보완하고자 비회전 및 회전장비의 특성을 고려하여 특징을 보강하였다. 학습에 상용된 MIMII 데이터셋은 실험실 환경과 실제 운영 환경 간의 도메인 이동이 포함되어 있어 실험실 환경의 데이터로 학습된 고장 분류기가 실제 환경에서의 진단 성능이 감소하는 문제가 발생된다. 이를 위해 도메인 적대적 신경망(DANN)을 적용하였다. DANN는 별도의 데이터 처리가 필요하지 않고 소스 도메인의 레이블을 활용해 타겟 도메인의 고장 진단이 가능하다. 위 두가지 방법의 장점을 활용하여 노이즈 상황에 따라 두 모델을 상호 보완적인 방법으로 조합함으로서 장비 운영 환경 변화에 따른 고장 진단을 적용할 수 있음을 확인하였다.
This study addresses the application of deep learning for acoustic signal-based anomaly and fault detection on mechanical equipment. Signals from rotating and non-rotating equipment included in the Malfunctioning Industrial Machine Investigation and Inspection (MIMII) dataset were applied to a deep learning model. We applied unsupervised learning methods utilizing the Variational Autoencoder (VAE) and Domain Adaptation Neural Network (DANN). First, VAEs were utilized to diagnose the fault. The statistical features of the Mel-Frequency Cepstral Coefficients (MFCC) coefficients of the acoustic signal were utilized to extract features that can be used regardless of the length of the audio signal. Considering the characteristics of rotating equipment, feature enhancement was performed by applying Magnitude Spectral Subtraction and feature lightweight, and data augmentation was performed by utilizing a Generative Adversarial Network (GAN) on the extracted features. Although VAE can create a fault classifier using only steady-state data, improving and augmenting the features was necessary considering the characteristics of non-rotating and rotating equipment. The increased ambient noise reduced the accuracy, showing that VAE can accurately diagnose failures. The data used for training contains a domain shift between the laboratory environment and the actual operating environment, which represents a problem where a fault classifier trained on data from the laboratory environment may have poor diagnostic performance in the real world. To solve this problem, a Domain Adaptive Neural Network (DANN) was applied. DANN does not require additional data processing and can utilize labels from the source domain to diagnose faults in the target domain. By utilizing the advantages of the above two methods, we showed that fault diagnosis can be adapted even if the environment of a given equipment changes by combining the procedures according to the noise situation.
조건부 변분 오토인코더를 활용한 교차 피험자 기반 생성형 데이터 증강을 통한 뇌-컴퓨터 인터페이스 성능 향상
[Kisti 연계] 대한의용생체공학회 Journal of biomedical engineering research : the official journal of the Korean Society of Medical & Biological Engineering Vol.46 No.6 2025 pp.495-504
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Reliable EEG-based brain-computer interface (BCI) performance is often hindered by data scarcity and the non-stationarity of EEG signals. To address these challenges, this study proposes an inter-subject data augmentation approach using a conditional variational autoencoder (cVAE). The cVAE was trained on pooled data from 29 subjects and conditioned on both task and subject labels, enabling it to learn latent representations that disentangle task-relevant features shared across subjects from subject-specific characteristics. This structure allows the model to generate diverse and realistic synthetic EEG that reflects population-level patterns while preserving the unique traits of the target subject. Classification performance was evaluated by comparing a baseline model trained on original data with models trained using different augmentation strategies. The artificial data generation (ADG) method-a technique that rearranges temporal segments to create new signals-and the intra-subject cVAE approach did not yield meaningful performance gains, indicating limited improvement in data variability. In contrast, the proposed inter-subject cVAE increased average classification accuracy from 72.2 ± 8.7% to 87.6 ± 7.2% (≈15% gain). These results indicate that leveraging population information through generative modeling is an effective strategy for enhancing BCI robustness in data-limited environments.
Self-Attention 기반의 변분 오토인코더를 활용한 신약 디자인
[Kisti 연계] 한국정보처리학회 정보처리학회논문지/소프트웨어 및 데이터 공학 Vol.11 No.1 2022 pp.11-18
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
신약 디자인은 단백질 수용체와 같은 생물학적 표적과 상호작용할 수 있는 약물 후보물질을 식별하는 과정이다. 전통적인 신약 디자인 연구는 약물 후보 물질 탐색과 약물 개발 단계로 구성되어 있으나, 하나의 신약을 개발하기 위해서는 10년 이상의 장시간이 요구된다. 이러한 기간을 단축하고 효율적으로 신약 후보 물질을 발굴하기 위하여 심층 학습 기반의 방법들이 연구되고 있다. 많은 심층학습 기반의 모델들은 SMILES 문자열로 표현된 화합물을 재귀신경망을 통해 학습 및 생성하고 있으나, 재귀신경망은 훈련시간이 길고 복잡한 분자식의 규칙을 학습시키기 어려운 단점이 있어서 개선의 여지가 남아있다. 본 연구에서는 self-attention과 variational autoencoder를 활용하여 SMILES 문자열을 생성하는 딥러닝 모델을 제안한다. 제안된 모델은 최신 신약 디자인 모델 대비 훈련 시간을 1/26로 단축하는 것뿐만 아니라 유효한 SMILES를 더 많이 생성하는 것을 확인하였다.
De novo drug design is the process of developing new drugs that can interact with biological targets such as protein receptors. Traditional process of de novo drug design consists of drug candidate discovery and drug development, but it requires a long time of more than 10 years to develop a new drug. Deep learning-based methods are being studied to shorten this period and efficiently find chemical compounds for new drug candidates. Many existing deep learning-based drug design models utilize recurrent neural networks to generate a chemical entity represented by SMILES strings, but due to the disadvantages of the recurrent networks, such as slow training speed and poor understanding of complex molecular formula rules, there is room for improvement. To overcome these shortcomings, we propose a deep learning model for SMILES string generation using variational autoencoders with self-attention mechanism. Our proposed model decreased the training time by 1/26 compared to the latest drug design model, as well as generated valid SMILES more effectively.
0개의 논문이 장바구니에 담겼습니다.
선택하신 파일을 압축중입니다.
잠시만 기다려 주십시오.