년 - 년
강원대학교 산림과학연구소 강원대학교 산림과학연구소 학술대회 2024 International Symposium of Institute of Forest Science 2024.10 p.72
This study aimed to investigate the performance and factors affecting species classification of CNN architecture using whole-part and earlywood-part dataset of cross-sections in six Korean Quercus species. The accuracy of species classification for each condition using the datasets, data augmentation, and optimizers (SGD, Adam, and RMSProp) based on a CNN architecture with 3–4 convolutional layers was analyzed. The model trained with an augmented dataset yielded significantly superior results in classification accuracy compared to the model learned with a non-augmented dataset. The augmented dataset was the only factor affecting classification accuracy in the final five epochs, whereas four factors in the whole epochs, such as the Adam and SGD optimizer, and the earlywood-part and the whole-part dataset, affected species classification. The arrangement of earlywood vessels, broad ray, and axial parenchyma was identified as major influential factors for CNN species classification through Grad-CAM analysis. The augmented whole-part dataset with the Adam optimizer condition achieved the highest classification accuracy of 85.7% in the final five epochs of the test phase.
최근 인공지능 연구에서 트랜스포머 모델이 주로 사용되고 있다. 트랜스포머 구조는 합성곱 신경망에 비해 더 많은 가중치를 학습시킬 수 있으므로 다양한 연구에서 기본 구조로 사용되고 있다. 그러나 트랜스포머는 대규모 데이터를 활용하여 학습해야 한다는 한계가 있다. 그로 인해 데이터가 한정적인 의료 분야에서는 트랜스포머 구조 적용에 어 려움이 있다. 따라서, 본 연구에서는 제한된 의료 데이터셋으로도 트랜스포머를 학습할 수 있는 융합 구조를 제안한 다. 융합 구조는 트랜스포머 인코더와 합성곱 신경망 디코더를 결합함으로써, 학습 과정에서 트랜스포머 인코더가 안정적으로 수렴할 수 있게 하고, 영상 내의 전역적 특징과 지역적 특징을 모두 학습할 수 있게 한다. 또한, 빠르고 안정적인 영상 분할 학습을 위해 세 가지의 손실함수를 결합한 손실함수를 이용한다. 본 연구에서는 두 개의 대장내 시경 용종 데이터셋을 사용하여 제안하는 구조의 우수성과 안정성을 검증한다. 융합 구조는 용종 분할과 같은 의료 영상 분할 외에도 의료 영상 분석, 의료 영상 내 질병 탐지 등 여러 분야에서 활용될 수 있을 것이라 조망된다.
Transformer models have been increasingly used in artificial intelligence research. Transformer architectures are used as a basic structure in various research because they can learn more weights than convolutional neural networks. However, transformers have the limitation of requiring large datasets to learn. As a result, it is difficult to apply transformer architectures in medical fields where available datasets are limited. Therefore, this study proposes a fusion architecture that can train transformers even with limited medical datasets. The fusion architecture combines a transformer encoder and a convolutional neural network decoder, which allows the transformer encoder to converge stably and learn both global and local features in the image. In addition, a loss function that combines three loss functions is used for fast and stable image segmentation learning. In this study, the superiority and stability of the proposed architecture are validated using two colonoscopic polyp datasets. The fusion architecture is expected to be used in various fields, such as medical image segmentation, medical image analysis, and disease detection in medical images, in addition to polyp segmentation.
의료 영상 분석의 혁신 : 합성곱 신경망(Convolutional Neural Network)의 응용과 발전 KCI 등재
한국기계항공기술학회(구 한국기계기술학회) 한국기계항공기술학회지(구 한국기계기술학회지) 제27권 제2호 2025.04 pp.244-254
※ 기관로그인 시 무료 이용이 가능합니다.
4,200원
This study examines the innovative applications and future prospects of Convolutional Neural Networks (CNN) in the field of medical image analysis. CNNs significantly enhance the accuracy and efficiency of medical image diagnostics through their powerful data processing and feature extraction capabilities. This review analyzes various CNN architectures and recent technological advancements, highlighting the importance of transfer learning and data augmentation techniques. It also discusses the potential for integrated multi-modality data analysis and real-time clinical applications, while emphasizing the need for ethical considerations and data security. This research underscores the potential of CNN technology to improve healthcare quality and contribute to patient health management.
Word2Vec과 앙상블 합성곱 신경망을 활용한 영화추천 시스템의 정확도 개선에 관한 연구 KCI 등재
한국디지털정책학회 디지털융복합연구 제17권 제1호 2019.01 pp.123-130
※ 기관로그인 시 무료 이용이 가능합니다.
4,000원
웹 추천기법에서 가장 많이 사용하는 방식 중의 하나는 협업필터링 기법이다. 협업필터링 관련 많은 연구에서 정확 도를 개선하기 위한 방안이 제시되어 왔다. 본 연구는 Word2Vec과 앙상블 합성곱 신경망을 활용한 영화추천 방안에 대해 제안한다. 먼저 사용자, 영화, 평점 정보에서 사용자 문장과 영화 문장을 구성한다. 사용자 문장과 영화 문장을 Word2Vec에 입력으로 넣어 사용자 벡터와 영화 벡터를 구한다. 사용자 벡터는 사용자 합성곱 모델에 입력하고, 영화 벡터는 영화 합성곱 모델에 입력한다. 사용자 합성곱 모델과 영화 합성곱 모델은 완전연결 신경망 모델로 연결된다. 최종적으로 완전연결 신경망 의 출력 계층은 사용자 영화 평점의 예측값을 출력한다. 실험결과 전통적인 협업필터링 기법과 유사 연구에서 제안한 Word2Vec과 심층 신경망을 사용한 기법에 비해 본 연구의 제안기법이 정확도를 개선함을 알 수 있었다.
One of the most commonly used methods of web recommendation techniques is collaborative filtering. Many studies on collaborative filtering have suggested ways to improve accuracy. This study proposes a method of movie recommendation using Word2Vec and an ensemble convolutional neural networks. First, in the user, movie, and rating information, construct the user sentences and movie sentences. It inputs user sentences and movie sentences into Word2Vec to obtain user vectors and movie vectors. User vectors are entered into user convolution model and movie vectors are input to movie convolution model. The user and the movie convolution models are linked to a fully connected neural network model. Finally, the output layer of the fully connected neural network outputs forecasts of user movie ratings. Experimentation results showed that the accuracy of the technique proposed in this study accuracy of conventional collaborative filtering techniques was improved compared to those of conventional collaborative filtering technique and the technique using Word2Vec and deep neural networks proposed in a similar study.
Convolutional Neural Networks기반 항공영상 영역분할 및 분류
[Kisti 연계] 한국항행학회 한국항행학회논문지 Vol.19 No.6 2015 pp.484-491
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
항공영상은 디지털 광학 영상 기술의 성장과 무인기(UAV)의 발달로 인하여 영상의 도입 및 공급이 크게 증가하였고, 이러한 항공영상 데이터를 기반으로 지상의 속성 추출, 분류, 변화탐지, 영상 융합, 지도 제작 형태로 활용되고 있다. 특히, 영상분석 및 활용에 있어 딥 러닝 알고리즘은 패턴인식 분야의 한계를 극복하는 새로운 패러다임을 보여주고 있다. 본 논문은 딥 러닝 알고리즘인 ConvNet기반으로 항공영상의 영역분할 및 분류 결과를 통한 더욱더 넓은 범위와 다양한 분야에 적용할 수 있는 가능성을 제시한다. 학습데이터는 도로, 건물, 평지, 숲 총 3000개 4-클래스로 구축하였고 클래스 별로 일정한 패턴을 가지고 있어 특징 벡터맵을 통한 결과가 서로 다르게 나옴을 확인할 수 있다. 본 연구의 알고리즘은 크게 두 가지로 구성 되어 있는데 특징추출은 ConvNet기반으로 2개의 층을 쌓았고, 분류 및 학습과정으로 다층 퍼셉트론과 로지스틱회귀 알고리즘을 활용하여 특징들을 분류 및 학습시켰다.
Aerial scene is greatly increased by the introduction and supply of the image due to the growth of digital optical imaging technology and development of the UAV. It has been used as the extraction of ground properties, classification, change detection, image fusion and mapping based on the aerial image. In particular, in the image analysis and utilization of deep learning algorithm it has shown a new paradigm to overcome the limitation of the field of pattern recognition. This paper presents the possibility to apply a more wide range and various fields through the segmentation and classification of aerial scene based on the Deep learning(ConvNet). We build 4-classes image database consists of Road, Building, Yard, Forest total 3000. Each of the classes has a certain pattern, the results with feature vector map come out differently. Our system consists of feature extraction, classification and training. Feature extraction is built up of two layers based on ConvNet. And then, it is classified by using the Multilayer perceptron and Logistic regression, the algorithm as a classification process.
Convolutional Neural Networks 특징을 이용한 지문 이미지의 위조여부 판별 및 시각화
[Kisti 연계] 한국정보보호학회 정보보호학회논문지 Vol.26 No.5 2016 pp.1259-1267
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
최근 지문 인식을 통한 사용자 인증 기술이 상용화 되면서 위조 지문 이미지 판별이 더욱 중요해졌다. 본 논문에서는 CNN 특징을 이용한 위조 지문 이미지 판별 방법을 제안하였으며, CNN 모델이 실제 지문의 어느 부분에 반응하여 위조지문을 분류하는지 시각화 방법을 통해 분석하였다. 제안하는 방법은 지문영역과 배경영역을 분리하는 전처리 작업 후 CNN 모델을 이용하여 지문의 위조여부를 분류한다. 지문을 단순히 생체지문과 위조지문으로 분류하는 것이 아니라 위조지문을 구성하는 물질별로 분류하여 생체지문과 위조지문들에 대한 특징분석을 제공한다. 실험에 사용한 데이터베이스로는 생체 지문 이미지 6500여 장과 위조 지문 이미지 6000여 장으로 구성되어 있는 LivDet2013을 사용하였으며 위조여부에 대한 ACE 값으로 3.1%, 구성 물질 분류 정확도는 평균 79.58%를 보여 높은 수준의 분류성능을 갖고 있음을 확인하였다.
With the growing use of fingerprint authentication systems in recent years, the fake fingerprint detection is becoming more and more important. This paper mainly proposes a method for fake fingerprint detection based on CNN, it will visualize the distinctive part of detected fingerprint which provides a deeper insight in CNN model. After the preprocessing part using fingerprint segmentation, the pretrained CNN model is used for detecting the liveness detection. Not only a liveness detection but also feature analysis about the live fingerprint and fake fingerprint are provided after classifying which materials are used for making the fake fingerprint. Our system is evaluated on three databases in LivDet2013, which compromise almost 6500 live fingerprint images and 6000 fake fingerprint images in total. The proposed method achieves 3.1% ACE value about the liveness detection and achieves 79.58% accuracy on LiveDet2013.
Dysarthric-Speech Detection Using Transfer Learning With Convolutional Neural Networks
[NRF 연계] 한국통신학회 ICT Express Vol.8 No.1 2022.03 pp.61-64
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Speech Dysarthria is a disorder in which speech muscles become weak, and it becomes difficult to articulate otherwise linguistically normal speech. This work is based on detection of speech dysarthria and how it can assist physicians, specialists, and doctors in its detection. The proposed work achieves higher accuracies on the TORGO dataset by using a transfer learning based convolutional neural network model (TL-CNN) and by converting the audio samples to Mel-spectrograms. The proposed work TL-CNN achieved better accuracy when compared with other machine learning models.
[NRF 연계] 한국통신학회 ICT Express Vol.6 No.4 2020.12 pp.312-315
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
Many hyperparameters have to be tuned to have a robust convolutional neural network that will be able to accurately classify images. One of the most important hyperparameters is the batch size, which is the number of images used to train a single forward and backward pass. In this study, the effect of batch size on the performance of convolutional neural networks and the impact of learning rates will be studied for image classification, specifically for medical images. To train the network faster, a VGG16 network with ImageNet weights was used in this experiment. Our results concluded that a higher batch size does not usually achieve high accuracy, and the learning rate and the optimizer used will have a significant impact as well. Lowering the learning rate and decreasing the batch size will allow the network to train better, especially in the case of fine-tuning.
[NRF 연계] 한국축산학회 한국축산학회지 Vol.65 No.6 2023.11 pp.1254-1269
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
This study aims to predict the change in corn share according to the grazing of 20 gestational sows in a mature corn field by taking images with a camera-equipped unmanned air vehicle (UAV). Deep learning based on convolutional neural networks (CNNs) has been verified for its performance in various areas. It has also demonstrated high recognition accuracy and detection time in agricultural applications such as pest and disease diagnosis and prediction. A large amount of data is required to train CNNs effectively. Still, since UAVs capture only a limited number of images, we propose a data augmentation method that can effectively increase data. And most occupancy prediction predicts occupancy by designing a CNN-based object detector for an image and counting the number of recognized objects or calculating the number of pixels occupied by an object. These methods require complex occupancy rate calculations; the accuracy depends on whether the object features of interest are visible in the image. However, in this study, CNN is not approached as a corn object detection and classification problem but as a function approximation and regression problem so that the occupancy rate of corn objects in an image can be represented as the CNN output. The proposed method effectively estimates occupancy for a limited number of cornfield photos, shows excellent prediction accuracy, and confirms the potential and scalability of deep learning.
Convolutional Neural Networks를 이용한 CsI(Tl) 감마스펙트럼 혼합핵종 분석
대한방사선방어학회 대한방사선방어학회 학술발표회 논문요약집 2021년도 대한방사선방어학회 추계학술대회 및 정기총회 2021.11 pp.420-421
Forecasting Returns Using Image-Based Convolutional Neural Networks : Evidence from Korea
한국재무학회 한국재무학회 학술대회 2024년 한국재무학회 추계학술대회 2024.11 pp.531-566
※ 기관로그인 시 무료 이용이 가능합니다.
7,900원
This study employs a machine learning-based approach to identify and predict stock market trends using a convolutional neural network (CNN) to the Korean stock market. Building on the methodology introduced in Jiang et al. (2023), we transform historical price and volume data into chart images and utilize CNN to extract patterns predictive of stock returns. Our findings demonstrate that this image-based model can predict the future returns, also in the Korean stock market. Notably, we observe high short-term predictive accuracy, particularly over weekly horizons, which facilitates profitable investment strategies. This study represents the first application of a chart image-based deep learning model to the Korean stock market, contributing new insights into the potential of deep learning techniques in financial market predictability.
Predicting Employment Earning using Deep Convolutional Neural Networks KCI 등재
한국디지털정책학회 디지털융복합연구 제16권 제6호 2018.06 pp.151-161
※ 기관로그인 시 무료 이용이 가능합니다.
4,200원
소득은 경제생활에서 중요하다. 소득을 예측할 수 있으면, 사람들은 음식, 집세와 같은 생활비를 지불 할 수 있는 예산을 세울 수 있을 뿐 아니라, 다른 재화 또는 비상사태를 위한 돈을 별도로 저축 할 수 있다. 또한 소득수준은 은행, 상점 및 서비스 회사에서 마케팅 목적 및 충성도가 높은 고객을 유치하는 데 활용 된다. 이는 소득이 다양한 고객 접점에서 사용되는 중요한 인구 통계 요소이기 때문이다. 따라서 기존 고객 및 잠재 고객에 대한 수입 예측이 필요하다. 이 연구에서 는 소득을 예측하기 위해 SVM (Support Vector Machines), Gaussian, 의사 결정 트리, DCNN (Deep Convolutional Neural Networks)과 같은 기계 학습 기법을 사용하였다. 분석 결과 DCNN 방법이 본 연구에서 사용 된 다른 기계 학습 기법에 비해 최적의 결과(88%)를 제공하는 것으로 나타났다. 향후 PCA 같이 데이터 크기를 향상 시킨다면 더 좋은 연구 결과를 제시할 수 있을 것이다.
Income is a vital aspect of economic life. Knowing what their income will help people create budgets that allow them to pay for their living expenses. Income data is used by banks, stores, and service companies for marketing purposes and for retaining loyal customers; it is a crucial demographic element used at a wide variety of customer touch points. Therefore, it is essential to be able to make income predictions for existing and potential customers. This paper aims to predict employment earnings or income based on history, and uses machine learning techniques such as SVMs (Support Vector Machines), Gaussian, decision tree and DCNNs (Deep Convolutional Neural Networks) for predicting employment earnings. The results show that the DCNN method provides optimum results with 88% compared to other machine learning techniques used in this paper. Improvement of the data length such PCA has the potential to provide more optimum result.
한국컴퓨터게임학회 컴퓨터게임및콘텐츠논문지(구 한국컴퓨터게임학회논문지) 제34권 제4호 2021.12 pp.111-124
※ 기관로그인 시 무료 이용이 가능합니다.
4,600원
기술 트렌드가 증가함에 따라, 엄청난 양의 데이터가 생성되고 있습니다. 많은 양의 데이터가 소비되는 기술 분야 중 하나는 컴퓨터 비전이다. 인간은 기계와 비교할 때 시각에 영향을 미치는 표정, 조명 또는 시야각과 같은 외부 조건에서도 얼굴이나 사물을 쉽게 감지하고 인식할 수 있다. 그 이유는 그것과 관련된 높은 차원 의 데이터 때문이다. 데이터 차원성은 모든 관측치에서 측정되는 변수의 총 수를 말합니다. 이번 사업은 안 면인식시스템에 적합한 다양한 차원감소 기법을 비교하고 조도가 다양한 안면이미지로 구성된 다양한 데이 터세트로 테스트해 모델의 정확도 향상에 도움이 되는 기법의 앙상블 모델을 제안하고 성능을 측정하는 것 이 목적이다.렉스 배경과 표현. 제안된 앙상블 모델은 주성분 분석(PCA)과 로컬 선형 임베딩(LLE)이라는 두 가지 차원 감소 기술의 혼합에서 벡터를 추출하고, 이를 밀도 높은 컨볼루션 신경망(CNN)을 통해 전달하여 야생 면(LFW) 데이터 세트의 얼굴을 예측한다. 이 모형은 0.95의 검정 정확도와 0.94의 검정 F1 점수로 수행 됩니다. 제안된 시스템은 시스템이 얼굴을 예측할 수 있는 제안된 앙상블 모델과 통합된 웹캠에서 라이브 비 디오 스트림을 캡처하는 플라스크를 사용하여 개발된 웹 앱을 포함한다.
With increasing trends in technology, there is a huge volume of data that is being created. One field in technology in which high amount of data is consumed, is computer vision. Human beings are able to detect and recognize faces or objects with ease even with external conditions such as expressions, illuminations or viewing angle affecting the sight when compared to the machines. This is because of high dimensions of data associated with it. Data dimensionality is refered to as total number of variables being measured in every observation. This project aims to compare different applicable dimensionality reduction techniques suitable for facial recognition system and propose an ensemble model of such techniques that will help improving the accuracy of the model and gauge the performance by testing it with different datasets consisting of facial images with varying illuminations, complex backgrounds, and expressions. The proposed ensemble model extracts feature vectors from a hybrid of two dimensional reduction techniques – Principal Component Analysis (PCA) and Locally Linear Embedding (LLE), and pass them through dense Convolutional Neural Network (CNN) to predict faces on the Labelled Faces in the Wild (LFW) dataset. The model performs with a testing accuracy of 0.95 and a testing F1 score of 0.94. The proposed system involves a webapp developed using Flask that captures a live video stream from a webcam which is integrated with the proposed ensemble model that allows the system to predict the face.
Text Classification Using Parallel Word-level and Character-level Embeddings in Convolutional Neural Networks KCI 등재 SCOPUS
한국경영정보학회 Asia Pacific Journal of Information Systems 제29권 제4호 2019.12 pp.771-788
※ 기관로그인 시 무료 이용이 가능합니다.
5,200원
Deep learning techniques such as Convolutional Neural Networks (CNNs) and Recurrent Neural Networks (RNNs) show superior performance in text classification than traditional approaches such as Support Vector Machines (SVMs) and Naïve Bayesian approaches. When using CNNs for text classification tasks, word embedding or character embedding is a step to transform words or characters to fixed size vectors before feeding them into convolutional layers. In this paper, we propose a parallel word-level and character-level embedding approach in CNNs for text classification. The proposed approach can capture word-level and character-level patterns concurrently in CNNs. To show the usefulness of proposed approach, we perform experiments with two English and three Korean text datasets. The experimental results show that character-level embedding works better in Korean and word-level embedding performs well in English. Also the experimental results reveal that the proposed approach provides better performance than traditional CNNs with word-level embedding or character-level embedding in both Korean and English documents. From more detail investigation, we find that the proposed approach tends to perform better when there is relatively small amount of data comparing to the traditional embedding approaches.
WFSO 알고리즘을 이용한 인공 신경망과 합성곱 신경망의 학습
[Kisti 연계] 한국디지털콘텐츠학회 디지털콘텐츠학회 논문지 Vol.18 No.5 2017 pp.969-976
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 논문에서는 최적화 알고리즘으로 개발된 WFSO(Water Flowing and Shaking Optimization) 알고리즘을 사용한 인공신경망 과합성공 신경망의 학습 방법을 제안한다. 최적화 알고리즘은 다수의 후보 해를 기반으로 탐색해 나가기 때문에 일반적으로 속도가 느린 단점이 있으나 지역 최소값에 거의 빠지지 않고 병렬화가 용이하며 미분 불가능한 활성화함수를 갖는 인공신경망 학습도 가능하고 구조와 가중치를 동시에 최적화 할 수 있는 장점이 있다. 본 논문에서는 WFSO 알고리즘을 인공신경망 학습에 적용하는 방법을 설명하고 다층 인공신경망과 합성곱 신경망에서 오류역전파 알고리즘과 성능을 비교한다.
This paper proposes the learning method of an artificial neural network and a convolutional neural network using the WFSO algorithm developed as an optimization algorithm. Since the optimization algorithm searches based on a number of candidate solutions, it has a drawback in that it is generally slow, but it rarely falls into the local optimal solution and it is easy to parallelize. In addition, the artificial neural networks with non-differentiable activation functions can be trained and the structure and weights can be optimized at the same time. In this paper, we describe how to apply WFSO algorithm to artificial neural network learning and compare its performances with error back-propagation algorithm in multilayer artificial neural networks and convolutional neural networks.
탄성파 층서 구분을 위한 합성곱 신경망 기법 비교 연구
[NRF 연계] 한국자원공학회 한국자원공학회지 Vol.57 No.6 2020.12 pp.541-553
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
머신 러닝 기술은 탄성파탐사 분야로 그 적용 범위를 확장하고 있다. 탄성파 해석에서 중요한 탄성파 층서 구분에 머신 러닝의 적용 가능성을 알아보았다. 이미지 분야에 탁월한 결과를 보여온 합성곱 신경망 기법 중 4가지 모델을 네덜란드 F3 block에 적용시켰다. 4가지 모델은 ResNet34 모델, 인코더-디코더 형태를 가지는 U-Net, Residual U-Net, FD U-Net이다. 예측된 이미지의 정성적 분석 수행 후 정량적 분석을 위해 pixel accuracy, mean class accuracy, mean intersection over union, frequency weighted IU의 수식을 활용하였다. 본 연구의 분석 결과 ResNet34의 정확도 결과가 가장 낮았고, 인코더-디코더 형태를 가지는 모델들이 높은 정확도를 보여주었다. 그리고 계산에 필요한 파라미터수와 학습시간을 고려 할 때 U-Net이 가장 효율적임을 확인할 수 있었다.
Application of the machine learning technique is expanding to the field of seismic exploration. For the purpose of feasibility assessment, we applied the machine learning technique to seismic sequence identification, which is important in seismic interpretation. From among the convolutional neural network techniques used in image analysis, we applied four models to seismic data obtained in the F3 block, offshore Netherlands, which have yielded remarkable results. One of the four models was ResNet34. The others were encoder? decoder models: U-Net, Residual U-Net, and FD U-Net. We first performed a qualitative analysis of the predicted images and then conducted quantitative analysis using pixel accuracy, mean class accuracy, mean intersection over union, and frequency weighted IU equations. The numerical results showed that ResNet34 had the lowest accuracy and that the encoder?decoder type models had higher accuracy. Considering the number of parameters required for calculation and the learning time, we confirmed that U-Net is the most efficient model.
철근콘크리트 손상 특성 추출을 위한 최적 컨볼루션 신경망 백본 연구
[Kisti 연계] 대한토목학회 대한토목학회논문집 Vol.43 No.4 2023 pp.511-523
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
철근콘크리트 손상 감지를 위한 무인항공기와 딥러닝 연계에 대한 연구가 활발히 진행 중이다. 컨볼루션 신경망은 객체 분류, 검출, 분할 모델의 백본으로 모델 성능에 높은 영향을 준다. 사전학습 컨볼루션 신경망인 모바일넷은 적은 연산량으로 충분한 정확도가 확보 될 수 있어 무인항공기 기반 실시간 손상 감지 백본으로 효율적이다. 바닐라 컨볼루션 신경망과 모바일넷을 분석 한 결과 모바일넷이 바닐라 컨볼루션 신경망의 15.9~22.9% 수준의 낮은 연산량으로도 6.0~9.0% 높은 검증 정확도를 가지는 것으로 평가되었다. 모바일넷V2, 모바일넷V3Large, 모바일넷 V3Small은 거의 동일한 최대 검증 정확도를 가지는 것으로 나타났으며 모바일넷의 철근콘트리트 손상 이미지 특성 추출 최적 조건은 옵티마이저 RMSprop, 드롭아웃 미적용, 평균풀링인 것으로 분석되었다. 본 연구에서 도출된 모바일넷V2 기반 7가지 손상 감지 최대 검증 정확도 75.49%는 이미지 축적과 지속적 학습으로 향상 될 수 있다.
Research on the integration of unmanned aerial vehicles and deep learning for reinforced concrete damage detection is actively underway. Convolutional neural networks have a high impact on the performance of image classification, detection, and segmentation as backbones. The MobileNet, a pre-trained convolutional neural network, is efficient as a backbone for an unmanned aerial vehicle-based damage detection model because it can achieve sufficient accuracy with low computational complexity. Analyzing vanilla convolutional neural networks and MobileNet under various conditions, MobileNet was evaluated to have a verification accuracy 6.0~9.0% higher than vanilla convolutional neural networks with 15.9~22.9% lower computational complexity. MobileNetV2, MobileNetV3Large and MobileNetV3Small showed almost identical maximum verification accuracy, and the optimal conditions for MobileNet's reinforced concrete damage image feature extraction were analyzed to be the optimizer RMSprop, no dropout, and average pooling. The maximum validation accuracy of 75.49% for 7 types of damage detection based on MobilenetV2 derived in this study can be improved by image accumulation and continuous learning.
합성곱 신경망을 활용한 CCTV 영상 기반 강설 강도 산정 방법론 개발
[Kisti 연계] 한국수자원학회 한국수자원학회 논문집 Vol.58 No.4 2025 pp.313-327
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
본 연구는 합성곱 신경망(Convolutional Neural Networks, CNNs)을 활용하여 CCTV 영상을 기반으로 강설 강도를 산정하는 모델을 개발하였다. 이를 위해 구름물리선도센터에서 수집된 CCTV 영상과 PARSIVEL 데이터를 동일 시간대에 매칭하였으며, CCTV 영상을 입력 데이터로, PARSIVEL 강설 강도를 출력 데이터로 설정하여 image-value 모델을 정의하였다. CCTV 영상 내 강설 입자 정보를 추출하기 위해 k-최근접 이웃 알고리즘(k-Nearest Neighbor, kNN)을 활용하여 특정 프레임과 전경 및 배경 모델 간의 픽셀 차이를 계산하고 각각의 모델을 업데이트하였다. 또한, 원본 영상에서 관심 영역(Region of Interest, ROI)을 설정하여 640 × 640 크기로 입력자료를 재구성하고, 반복적으로 강설 현상이 발생하지 않는 영역을 제외함으로써 효율적인 모델 학습이 이루어지도록 하였다. 이후, 합성곱 신경망 구조를 기반으로 image-value 모델을 구성하였으며, 총 95,374개의 데이터 중 80%를 학습 데이터로, 나머지 20%를 테스트 데이터로 설정하여 각각 모델 학습과 정확도 검증에 활용하였다. 모델 성능 검증을 위해 테스트 데이터에서 500개의 데이터를 랜덤 샘플링하는 과정을 500회 반복하였고, 5개의 평가 지표를 기반으로 결과를 분석하였다. 그 결과, 합성곱 신경망 기반의 image-value 모델로 산정된 강설 강도는 PARSIVEL에서 관측된 강설 강도와 전반적으로 유사한 패턴을 보였으며, 수문학 분야의 일반적인 모델 성능 평가 기준에 따라 분류한 결과, 5개의 주요 평가 지표 중 2개에서 최고 등급의 performance rating으로 분류됨을 확인하였다. 본 연구는 합성곱 신경망과 생성 모델을 연계하여 강설 강도 산정 정확도를 향상시킬 수 있는 가능성을 제시하며, 향후 입자 분포 자료를 활용하여 심층적인 강설 분석 연구로 발전 가능할 것으로 기대된다.
This study proposes a model for estimating snowfall intensity using Convolutional Neural Networks (CNNs) based on CCTV data. CCTV data from the Cloud Physics Observatory Station were synchronized with PARSIVEL measurements, defining an image-value framework where CCTV data served as inputs and PARSIVEL snowfall intensity as outputs. A k-Nearest Neighbor (kNN) algorithm was employed to extract snowfall particle information by calculating pixel differences between frames and dynamically updating foreground and background models. The data were cropped to a 640 × 640 pixel region of interest (ROI), excluding non-snowfall regions to enhance training efficiency. The CNNs-based image-value model was trained on 80% of 95,374 data points, with the remaining 20% reserved for testing. Performance evaluation involved random sampling of 500 test samples and analysis using five performance metrics. Results showed that the snowfall intensity estimated by image-value model closely matched PARSIVEL observation data, achieving the highest performance rating in two out of five metrics. This study demonstrates the effectiveness of integrating CNNs with generative models to enhance the accuracy of snowfall intensity estimation. Furthermore, it emphasizes that the incorporation of particle distribution data can facilitate more sophisticated and precise snowfall characterization.
다양한 차수의 합성 미니맥스 근사 다항식이 완전 동형 암호 상에서의 컨볼루션 신경망 네트워크에 미치는 영향
[Kisti 연계] 한국정보보호학회 정보보호학회논문지 Vol.33 No.6 2023 pp.861-868
※ 협약을 통해 무료로 제공되는 자료로, 원문이용 방식은 연계기관의 정책을 따르고 있습니다.
보안을 유지하는 가운데 딥 러닝을 이용하여 데이터 분석 결과를 제공하는 서비스의 핵심적인 기술 중의 하나로 완전 동형 암호가 있다. 완전 동형 암호화된 데이터 간의 연산의 제약으로 인해 딥 러닝에 사용되는 비산술 함수를 다항식으로 근사해야 한다. 현재까지는 합성 미니맥스 다항식을 사용하여 비산술 함수를 근사한 다항식을 컨볼루션 뉴럴 네트워크에 적용했을 때 계층별로 같은 차수의 다항식만 적용하였는데, 이는 완전 동형 암호를 위한 효과적인 네트워크의 설계에 어려움을 준다. 본 연구는 합성 미니맥스 다항식으로 설계한 근사 다항식의 차수를 계층별로 서로 다르게 설정하여도 컨볼루션 뉴럴 네트워크에서 데이터의 분석에 문제가 없음을 이론적으로 증명하였다.
One of the key technologies in providing data analysis in the deep learning while maintaining security is fully homomorphic encryption. Due to constraints in operations on fully homomorphically encrypted data, non-arithmetic functions used in deep learning must be approximated by polynomials. Until now, the degrees of approximation polynomials with composite minimax polynomials have been uniformly set across layers, which poses challenges for effective network designs on fully homomorphic encryption. This study theoretically proves that setting different degrees of approximation polynomials constructed by composite minimax polynomial in each layer does not pose any issues in the inference on convolutional neural networks.
0개의 논문이 장바구니에 담겼습니다.
선택하신 파일을 압축중입니다.
잠시만 기다려 주십시오.