Earticle

최근 DNN(Deep Neural Network)이 다양한 분야에서 활용되는 요즘, DNN의 보안 요소를 위협하는 공격 방식들도 늘어나고 있다. 특히, DNN의 핵심 요소 중 하나인 활성화 함수는 입력 신호를 처리하고 출력을 생 성하는 중요한 부분이다. 이 함수에 대한 공격은 모델의 학습 및 예측에 큰 영향을 미칠 수 있으며, 오분류 또는 오작동을 유발함으로써 모델의 성능을 저하시킬 수도 있다. 본 논문에서는 이런 보안 위협에서 DNN의 활성화 함 수 중 출력단에서 사용되는 Softmax에 대한 오류 주입 공격이 가능함을 실험을 통해 확인하였다. 그리고 공격에 대응할 수 있는 대응책을 제안하여 실제 대응이 가능한지 MNIST 데이터셋을 이용하여 평가한다. 결과적으로 오 류 주입 공격에 의해 데이터의 약 90%는 정상 동작을 하지 못함을 확인하였다. 이 결과를 바탕으로 제안한 오류 주입 공격 대응책을 적용하여 실험한 결과, 모든 데이터에 대한 오분류되는 것을 방어할 수 있었다.

Nowadays, as Deep Neural Networks (DNNs) are used in various fields, the number of attack methods that threaten the security elements of DNNs is increasing. In particular, the activation function, one of the key elements of DNN, is an important part of processing input signals and generating output. Some attacks on this function can have a significant impact on the model learning and prediction, and can also degrade the model performance by causing misclassification or malfunction. In this paper, we confirmed through experiments that a fault injection attack on Softmax, one of the activation functions of DNN, is possible. Then, we propose countermeasures to deal with the attack and evaluate whether an actual counteraction is possible using the MNIST dataset. As a result, it was confirmed that approximately 90% of the data did not operate normally due to the fault injection attack. Based on these results, we experimented that the proposed countermeasure was able to prevent misclassification of all data.

현실 세계에서는 기존에 알려지지 않은 새로운 유형의 변종 공격이 끊임없이 등장하고 있지만, 인공신경망과 지도학 습을 통해 개발된 공격 트래픽 분류모델은 학습을 실시하지 않은 새로운 유형의 공격을 제대로 탐지하지 못한다. 기존 연구들 대부분은 이러한 문제점을 간과하고 인공신경망의 구조 개선에만 집중한 결과, 다수의 새로운 공격을 정상 트래 픽으로 분류하는 현상이 빈번하게 발생하여 공격 트래픽 분류성능이 심각하게 저하되었다. 한편, 다중분류 문제에서 각 클래스에 대한 분류가 정답일 확률을 결과값으로 출력하는 소프트맥스(softmax) 함수도 학습하지 않은 새로운 유형의 공격 트래픽에 대해서는 소프트맥스 점수를 제대로 산출하지 못하여 분류성능의 신뢰도 또는 정확도를 제고하는데 한계 를 노출하고 있다 . 이에 본 논문에서는 소프트맥스 함수의 이러한 특성을 활용하여 모델이 일정 수준 이하의 확률로 판단한 트래픽을 공격으로 분류함으로써 새로운 유형의 공격에 대한 탐지성능을 향상시키는 방안을 제안하고, 실험을 통해 효율성을 입증한다.

In the real world, new types of attacks or variants are constantly emerging, but attack traffic classification models developed through artificial neural networks and supervised learning do not properly detect new types of attacks that have not been trained. Most of the previous studies overlooked this problem and focused only on improving the structure of their artificial neural networks. As a result, a number of new attacks were frequently classified as normal traffic, and attack traffic classification performance was severly degraded. On the other hand, the softmax function, which outputs the probability that each class is correctly classified in the multi-class classification as a result, also has a significant impact on the classification performance because it fails to calculate the softmax score properly for a new type of attack traffic that has not been trained. In this paper, based on this characteristic of softmax function, we propose an efficient method to improve the classification performance against new types of attacks by classifying traffic with a probability below a certain level as attacks, and demonstrate the efficiency of our approach through experiments.

In this paper, we applied long short term memory(LSTM) for classifying political polarity in cyber public sphere. The data collected from the cyber public sphere is transformed into word corpus data through word embedding. Based on this word corpus data, we train recurrent neural network (RNN) which is connected by LSTM’s. Softmax function is applied at the output of the RNN. We conducted our proposed system to obtain experimental results, and we will enhance our proposed system by refining LSTM in our system.

In modern life, we see more techniques of biometric features recognition have been used to our surrounding life, especially the applications in telephones and laptops. These biometric recognition techniques contain face recognition, fingerprint recognition and iris recognition. Our work focuses on the face recognition problem and uses a deep learning method, convolutional neural network, to solve it. And we use the Sobel operator to improve our result accuracy. LFW dataset is used for training and testing which gets a considerable result. And we also test our system on other face dataset, which also has a high accuracy on the recognition.