딥러닝은 비선형 데이터를 다룰 수 있으면서, 내부적인 특성들과 연관 관계 등을 학습할 수 있다는 점에서 많은 분야에서 쓰이고 있다. 딥러닝이 비선형 데이터를 다루는 것이 가능한 이유는 활성화 함수가 사용되기 때문이다. 활성화 함수로는 비선형 함수를 이용하여 입력과 결과가 비선형성을 띌 수 있게 된다. 그런데 활성화 함수의 종류는 다양하며 각각 특성이 다르다. 따라서 어떤 활성화 함수가 사용이 되는지에 따라 결과의 차이가 발생할 수 있다. 본 연구에서는 활성화 함수의 차이가 딥러닝 학습에서 영향을 미치는 지에 대해 알아보고자 한다. 먼저 딥러닝 모델 중 하나인 GAN을 세포의 유전자 데이터를 이용하여 여러 모델 학습을 시킨다. 그 과정에서 각 GAN 모델의 생성자와 식별자는 다른 모델의 활성화 함수와 다른 조합으로 학습된다. 그 후 서로 다른 활성화 함수 조합으로 학습된 GAN의 생성자를 통해 가짜 데이터를 생성한다. 최종적으로 각 모델이 만들어 낸 가짜 데이터와 실제 데이터와의 상관 분석을 통해서 생성된 모델 간의 성능을 비교하여, 활성화 함수의 차이가 딥러닝 학습에 영향을 미치는 지 확인한다.
목차
Abstract 1. Introduction 2. Related Works 3. Methods 3.1. Datasets 3.2. Activation functions 4. Experiments 4.1. Experimental setup 4.2. Experimental result 5. Conclusions Acknowledgement References
저자
Suhan Son [ School of Electrical Engineering Korea University Seoul, Korea ]
Junhee Seok [ School of Electrical Engineering Korea University Seoul, Korea ]
교신저자