Earticle

초록

한국어

최근 컴퓨터 비전 모델의 성능이 급속도로 향상되고 있다. 하지만 모델의 파라미터 수가 증가하여 모바일 환경에서는 자원의 제약으로 모델 크기와 연산 시간을 최적화하는 경량화 연구가 필요하다. 경 량화를 위한 효과적인 방법 중 하나인 지식 증류는 잘못된 확률적 지식까지 증류하는 문제를 가진다. 본 논문은 클래스별 적응형 온도 지식 증류를 통해 잘못된 확률적 지식을 증류하는 문제를 해결하고, 더 정제된 지식을 학생 모델에 전달하는 방법을 제안한다. 실험 결과, 제안한 방법이 기존 지식 증류 기법들보다 우수한 성능을 보임을 알 수 있다.

목차

요약
1. 서론
2.관련 연구
2.1 지식 증류를 활용한 경량화
3. 제안 방법
3.1. 로짓 표준화와 유도 지식 증류를 통한 전처리
3.2. 클래스별 적응형 온도 지식 증류
4. 실험
5. 결론
Acknowledgement
참고문헌

저자

• 심해담 [ 인하대학교 전기컴퓨터공학과 ]
• 김덕화 [ 인하대학교 전기컴퓨터공학과 ]
• 김덕환 [ 인하대학교 전기컴퓨터공학과 ] 교신저자

참고문헌