현재 위치
Home
Oral Session Ⅳ 인공지능 및 기계학습
응답 기반의 클래스별 적응형 온도 지식 증류를 이용한 경량 딥러닝 모델 개발
Lightweight Deep Learning Model using Response-based Class-wise Adaptive Temperature Knowledge Distillation
-
- 발행기관
- 한국차세대컴퓨팅학회 바로가기
-
- 간행물
- 한국차세대컴퓨팅학회 학술대회 바로가기
-
- 통권
- 2025 한국차세대컴퓨팅학회 춘계학술대회 (2025.05)바로가기
-
- 페이지
- pp.236-239
-
- 저자
-
- 언어
- 한국어(KOR)
-
- URL
- https://www.earticle.net/Article/A468954
원문정보
초록
- 한국어
- 최근 컴퓨터 비전 모델의 성능이 급속도로 향상되고 있다. 하지만 모델의 파라미터 수가 증가하여 모바일 환경에서는 자원의 제약으로 모델 크기와 연산 시간을 최적화하는 경량화 연구가 필요하다. 경 량화를 위한 효과적인 방법 중 하나인 지식 증류는 잘못된 확률적 지식까지 증류하는 문제를 가진다. 본 논문은 클래스별 적응형 온도 지식 증류를 통해 잘못된 확률적 지식을 증류하는 문제를 해결하고, 더 정제된 지식을 학생 모델에 전달하는 방법을 제안한다. 실험 결과, 제안한 방법이 기존 지식 증류 기법들보다 우수한 성능을 보임을 알 수 있다.
목차
요약
1. 서론
2.관련 연구
2.1 지식 증류를 활용한 경량화
3. 제안 방법
3.1. 로짓 표준화와 유도 지식 증류를 통한 전처리
3.2. 클래스별 적응형 온도 지식 증류
4. 실험
5. 결론
Acknowledgement
참고문헌
저자
간행물 정보
발행기관
-
- 발행기관명
- 한국차세대컴퓨팅학회 [Korean Institute of Next Generation Computing]
- 설립연도
- 2005
- 분야
- 공학>컴퓨터학
- 소개
- 본 학회는 차세대 PC 및 그 관련분야의 학술활동을 통하여 차세대 PC의 학문 및 기술발전을 도모하고 산업발전 및 국제협력 증진을 목적으로 한다.
간행물
-
- 간행물명
- 한국차세대컴퓨팅학회 학술대회
- 간기
- 반년간
- 수록기간
- 2021~2025
- 십진분류
- KDC 566 DDC 004
이 권호 내 다른 논문 / 한국차세대컴퓨팅학회 학술대회 2025 한국차세대컴퓨팅학회 춘계학술대회
피인용수 : 0건 (자료제공 : 네이버학술정보)
함께 이용한 논문 이 논문을 다운로드한 분들이 이용한 다른 논문입니다.
출처 : 네이버학술정보
0개의 논문이 장바구니에 담겼습니다.