Earticle

초록

영어

Modern neural networks often achieve high classification accuracy but still suffer from confidence miscalibration, which limits their reliability in decision-sensitive applications. In this paper, a two stage post-hoc calibration method, called MADCAT, is proposed to improve the reliability of neural network confidence. The proposed method first uses the logit margin as an indicator of sample difficulty to predict a sample-specific temperature, and then refines the calibrated confidence through a density-aware adjustment based on K-Nearest Neighbor distances in the penultimate-layer feature space. In addition, Soft-Binned Expected Calibration Error is adopted as the training objective to better align optimization with calibration quality. Experimental results on CIFAR-10, CIFAR-100, and ImageNet show that the proposed method achieves strong calibration performance on both convolutional neural networks and Vision Transformers, while remaining effective under class imbalance, distribution shift, and limited validation data settings with negligible inference overhead.

한국어

현대 신경망은 종종 높은 분류 정확도를 달성하지만, 여전히 신뢰도 보정 오류 문제를 겪고 있어 의사결정이 중요한 응용 분야에서 신뢰성이 제한된다. 본 논문에서는 신경망 신뢰도의 신뢰성을 향상시키기 위해 MADCAT이라 불리는 2단계 사후 보정 방법을 제안한다. 제안된 방법은 먼저 로짓 마진을 샘플 난이도의 지표로 사용하여 샘플별 온도를 예측하고, 차선 레이어 특징 공간에서 K-최근접 이웃 거리를 기반으로 한 밀도 인식 조정을 통해 보정된 신뢰도를 정교화 한다. 또한, 최적화와 보정 품질 간의 정합성을 높이기 위해 훈련 목표로 소프트-빈 기대 보정 오차를 채택한다. CIFAR-10, CIFAR-100 및 ImageNet에 대한 실험결과, 제안된 방법은 컨볼루션 신경망과 비전 트랜스포머 모두에서 뛰어난 보정 성능을 달성하는 동시에, 클래스 불균형, 분포 이동 및 제한된 검증 데이터 환경에서도 미미한 추론 오버헤드로 효과적인 성능을 유지하는 것으로 나타났다.

목차

Abstract
요약
1. Introduction
2. Related Works
2.1 Post-hoc Calibration Methods
2.2 Sample Difficulty and Distributional Atypicality
3. A Two Stage Post-hoc Calibration Method
3.1 Overview
3.2 Margin-Based Calibration
3.3 Density-Aware Calibration
3.4 Final Calibration Procedure
4. Evaluation and Result
4.1 Main Results on Standard Benchmarks
4.2 Robustness under Distribution Shift
4.3 Ablation Study
4.4 Practicality and Stability
5. Conclusions
REFERENCES

키워드

저자

• Chen-Xiao Sun [ 손천샤 | Student, Dept. of Computer and Media Engineering, Tongmyong University ]
• Ji-Hye Kim [ 김지혜 | Student, Dept. of Game Design, Kongju National University ]
• Seung-Soo Shin [ 신승수 | Professor, Dept. of Computer Engineering, Tongmyong University ] Corresponding Author

참고문헌

발행기관

간행물

표지보기 관심저널 등록

• 간행물명

  산업과 과학 [Advanced Industrial SCIence]

• 간기

  격월간

• eISSN

  2951-2476

• 수록기간

  2022~2026

• 등재여부

  KCI 등재후보

• 십진분류

  KDC 004 DDC 004