Research/CACKD

8. 속도, 임베디드, 그리고 선택의 이유

ns4A 2026. 2. 3. 15:18

세그멘테이션 연구에서 성능(mIoU)을 먼저 보는 건 자연스럽습니다.
하지만 Desktop에서는 괜찮은데,임베디드에서도 괜찮은지 확인해보겠습니다.


 

CACKD는,

  • 가장 높은 mIoU를 찍는 모델은 아닐 수 있지만
  • 복원 기반 Teacher의 이점을 Student로 이전하면서
  • 임베디드 환경에서도 현실적으로 운용 가능한 범위를 유지하려는 설계입니다.

즉,

“이론적으로 가장 강한 모델”과
“현실에서 돌아가는 모델”
사이에서의 의도적인 선택입니다.

이 선택은 연구 전반에서 일관됩니다.

  • 복원은 Teacher에서만 수행
  • Student는 세그만 수행
  • 관계/주의/상관 정보를 KD로 전달
  • 구조는 복잡하지만, 추론은 상대적으로 단순

 

이는 실제로 가장 빠른 속도의 그룹에 위치해있으며 성능까지 포함한다면 성능대비 가장 효율이 좋은 방법이라고 할 수 있습니다.

 

CACKD 연구를 정리하자면 다음과 같습니다.

  • CAM-FRN의 한계를 그대로 받아들였고
  • 마스크 신호부터 다시 설계했고
  • 결합이 실패하는 이유를 확인했고
  • Teacher–Student로 프레임을 바꿨고
  • 무엇을 증류할지 끝까지 쪼갰고
  • 마지막에는 “실제로 쓸 수 있는가?”까지 확인했습니다.

이 흐름 전체가 이 연구의 결과입니다.

'Research > CACKD' 카테고리의 다른 글

7. Training  (0) 2026.02.03
5. CCAM  (0) 2026.02.03
4. 무엇을 증류할 것인가  (0) 2026.01.27
3. Knowledge Distillation  (0) 2026.01.27
2. 복원-세그멘테이션 스테이지 설계  (0) 2026.01.26