배경
객체 경계 검출(Instance Edge Detection)은 이미지 안에서 서로 맞닿은 개별 객체들의 경계를 픽셀 단위로 정확히 구분하는 기술로, 인스턴스 분할·파놉틱 분할 등 상위 인식 과제의 정확도를 좌우하는 기반 기술입니다. 자율주행·영상보안·콘텐츠 태깅 등 실제 응용에서는 인접한 동일 종류의 객체를 하나로 뭉치거나 하나의 객체를 여러 조각으로 나누는 오류가 성능을 크게 떨어뜨리므로, 경계를 얼마나 선명하고 연결성 있게 잡아내는가가 핵심입니다.
기존 기술의 한계
기존 방식은 정답 경계를 사람이 직접 표시한 대량의 마스크·박스·포인트 주석에 의존해 비용이 크고 확장이 어려웠습니다. 주석 없이 학습하는 비지도·약지도 방식도 등장했으나, 이들은 사전 학습된 비전 트랜스포머의 의미(semantic) 유사성에 최적화되어 있어 같은 종류의 인접 객체를 병합하거나 하나의 객체를 조각내는 한계가 있었고, 객체 수를 미리 가정하는 등 휴리스틱에 의존했습니다. 또한 확산 모델을 이용하는 방식은 이미지마다 역확산(inversion) 과정을 반복해야 해 추론 비용이 매우 컸습니다.
접근
TRACE는 텍스트-이미지 확산 모델의 셀프 어텐션 맵이 노이즈 제거 과정 중 특정 시점에 인스턴스 수준의 구조를 잠깐 드러낸다는 사실에 착안하였습니다. 즉 확산 모델이 별도 학습 없이도 객체 경계에 대한 사전 지식(prior)을 내부에 담고 있음을 발견하고, 이를 해독해 주석 없는 경계 검출기로 전환한 것이 핵심 기여입니다.
동작 방식
구체적으로 TRACE는 ① 시간적 발산(temporal divergence)을 측정해 인스턴스 구조가 가장 뚜렷해지는 시점인 인스턴스 출현 지점(IEP, Instance Emergence Point)을 선택하고, ② 어텐션 경계 발산(ABDiv, Attention Boundary Divergence)으로 셀프 어텐션의 교차 차이를 점수화하여 초기 경계 맵을 생성하며, ③ 이를 확산 백본과 결합한 1-스텝 에지 디코더로 증류(distillation)하여 이미지별 역확산 과정 없이 곧바로 경계를 예측합니다. 이 설계로 이미지당 처리 속도를 45ms로 단축하여 기존 확산 기반 방식 대비 약 81배 가속하면서도, 더 선명하고 연결성 있는 경계를 산출합니다.
성과
OGQ GYN 연구팀은 COCO 벤치마크에서 비지도 인스턴스 분할 기준 성능을 +4.4 AP 향상시키면서 추가 연산은 6%에 불과하였고, 태그 지도(tag-supervised) 파놉틱 분할에서는 인스턴스 수준 주석 없이도 포인트 지도 기반 모델을 VOC 2012에서 +7.1 PQ 능가하였으며, SAM의 시드(seed)로 사용될 경우 개방형 어휘(open-vocabulary) 검출기 대비 최대 +16.5 PQ의 성능 향상을 달성하였습니다. 이 성과로 TRACE는 AI 최상위 학회 ICLR 2026에서 상위 1.13%의 구두발표(Oral)로 선정되었습니다.