▲ PSA 증강이 평탄한 최소점을 형성하는 과정의 개념도 / 원본 이미지 주변에 다양한 증강 이미지를 배치한 입력 공간과, 그에 상응하는 파라미터 공간의 손실 지형을 함께 나타낸 그림(좌단). 원본 근처를 조밀하게 채우는 증강인 근접지지증강을 적용했을 때, 파라미터 공간에서 넓고 완만한 평탄한 최소점이 형성되는 모습을 도식화했다.(중앙) PSA 증강을 통한 입력 안정성 확보와 손실 지형 평탄화 효과(우단)(그림 및 설명=UNIST)  © 특허뉴스

자율주행차가 눈보라 속에서도 차선을 놓치지 않고, 의료 AI가 저화질 영상에서도 암을 정확히 진단하기 위해서는 무엇보다 ‘강건성(robustness)’이 핵심이다. 학습 데이터와 조금만 다른 환경에서도 성능이 무너지지 않는 AI 모델을 만드는 것이 산업 현장의 최대 과제로 꼽히는 가운데, 국내 연구진이 데이터 증강을 통해 강건성을 높일 수 있는 조건을 수학적으로 규명해 주목받고 있다.

UNIST 인공지능대학원 윤성환 교수팀은 AI 학습에서 필수적으로 활용되는 데이터 증강이 모델 강건성을 향상시키는 조건을 수학적으로 증명했다고 밝혔다. 데이터 증강은 원본 데이터에 변형을 가해 학습량을 늘리는 방식으로 널리 쓰이지만, 어떤 증강 기법이 실제로 강건성 향상에 효과적인지는 명확히 정리되지 않아 그동안 연구·개발 현장에서는 시행착오가 반복돼 왔다.

연구팀이 제시한 핵심은 근접 지지 증강(PSA, Proximal-Support Augmentation) 조건이다. PSA는 원본 데이터에 ‘미세한 변형’을 가해 데이터 분포 주변을 촘촘히 채우는 방식으로, 이 조건을 만족하는 증강일수록 모델 강건성 향상 효과가 크다는 점을 이론적으로 입증했다.

이번 연구는 데이터 공간에서의 변화가 모델 내부의 파라미터 공간 변화와 대응된다는 점을 먼저 증명한 뒤, PSA 조건을 만족하는 데이터 변형이 파라미터 공간의 손실함수 지형을 평평하게 만드는 효과를 갖는다는 사실을 밝혀냈다. 즉, 입력 데이터 주변을 촘촘히 학습시키면 모델이 학습 과정에서 도달하는 최적점이 ‘뾰족한 지형(Sharp Minima)’이 아니라 평탄한 지형(Flat Minima)이 되며, 이때 모델은 외부 환경 변화에도 성능이 덜 흔들리는 강건성을 확보하게 된다는 설명이다.

실험에서도 PSA 조건을 충족한 데이터 증강 기법이 그렇지 않은 기법보다 월등한 강건성을 보이며 이론의 타당성을 뒷받침했다. 연구팀은 이번 성과가 데이터 증강을 ‘경험적 기법’이 아니라 ‘검증 가능한 설계 원리’로 끌어올렸다는 점에서 의미가 크다고 강조했다.

연구팀은 “데이터 증강 설계를 보다 체계적인 과학으로 만든 연구”라며 “자율주행, 의료 영상, 제조 검사처럼 데이터 분포가 자주 바뀌는 실제 환경에서 신뢰할 수 있는 AI 모델을 만드는 데 중요한 이론적 기반이 될 것”이라고 밝혔다.

이번 연구는 세계적 인공지능 학술대회 중 하나인 전미인공지능학회(AAAI 2026) 정식 논문으로 채택됐다. 

논문명은 A Flat Minima Perspective on Understanding Augmentations and Model Robustness이다.