▲ 벽 너머에서도 가방 안에 숨긴 안테나로 AI 모델 구조를 탈취할 수 있다.(그림 및 설명=KAIST)  © 특허뉴스

인공지능(AI)의 ‘블랙박스’로 여겨졌던 내부 구조가 더 이상 안전지대가 아닐 수 있다는 충격적인 연구 결과가 나왔다. KAIST 연구진이 벽 너머에서도 AI 모델의 핵심 구조를 분석해낼 수 있는 새로운 공격 기술을 공개하며, AI 보안 패러다임 전환을 촉발하고 있다.

KAIST 전산학부 한준 교수 연구팀은 싱가포르국립대(NUS), 중국 저장대와의 공동 연구를 통해 원거리에서 인공지능 모델 구조를 탈취할 수 있는 공격 기술 ‘모델스파이(ModelSpy)’를 개발했다고 밝혔다. 해당 연구는 세계 최고 권위의 보안 학술대회 ‘NDSS 2026’에서 발표되며 최우수 논문상을 수상했다.

이번 기술의 핵심은 ‘전자기파’다. 인공지능이 연산을 수행할 때 그래픽 처리 장치(GPU)에서 발생하는 미세한 전자기 신호를 포착하고, 이를 분석해 AI 모델의 구조를 역추적하는 방식이다. 기존처럼 서버 침입이나 악성코드 설치 없이도, 물리적 공간에서 발생하는 신호만으로 AI 내부 정보를 파악할 수 있다는 점에서 기존 보안 개념을 근본적으로 흔든다.

연구팀은 실험을 통해 최신 GPU 5종을 대상으로 벽 너머 또는 최대 6m 거리에서도 AI 모델의 구조를 정밀하게 추정하는 데 성공했다. 특히 딥러닝 모델의 핵심인 레이어 구조를 최대 97.6% 정확도로 복원해내며 기술의 실효성을 입증했다.

이 기술은 소형 안테나 하나로 구현 가능하다는 점에서 더욱 큰 파장을 예고한다. 가방에 넣을 수 있는 수준의 장비만으로도 기업이나 기관의 핵심 AI 자산을 외부에서 분석할 수 있기 때문이다. 이는 자율주행, 의료 AI, 금융 시스템 등 고부가가치 산업 전반에서 심각한 보안 위협으로 작용할 수 있다.

기존 AI 보안은 주로 소프트웨어와 네트워크 침입을 중심으로 설계돼 왔다. 그러나 이번 연구는 물리적 환경에서 발생하는 신호 자체가 새로운 공격 경로가 될 수 있음을 보여주며, ‘사이버-물리 통합 보안’의 필요성을 강조한다.

연구팀은 이러한 위협 가능성을 고려해 대응 기술도 함께 제시했다. 전자기파 신호를 교란하거나 연산 패턴을 난독화하는 방식 등을 통해 외부에서 신호를 해석하기 어렵게 만드는 방안이다. 단순한 공격 기술 제시에 그치지 않고, 현실적인 방어 전략까지 포함한 ‘책임 있는 보안 연구’라는 점에서 의미가 크다.

한준 교수는 “AI 시스템이 물리적 환경에서도 공격에 노출될 수 있다는 사실을 입증한 연구”라며 “앞으로는 하드웨어와 소프트웨어를 아우르는 통합 보안 체계가 필수적”이라고 강조했다.

이번 연구는 AI 기술 경쟁이 단순한 성능을 넘어 ‘보안 경쟁’으로 확장되고 있음을 보여준다. 특히 기업의 핵심 알고리즘과 모델 구조가 곧 경쟁력으로 직결되는 상황에서, AI 보호 전략 역시 새로운 국면에 진입하고 있다는 분석이다.

결국 AI 시대의 경쟁력은 ‘얼마나 강력한 모델을 만들 수 있는가’를 넘어 ‘그 모델을 얼마나 안전하게 지킬 수 있는가’로 이동하고 있다. KAIST 연구진이 제시한 이번 기술은 그 전환점의 시작을 알리는 신호탄으로 평가된다.

논문명은 Peering Inside the Black-Box: Long-Range and Scalable Model Architecture Snooping via GPU Electromagnetic Side-Channel이다.