-
안테나 하나로 AI ‘설계도’ 훔쳐본다... 대응 기술도 제시
스마트폰 얼굴 인식부터 자율주행차까지, 인공지능(AI)은 ‘블랙박스’로 보호돼 왔다. 하지만 KAIST·국제 연구진이 벽 너머에서 AI의 ‘설계도’를 훔쳐볼 수 있는 새로운 보안 위협을 밝혀냈다. 대응 기술도 함께 제시했다. 향후 자율주행·의료·금융 등 다양한 분야에서 AI 보안을 강화하는 데 활용될 것으로 기대된다.
우리 대학 전산학부 한준 교수 연구팀은 싱가포르국립대(NUS), 중국 저장대(Zhejiang University)와의 공동 연구를 통해 소형 안테나만으로 원거리에서 인공지능(AI) 모델 구조를 탈취할 수 있는 공격 시스템 ‘모델스파이(ModelSpy)’를 개발했다고 31일 밝혔다.
이 기술은 마치 도청 장치처럼 인공지능이 작동할 때 발생하는 미세한 신호를 포착해 내부 구조를 분석하는 방식이다. 연구팀은 인공지능 연산을 담당하는 그래픽 처리 장치(GPU)에서 발생하는 전자기파에 주목했다.
AI가 복잡한 연산을 수행할 때 GPU에서는 미세한 전자기 신호가 발생하는데, 연구팀은 이 신호의 패턴을 분석해 모델의 층 구성과 세부 설정값을 복원하는 데 성공했다.
실험 결과, 최신 GPU 5종을 대상으로 벽 너머나 최대 6m 거리에서도 인공지능 모델 구조를 높은 정확도로 파악할 수 있었다. 특히 딥러닝 모델의 핵심 구조인 레이어를 최대 97.6%의 정확도로 추정했다.
이번 기술은 기존 해킹처럼 서버에 직접 침투하거나 악성코드를 설치할 필요 없이, 가방에 넣을 수 있는 소형 안테나만으로도 공격이 가능하다는 점에서 큰 보안 위협으로 평가된다.
연구팀은 이러한 기술이 악용될 경우 기업의 핵심 AI 자산이 외부로 유출될 수 있다고 보고, 전자기파 교란이나 연산 난독화 등 대응 기술도 함께 제시했다. 단순한 공격 시연을 넘어 현실적인 방어 방안을 제안했다는 점에서 책임 있는 보안 연구 사례로 평가된다.
한준 교수는 “이번 연구는 AI 시스템이 물리적 환경에서도 새로운 공격에 노출될 수 있음을 입증한 사례”라며 “자율주행이나 국가 기반 시설과 같은 중요한 AI 인프라를 보호하기 위해 하드웨어와 소프트웨어를 아우르는‘사이버-물리 보안’체계 구축이 중요하다”고 밝혔다.
이번 연구는 KAIST 전산학부 한준 교수가 공동 교신저자로 참여했으며, 컴퓨터 보안 분야 최고 권위 학술대회인 ‘NDSS(Network and Distributed System Security Symposium) 2026’에서 발표됐다. 또한 연구의 혁신성을 인정받아 최우수 논문상을 수상했다.
※ 논문명: Peering Inside the Black-Box: Long-Range and Scalable Model Architecture Snooping via GPU Electromagnetic Side-Channel,
논문 링크: https://www.ndss-symposium.org/ndss-paper/peering-inside-the-black-box-long-range-and-scalable-model-architecture-snooping-via-gpu-electromagnetic-side-channel/
2026.03.31
조회수 4287
-
보이스피싱 심박스 탐지 원천 기술 개발
보이스피싱에 심박스가 악용될 경우 해외에서 온 인터넷전화가 한국 내의 번호로 인식되는 발신 번호 조작에 활용될 수 있다.
우리 대학 전기및전자공학부 김용대 교수 연구팀이 이동통신사가 보이스피싱에 사용되는 심박스를 식별할 수 있는 원천기술을 개발했다고 21일 밝혔다.
휴대전화 등 모든 단말기는 이동통신망에 접속할 때 지원 가능한 기능을 이동통신망에 전달한다. 김용대 교수 연구팀은 이러한 기능 중 1,000여 개를 이용해 이동통신 단말 기종을 구분하는 방법을 제안했고 100여 개의 이동통신 단말들의 기종을 분류할 수 있음을 입증했다. 또한, 이 기술을 보이스피싱에 사용되는 심박스에 적용했을 때 일반 휴대전화와 심박스를 명확히 구분할 수 있음을 확인했다.
현재 이동통신사들은 단말기 구분 및 단말 기종의 식별을 위해 모든 단말에 부여된 고유한 15자리 숫자인 단말기고유식별번호(이하 IMEI: International Mobile Equipment Identity)를 사용한다. IMEI는 이동통신망에서 단말 기종을 나타내기 위해 사용되는 8자리 숫자인 TAC(Type Allocation Code, 타입 할당 코드)를 포함한다.
이번 기술의 특징은 일반적인 단말뿐 아니라 악의적인 목적을 가진 다른 기종의 TAC로 변조한 단말들도 이동통신망에서 그 기종을 식별할 수 있다는 것이다. 이러한 특징은 현재 보이스피싱에 악용되고 있는 심박스들을 탐지하기에 유용하다. 심박스들은 IMEI 변조 기능을 지원하기 때문에 이동통신사가 심박스를 휴대전화로 오분류하도록 만들 수 있는데, 기존과 같이 TAC만을 이용해서는 이러한 심박스들을 탐지할 수 없기 때문이다. 이번 기술에서는 단말 기종 식별을 위해 TAC를 사용하지 않기 때문에, 그러므로 심박스가 이를 변조해 이동통신망에 접속하더라도 효과적으로 식별할 수 있다.
휴대전화와 심박스는 개발 과정에서 큰 차이를 보인다. 퀄컴, 삼성 같은 이동통신 칩 개발사는 매년 새로운 기능을 갖는 최신 사양의 칩셋을 제작하고, 이는 최신 휴대전화 제작에 사용된다. 반면 심박스의 경우 전화 기능을 위주로 한 장비이기 때문에, 비교적 저사양의 칩셋을 사용한다. 또한 일반적으로 휴대전화 제조사들은 심박스 제조사들과 달리 칩셋에 존재하는 다양한 기능들을 단말기에 구현한다. 이러한 개발 과정의 차이는 곧 휴대전화와 심박스가 지원하는 기능들의 차이로 이어진다. 연구팀이 개발한 기술에서는 이러한 단말들의 기능 정보들을 기기별 고유정보로 이용해 단말 기종을 분류했다. 그 시험 결과, 100여 종의 휴대전화 모델들이 잘 구분되는 것을 확인했고, 나아가 휴대전화와 심박스 또한 명확히 구분되는 것을 확인했다. 따라서 이번 기술이 이동통신사에 적용되더라도 심박스 탐지에 충분히 사용될 수 있을 것으로 보인다.
전기및전자공학부 오범석, 안준호 연구원이 공동 제1 저자로 참여하고 배상욱, 손민철, 이용화 연구원과 우리 대학 강민석 교수가 함께 참여한 이번 연구는 보안 최우수학회 중 하나인 `NDSS(Network and Distributed System Security)' 심포지움 2023에 채택됐다. (논문명 : Preventing SIM Box Fraud Using Device Model Fingerprinting)
한편 김용대 교수 연구팀은 2012년부터 현재까지 이동통신 보안 분야에서 다양한 연구를 진행했다. 2015년에는 상용 VoLTE 서비스의 10가지 구현 취약점들을 발견해 미국 컴퓨터 침해 사고 대응반(CERT)에 제보했고, 2019년에는 LTE 이동통신 취약점 자동분석 시스템을 개발, 51개의 새로운 취약점을 발견해 통신사 및 제조사들에 해당 문제들을 보고했다. 2022년에는 43개의 휴대전화 이동통신 칩에서 26개의 보안 취약점을 찾아 휴대전화 제조사들에게 보고했다.
공동 제1 저자인 오범석 연구원은 "100여 개의 이동통신 단말들을 이용해 휴대전화와 심박스가 잘 구분되는 것을 확인한 상태다ˮ며, "실제 보이스피싱 기술에 적용하기 위해서는 이동통신사와의 협력을 통해 상용 데이터를 활용한 검증과 기술 고도화가 필요하다ˮ 라고 말했다.
김용대 교수는 "합법적으로 심박스를 사용하는 사업 또한 존재하며 이동통신사에서 심박스를 탐지하는 것도 중요하지만 이 중 불법적으로 이용되는 심박스를 골라내는 것이 더 중요하다”며, "이 기술을 효과적으로 적용하기 위해서는 심박스 등록제가 필요한데 보이스피싱 목적이 아닌 합법적으로 사용되고 있는 심박스들은 사업 목적에 대해 등록을 하면 되고 그렇지 않은 심박스는 미등록 심박스이므로 적발이 가능하다”라고 말했다.
이번 연구는 경찰청 국가개발연구사업 <네트워크 기반 보이스피싱 탐지 및 추적 기술 개발>과 정보통신기획평가원 <정형 및 비교 분석을 통한 자동화된 이동통신 프로토콜 보안성 진단 기술> 사업 그리고 융합보안대학원 사업의 지원을 받아 수행됐다. 아울러, 현재 연구팀은 실제 고객의 피해 방지로 이어질 수 있도록 SK Telecom과 협업 중에 있다.
2023.03.21
조회수 13529
-
도심에서 무력화 가능한 안티드론 기술 개발
최근 각국 정부는 공항과 국가 중요 시설에서 무인 항공기를 이용한 테러를 방지하기 위해 다양한 안티드론 시스템을 구축하고 있다. 드론을 추락시키거나 원하는 방향으로 제어하는 안티드론 기술은 드론의 다양한 보안 취약점을 이용하여 구현이 가능하다. 우크라이나-러시아 전쟁은 안티드론 기술의 평가장이 되고 있다.
우리 대학 전기및전자공학부 김용대 교수 연구팀이 도심에서 사용이 가능한 협대역 전자기파*를 원격에서 드론의 회로에 주입해 드론을 즉각적으로 무력화하는 안티드론 기술을 개발했다고 31일 밝혔다.
* 기존에 사용되는 광대역 전자기파을 이용한 안티드론 기술은 주변의 전자·전기 장치에 피해를 일으켜, 도심사용이 어렵다는 점을 개선하여 매우 좁은 대역의 협대역전자기파를 이용한 안티드론 기술은 목표 드론 기종에만 그 효과를 한정할 수 있게 해준다.
김 교수 연구팀은 드론 제조사의 제어 유닛 보드가 전자파 주입에 따른 민감도가 다르다는 것을 발견하였고 각 제조사별 수집된 민감도를 극대화한 주파수를 분석하였다. 이를 통하여 매우 좁은 대역의 협대역전자파를 주입하더라도 원격에서 드론을 즉각적으로 무력화시킬 수 있음을 입증했다.
이번 기술의 특징은 이렇게 좁은 대역으로 특정 주파수로 전자파 주입을 할 경우 기존의 안티드론 기술과 달리, 주변 전자 장치에 미치는 영향을 최소화할 수 있어, 도심에서도 적용 가능한 안티드론 기술이라고 할 수 있다. 뿐만 아니라 같은 제어 유닛 보드를 사용하는 드론들을 이용한 군집 드론 공격 시 이들 드론을 동시에 추락시킬 수 있다. 즉, A 기종을 사용하는 100개의 적 드론과 B 기종을 사용하는 100개의 아군 드론이 동시에 비행하고 있을 때 아군 드론은 전혀 영향을 받지 않으면서 100개의 적 드론을 모두 격추시킬 수 있는 기술로 평가된다.
우리 대학 장준하 연구원과 조만기 연구원이 공동 제1 저자로 참여한 이번 연구는 보안최우수학회 중 하나인 `NDSS (Network and Distributed System Security)' 심포지움 2023에 채택됐다. (논문명 : Paralyzing Drones via EMI Signal Injection on Sensory Communication Channels)
드론의 구동을 위하여 관성 계측 장치(IMU)는 다양한 센서값들을 제어 유닛 보드에 전달을 한다. 제어 유닛 보드는 이 센서값들을 제어 알고리즘에 적용하여 다음 번 드론의 움직임, 즉 로터의 회전수나 드론의 자세를 계산한다. 이 연구의 핵심 아이디어는 이 관성 계측 장치와 제어 유닛 보드 간의 통신을 방해시키면 제대로된 센서값을 받을 수 없고, 이 경우 다음 번 드론의 제어가 불가능해 진다는 것이다. 이 통신을 방해하기 위한 기술로 연구팀은 전자파 간섭(EMI) 취약점을 갖는 제어 유닛 보드에 대한 전자파 주입을 선택했다. 실험을 통하여 동종의 제어 유닛 보드는 같은 주파수의 전자파에 민감하다는 것을 발견하였고, 이를 이용하여 협대역의 전자기파를 주입할 경우, 주변 전자 장치에 영향을 끼치지 않을 뿐 아니라, 군집 드론 공격에 효과적으로 대응할 수 있는 점을 발견하였다.
한편 김용대 교수 연구팀은 2015년 소리를 관성 계측 장치에 포함된 평형센서인 자이로스코프(Gyroscope) 센서에 주입하여 드론을 떨어뜨릴 수 있는 기술을 개발했었다. 2015년 연구와 이번 연구는 깊은 연관을 가지고 있다. 2015년 연구는 달팽이관(정확히는 세반고리관)에 문제가 생길 경우 인간이 평형을 유지하기 힘들다는 것과 유사한 원리라고 할 수 있다. 이번 연구는 달팽이관에 문제를 일으키는 것이 아니라 달팽이관에서 뇌로 연결되는 신경망을 잠시 막을 경우에도 인간이 평형을 유지하기 힘든 것과 비슷한 원리라고 할 수 있다.
연구팀은 실내 전자파 차폐 시설을 이용해 10m 거리에서 호버링 비행 중인 드론을 즉각적으로 추락시킬 수 있음을 확인했으며, 공격 거리와 요구 전력 간의 관계를 도출했다. 10m 이상의 거리에 대해선 시뮬레이션을 통해 가능함을 확인했다.
공동 제1 저자인 장준하 연구원은 "드론 제어 유닛 보드의 전자파 간섭(EMI) 취약성을 이용하면 특정 영역의 드론들을 즉시 무력화하는 안티드론 기술로 활용할 수 있음을 보였다ˮ며, "또한 이는 기존의 안티드론 기술이 가지는 주변 전자 장치에 대한 영향을 문제를 해결한 도심에서 적용 가능한 안티드론 기술이며 고도화 연구를 통해 자폭 드론, 집단 드론 공격 등으로부터 국민을 보호하는 기술로 활용할 수 있을 것이다ˮ 라고 말했다.
김용대 교수는 “원천 연구가 이제 끝난 시점이고 실용화 연구를 통해 실제 제품 개발까지 이어질 수 있을지 확인이 필요하다”며, “추가로 제어 유닛 보드와 IMU 센서 간의 통신 회로 뿐 아니라 다른 회로의 취약점에 대한 연구도 필요한 시점이다”라고 말했다.
이번 연구는 한국연구재단 무인이동체 보안을 위한 항재밍 및 무허가 무인이동체 탐지대응 기술 개발 사업과 정보통신기술기획원 융합보안 핵심인재 양성사업 그리고 미 공군과학연구실의 지원을 받아 수행됐다.
2023.01.31
조회수 13437
-
차상길 교수 연구팀, K-사이버 시큐리티 챌린지 2019 우승
우리 대학 정보보호대학원 차상길 교수(소프트웨어보안연구실) 연구팀이 지난 11월 22일 열린 ‘K-사이버 시큐리티 챌린지 2019’ 대회에서 AI 기반 취약점 자동탐지 트랙 부문 2년 연속 우승을 차지했다.
과학기술정보통신부가 주최하고 한국인터넷진흥원이 주관한 이번 대회는 미국 국방성에서 지난 2016년에 주최한 사이버그랜드챌린지(CGC)를 벤치마킹한 국내 대회로 사람이 아닌 기계 간 해킹대회이다. AI 기반의 시스템은 스스로 외부의 개입 없이 주어진 프로그램의 취약점을 찾아 그것을 해킹하여 컴퓨터 운영권을 획득하게 된다.
이번 대회에서 차상길 교수팀은 ‘금오(Geumo)’라는 팀명으로 대회에 참가했으며, 시스템 개발과 운영을 위해 전산학부 코렌틴 쏘레 연구원(Corentin Soulet), 정보보호대학원 김강수 석사과정이 참여했다.
미국 카네기멜론 대학 시절부터 해당 분야 연구를 세계적으로 선도한 차상길 교수는 우리나라의 자체 기술만으로 최고 수준의 시스템을 만드는 데에 성공했다.
최근에는 사이버보안연구센터와 함께 AI 기반 해킹 시스템의 핵심요소 중 하나인 바이너리 분석 엔진을 기존의 엔진보다 10배 이상 빠르게 수행하는 데 성공해 세계적 권위의 학술대회인 2019 NDSS(The Network and Distributed System Security Symposium) BAR(Binary Analysis Research)에서 최우수 논문상을 받은 바 있다.
김강수 석사과정은 "지난해에 이어서 좋은 소식을 전할 수 있어서 기쁘고 대회에서 깨달은 지식을 활용해 사회에 이바지할 수 있도록 노력하겠다"라고 말했다.
2019.12.13
조회수 21368
-
차상길 교수, NDSS BAR 학회 최우수논문상 수상
〈 차상길 교수 〉
우리 대학 전산학부 차상길 교수가 지난 2월 24일 미국 샌디에이고에서 열린 바이너리 분석 분야 최고 학회 ‘NDSS BAR(네트워크 및 분산 시스템 보안 학회-바이너리 분석 연구 워크숍)’에서 최우수 논문상(Best Paper Award)을 받았다.
정보보호 관련 세계 최고 학회 중 하나인 NDSS(Network and Disstributed System Security Symposium)는 2018년부터 바이너리 분석 분야의 전문 워크숍은 BAR(Binary Analysis Research)를 개설했다. 차 교수는 그동안 연구 개발해온 ‘차세대 바이너리 분석플랫폼(B2R2)’의 뛰어난 설계구조와 성능을 인정받아 수상했다.
B2R2는 2016년부터 과학기술정보통신부 연구과제를 통해 개발된 결과시스템으로 ▲소프트웨어 보안취약점 분석 ▲악성코드 분석 ▲난독화 해제 ▲보안 패치 ▲익스플로잇 자동 생성 등 다양한 컴퓨터 보안 분야에 활용할 수 있는 핵심 원천 기술이다.
특히 이번 논문에서 차 교수팀은 ‘병렬 리프팅’이라는 독자적인 기술을 선보였다. 이를 통해 기존의 바이너리 분석플랫폼보다 B2R2가 10배 이상 빠르고 안정적인 성능을 확보했음을 확인했다.
바이너리 분석 분야는 핵심기술 확보를 위해 많은 시간과 노력이 필요한 분야로 손꼽힌다. 해당 기술을 보유한 그룹은 미국의 카네기멜런대학교와 UC 산타바바라, 프랑스의 원자력 및 대체에너지 위원회(CEA) 등이 있으며, 산업체 중에서는 러시아의 헥스레이(Hex-Rays)와 미국의 벡터35(Vector35) 정도만이 기술을 확보하고 있다.
이번 연구는 그동안 국외에서만 개발되던 바이너리 분석 분야의 기반기술이 국내에서 확보됐음을 증명했을 뿐 아니라, 세계적인 바이너리 분석 커뮤니티에서 KAIST 연구팀이 해당 분야의 새로운 한 축을 세웠다는 의미가 있다. 현재 B2R2의 소스코드는 깃허브(GitHub)에 공개돼 있다.
차상길 교수는 “해외에서 연구개발 중인 디컴파일러(Decompiler) 수준의 연구를 하기 위해서는 갈 길이 멀기 때문에 첫걸음을 뗐다고 생각한다”라며 “이를 위해 B2R2기반의 새로운 디컴파일러 관련 프로젝트를 준비 중이다”라고 말했다.
2019.03.05
조회수 18703