안테나 하나로 AI ‘설계도’ 훔쳐본다... 대응 기술도 제시
스마트폰 얼굴 인식부터 자율주행차까지, 인공지능(AI)은 ‘블랙박스’로 보호돼 왔다. 하지만 KAIST·국제 연구진이 벽 너머에서 AI의 ‘설계도’를 훔쳐볼 수 있는 새로운 보안 위협을 밝혀냈다. 대응 기술도 함께 제시했다. 향후 자율주행·의료·금융 등 다양한 분야에서 AI 보안을 강화하는 데 활용될 것으로 기대된다.
우리 대학 전산학부 한준 교수 연구팀은 싱가포르국립대(NUS), 중국 저장대(Zhejiang University)와의 공동 연구를 통해 소형 안테나만으로 원거리에서 인공지능(AI) 모델 구조를 탈취할 수 있는 공격 시스템 ‘모델스파이(ModelSpy)’를 개발했다고 31일 밝혔다.
이 기술은 마치 도청 장치처럼 인공지능이 작동할 때 발생하는 미세한 신호를 포착해 내부 구조를 분석하는 방식이다. 연구팀은 인공지능 연산을 담당하는 그래픽 처리 장치(GPU)에서 발생하는 전자기파에 주목했다.
AI가 복잡한 연산을 수행할 때 GPU에서는 미세한 전자기 신호가 발생하는데, 연구팀은 이 신호의 패턴을 분석해 모델의 층 구성과 세부 설정값을 복원하는 데 성공했다.
실험 결과, 최신 GPU 5종을 대상으로 벽 너머나 최대 6m 거리에서도 인공지능 모델 구조를 높은 정확도로 파악할 수 있었다. 특히 딥러닝 모델의 핵심 구조인 레이어를 최대 97.6%의 정확도로 추정했다.
이번 기술은 기존 해킹처럼 서버에 직접 침투하거나 악성코드를 설치할 필요 없이, 가방에 넣을 수 있는 소형 안테나만으로도 공격이 가능하다는 점에서 큰 보안 위협으로 평가된다.
연구팀은 이러한 기술이 악용될 경우 기업의 핵심 AI 자산이 외부로 유출될 수 있다고 보고, 전자기파 교란이나 연산 난독화 등 대응 기술도 함께 제시했다. 단순한 공격 시연을 넘어 현실적인 방어 방안을 제안했다는 점에서 책임 있는 보안 연구 사례로 평가된다.
한준 교수는 “이번 연구는 AI 시스템이 물리적 환경에서도 새로운 공격에 노출될 수 있음을 입증한 사례”라며 “자율주행이나 국가 기반 시설과 같은 중요한 AI 인프라를 보호하기 위해 하드웨어와 소프트웨어를 아우르는‘사이버-물리 보안’체계 구축이 중요하다”고 밝혔다.
이번 연구는 KAIST 전산학부 한준 교수가 공동 교신저자로 참여했으며, 컴퓨터 보안 분야 최고 권위 학술대회인 ‘NDSS(Network and Distributed System Security Symposium) 2026’에서 발표됐다. 또한 연구의 혁신성을 인정받아 최우수 논문상을 수상했다.
※ 논문명: Peering Inside the Black-Box: Long-Range and Scalable Model Architecture Snooping via GPU Electromagnetic Side-Channel,
논문 링크: https://www.ndss-symposium.org/ndss-paper/peering-inside-the-black-box-long-range-and-scalable-model-architecture-snooping-via-gpu-electromagnetic-side-channel/
2019 KAIST 핵심 기술이전 설명회 개최
우리 대학은 오는 9월 17일 서울 코엑스에서 `2019 화이트리스트 배제 대응 기술을 중심으로 한 KAIST 핵심 기술이전 설명회'를 개최한다.
올해로 3회째를 맞는 KAIST 핵심 기술이전 설명회는 한일 무역 분쟁과 관련한 현 시국을 반영해 화이트리스트 배제 대상 품목들에 대응할 수 있는 첨단 소재부품장비 기술 4개를 특별히 선정했다.
또한, AI 및 소재부품 특허기술 5개를 공개해 KAIST 연구진이 보유한 우수 기술을 기업에 이전하고 일자리 창출과 기업의 경쟁력을 높이는 산학 협력 모델 구축에 일조할 예정이다.
KAIST 산학협력단 기술사업화센터(단장 최경철)는 대일 의존도가 높은 품목을 대체할 수 있는 ①저열팽창 불소화 투명폴리이미드(화학과 김상율 교수), ②비파괴 및 전자기적 성능 평가 시스템(항공우주공학과 이정률 교수), ③나노기술을 활용한 차세대 이차전지용 전극소재기술(신소재공학과 김도경 교수), ④고해상도 포토레지스트 기술(화학과 김진백 명예교수) 등 화이트리스트 배제에 대응하는 기술 4개를 선보인다.
특히, 이정률 교수의 비파괴 검사장비 기술은 외산 대비 50% 이상의 원가 절감이 가능하며 이 장비에 기반한 시스템을 도입할 경우 기존 기술로는 불가능했던 검사도 가능해진다.
김도경 교수의 차세대 이차전지 전극소재 기술은 전기자동차 등의 주행거리를 향상할 수 있으며, 상대적으로 원가 절감이 가능한 나트륨 이온 전지를 사용해 리튬 원자재 비용 상승에 대비할 수 있는 장점이 있다.
이밖에, KAIST가 엄선한 AI 및 소재부품 특허기술도 소개된다. ①네트워크와 단말기 리소스를 고려한 딥러닝 기반 콘텐츠 비디오 전송 기술(전기및전자공학과 한동수 교수) ②신경과학-인공지능 융합형 뇌-컴퓨터 인터페이스 기술(바이오및뇌공학과 이상완 교수) ③친환경 상온 나노입자 제조기술 및 전자빔 조사를 이용한 무독성 자외선 차단제 제조기술(원자력및양자공학과 조성오 교수) ④나노섬유 얀 기반 유해가스 검출 및 질병 진단용 초고감도 색변화 센서 플랫폼 개발(신소재공학과 김일두 교수) ⑤에너지 밀도가 높은 실리콘-포켓 이차 전지 전극 및 전극 제조 기술(EEWS대학원 강정구 교수) 등 총 5개다.
김일두 교수의 나노섬유 기반 색변화 센서는 사람의 호흡만으로 간편하게 질병을 진단할 수 있는 기술이다. 생산성과 가공성도 높아 현재 성장 중인 질병 진단용 센서 시장에서 모바일 기기·웨어러블 센서 등 다양한 분야에 적용 가능할 것으로 기대되고 있다.
또한, 한동수 교수의 비디오 전송 기술은 비디오 스트리밍의 화질을 크게 향상하고 제공자의 비용도 절감할 수 있어 OTT 및 VOD 서비스 시장의 지속 성장과 함께 주목받고 있다.
KAIST 기술사업화센터 관계자는 "직접 연구·개발해 특허를 보유한 교내 우수 기술을 대상으로 지난 6월부터 발굴 작업을 수행했다ˮ고 전했다. 이 관계자는 이어 "향후 다양한 분야에 적용할 수 있는 응용 가능성과 시장규모·기술혁신성 등을 주요 평가 지표로 삼아 핵심 특허기술을 선정했으며 8월 2일 이후 일본 화이트리스트 제외에 따른 대응 기술을 발굴해 추가로 선정했다.ˮ고 밝혔다.
이를 위해, 교수 및 변리사·벤처 투자자·사업화 전문가 등 20명 내외로 구성된 심사단이 평가를 진행했으며 선정된 기술은 비즈니스 모델 개발, 특허-R&D 연계 전략 분석 및 국내·외 마케팅 우선 추진 등 KAIST로부터 다양한 지원을 받게 된다.
17일 열리는 설명회에는 기술 개발 및 기술이전을 포함한 상호 협력 방안을 논의하기 위해 기업 관계자 및 투자자 등 200여 명을 초청할 예정이며 연구자인 KAIST 교수 9인도 직접 참석한다. AI 및 소재부품 핵심 기술 및 화이트리스트 대응 기술에 대한 자세한 설명과 함께 현장에서 기술 이전에 관한 상담 등도 진행된다. 또한, KAIST 연구부총장 등 내·외빈이 참석해 혁신성장 시대를 맞은 대학의 첨단 기술사업화 중요성을 강조할 계획이다.
최경철 산학협력단장은 "2017년부터 매년 개최하고 있는 KAIST 핵심 특허 기술 이전 설명회는 기업이 4차 산업 혁명에 대비할 수 있도록 KAIST의 기술을 적극적으로 이전하고 기업의 일자리 창출 및 글로벌화 등 발전을 모색할 수 있는 새로운 산학협력의 모델이 될 것”이라고 말했다.
또한, 최 단장은 "KAIST는 일본의 화이트리스트 제외와 관련하여 KAIST 소재부품장비 기술자문단(KAIST Advisors on Materials and Parts, KAMP) 지원과 함께 산학협력단 차원에서 배제 조치에 대응할 수 있는 관련 기술을 적극적으로 발굴하고 있다ˮ고 언급했다. 이어, 최 단장은 "KAIST의 기술로 어려움을 겪고 있는 기업들의 소재부품 국산화 및 국가적 위기 상황을 극복하는 일에 힘을 보태고자 한다ˮ고 강조했다.
※ 참가신청 사이트 바로가기: http://tech4.kaist.ac.kr/
대장균 이용 농·의약품 및 나일론 전구체 제작 원천기술 개발
<이 상 엽 특훈교수>
우리 대학 생명화학공학과 이상엽 특훈교수 연구팀이 11일 세계 최초로 미생물을 이용한 1,3-다이아미노프로판(원, 쓰리-다이아미노프로판) 생산에 성공했다.
이번 연구결과는 사이언티픽 리포트(Scientific Reports) 11일자에 게재됐다.
1,3-다이아미노프로판은 에폭시 수지의 가교제와 의약 및 농약제품 제작에 이용되는 핵심 화학물질이다. 또한 중합반응을 통해 의료용 접착제, 엔지니어링 플라스틱 등으로 이용되는 나일론(폴리아마이드)을 제작할 수 있다.
이 1,3-다이아미노프로판은 현재 석유를 통해 생산된다. 그러나 기후변화와 환경문제를 유발하고 한정자원인 석유화학공정을 이용한다는 한계가 있어 연구팀은 지속가능한 친환경 바이오화학공정으로 재편에 힘쓰고 있다.
이상엽 교수 연구팀은 세계 최초로 대장균을 이용한 1,3-다이아미노프로판 생산에 성공해 지속가능한 자원인 바이오매스로부터 생산 가능성을 열었다.
연구팀은 자체적으로 1,3-다이아미노프로판을 생산할 수 없는 대장균의 문제점 해결을 위해 시스템 대사공학을 이용했다. 시스템 대사공학은 세포전체 대사회로를 정량, 정성적 분석 후 시스템 수준에서 총체적으로 조작해 원하는 화합물을 대량생산하는 기술이다.
연구팀의 생산 과정은 ▲외래 미생물의 1,3-다이아미노프로판 생산 대사회로를 컴퓨터 가상 세포에 도입해 가장 효율적인 대사회로를 결정한 후 ▲이 대사회로를 실제 대장균에 도입해 1,3-다이아미노프로판 생산 ▲마지막으로 추가적인 시스템 대사공학을 통해 약 21배 이상 생산량을 증가시켜 최종 발효를 통해 배양액 1 리터당 13그램의 1,3-다이아미노프로판 생산에 성공했다.
이 기술로 재생 가능 비식용 바이오매스를 이용한 1,3-다이아미노프로판 생산이 가능해져 기존 석유기반 화학 산업을 바이오리파이너리(Bio-refinery)로 대체할 수 있을 것으로 기대된다.
이 교수는 “이번 연구는 세계 최초로 KAIST 연구실에서 바이오리파이너리를 통해 1,3-다이아미노프로판 생산 가능성을 제시한 점에서 의의를 갖는다”며 “더 많은 연구를 통해 생산량 및 생산성을 증산할 계획이다”고 말했다.
이번 연구는 미래창조과학부의 기후변화대응 기술개발사업의 지원을 받아 수행됐고, KAIST 채동언(박사과정) 학생이 제 1저자로 참여했다.
□ 그림 설명
그림 1. C4 대사회로를 이용하여 1,3-다이아미노프로판을 생산하기 위한 대사공학 전략들
그림 2. 최종적으로 엔지니어된 대장균들의 발효 프로파일
세계 최초로 미생물 이용 가솔린 생산
- 대장균의 지방산 대사회로를 대사공학적으로 개량하여 알코올, 디젤, 가솔린 생산 -
우리 학교 연구진이 세계 최초로 대사공학적으로 개발된 미생물을 이용하여 바이오매스로부터 가솔린(휘발유)을 생산하는 원천기술을 개발했다. 이 신기술은 나무 찌꺼기, 잡초 등 풍부한 비식용 바이오매스를 이용하여 가솔린, 디젤과 같은 바이오연료, 플라스틱과 같은 기존 석유화학제품을 생산할 수 있어 생명공학 등 관련 산업기술 발전에 크게 기여할 것으로 기대된다.
이번 연구는 미래창조과학부(장관 최문기) 글로벌프론티어사업의 차세대 바이오매스 연구단(양지원 단장)과 기후변화대응 기술개발사업의 지원으로 이상엽 특훈 교수팀이 진행하였으며, 연구결과는 네이처(Nature) 9월 30일(온라인판)에 게재되었다.
* 논문명 : Microbial production of short-chain alkanes
연구팀은 세포의 유전자를 조작하여 원하는 형태의 화합물을 대량으로 생산하도록 하는 기술인 대사공학을 이용하여 크래킹(cracking) 없이 세계 최초로 미생물에서 직접 사용가능한 가솔린을 생산하는데 성공했다.
* 크래킹 : 끓는점이 높은 중질유를 분해하여 원료유보다 끓는점이 낮은 경질유로 전환하는 방법
가솔린은 탄소수가 4~12개로 이루어진 사슬모양의 탄화수소 화합물로 그 동안 미생물을 이용하여 ‘짧은 사슬길이의 Bio-Alkane(가솔린)’을 생산하는 방법은 개발되지 않았다. 따라서 기존 기술은 추가적인 크래킹(cracking) 과정을 거치지 않고는 가솔린으로 전환할 수 없어 비용과 시간이 많이 소요되는 한계가 있었다.
* 2010년 미국에서 사이언스지에 발표한 미생물 이용 Bio-Alkane(배양액 1리터당 약 300mg)의 경우 탄소 사슬 길이가 13~17개인 바이오 디젤에 해당
연구팀은 대사공학기술을 미생물에 적용하여 지방산 합성을 저해하는 요소를 제거하고, 지방산의 길이를 원하는 목적에 맞게 조절할 수 있는 효소를 새롭게 발견하였으며, 개량된 효소를 도입하여 미생물에서 생산하기 어려운 길이가 짧은 길이의 지방산 생산에 성공하였다.
또한 세포내에 생산된 짧은 길이의 지방산 유도체로부터 가솔린을 생산할 수 있는 추가 대사반응과 생물체 내에 존재하지 않는 식물 유래의 신규 효소를 포함하는 합성대사경로를 도입하여 최종 대장균 생산균주를 개발하였다. 이렇게 개발된 대장균을 배양하여 배양액 1리터당 약 580mg의 가솔린을 생산하는데 성공했다.
개발된 기술은 바이오 연료, 생분해성 플라스틱 등과 같은 다양한 바이오 화합물을 생산할 수 있는 플랫폼 기술이 될 수 있을 것으로 전망된다.
또한 이 기술을 활용하면 재생 가능한 바이오매스를 전환하여 바이오 연료, 계면활성제, 윤활유 등으로 이용할 수 있는 알코올(Fatty alcolols) 및 바이오 디젤(Fatty ester)도 생산이 가능하다는 점에서 기존의 석유기반 화학산업을 바이오기반 화학산업으로 대체하는 기반이 될 수 있을 것으로 기대된다.이상엽 교수는 “비록 생산 효율은 아직 매우 낮지만 미생물을 대사공학적으로 개량하여 가솔린을 처음으로 생산하게 되어 매우 의미있는 결과라고 생각하며, 향후 가솔린의 생산성과 수율을 높이는 연구를 계속할 예정”이라고 밝혔다.
그림 1. 대장균을 이용한 바이오 매스로부터 short-chain alkane(가솔린)을 생산하는 대사회로
a) 지방산 분해 회로 차단, b) 바이오 매스로부터 짧은 길이의 지방산을 대량 생산, c) 지방산을 가솔린 생산의 중간체인 fatty acyl-CoA로의 전환 유도, d) fatty acyl-CoA의 가솔린의 직접적인 전구체인 fatty aldehyde로의 전환 유도, e) 최종 가솔린 생산
(보충설명) 미생물의 세포 내부를 들여다보면, 매우 복잡한 지방산 대사회로 네트워크가 존재 한다. 지방산은 세포 내부에서 합성되어, 미생물이 살아가는데 필요한 세포막을 형성하거나, 분해되어 에너지원으로 사용되기도 한다. 대부분의 미생물에서 지방산은 전체 세포의 1%도 되지 않을 만큼 소량 만들어지고, 지방산의 길이 또한 매우 길기 때문에, 이러한 지방산을 이용해서 우리가 원하는 화합물을 대량으로 만들거나, 새로운 화합물을 생산하는 것은 매우 어려웠다. 이를 극복하기 위하여, 이상엽 특훈교수 연구팀은 시스템 대사공학적 기법을 대장균에 도입하여 효소의 개량 및 지방산 합성을 저해하는 요소를 제거하여 짧은 길이의 지방산 과생산에 성공하였고, 생물체내에 존재 하지 않는 신규 회로를 도입하여 지방산을 가솔린으로 전환하는데 성공하였다.
그림 2. short chain alkane을 생산하는 발효 공정 시스템 (보충 설명) 위와 같은 cooling 장치가 연결된 발효기를 통하여 가솔린을 생산함