%EC%8B%A0%EC%8A%B9%EC%9B%90
-
챗GPT를 이용한 개인정보 악용 가능성 규명
최근 인공지능 기술의 발전으로 챗GPT와 같은 대형 언어 모델(이하 LLM)은 단순한 챗봇을 넘어 자율적인 에이전트로 발전하고 있다. 구글(Google)은 최근 인공지능 기술을 무기나 감시에 활용하지 않겠다는 기존의 약속을 철회해 인공지능 악용 가능성에 대한 논란이 불거진 점을 상기시키며, 연구진이 LLM 에이전트가 개인정보 수집 및 피싱 공격 등에 활용될 수 있음을 입증했다.
우리 대학 전기및전자공학부 신승원 교수, 김재철 AI 대학원 이기민 교수 공동연구팀이 실제 환경에서 LLM이 사이버 공격에 악용될 가능성을 실험적으로 규명했다고 25일 밝혔다.
현재 OpenAI, 구글 AI 등과 같은 상용 LLM 서비스는 LLM이 사이버 공격에 사용되는 것을 막기 위한 방어 기법을 자체적으로 탑재하고 있다. 그러나 연구팀의 실험 결과, 이러한 방어 기법이 존재함에도 불구하고 쉽게 우회해 악의적인 사이버 공격을 수행할 수 있음이 확인됐다.
기존의 공격자들이 시간과 노력이 많이 필요한 공격을 수행했던 것과는 달리, LLM 에이전트는 이를 평균 5~20초 내에 30~60원(2~4센트) 수준의 비용으로 개인정보 탈취 등이 자동으로 가능하다는 점에서 새로운 위협 요소로 부각되고 있다.
연구 결과에 따르면, LLM 에이전트는 목표 대상의 개인정보를 최대 95.9%의 정확도로 수집할 수 있었다. 또한, 저명한 교수를 사칭한 허위 게시글 생성 실험에서는 최대 93.9%의 게시글이 진짜로 인식됐다.
뿐만 아니라, 피해자의 이메일 주소만을 이용해 피해자에게 최적화된 정교한 피싱 이메일을 생성할 수 있었으며, 실험 참가자들이 이러한 피싱 이메일 내의 링크를 클릭할 확률이 46.67%까지 증가하는 것으로 나타났다. 이는 인공지능 기반 자동화 공격의 심각성을 시사한다.
제1 저자인 김한나 연구원은 "LLM에게 주어지는 능력이 많아질수록 사이버 공격의 위협이 기하급수적으로 커진다는 것이 확인됐다”며, "LLM 에이전트의 능력을 고려한 확장 가능한 보안 장치가 필요하다”고 말했다.
신승원 교수는 “이번 연구는 정보 보안 및 AI 정책 개선에 중요한 기초 자료로 활용될 것으로 기대되며, 연구팀은 LLM 서비스 제공업체 및 연구기관과 협력하여 보안 대책을 논의할 계획이다”라고 밝혔다.
전기및전자공학부 김한나 박사과정이 제1 저자로 참여한 이번 연구는 컴퓨터 보안 분야의 최고 학회 중 하나인 국제 학술대회 USENIX Security Symposium 2025에 게재될 예정이다. (논문명: "When LLMs Go Online: The Emerging Threat of Web-Enabled LLMs") DOI: 10.48550/arXiv.2410.14569
한편 이번 연구는 정보통신기획평가원, 과학기술정보통신부 및 광주광역시의 지원을 받아 수행됐다.
2025.02.24 조회수 3620 -
빅 데이터 융합연구 워크숍 개최
우리대학 연구처(처장 김정호 교수, 전기및전자공학부)와 연구기획센터가 공동으로 20일 오전 10시 30분부터 대전 본원 교육지원동(W8) 1층 대회의실에서 ‘빅 데이터 융합연구’를 주제로 워크숍을 개최한다. 교수와 연구원, 학생 등 KAIST 구성원을 대상으로 진행되는 이번 워크숍은 교수 등 학내 연구자들이 모여 교통·문화·정보보안·헬스 케어·도시 등 다양한 분야에서 생산되는 방대한 데이터를 활용한 연구 결과를 공유하고 관련 정보를 서로 교류할 수 있는 기회를 갖고자 마련됐다.
특히 빅 데이터를 활용한 실질적 연구 사례를 중심으로 한 3개의 큰 주제를 정해 프로그램을 구성했기 때문에 평소 빅 데이터 활용에 관심 있는 연구자들에게는 좋은 기회가 될 것으로 학교 측은 기대하고 있다.
‘데이터 의사결정’을 주제로 10시50분부터 시작되는 제1 세션에서는 맹성현 교수(전산학부)가 ▲인간의 경험지식 마이닝을 주제로, 이문용 교수(산업및시스템공학과)가 ▲실거래가 데이터 기반의 부동산 가치산정 모델링을, 그리고 전기및전자공학부 신승원 교수가 ▲다크웹 빅 데이터 분석: 타크웹은 어떻게 범죄에 이용되는가를 주제로 각각 강연을 진행한다.
13시10분부터 시작하는 제2 세션의 주제는 ‘미래의 도시’인데 정하웅 교수(물리학과)가 ▲도시속의 빅 데이터와 네트워크를 주제로 발표한다. 이어 박주용 교수(문화기술대학원)는 ▲문화 데이터와 복잡성의 과학이라는 주제로, 윤윤진 교수(건설및환경공학과)는 ▲빅 데이터와 교통시스템이란 주제로, 이재길 교수(산업및시스템공학과) 교수가 ▲이동경로 빅 데이터를 통한 인간행동 이해 및 예측이라는 주제로 제2 세션의 강연자로 나선다.
‘새로운 수단’이라는 주제로 진행되는 제3 세션은 ▲빅 데이터 분석을 통한 자동화된 이동통신 성능 분석(김용대 교수·전기및전자공학부) ▲새로운 RNA 규명을 위한 빅 데이터 생산 기술(김유식 교수·생명화학공학과) ▲시스템 기술관점에서의 클라우드 컴퓨팅의 진화(허재혁 교수·전산학부) ▲가상인체 CODA를 이용한 신약개발(이도헌 교수·바이오및뇌공학과)에 관한 연구결과를 발표하는 순으로 워크숍이 진행된다.
이번 워크숍을 주관하는 김정호 연구처장은 “4차 산업혁명의 기초는 빅 데이터의 확보와 활용에 있다 말해도 과언은 아니다”라고 말하고 “세계 각국과 기업은 빅 데이터를 인공지능으로 처리하는 플랫폼 확보와 함께 이를 기반으로 새로운 가치창출은 물론 자원(자본)·노동·시간 등 생산에 들어가는 각종 요소의 절감을 통해 글로벌 경쟁력을 확보해야만 생존이 가능할 것”이라고 강조했다.
2017.09.18 조회수 19302 -
신승원 교수 연구팀, SDN World Congress에서 베스트 소프트웨어 정의 네트워킹 솔루션 쇼케이스 선정
〈 신 승 원 교수 〉
전기 및 전자공학부 신승원 교수 연구팀이 주도하는 소프트웨어 정의 네트워킹 보안 프로젝트인 델타(DELTA)가 지난 10월 10일 부터 16일 사이에 네덜란드 헤이그에서 열린 유럽 최대 네트워크 컨퍼런스 (SDN 월드 콩그레스)SDN World Congress 2016 에서 베스트 소프트웨어 정의 네트워킹 솔루션 쇼케이스로 선정됐다.
이 프로젝트는 신승원 교수 연구팀의 이승수 박사과정, 윤창훈 박사과정이 주도하고 있으며 영국의 퀸즈 대학과 협력해 진행하고 있다. 국내 소프트웨어 정의 네트워킹 전문 벤처기업인 아토리서치에서 실제 테스트와 검증을 담당하고 있다.
델타 프로젝트는 소프트웨어 정의 네트워킹의 주요 구성요소인 컨트롤 플레인 및 데이터 플레인 그리고 이 두개 구성요소를 잇는 컨트롤 채널에 각각 에이전트들을 설치하고 이를 관제하는 에이전트 매니저를 통해 소프트웨어 정의 네트워크에서 발생할 수 있는 보안 취약점을 자동으로 찾아내는 도구이다.
주요 타깃은 소프트웨어 정의 네트워크에서 표준으로 사용되고 있는 오픈플로 프로토콜과 해당 프로토콜을 사용하는 컨트롤러라고 불리우는 네트워크 운영체제, 그리고 오픈플로 프로토콜을 사용하는 네트워크 스위치 장비들에 대한 공격이다.
위와 같이 에이전트 매니저를 통해 각 소프트웨어 정의 네트워킹의 주요 구성요소들을 자동으로 검증 테스트를 해주는 델타 도구를 통해 소프트웨어 정의 네트워킹을 활용한 다양한 오픈소스 프로젝트들 및 상용 제품들의 취약점을 자동으로 찾아낼 수 있어, 특히 보안이 요구되는 곳에서 많은 수요가 있을 것으로 기대하고 있다.
한편 델타 프로젝트는 현재 세계 최대 소프트웨어 정의 네트워킹 표준 단체인 오픈 네트워킹 파운데이션의 보안 프로젝트로 등록되어 있다. 이번 SDN World Congress 2016에 베스트 소프트웨어 정의 네트워킹 솔루션 쇼케이스로 선정되면서 델타 프로젝트의 필요성 및 중요성을 입증했다. 최근 오픈 네트워킹 파운데이션도 델타의 베스트 소프트웨어 정의 네트워킹 솔루션 쇼케이스 선정을 대대적으로 발표했다.
신승원 교수는 “소프트웨어 정의 네트워킹 관련 기술이 최근 매우 많이 등장하고 있는데, 아직 국내 주도로 진행되는 프로젝트가 거의 없다시피 하고 있다. 이에 본 수상은 국내 소프트웨어 정의 네트워킹 보안 기술을 세계적으로 인정받은 것으로, 한국이 소프트웨어 정의 네트워킹 보안 기술을 리드해 나갈 수 있는 가능성을 보인 것이라 할 수 있다” 고 말했다.
□ 그림 설명
그림1. 델타 프로젝트의 주요 구성요소인 에이전트 매니저와 에이전트들
2016.10.21 조회수 8726