KAIST

< ACL 2025 논문 채택된 에임인텔리전스 연구팀 >

< 전산학부 김현준 학사과정 >

우리 대학 전산학부 김현준 학부생이 자연어처리(NLP) 분야 세계 최고 권위 학술대회인 'ACL 2025' 메인 컨퍼런스에 제1저자 논문이 채택되는 쾌거를 달성했다고 26일 밝혔다. 

ACL(Association for Computational Linguistics)은 자연어처리 및 전산언어학 분야에서 가장 권위 있는 국제 학술대회로, 전 세계 AI 연구자들이 가장 주목하는 학술 행사 중 하나다. 학부생이 메인 컨퍼런스에서 제1 저자로 논문을 발표하는 것은 매우 이례적인 성과로 평가된다. 

혁신적인 'M2S 프레임워크'로 AI 보안의 새로운 지평을 열다

김현준 학부생이 에임인텔리전스(대표 유상윤)에서 연구 인턴으로 활동하며 개발한 연구 성과는 'One-Shot is Enough: Consolidating Multi-Turn Attacks into Efficient Single-Turn Prompts for LLMs(한 번이면 충분하다: 다중 턴 공격을 효율적인 단일 턴 프롬프트로 통합하기)'라는 제목의 논문이다. 

이 연구에서 제시한 핵심 기술인 'M2S(Multi-turn-to-Single-turn) 프레임워크'는 기존에 여러 번의 대화를 통해 수행되던 AI 공격을 단 한 번의 입력으로 압축하는 혁신적인 방법론이다. 마치 복잡한 요리 레시피를 간단한 원스톱 조리법으로 바꾸는 것처럼, 번거로운 다단계 과정을 효율적인 단일 과정으로 변환한 것이다.

복잡한 다중 턴 대화를 하이픈화, 숫자화, 파이썬화 전략을 통해 효율적인 단일 턴 프롬프트로 변환하는 과정을 보여준다. 

95.9% 성공률 달성, 기존 방식보다 토큰 사용량 80% 절약 

연구팀이 개발한 M2S 프레임워크는 '하이픈화(Hyphenize)', '숫자화(Numberize)', '파이썬화(Pythonize)'라는 세 가지 전략을 활용한다. 이는 복잡한 대화 형태의 공격을 체계적으로 정리된 단일 입력으로 변환하는 방법론이다. 

실험 결과는 놀라웠다. 미스트랄-7B 모델에서 최대 95.9%의 공격 성공률을 달성했으며, GPT-4o에서는 기존 다중 턴 공격 방식보다 17.5% 더 높은 효과를 보였다. 특히 주목할 점은 토큰 사용량을 70-80% 절약하면서도 더 높은 성능을 기록했다는 것이다. 

이는 마치 동일한 목적지에 도달하면서도 연료 소비는 5분의 1로 줄인 것과 같은 효과다. 연구팀은 "이번 발견을 통해 현재 대화형 AI의 보안 시스템이 예상보다 취약할 수 있음을 확인했다"고 설명했다.

< 그림 1. M2S(Multi-turn-to-Single-turn) 프레임워크의 작동 원리 복잡한 다중 턴 대화를 하이픈화, 숫자화, 파이썬화 전략을 통해 효율적인 단일 턴 프롬프트로 변환하는 과정을 보여준다. >

6개월 만에 AI 안전성 분야 전문가로 성장 

김현준 학부생은 "6개월 전만 해도 AI 안전성 분야에 대해 전혀 몰랐지만, 에임인텔리전스에서의 연구 인턴십을 통해 세계적 수준의 연구 성과를 달성할 수 있었다"며 소감을 밝혔다. 

그는 또한 "주 5-6시간의 대전-강남 통학에도 불구하고 실제 연구에 기여할 수 있는 기회를 놓칠 수 없었다"며 "아이디어 구상부터 실험, 논문 심사 과정에서의 추가 실험과 반박까지 전 과정을 공동 제1 저자인 하준우와 함께 수행했다"고 연구 과정을 설명했다.

AI 안전성 강화를 위한 중요한 이정표 

이번 연구는 현재 대화형 AI 시스템의 보안 취약점을 명확히 드러내며, 더 안전한 AI 개발을 위한 중요한 기초 자료를 제공한다. 연구 결과는 AI 개발자들이 보안 시스템을 강화하고, 안전장치를 더욱 정교하게 설계하는 데 중요한 지침이 될 것으로 기대된다. 

에임인텔리전스의 하준우 연구원은 "이번 연구는 현재 LLM 방어 시스템의 취약점을 명확히 보여주며, 레드팀과 안전장치 설계에 중요한 시사점을 제공한다"고 연구의 의의를 평가했다. 

국제적 연구 역량 인정받으며 KAIST 위상 제고 

이번 성과는 KAIST 전산학부의 세계적 수준의 교육과 연구 환경을 보여주는 사례로 평가된다. 학부생이 국제 최고 권위 학술대회에서 제1 저자로 논문을 발표하는 것은 KAIST의 우수한 인재 양성 시스템과 연구 역량을 국제적으로 인정받는 계기가 되고 있다. 

김현준 학부생은 현재 우리 대학 AI 대학원에서도 연구 인턴으로 활동하며 RAG(Retrieval-Augmented Generation) 기반 AI 신약 개발 연구를 진행하고 있어, 향후 AI 안전성과 응용 분야에서의 지속적인 연구 성과가 기대된다. 

paper: https://arxiv.org/abs/2503.04856

GitHub：https://github.com/Junuha/M2S_DATA