연구
< (왼쪽부터) KAIST 오성룡 박사과정, 김윤성 박사과정, 김원웅 박사과정, 이유빈 박사과정, 정지용 석사과정 (동그라미 사진 왼쪽부터) 전산학부 박종세 교수, 조지아텍 다비야 마하잔 교수, 스웨덴 웁살라 대학 박창현 교수 >
최근 인공지능(AI) 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서, 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있다. 이런 가운데 우리 대학 ·국제연구진이 거대언어모델(LLM)의 추론 속도는 4배 높이면서 전력 소비는 2.2배 줄인 트랜스포머(Transformer)와 맘바(Mamba) 하이브리드 구조 기반의 AI 반도체 핵심 두뇌 기술을 세계 최초로 메모리 내부에서 직접 연산이 가능한 형태로 구현하는 데 성공했다.
우리 대학은 박종세 교수 연구팀이 미국 조지아 공과대학교(Georgia Institute of Technology) 및 스웨덴 웁살라 대학교(Uppsala University)와 공동연구를 통해, 차세대 인공지능 모델의 두뇌 역할을 하는 ‘AI 메모리 반도체(PIM, Processing-in-Memory)’ 기반 기술 ‘PIMBA’를 개발했다고 17일 밝혔다.
현재 ChatGPT, GPT-4, Claude, Gemini, Llama 등 LLM은 모든 단어를 동시에 보는 ‘트랜스포머(Transformer)’ 두뇌 구조를 기반으로 작동한다. 이에 따라, AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해, 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔다.
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 ‘맘바(Mamba)’ 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만, 여전히 메모리 병목 현상(memory bottleneck)과 전력 소모 한계가 남아 있었다.
박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 ‘트랜스포머–맘바 하이브리드 모델’의 성능을 극대화하기 위해, 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 ‘PIMBA’를 설계했다.
기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만, PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행한다. 이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있다.
< 포스트-트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 >
그 결과, 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4.1배 향상되었고, 에너지 소비는 평균 2.2배 감소하는 성과를 보였다.
연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 ‘제58회 국제 마이크로아키텍처 심포지엄(MICRO 2025)’에서 발표될 예정이며, 앞서 ‘제31회 삼성휴먼테크 논문대상’ 금상을 수상해 우수성을 인정받았다.
※논문명: Pimba: A Processing-in-Memory Acceleration for Post-Transformer Large Language Model Serving, DOI: 10.1145/3725843.3756121
이번 연구는 정보통신기획평가원(IITP), 인공지능반도체대학원 지원사업, 그리고 과학기술정보통신부와 정보통신기획평가원의 ICT R&D 프로그램의 일환으로 한국전자통신연구원(ETRI)의 지원을 받아 수행되었으며, EDA 툴은 반도체설계교육센터(IDEC)의 지원을 받았다.
-
연구 파네시아·메타 ‘하나의 칩처럼 움직이는 AI 데이터센터 (AI DC)’ 구조 제시
우리 대학에서 축적된 반도체·컴퓨터 시스템 연구가 교원 창업을 거쳐 글로벌 빅테크 메타(Meta)와의 협력으로 확장되며 차세대 AI 데이터센터(AI DC)의 새로운 설계 방향을 제시했다. CPU·AI 가속기·메모리를 하나로 묶어 데이터센터 전체가 마치 ‘하나의 거대한 칩’처럼 움직이도록 하는 구조다. 우리 대학은 전기및전자공학부 정명수 교수와 교원창업기업인 팹리스(fabless, 반도체 설계 전문기업) 파네시아 연구진이 메타 연구진과 함께 차세대 AI 데이터센터 구조를 제시한 리뷰 논문을 네이처(Nature)가 발행하는 국제 학술지 ‘네이처 리뷰 일렉트리컬 엔지니어링(Nature Reviews Electrical Engineering, NREE)’에 게재했다고 9일 밝혔다. 이번 성과는 KAIST에서 시작된 연구가 교원 창업을 통해 실제 반도체 기술로 발전하고, 글로벌 기업과의 공동 연구로 이어져
2026-09-09 -
연구 AI 업무비서 실수해도 ‘처음부터 다시’ 없다…틀린 곳만 고친다
“지난해 가장 많이 팔린 상품을 찾아줘.” AI가 회사 자료를 찾는 과정에서 존재하지 않는 항목을 잘못 사용하면 검색이 실패할 수 있다. 지금까지는 작은 오류 하나에도 검색 명령 전체를 다시 만들어야 했지만, 우리 대학 연구진이 틀린 부분만 찾아 바로잡는 기술을 개발했다. AI의 데이터 검색을 더 빠르고 정확하게 만들어 기업의 ‘AI 업무비서’ 활용을 앞당길 것으로 기대된다. 우리 대학은 전산학부 김민수 교수 연구팀이 사람의 일상적인 질문을 데이터베이스에서 원하는 정보를 찾는 컴퓨터 명령어인 SQL(Structured Query Language)로 바꾸는 과정에서 발생하는 오류를 찾아 수정하는 기술 ‘세이프큐엘(SafeQL)’을 개발했다고 4일 밝혔다. 최근에는 “지난해 매출이 가장 많이 늘어난 상품은?”, “재고가 부족한 상품은?”처럼 일상적인 말로 질문하면 AI가
2026-09-04 -
연구 CO₂보다 6,000배 강력한 반도체 온실가스…‘무질서의 힘’으로 잡는다
반도체를 만들 때 사용하는 가스 중에는 이산화탄소보다 6,000배 이상 강력한 온실가스가 있다. 우리 대학 연구진이 여러 금속 원자를 섞으면 오히려 구조가 안정되는 ‘무질서의 힘’을 이용해 이 가스를 높은 효율로 없애면서, 온실가스 분해를 돕는 촉매도 오래 사용할 수 있는 기술을 개발했다. 우리 대학은 생명화학공학과 최민기 교수 연구팀이 삼성전자 연구진과 공동연구를 통해 반도체 미세회로를 만드는 공정 등에 사용되는 온실가스인 사불화탄소(CF₄)를 높은 효율로 장기간 제거할 수 있는 새로운 촉매를 개발했다고 3일 밝혔다. CF₄는 반도체 웨이퍼에서 필요 없는 부분을 선택적으로 깎아 미세한 회로를 만드는 건식 식각 공정 등에 사용된다. 문제는 사용 후 남은 미량의 CF₄다. 탄소와 불소가 매우 단단하게 결합돼 있어 쉽게 분해되지 않고, 대기 중으로 배출되면 약 5만 년 동안 남을 수 있다. 지구온난화에 미치는 영향도 이산화탄소보다 6,000배 이상 크다.
2026-09-03 -
행사 KAIST-Caltech, 연구 넘어 ‘인재도 함께 키운다’…글로벌 공동지도 모델 구축
우리 대학이 세계적인 연구기관인 미국 캘리포니아공과대학교(California Institute of Technology, 이하 ‘Caltech’)와 공동연구를 넘어 차세대 연구자까지 함께 키우는 새로운 글로벌 협력 모델을 구축한다. 우리 대학은 9월 1일부터 2일까지 Caltech과 ‘제1회 KAIST-Caltech 분자과학 및 화학혁신 공동 워크숍(1st KAIST-Caltech Joint Workshop on Molecular Science and Chemical Innovation)’을 개최한다고 2일 밝혔다. 이번 워크숍은 양 기관이 첨단 분자과학과 미래 화학기술 분야의 연구성과를 공유하는 데 그치지 않고, 공동연구와 인재양성, 연구시설 활용까지 연결하는 지속 가능한 협력체계를 구축하기 위해 마련됐다. 특히 KAIST와 Caltech 교수가 박사후연구원(Postdoctoral Researcher)을 함께 선발하고 지도하는
2026-09-02 -
연구 “신약 설계해줘”... 소버린 바이오 AI 'K-Fold' 공개
“이 단백질에 잘 결합하는 신약 후보를 설계해줘.” 연구자가 AI에게 이렇게 요청하면 AI가 단백질의 3차원 구조를 예측하고, 어떤 물질이 잘 결합할지 분석해 유망한 신약 후보를 설계한다. 우리 대학 연구진이 세계에서 가장 빠르게 단백질 구조 예측을 수행하는 바이오 AI 모델 ‘K-Fold(케이폴드)’를 국내 독자 기술로 개발했다. 우리 대학은 과학기술정보통신부 ‘AI 특화 파운데이션 모델 프로젝트’의 주관기관으로 ‘팀 KAIST’를 구성하고, 차세대 바이오 AI 모델 ‘K-Fold’를 공개했다고 28일 밝혔다. ‘팀 KAIST’는 화학과 김우연 교수가 연구를 총괄하고, 김우연 교수 그룹과 김재철AI대학원 황성주·안성수 교수 그룹 연구원들이 AI 모델 개발을, 생명과학과 오병하·김호민·이규리 교수가 단백질
2026-08-28