연구
< (왼쪽부터) KAIST 오성룡 박사과정, 김윤성 박사과정, 김원웅 박사과정, 이유빈 박사과정, 정지용 석사과정 (동그라미 사진 왼쪽부터) 전산학부 박종세 교수, 조지아텍 다비야 마하잔 교수, 스웨덴 웁살라 대학 박창현 교수 >
최근 인공지능(AI) 모델이 길고 복잡한 문장을 이해하고 처리하는 능력이 커지면서, 연산 속도와 메모리 효율을 동시에 높일 수 있는 새로운 반도체 기술의 필요성이 커지고 있다. 이런 가운데 우리 대학 ·국제연구진이 거대언어모델(LLM)의 추론 속도는 4배 높이면서 전력 소비는 2.2배 줄인 트랜스포머(Transformer)와 맘바(Mamba) 하이브리드 구조 기반의 AI 반도체 핵심 두뇌 기술을 세계 최초로 메모리 내부에서 직접 연산이 가능한 형태로 구현하는 데 성공했다.
우리 대학은 박종세 교수 연구팀이 미국 조지아 공과대학교(Georgia Institute of Technology) 및 스웨덴 웁살라 대학교(Uppsala University)와 공동연구를 통해, 차세대 인공지능 모델의 두뇌 역할을 하는 ‘AI 메모리 반도체(PIM, Processing-in-Memory)’ 기반 기술 ‘PIMBA’를 개발했다고 17일 밝혔다.
현재 ChatGPT, GPT-4, Claude, Gemini, Llama 등 LLM은 모든 단어를 동시에 보는 ‘트랜스포머(Transformer)’ 두뇌 구조를 기반으로 작동한다. 이에 따라, AI 모델이 커지고 처리 문장이 길어질수록 연산량과 메모리 요구량이 급증해, 속도 저하와 에너지 소모가 주요 문제로 지적돼 왔다.
이런 트랜스포머 문제점을 보완하기 위해 최근 제시된 순차형 기억형 두뇌인 ‘맘바(Mamba)’ 구조는 시간의 흐름에 따라 정보를 처리하는 방식을 도입해 효율을 높였지만, 여전히 메모리 병목 현상(memory bottleneck)과 전력 소모 한계가 남아 있었다.
박종세 교수 연구팀은 트랜스포머와 맘바의 장점을 결합한 ‘트랜스포머–맘바 하이브리드 모델’의 성능을 극대화하기 위해, 연산을 메모리 내부에서 직접 수행하는 새로운 반도체 구조 ‘PIMBA’를 설계했다.
기존 GPU 기반 시스템은 데이터를 메모리 밖으로 옮겨 연산을 수행하지만, PIMBA는 데이터를 옮기지 않고 저장장치 내부에서 바로 계산을 수행한다. 이로써 데이터 이동 시간을 최소화하고 전력 소모를 크게 줄일 수 있다.
< 포스트-트랜스포머 모델 분석 및 문제해결형 가속 시스템 제안 >
그 결과, 실제 실험에서 PIMBA는 기존 GPU 시스템 대비 처리 성능이 최대 4.1배 향상되었고, 에너지 소비는 평균 2.2배 감소하는 성과를 보였다.
연구 성과는 오는 10월 20일 서울에서 열리는 세계적 컴퓨터 구조 학술대회 ‘제58회 국제 마이크로아키텍처 심포지엄(MICRO 2025)’에서 발표될 예정이며, 앞서 ‘제31회 삼성휴먼테크 논문대상’ 금상을 수상해 우수성을 인정받았다.
※논문명: Pimba: A Processing-in-Memory Acceleration for Post-Transformer Large Language Model Serving, DOI: 10.1145/3725843.3756121
이번 연구는 정보통신기획평가원(IITP), 인공지능반도체대학원 지원사업, 그리고 과학기술정보통신부와 정보통신기획평가원의 ICT R&D 프로그램의 일환으로 한국전자통신연구원(ETRI)의 지원을 받아 수행되었으며, EDA 툴은 반도체설계교육센터(IDEC)의 지원을 받았다.
-
연구 정보는 있는데 AI가 못 찾는다?...데이터 바뀌어도 최신 정보 놓치지 않는다
회사 규정이 바뀌어 새 문서가 올라왔는데도 사내 AI가 예전 규정을 찾아 답한다면 어떨까. 새로운 정보가 계속 추가되고 오래된 정보가 사라지면, AI는 정답이 되는 자료가 있어도 이를 제대로 찾지 못할 수 있다. 우리 대학 연구진이 데이터가 계속 바뀌어도 필요한 정보까지 찾아가는 ‘검색 길’을 유지해, AI가 최신 정보를 더 정확하고 빠르게 찾는 기술을 개발했다. 우리 대학은 전산학부 김민수 교수 연구팀이 데이터가 지속적으로 추가되고 삭제되는 환경에서도 높은 검색 정확도를 안정적으로 유지하는 동적 벡터 검색 기술인 ‘콘다(CONDA, Connectivity-Aware Dynamic Index)’를 개발했다고 5일 밝혔다. 생성형 AI는 학습이 끝난 뒤 새롭게 등장한 정보를 스스로 알지 못한다. 이를 보완하기 위해 최신 뉴스나 기업 내부 문서 등을 검색해 답변에 활용하는 ‘검색증강생성(RAG·Retrieval-A
2026-10-06 -
연구 움직임의 흐름 읽는 AI 반도체 개발…웨어러블 기기 활용 기대
몸에 착용하는 기기가 걷는 동작과 잠깐 팔을 흔드는 동작을 구별하려면 움직임의 흐름을 읽어야 한다. 한국 연구진은 반응 속도가 다른 반도체를 층층이 쌓아 방금 일어난 변화와 앞선 변화를 함께 읽는 기술을 개발했다. 향후 몸에 붙이거나 착용하는 작은 기기가 움직임과 몸의 신호를 분석하는 데 활용될 수 있다. 우리 대학은 AI시스템학과 권지민 교수 연구팀이 UNIST(총장 박종래), POSTECH(총장 김성근) 연구진과 함께 이온을 담은 소재를 단단한 얇은 막으로 만들고, 이를 이용해 반응 속도가 다른 반도체 소자를 여러 층으로 쌓는 데 성공했다고 29일 밝혔다. 이 반도체는 전기를 가하면 소재 안의 ‘이온’이 움직이면서 전류의 흐름이 바뀐다. 전기를 끊어도 이온이 원래 상태로 돌아오는 데는 시간이 걸린다. 종을 친 뒤 소리가 잠깐 남듯, 반도체에도 앞서 들어온 신호의 흔적이 잠시 남는 것이다. 연구팀은 그동안 단점으로 여겨졌던 이온의 느린 움직임을 지난
2026-09-29 -
행사 KAIST, 국내 최초 범용인공지능(AGI) 연구소 출범
학습한 문제를 잘 푸는 현재의 인공지능을 넘어, 처음 접하는 문제와 환경에서도 스스로 판단하고 적응할 수 있는 범용인공지능(Artificial General Intelligence, AGI) 원천기술 개발을 위해 우리 대학이 AGI 전담 연구소를 출범했다. 우리 대학은 지난 18일 내부 승인 절차를 마치고 AI연구원 산하에 AGI 연구소(AGI Research Institute)를 공식 출범했다고 밝혔다. 전산학부, AI컴퓨팅학과, 김재철AI대학원, 전기및전자공학부 소속 교수 11명이 참여하며, 김태균 전산학부 교수가 초대 소장을 맡았다. 연구진은 향후 참여 범위를 점차 확대할 계획이다. AGI 연구소는 기초연구를 통해 범용인공지능의 과학과 공학을 발전시키고 그 성과와 혜택을 사회에 환원하는 것을 목표로 한다. 특히 기존에 접하지 않은 과제와 환경, 데이터에서도 학습한 지식을 활용할 수 있는 AI의 ‘일반화(Generalization)’ 능력을 핵심
2026-09-22 -
연구 필요한 곳만 쏙쏙 도핑… 손상 없이 성능 ‘260배’ 끌어올렸다
2차원 반도체 원자층을 완벽히 보호하면서도 저전압 구동 성능을 최대 260배까지 끌어올린 혁신적인 도핑 공정 기술이 개발됐다. 우리 대학 최성율·김용훈·강기범 교수 공동연구팀이 초박막 이중 보호층을 활용해 이황화몰리브덴(MoS2) 2차원 반도체*를 보호하면서 필요한 영역에 선택적으로 고농도 전자 도핑할 수 있는 기술을 개발했다고 밝혔다. * 이황화몰리브덴(MoS2) 2차원 반도체 : 몰리브덴(Mo) 원자 하나와 황(S) 원자 두 개가 결합하여 층상 구조를 이루는 대표적인 2차원 전이금속 반도체 소재. 이번 연구성과는 과학기술정보통신부와 한국연구재단이 추진하는 나노·소재기술 개발사업과 중견연구 지원사업의 지원을 받아 수행됐으며, 국제학술지 ‘어드밴스드 머티리얼즈(Advanced Materials)’에 8월 1일 게재됐다. 원자 한 층 수준으로 극도로 얇은 2차원 반도체는 소자를 미세화하더라도 우수한 전기적 제어력을
2026-09-21 -
연구 한 번 배운 풀이 기억…스마트폰 AI가 비슷한 문제 스스로 푼다
어려운 문제를 풀 때마다 전문가에게 다시 묻는 대신, 한 번 배운 풀이를 공책에 적어두고 비슷한 문제에 활용하는 AI 기술이 나왔다. 우리 대학 연구진은 스마트폰 속 소형 AI가 서버의 대형 AI에게서 얻은 지식을 기기에 쌓아두고 재사용하도록 해, 높은 정확도를 유지하면서 서버 호출을 평균 55.61% 줄였다. 비슷한 문제를 만날수록 서버에 덜 의존하고 더 빠르게 판단하는 모바일 AI의 가능성을 제시한 것이다. 우리 대학은 전산학부 이재길 교수 연구팀이 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 기기-서버 협업 기술 ‘CURE(Cumulative Knowledge Reuse, 누적 지식 재사용)’를 개발했다고 21일 밝혔다. 스마트폰과 같은 기기는 계산 능력과 메모리가 제한돼 가벼운 소형 AI 모델을 주로 사용한다. 소형 모델은 간단한 문제는 빠르게 처리하지만, 복잡하거나 낯선 이미지를 구분할 때는 정확도가 떨어질 수 있다. 반대로 모든
2026-09-21