메타버스대학원, 'IEEE VR 2026'서 논문 12편 구두 발표… 글로벌 XR 기술력 '입증'
우리 대학 메타버스대학원은 오는 3월 23일부터 25일까지 대구 EXCO에서 개최되는 '제33회 IEEE 가상현실 및 3D 사용자 인터페이스 국제 컨퍼런스(IEEE VR 2026)'에서 총 12편의 논문을 구두 발표한다. 1993년 시작된 IEEE VR은 XR분야에서 가장 공신력 있는 학술대회로, 전 세계 산학연 전문가들이 모여 최첨단 시각화 및 상호작용 기술을 논의하는 자리다.
이번 학술대회에서 KAIST는 전 세계 연구기관 중 HKUST(홍콩과기대학)에 이어,두 번째로 많은 총 12편의 논문을 발표한다. 특히 저자별 논문 발표 수 순위에서는 KAIST 메타버스대학원 우운택 교수가 총 11편의 논문을 발표하며 전 세계 연구자 중 최다 발표 1위에 올랐다. 이와 함께 KAIST의 김두영·윤보람·하태욱·송하일 등 소속 연구자들도 상위권에 대거 포진하며 XR분야의 독보적인 연구 역량을 입증했다.
KAIST 연구진이 이번에 선보이는 기술들은 메타버스 대중화의 걸림돌이었던 기술적 한계들을 정교하게 해결했다는 평가를 받는다. 주요 연구 성과로는 ▲3D 가우시안 스플래팅(3D Gaussian Splatting) 기반의 실시간 고정밀 아바타 생성 기술 ▲ 사용자 몰입감을 극대화하는 지능형 햅틱 피드백시스템 ▲차세대 AR 트래킹 및 공간 컴퓨팅 최적화 기술 등이 포함됐다. 이는 단순한 가상 공간 구현을 넘어, 메타버스를 실질적인 산업 도구로 진화시키기 위한 하드웨어와 소프트웨어의 융합적 접근으로 평가받는다.
KAIST 연구진은 기술 발표에 그치지 않고 대회 기간 중 'XR 메모리', '디지털 문화유산', '메타버스 협업 시스템' 등을 주제로 3개의 워크숍을 주관하고 기술 전시에 참여하여 국제 학술 교류와 확산의 중심축 역할을 수행할 예정이다.
KAIST 메타버스대학원 우운택 교수는 "이번 성과는 우리 대학원이 추구해 온 실무 중심의 다학제적 융합 교육과 연구가 세계적인 경쟁력을 갖췄음을 증명하는 것"이라며 "가상과 현실의 융합을 매개로 시공간을 초월하여 사람을 연결하고, 소통하고, 협력하도록 하는 초시공간 컴퓨팅 기술은 산업과 일상에 실질적인 혁신을 가져올 수 있는 기반이 될 것"이라고 강조했다.
학계와 산업계는 이번 IEEE VR 2026의 한국 개최와 KAIST의 선전이 국내 XR 산업 생태계에 강력한 동력이 될 것으로 보고 있다. 특히 생성형 AI와 결합한 XR 글래스가 차세대 개인용 컴퓨팅 기기로 급부상하는 시점에서, 개최지인 대구광역시가 추진 중인 미래 모빌리티 및 XR 거점 도시전략과도 상당한 시너지를 낼 것으로 기대된다.
향후 KAIST 메타버스대학원은 이번에 공개한 원천 기술들을 고도화하여 제조 현장의 디지털 트윈, 원격 의료 협진, 실감형 교육 솔루션 등에 활용 가능한 형태로 심화 발전시킬 방침이다. 이는 글로벌 빅테크 기업들과의 기술 격차를 좁히고, 다가 올 포스트메타버스 시장의 주도권을 한국이 선점하는 핵심 동력이 될 전망이다.
‘나빌레라’처럼 춤추는 아바타...AI가 움직임 이해하고 그려
AI가 단순히 ‘그럴듯하게 그리는 수준’을 넘어, 옷이 왜 흔들리고 주름이 생기는지까지 이해하는 시대가 열렸다. 우리 대학 연구진은 3차원 공간에서의 움직임과 상호작용을 실제 물리 법칙처럼 학습하는 새로운 생성형 AI를 개발했다. 기존 2D 기반 영상 AI의 한계를 뛰어넘은 이번 기술은 영화, 메타버스, 게임 속 아바타의 현실감을 높이고 모션캡처나 3D 그래픽 수작업을 크게 줄일 수 있을 것으로 기대를 모은다.
우리 대학은 전산학부 김태균 교수 연구팀이 기존 2D 픽셀 기반 영상 생성 기술의 한계를 극복한 공간·물리 기반 생성형 AI 모델 ‘MPMAvatar’를 개발했다고 22일 밝혔다.
연구팀은 기존 2D 기술의 문제를 해결하기 위해, 가우시안 스플래팅(Gaussian Splatting)으로 다중 시점 영상을 3차원 공간으로 재구성하고, 여기에 물리 시뮬레이션 기법(Material Point Method, MPM)을 결합한 새로운 방식을 제안했다.
즉, 여러 시점에서 촬영한 영상을 입체적으로 재구성하고, 그 안에서 물체가 실제처럼 움직이며 상호작용하도록 물리 법칙을 AI가 스스로 학습하게 한 것이다.
이를 통해 물체의 재질·형태·외부 힘에 따른 움직임을 계산하고, 그 결과를 실제 영상과 비교해 AI가 물리 법칙을 스스로 학습할 수 있도록 했다.
연구팀은 3차원 공간을 점(포인트) 단위로 표현하고, 각 점에 가우시안과 MPM을 함께 적용해 물리적으로 자연스러운 움직임과 사실적인 영상 렌더링을 동시에 구현했다.
즉, 3D 공간을 수많은 작은 점들로 쪼개어 각 점이 실제 물체처럼 움직이고 변형되도록 만들어, 현실과 거의 구분이 안 될 만큼 자연스러운 영상을 구현한 것이다.
특히 옷처럼 얇고 복잡한 물체의 상호작용을 정밀하게 표현하기 위해, 물체의 표면(메쉬)과 입자 단위 구조(포인트)를 함께 계산하고, 3차원 공간에서 물체의 움직임과 변형을 물리 법칙에 따라 계산하는 MPM(Material Point Method) 기법을 활용했다.
또한, 옷이나 물체가 움직이며 서로 부딪히는 장면을 사실적으로 재현하기 위해 새로운 충돌 처리(collision handling) 기술을 개발했다.
이 기술을 적용한 생성형 AI 모델 MPMAvatar는 느슨한 옷을 입은 사람의 움직임과 상호작용을 사실적으로 재현하고, AI가 학습 과정에서 본 적 없는 데이터도 스스로 추론해 처리하는 ‘제로샷(Zero-shot)’생성에도 성공했다.
제안된 기법은 강체, 변형 가능한 물체, 유체 등 다양한 물리적 특성을 표현할 수 있어, 아바타뿐만 아니라 일반적인 복잡한 장면 생성에 활용될 수 있다.
김태균 교수는 “이번 기술은 AI가 단순히 그림을 그리는 것을 넘어, 눈앞의 세계가 ‘왜’ 그렇게 보이는지까지 이해하도록 만든 것으로 물리 법칙을 이해하고 예측하는 ‘Physical AI’의 가능성을 보여준 연구로 이는 AGI(범용 인공지능)로 가는 중요한 전환점”이라고 설명했다. 이어 “가상 프로덕션, 영화, 숏폼, 광고 등 실감형 콘텐츠 산업 전반에 실질적으로 적용돼 큰 변화를 만들어낼 것”이라고 기대를 밝혔다.
현재 연구팀은 이 기술을 확장해, 사용자의 텍스트 입력만으로도 물리적으로 일관된 3D 동영상을 생성할 수 있는 모델 개발을 진행 중이다.
이번 연구는 KAIST 김재철AI대학원 이창민 석사과정 학생이 제1저자로, KAIST 전산학부 이지현 박사과정 학생이 공저자로 참여하였고, 연구 결과는 AI 분야 최고 권위 국제학술대회인 NeurIPS 12월 2일에 발표하며, 프로그램 코드는 모두 공개될 예정이다.
*논문: C. Lee, J. Lee, T-K. Kim, MPMAvatar: Learning 3D Gaussian Avatars with Accurate and Robust Physics-Based Dynamics,Proc. of Thirty-NinthAnnual Conf. on Neural Information Processing Systems (NeurIPS), San Diego, US, 2025
arXiv버전: https://arxiv.org/abs/2510.01619
*관련 프로젝트 사이트: https://kaistchangmin.github.io/MPMAvatar/
*AI가 그려낸 나빌레라처럼 춤추는 관련 동영상 링크: https://www.youtube.com/shorts/ZE2KoRvUF5c, https://youtu.be/ytrKDNqACqM
한편, 이 연구는 과학기술정보통신부와 정보통신기획평가원(IITP)이 지원하는 인간지향적 차세대 도전형 범용AI기술 개발사업(RS-2025-25443318)과 생성AI 선도인재양성 사업의(RS-2025-25441313) 지원을 받아 수행되었다.