
< (왼쪽부터) KAIST 이상완 교수, 성도윤 박사과정, (상단) IBM AI연구소 마티아 리고티Mattia Rigotti 박사 >
사람은 갑작스러운 변화가 닥쳐도 금세 계획을 새로 세우고 목표를 조정하는 안정성과 유연성을 동시에 갖추고 있다. 그러나 이세돌 기사와 대국을 펼친 알파고를 비롯해 로봇 분야에 널리 사용되는 모델 프리 AI는 이러한 두 능력을 함께 구현하지 못한다. 우리 대 연구팀은 그 이유가 전두엽의 독특한 정보 처리 방식에 있으며, 이 원리가 ‘뇌처럼 유연하고 안정적인 AI’를 만들 핵심 열쇠가 될 수 있음을 규명했다.
우리 대학은 뇌인지과학과 이상완 교수 연구팀이 IBM AI 연구소와 함께 인간의 뇌가 목표 변화와 불확실한 상황을 처리하는 방식을 규명하고, 차세대 AI 강화학습이 나아가야 할 방향을 제시했다고 14일 밝혔다.
연구팀은 기존 강화학습 모델들이 목표가 바뀌는 상황에서는 안정성이 떨어지고, 환경이 불확실하면 유연성이 부족해지는 한계가 있지만 인간은 두 요소를 동시에 달성한다는 점을 집중했다. 연구팀은 이 차이가 전두엽이 정보를 표현하는 방식 자체에서 비롯된다고 보았다.
뇌 기능 MRI(fMRI) 실험, 강화학습 모델, AI 분석 기법을 활용한 결과, 인간 전두엽은 ‘목표 정보’와 ‘불확실성 정보’를 서로 간섭하지 않도록 분리해 저장하는 특별한 구조를 가지고 있음이 밝혀졌다. 이런 구조가 뚜렷할수록 사람은 목표가 바뀌면 빠르게 전략을 바꾸고, 환경이 불확실해도 안정적인 판단을 유지했다. 연구팀은 이를 통신 기술의 멀티플렉싱(multiplexing)처럼 서로 다른 정보를 한 번에 처리하는 특징을 갖는다는 점도 확인했다.
이렇게 인간의 전두엽은 목표가 바뀔 때마다 그 변화를 민감하게 추적해 의사결정의 유동성을 확보하는 ‘채널’이 있고, 동시에 또 다른 채널을 통해 환경의 불확실성을 분리해 안정적인 판단을 유지한다.
흥미로운 점은 전두엽이 첫 번째 채널을 통해 단순히 학습을 실행하는 수준을 넘어서, 두 번째 채널을 활용하여 상황에 따라 어떤 학습 전략을 쓸지 스스로 고르는 역할까지 한다는 것이다.
연구팀은 전두엽이 단순히 학습을 실행하는 수준을 넘어, 상황에 따라 어떤 학습 전략을 사용할지 스스로 선택하는 ‘메타학습 능력’을 갖고 있다는 점을 보여줬다.
즉, 전두엽은 무엇을 배울지뿐 아니라 어떻게 배울지도 학습하는 구조를 가지고 있으며, 이것이 인간이 끊임없이 바뀌는 상황에서도 흔들리지 않는 이유다.
이 연구는 개인의 강화학습·메타학습 능력 분석, 맞춤형 교육 설계, 인지 능력 진단, 인간-컴퓨터 상호작용 등 다양한 분야에 활용될 수 있으며, 뇌 기반 표현 구조를 활용하면 ‘뇌처럼 생각하는 AI’기술로서 AI가 인간의 의도와 가치를 더 잘 이해해 위험한 판단을 줄이고 사람과 더 안전하게 협력하는 기술로 이어질 수 있다.

< 그림 1. 인간과 AI의 유동성-안정성 균형 >

< 그림 2. 전두엽의 목표와 환경의 불확실성 정보 표상의 위상구조 >
연구 책임자인 이상완 교수는 “이번 연구는 변화하는 목표를 유연하게 따라가면서도 안정적으로 계획을 세우는 뇌의 작동 원리를 AI 관점에서 규명한 성과이며, 이러한 원리가 앞으로 AI가 사람처럼 변화에 적응하고 더 안전하고 똑똑하게 학습하는 차세대 AI의 핵심 기반이 될 것”이라고 말했다.
이 연구는 성윤도 박사과정 학생이 1 저자, IBM AI 연구소 마티아 리고티(Mattia Rigotti) 박사가 2저자로 참여했으며, 이상완 교수가 교신저자를 맡았다. 연구 결과는 국제 학술지 `네이처 커뮤니케이션스 (Nature Communications)‘ 11월 26일 자 게재됐다.
(논문명: Factorized embedding of goal and uncertainty in the lateral prefrontal cortex guides stably flexible learning) DOI: 10.1038/s41467-025-66677-w)
특히 이번 연구는 과학기술정보통신부 한계도전 R&D 프로젝트 사업 지원을 받아 수행됐다.
우리 대학 건설및환경공학과 조계춘 교수가 구글(Google)의 ‘기초 과학 연구 지원 프로그램(Foundational Science Grant)’ 대상자로 최종 선정되어 USD140,000(2억원) 규모의 연구비를 지원받게 된다. 이번 선정은 국내 기초 과학 기술 발전을 지원하려는 구글의 의지가 담긴 결과로, 조계춘 교수팀은 서울대 민기복 교수팀과 함께 독창적인 연구 역량을 인정받았다. 이번 연구는 “물리 기반 인공지능(Physics-informed AI)”을 활용해 지열 에너지 개발의 불확실성을 해소하는데 초점을 맞추고 있다. 연구팀은 단순 데이터 학습 방식의 기존 AI를 넘어 실제 물리 법칙을 알고리즘에 결합함으로써 지하 심부의 온도, 압력, 유체 흐름 등을 정밀하게 예측하는 하이브리드 기술을 개발하고 있다. 특히 지열 발전 과정에서 발생할 수 있는 유발 지진(Induced Seismicity) 위험을 사전에 평가하고, 에너지
2026-05-08우리 대학은 김재철AI대학원이 7일(목) 오전 10시, 서울 코엑스(COEX)에서 ‘KAIST AI 기술설명회 2026’를 개최한다고 6일 밝혔다. 이번 행사는 KAIST 김재철AI대학원과 성남산업진흥원, 서울특별시가 공동 주최하며, 우리 대학이 수행 중인 주요 AI 연구 성과와 산업 현장으로 확산되고 있는 최신 인공지능 기술을 산업계와 일반 대중에게 소개함으로써 AI 기술 확산과 산학협력 활성화를 도모한다는 계획이다. 설명회에서는 로봇 파운데이션 모델(다양한 로봇 작업에 범용적으로 활용 가능한 대규모 사전학습 모델), 개인 맞춤형 AI, 멀티모달 AI(텍스트·이미지·음성 등 다양한 데이터를 함께 이해하는 인공지능), 신뢰가능한 AI, Physical AI(물리적 환경에서 직접 행동하고 상호작용하는 인공지능) 등 다양한 분야의 최신 연구 성과가 소개된다. 오전 초청강연에서는 KAIST 김재철AI대학원 신진우 교수와 오성준 교수,
2026-05-06우리 대학은 명상과학연구소와 뇌인지과학과가 5월 6일(수)부터 7일(목)까지 이틀간 KAIST 본원 메타융합관 컨퍼런스룸에서 자기의식 신경과학 분야의 세계적 석학인 올라프 블랑케(Olaf Blanke) 스위스 로잔연방공과대학교(EPFL) 교수를 초청해 특별강연을 개최한다고 1일 밝혔다. 올라프 블랑케 교수는 EPFL 인지신경과학연구실(LNCO) 소장이자 베르타렐리 재단 인지신경보철학* 석좌교수로, 인간이 스스로를 어떻게 인지하는지를 뇌과학적으로 연구하는 ‘자기의식 신경과학’ 분야의 선구자다. ※ 인지신경보철학: 뇌와 기계를 연결해 손상된 감각이나 인지 기능을 보완·회복하는 기술 그는 환각이나 자신의 몸이 타인의 것처럼 느껴지는 감각 이상 현상을 뇌과학적으로 연구해왔으며, 인지신경보철학 분야에서도 독보적인 성과를 거두고 있다. 특히 로봇 기술과 가상현실(VR)을 활용해 파킨슨병이나 치매를 진단하고 치료하는 혁신적 방법을 제시해왔다. 현재 제네
2026-05-03“AI도 스스로‘모른다’고 말할 수 있어야 한다.” 자율주행과 의료 진단 등에서 인공지능(AI)의 가장 큰 위험으로 지적돼 온‘과도한 확신(overconfidence·틀린 예측에 대하여 높은 확신을 보이는 현상)’문제를 해결할 새로운 접근법이 제시됐다. 우리 대학 연구진은 AI가 스스로 모르는 상황을 인식하도록 하는 학습 방법을 개발해, 과신을 줄이고 신뢰성을 높일 수 있는 기반을 마련했다. 우리 대학은 뇌인지과학과 백세범 석좌교수 연구팀이 딥러닝(deep learning·인공신경망을 활용해 데이터를 학습하는 인공지능 기술)에서 널리 사용돼 온 무작위 가중치 초기화(random initialization·신경망 학습 시작 시 가중치를 확률 분포에 따라 무작위로 설정하는 방식)가 인공지능의 과신을 유발하는 근본적인 원인일 수 있음을 규명했다고 27일 밝혔다. 연구팀은 이를 해
2026-04-27살아있는 뇌 깊숙한 곳을 선명하게 관찰하려면 고가의 장비가 필수라는 한계가 있었다. 우리 대학 연구진이 물리 기반으로 한 AI 계산 알고리즘을 활용해 추가적인 광학 측정 장비 없이도 흐릿한 이미지를 또렷하게 복원하는 기술을 개발하며, 뇌과학 연구의 새로운 전환점을 제시했다. 우리 대학은 전기및전자공학부 강익성 교수가 UC 버클리 나지(Na Ji) 교수 연구팀과 공동연구를 통해, 신경장 모델(neural fields, 3차원 공간의 구조를 연속적으로 표현해 이미지와 형태를 동시에 복원하는 신경망 기반 기술)을 활용해 생체 내부를 관찰하는 현미경의 이미지 왜곡을 정밀하게 보정하는 기술을 개발했다고 21일 밝혔다. 연구팀이 활용한 ‘이광자 형광 현미경(two-photon fluorescence microscopy, 두 개의 약한 빛을 동시에 사용해 생체 깊은 곳 특정 지점만 선택적으로 빛나게 하는 기술)’은 살아있는 생체 조직 깊은 곳을 관찰할 수 있는 핵심
2026-04-21