< 사진 1. (왼쪽부터) 김준수 석사과정, 김주영 교수, 고건우 석사과정, 전민수 박사과정, 김성환 박사, 윤찬현 교수, 이창하 박사과정, 김태우 박사과정. 좌측 하단에 (왼쪽)설명가능한 인공지능 처리를 위한 KAIST 프로토타입 보드와 (오른쪽) 새롭게 개발한 EPU칩. >
우리 대학 전기및전자공학부 윤찬현, 김주영 교수 연구팀이 설명 가능한 인공지능(eXplainable AI, XAI) 기법을 처리하기 위한 노이즈(잡음)에 강한 다중 피라미드 활성화 맵 기반 주의집중 구조가 탑재된 인공지능 칩을 설계하고, 삼성전자 DS부문의 지원으로 설명가능 뉴로프로세싱 유닛(이하 EPU, Explainable neuro-Processing Unit)을 개발했다고 24일 밝혔다.
설명가능 인공지능이란 사람이 이해할 수 있고 신뢰할 수 있는 설명을 제공할 수 있는 인공지능 기법이다. 기존의 수학적 알고리즘으로 학습되는 인공지능은 학습예제에 편향되어 신뢰할 수 없거나, 수천억개의 매개변수를 사람이 이해할 수 없다는 문제점을 해결하기 위해, 왜 인공지능이 특정 결과를 추론했는지 판단근거를 설명할 수 있도록 개발되었다. 설명가능한 인공지능은 어떤 이유에 의해서 인공지능의 의사결정에 큰 영향을 주었는지 설명할 수 있다는 점에서 기존의 인공지능보다 정확성, 공정성, 신뢰성을 보장할 수 있다는 특징을 가진다.
공동연구팀은 다중 규모 및 다중물체의 특징 추출 구조인 피라미드형 신경망 구조에서 추론 결과에 영향을 주는 인공지능 내부의 신경층별 활성화되는 정도를 복합적으로 해석할 수 있는 인공지능 모델과 이를 가속처리 특화된 채널 방향 합성곱 연산 및 정확도를 유지하는 EPU칩을 구현했다.
다중 규모 및 다중물체 특징 추출에 특화된 피라미드형 인공지능 모델에서 설명 시각화 구현을 위해서는 추론 과정의 역방향으로 모든 합성곱 층별 활성화 맵에서 모델 파라미터의 변화도를 추출할 수 있는 구조가 요구된다.
그러나 역전파 계산 과정은 기존의 추론처리 가속을 위한 인공지능 칩 설계와 달리 이전 파라미터 및 상태를 기억해야 하며 이는 한정된 온 칩 메모리 크기 및 인공지능 모델 전체를 특정한 용도에 맞게 주문 제작(ASIC; Application Specific Integrated Circuit)해 구현하기에는 물리적 한계가 있다.
또한, 피라미드형 구조의 설명 가능한 인공지능 모델은 설명성 보장을 위한 N개 층의 활성화 맵으로부터 기울기 기반의 클래스 활성 맵핑 시각화 처리 각각 필요해 복잡도를 높이는 문제가 있다. 그리고, 입력의 매우 작은 노이즈에도 클래스 활성화 맵핑 시각화 설명이 완전히 달라져 설명 가능한 인공지능 모델의 신뢰도 저하가 큰 문제점이었다.
< 그림 1. (KAIST 개발 EPU 내부구조 및 기능) 1) 설명가능한 인공지능의 다중 활성화 맵 고유의 특성 정보를 융합하여 전역 주의 집중 맵을 생성하는, 다중 피라미드 활성 맵 기반 주의집중 네트워크 구조. 2) 새로 개발한 EPU는 입력 영상 객체의 예측 근거 시각화를 위해 칩 내부의 합성곱 역전파 연산 시 객체 근처의 non-zero에 대한 계산만 수행하게 되어 기존의 NPU구조보다 평균 3.33배 가속처리가 가능함. >
전기및전자공학부 윤찬현 교수 연구팀은 문제해결을 위해(그림1 참조) 설명 가능한 인공지능의 다중 활성화 맵 고유의 특성 정보를 융합해 전역 주의 집중 맵을 생성하는 네트워크 구조와 입력 이미지 노이즈에 강건한 모델 생성을 위한 상호학습 방법을 개발해, 단일 활성화 맵 기반 주의집중 맵 생성 기술에 비해 설명성 지표를 최대 6배가량 높였다.
< 그림 2. 객체탐지를 위한 피라미드형 신경망 구조 중 하나인 Faster-RCNN 모델 >
또한, 다중 스케일의 다양한 주의집중 맵들의 상호 보완적인 특성을 일원화된 주의집중 맵으로 정교하게 재구성함으로써 사람이 해석 가능한 수준의 정밀한 설명성을 제공할 수 있게 했다. 이번 연구 성과를 통해 위성 영상과 같이 객체 크기 변화가 큰 이미지 분석에서 인공지능 모델의 설명성을 크게 향상할 수 있을 것으로 기대된다고 연구팀 관계자는 설명했다.
전기및전자공학부 김주영 교수 연구팀은 제안된 설명 가능한 인공지능 모델을 가속하기 위해 기존 모델의 추론과 역전파 과정에 더해 활성화 맵 생성까지 처리할 수 있는 XAI 코어를 개발하고, 다양한 연산 태스크를 유연하게 분할해 동시에 처리할 수 있는 멀티 데이터 플로우 방식을 제안했다. 또한, 많은 0 값을 포함하는 활성화 맵의 특성을 활용해, 연속된 0을 건너뛸 수 있는 새로운 데이터 압축 포맷을 제안하고 이를 지원하는 가속 유닛을 개발해 최대 10배 이상의 활성화 맵을 칩 내부에서 처리할 수 있도록 했다.
< 그림 3. [개발된 구조] 노이즈에 강건한 시각적 설명 생성을 위한 다중 피라미드 활성 맵 기반 주의집중 네트워크 구조 >
< 그림 4. [제안된 EPU구조] zero skipping 데이터 경로 제어 기반 EMA 효율적 EPU Array 구조 >
연구팀이 개발한 EPU 칩은 광학 위성, 전천후 관측 영상레이더(Synthetic Aperture Radar) 위성 등 특수 목적과 고정밀 인공지능 영상처리시스템에 적용할 수 있으며, 저지연‧저전력으로 인공지능 시스템의 판단 근거에 대한 설명성을 획기적으로 높일 수 있을 것으로 기대된다. 연구팀은 EPU 칩 개발 후속 연구를 진행할 계획이다.
우리 대학이 서울시 · 서울시복지재단과 'AI안부확인서비스 데이터 활용연구를 위한 업무협약'을 29일 서면 교환 방식으로 체결한다. 이번 업무협약은 서울시가 2022년 10월부터 제공해 온 인공지능을 활용한 안부 확인 서비스를 고도화하기 위해 추진된다. 안부 대상자의 심리상태와 고립 위험 신호를 탐지할 수 있는 대화형 'AI안부확인서비스'를 개발해 고립가구 돌봄서비스에 활용하는 것이 목표다. 우리 대학은 이번 연구를 위해 인공지능-사회복지-HCI(인간컴퓨터상호작용)를 아우르는 융합연구팀을 구성했다. 차미영 전산학부 교수와 최문정 과학기술정책대학원 교수 및 IBS 수리 및 계산과학 연구단 데이터사이언스 그룹 진효진 박사가 참여한다. 연구팀은 서울시가 'AI안부확인서비스'를 운영하며 축적해 온 대화 데이터를 제공받아 ▴고립 위험 대상자를 찾아낼 수 있는 지표 개발 ▴고립감 해소 및 심리적 안정을 위한 시나리오 개발과 이를 반영한 대화형 인공지능 개발 ▴고령자 및
2024-03-29우리 대학 신소재공학과 김경민 교수 연구팀이 다양한 멤리스터* 소자를 이용한 설명 가능한 인공지능 (XAI) 시스템을 구현하는데 성공했다고 25일 밝혔다. *멤리스터 (Memristor): 메모리 (Memory)와 저항 (Resistor)의 합성어로, 입력 신호에 따라 소자의 저항 상태가 변하는 소자 최근 인공지능 (AI) 기술의 급속한 발전이 다양한 분야에서 성과를 이루고 있다. 이미지 인식, 음성 인식, 자연어 처리 등에서 AI의 적용 범위가 확대되며 우리의 일상생활에 깊숙이 자리 잡고 있다. AI는 인간의 뉴런 구조를 모방해 만든 ‘인공신경망’을 기반으로, 적게는 수백만 개에서 많게는 수조 개에 달하는 매개변수를 통해 데이터를 분석하고 의사 결정을 내린다. 그러나 이 많은 매개변수로 인해 AI 모델의 동작 원리를 정확하게 이해하기 어렵고, 이는 통상적으로 블랙박스에 비유되곤 한다. AI가 어떤 기준으로 결정을 내는지 알 수 없다면, AI에 결함이나
2024-03-25최근 실생활에 활용되는 인공지능 모델이 시간이 지남에 따라 성능이 점차 떨어지는 현상이 다수 발견되었고, 이에 따라 지속가능한 인공지능 학습 기술에 대한 필요성이 커지고 있다. AI 모델이 꾸준히 정확한 판단을 내리는 것은 더욱 안전하고 신뢰할 수 있는 인공지능을 만들기 위한 중요한 요소이다. 우리 대학 전기및전자공학부 황의종 교수 연구팀이 시간에 따라 데이터의 분포가 변화하는 드리프트 환경에서도 인공지능이 정확한 판단을 내리도록 돕는 새로운 학습 데이터 선택 기술을 개발했다고 14일 밝혔다. 최근 인공지능이 다양한 분야에서 인간의 능력을 뛰어넘을 정도의 높은 성능을 보여주고 있지만, 대부분의 좋은 결과는 AI 모델을 훈련시키고 성능을 테스트할 때 데이터의 분포가 변하지 않는 정적인 환경을 가정함으로써 얻어진다. 하지만 이러한 가정과는 다르게 SK 하이닉스의 반도체 공정 과정에서 시간에 따른 장비의 노화와 주기적인 점검으로 인해 센서 데이터의 관측값이 지속적으로 변화하는
2024-03-14우리 대학이 생성형 인공지능(generative AI)과 가상현실(VR)을 활용하여 초고속 생산성 시대를 열어가기 위한 본격적인 도전을 시작한다. 27일 대전 본원에 문을 연 'DRB-KAIST 스케치더퓨처 연구센터(센터장 배석형)'는 생성형 인공지능과 가상현실을 3D(3차원) 스케칭과 결합한 미래형 제품 개발 프로세스를 연구하기 위해 설립됐다. 로봇, 모빌리티, 인공 단백질과 같은 첨단 제조 산업 분야는 제품 개발 주기가 매우 길 뿐만 아니라, 설계 결함이 발견되면 다시 아이디어 발상 단계로 돌아가 실물 제작과 테스트까지의 모든 과정을 반복해야 한다. 또한, 복잡한 3차원 구조체가 한데 맞물려 움직이면서 고도의 기능을 수행하기 때문에, 기존 2차원 스크린 작업 환경에서는 설계 의도를 입력하거나 결과물을 해석하는 데 한계가 있었다.'DRB-KAIST 스케치더퓨처 연구센터'는 사람의 의도를 가장 빠르고 효과적으로 생성형 인공지능에 전달하는 수단으로 최신 가상현실 3D 스케
2024-02-29우리 대학이 '초세대 협업연구실'을 추가 개소하고 27일 오전 현판식을 개최했다. 권인소 전기및전자공학부 교수의 '비전중심 범용인공지능 연구실', 김천곤 항공우주공학과 교수의 '우주·극한 환경 재료 및 차세대 공정 연구실', 변재형 수리과학과 교수의 '편미분방정식 통합 연구실'이 새롭게 문을 연다. 초세대 협업연구실은 은퇴를 앞둔 교수가 오랜 시간 축적해 온 학문의 성과와 노하우를 후배 교수와 협업하며 이어가는 우리 대학의 독자적인 연구제도다. 2018년 도입한 이후 지난해 말까지 7개 연구실을 운영하고 있으며, 이번 추가 개소로 총 10개의 초세대 협업연구실을 보유하게 됐다. 특히 권인소, 김천곤 책임교수는 65세 은퇴 후 70세까지 강의와 연구 논문 지도를 이어가는 정년후 교수의 신분으로 초세대 협업연구실을 개소했다. 권인소 교수가 책임교수를 맡은 '비전중심 범용인공지능 연구실'은 같은 학과 김준모 교수 협업하고 딥러닝 분야의 신임 교수가 추후 합류
2024-02-27