< 사진 1. (왼쪽부터) 김준수 석사과정, 김주영 교수, 고건우 석사과정, 전민수 박사과정, 김성환 박사, 윤찬현 교수, 이창하 박사과정, 김태우 박사과정. 좌측 하단에 (왼쪽)설명가능한 인공지능 처리를 위한 KAIST 프로토타입 보드와 (오른쪽) 새롭게 개발한 EPU칩. >
우리 대학 전기및전자공학부 윤찬현, 김주영 교수 연구팀이 설명 가능한 인공지능(eXplainable AI, XAI) 기법을 처리하기 위한 노이즈(잡음)에 강한 다중 피라미드 활성화 맵 기반 주의집중 구조가 탑재된 인공지능 칩을 설계하고, 삼성전자 DS부문의 지원으로 설명가능 뉴로프로세싱 유닛(이하 EPU, Explainable neuro-Processing Unit)을 개발했다고 24일 밝혔다.
설명가능 인공지능이란 사람이 이해할 수 있고 신뢰할 수 있는 설명을 제공할 수 있는 인공지능 기법이다. 기존의 수학적 알고리즘으로 학습되는 인공지능은 학습예제에 편향되어 신뢰할 수 없거나, 수천억개의 매개변수를 사람이 이해할 수 없다는 문제점을 해결하기 위해, 왜 인공지능이 특정 결과를 추론했는지 판단근거를 설명할 수 있도록 개발되었다. 설명가능한 인공지능은 어떤 이유에 의해서 인공지능의 의사결정에 큰 영향을 주었는지 설명할 수 있다는 점에서 기존의 인공지능보다 정확성, 공정성, 신뢰성을 보장할 수 있다는 특징을 가진다.
공동연구팀은 다중 규모 및 다중물체의 특징 추출 구조인 피라미드형 신경망 구조에서 추론 결과에 영향을 주는 인공지능 내부의 신경층별 활성화되는 정도를 복합적으로 해석할 수 있는 인공지능 모델과 이를 가속처리 특화된 채널 방향 합성곱 연산 및 정확도를 유지하는 EPU칩을 구현했다.
다중 규모 및 다중물체 특징 추출에 특화된 피라미드형 인공지능 모델에서 설명 시각화 구현을 위해서는 추론 과정의 역방향으로 모든 합성곱 층별 활성화 맵에서 모델 파라미터의 변화도를 추출할 수 있는 구조가 요구된다.
그러나 역전파 계산 과정은 기존의 추론처리 가속을 위한 인공지능 칩 설계와 달리 이전 파라미터 및 상태를 기억해야 하며 이는 한정된 온 칩 메모리 크기 및 인공지능 모델 전체를 특정한 용도에 맞게 주문 제작(ASIC; Application Specific Integrated Circuit)해 구현하기에는 물리적 한계가 있다.
또한, 피라미드형 구조의 설명 가능한 인공지능 모델은 설명성 보장을 위한 N개 층의 활성화 맵으로부터 기울기 기반의 클래스 활성 맵핑 시각화 처리 각각 필요해 복잡도를 높이는 문제가 있다. 그리고, 입력의 매우 작은 노이즈에도 클래스 활성화 맵핑 시각화 설명이 완전히 달라져 설명 가능한 인공지능 모델의 신뢰도 저하가 큰 문제점이었다.
< 그림 1. (KAIST 개발 EPU 내부구조 및 기능) 1) 설명가능한 인공지능의 다중 활성화 맵 고유의 특성 정보를 융합하여 전역 주의 집중 맵을 생성하는, 다중 피라미드 활성 맵 기반 주의집중 네트워크 구조. 2) 새로 개발한 EPU는 입력 영상 객체의 예측 근거 시각화를 위해 칩 내부의 합성곱 역전파 연산 시 객체 근처의 non-zero에 대한 계산만 수행하게 되어 기존의 NPU구조보다 평균 3.33배 가속처리가 가능함. >
전기및전자공학부 윤찬현 교수 연구팀은 문제해결을 위해(그림1 참조) 설명 가능한 인공지능의 다중 활성화 맵 고유의 특성 정보를 융합해 전역 주의 집중 맵을 생성하는 네트워크 구조와 입력 이미지 노이즈에 강건한 모델 생성을 위한 상호학습 방법을 개발해, 단일 활성화 맵 기반 주의집중 맵 생성 기술에 비해 설명성 지표를 최대 6배가량 높였다.
< 그림 2. 객체탐지를 위한 피라미드형 신경망 구조 중 하나인 Faster-RCNN 모델 >
또한, 다중 스케일의 다양한 주의집중 맵들의 상호 보완적인 특성을 일원화된 주의집중 맵으로 정교하게 재구성함으로써 사람이 해석 가능한 수준의 정밀한 설명성을 제공할 수 있게 했다. 이번 연구 성과를 통해 위성 영상과 같이 객체 크기 변화가 큰 이미지 분석에서 인공지능 모델의 설명성을 크게 향상할 수 있을 것으로 기대된다고 연구팀 관계자는 설명했다.
전기및전자공학부 김주영 교수 연구팀은 제안된 설명 가능한 인공지능 모델을 가속하기 위해 기존 모델의 추론과 역전파 과정에 더해 활성화 맵 생성까지 처리할 수 있는 XAI 코어를 개발하고, 다양한 연산 태스크를 유연하게 분할해 동시에 처리할 수 있는 멀티 데이터 플로우 방식을 제안했다. 또한, 많은 0 값을 포함하는 활성화 맵의 특성을 활용해, 연속된 0을 건너뛸 수 있는 새로운 데이터 압축 포맷을 제안하고 이를 지원하는 가속 유닛을 개발해 최대 10배 이상의 활성화 맵을 칩 내부에서 처리할 수 있도록 했다.
< 그림 3. [개발된 구조] 노이즈에 강건한 시각적 설명 생성을 위한 다중 피라미드 활성 맵 기반 주의집중 네트워크 구조 >
< 그림 4. [제안된 EPU구조] zero skipping 데이터 경로 제어 기반 EMA 효율적 EPU Array 구조 >
연구팀이 개발한 EPU 칩은 광학 위성, 전천후 관측 영상레이더(Synthetic Aperture Radar) 위성 등 특수 목적과 고정밀 인공지능 영상처리시스템에 적용할 수 있으며, 저지연‧저전력으로 인공지능 시스템의 판단 근거에 대한 설명성을 획기적으로 높일 수 있을 것으로 기대된다. 연구팀은 EPU 칩 개발 후속 연구를 진행할 계획이다.
과학기술정보통신부·정보통신기획평가원이 주관하는 PIM인공지능반도체 핵심기술개발사업의 지원을 받고있는 우리 대학 PIM반도체설계연구센터가 AI 반도체 전문인력 양성을 위해 전국 AI 및 반도체 관련 학과 학부생과 대학원생을 대상으로 SK하이닉스와 삼성전자의 PIM* 기반 이론 및 실습 교육을 진행했다. 강의는 6월 20일(목)부터 6월 21일(금)까지 SK하이닉스 교육, 7월 4일(목)부터 7월 5일(금)까지 삼성전자 교육을 각각 KAIST PIM반도체설계연구센터에서 진행했다. *PIM(Processing-In-Memory): 메모리 반도체에 연산 기능을 추가하여 AI와 빅데이터 처리 분야에서 데이터 처리 속도를 높이면서도 사용 전력을 줄이는 반도체 설계 기술 이번 교육은 SK하이닉스의 AiM*과 삼성전자의 HBM-PIM*을 활용하여 수강생들이 직접 실습할 수 있는 기회를 제공했다. 전국 25개 대학교에서 300명이 넘는 학생들이 접수하여 높은 관심을 받았다
2024-07-11우리 대학 설명가능인공지능 연구센터(센터장 최재식)가 'KCC 설명가능 인공지능(XAI) 워크숍 2024'를 지난달 27일 제주 국제컨벤션센터에서 개최했다.올해 3월 EU의 인공지능법이 최종 통과된 후 인공지능 시스템에 대한 글로벌 규제가 현실화 되고 인공지능 모델의 투명성 향상과 규제 준수를 지원할 수 있는 설명가능 인공지능(eXplainable Artificial Intelligence, 약칭 XAI) 기술에 대한 관심이 높아지고 있다. 이와 같은 시대적 흐름에 대응하기 위해 개최된 이번 워크숍에는 관련 분야에서 활발히 연구 중인 국내 연구기관과 기업 관계자들이 교류하며 최신 연구 동향을 공유했다.서홍석 교수(고려대)와 박천음 교수(한밭대)는 각각 '멀티모달 대화형 인공지능 관련 연구 동향'과 'Multimodal Counterfactual reasoning을 이용한 자연어 해석 연구 동향'을 주제로 최근 활발한 연구가 진행 중인 멀티모달 인공지능 모델 연구 및 해석 동향을
2024-07-08국제공동연구진이 인공지능 학습을 통해 배터리의 표면 형상만 보고 각 원소의 함량 그리고 충·방전 횟수에 대한 정보를 높은 정확도로 알아내는 영상인식 기술을 개발하여 화제다. 우리 대학 신소재공학과 홍승범 교수가 한국전자통신연구원(ETRI), 미국 드렉셀대학과 공동연구를 통해 다양한 조성과 각기 다른 충·방전 사이클의 NCM 양극재 주사전자현미경 사진을 합성곱 신경망* 기반 인공지능에 학습시켜 주요 원소 함량과 충·방전 상태를 99.6%의 높은 정확도로 맞추는 방법론을 세계 최초로 개발했다고 2일 밝혔다. *합성곱 신경망(콘볼루션 신경망, Convolutional Neural Network, CNN): 시각적 영상을 분석하는 데 사용되는 다층의 피드-포워드적인 인공신경망의 한 종류이다. 연구팀은 반도체 공정에서는 웨이퍼의 불량 검수를 위해 주사전자현미경(SEM)을 사용하는 반면 배터리 공정에서는 그런 경우가 드물고 연구 현장에서만 입자
2024-07-02우리 대학이 가수 지드래곤(본명 권지용) 씨를 기계공학과 초빙교수에 임명했다. 임명장 수여는 5일 오전스포츠컴플렉스에서 개최된 ‘이노베이트 코리아 2024’ 행사에서 진행됐다. 이번 임용은 우리 대학의 최신 과학기술을 K-콘텐츠와 문화산업에 접목해 한국 문화의 글로벌 경쟁력을 확대하고자 추진됐다. 권 씨의 소속사인 갤럭시코퍼레이션 관계자는 "이번 임용은 '엔터테크*' 연구개발을 통한 시장 혁신과 K-컬처의 글로벌 확산과 성장에 기여할 것으로 기대된다"라고 밝혔다.* 엔터테크: 엔터테인먼트(entertainment)와 테크놀로지(technology)의 합성어로, 엔터테인먼트의 핵심 가치인 지식재산권(IP) 및 콘텐츠에 ICT를 결합하여 새로운 부가가치를 창출하는 산업권지용 초빙교수는 학부생 및 대학원생을 대상으로 하는 리더십 특강으로 강단에 설 예정이다. 세계적인 아티스트로서의 경험과 삶을 공유해 우리 대학 구성원들이 세계를 바라보는 비전과 통찰, 각자
2024-06-05우리 대학 맹성현 전산학부 명예교수가 『AGI 시대와 인간의 미래』를 이달 출간했다. 지난 30여 년간 자연언어처리, 텍스트마이닝, 정보검색 분야를 연구해온 석학이자 디지털인문사회과학센터 초대 센터장으로서 다양한 융합 연구를 시도해온 맹 교수는 챗GPT 이후의 삶을 날카롭게 통찰해 인간과 AI가 공존하고 동시에 AGI 시대까지 공진화할 수 있는 전략을 이 책에 담았다. *AGI(Artificial General Intelligence): 범용인공지능, 즉 사람과 같거나 그 이상의 지능을 구현하는 AI 오픈AI, 구글 딥마인드, 앤트로픽, 엔비디아 등 업계에서 가장 활발하게 인공지능을 연구 중인 글로벌 기업들은 2028년까지 AGI에 도달할 수 있다는 견해를 공개적으로 밝혀왔다. 이러한 시대적 흐름 속에서 맹 교수는 '10년 후 우리의 삶은 어떻게 달라질까?', '우리 일자리 생태계는 어떻게 바뀌어 있을까?', 'MZ세대는 새로운 시대의 일자리에 어떻게 적응해야 할까?', '
2024-06-04