-
111배 빠른 검색엔진용 CXL 3.0 기반 AI반도체 세계 최초 개발
최근 각광받고 있는 이미지 검색, 데이터베이스, 추천 시스템, 광고 등의 서비스들은 마이크로소프트, 메타, 알리바바 등의 글로벌 IT 기업들에서 활발히 제공되고 있다. 하지만 실제 서비스에서 사용되는 데이터 셋은 크기가 매우 커, 많은 양의 메모리를 요구하여 기존 시스템에서는 추가할 수 있는 메모리 용량에 제한이 있어 이러한 요구사항을 만족할 수 없었다.
우리 대학 전기및전자공학부 정명수 교수 연구팀(컴퓨터 아키텍처 및 메모리 시스템 연구실)에서 대용량으로 메모리 확장이 가능한 컴퓨트 익스프레스 링크 3.0 기술(Compute eXpress Link, 이하 CXL)을 활용해 검색 엔진을 위한 AI 반도체를 세계 최초로 개발했다고 25일 밝혔다.
최근 검색 서비스에서 사용되는 알고리즘은 근사 근접 이웃 탐색(Approximate Nearest Neighbor Search, ANNS)으로 어떤 데이터든지 특징 벡터로 표현할 수 있다. 특징 벡터란 데이터가 가지는 특징들 각각을 숫자로 표현해 나열한 것으로, 이들 사이의 거리를 통해 우리는 데이터 간의 유사도를 구할 수 있다. 하지만 벡터 데이터 용량이 매우 커서 이를 압축해 메모리에 적재하는 압축 방식과 메모리보다 큰 용량과 느린 속도를 가지는 저장 장치를 사용하는 스토리지 방식(마이크로소프트에서 사용 중)이 사용되어 왔다. 하지만 이들 각각은 낮은 정확도와 성능을 가지는 문제가 있었다.
이에 정명수 교수 연구팀은 메모리 확장의 제한이라는 근본적인 문제를 해결하기 위해 CXL이라는 기술에 주목했다. CXL은 CPU-장치 간 연결을 위한 프로토콜로, 가속기 및 메모리 확장기의 고속 연결을 제공한다. 또한 CXL 스위치를 통해 여러 대의 메모리 확장기를 하나의 포트에 연결할 수 있는 확장성을 제공한다. 하지만 CXL을 통한 메모리 확장은 로컬 메모리와 비교해 메모리 접근 시간이 증가하는 단점을 가지고 있다.
데이터를 책으로 비유하자면 기존 시스템은 집에 해당하는 CPU 크기의 제한으로 서재(메모리 용량)를 무한정 늘릴 수 없어, 보관할 수 있는 책 개수에 제한이 있는 것이다. 이에 압축 방식은 책의 내용을 압축하여 더 많은 책을 보관하는 방법이고, 스토리지 방식은 필요한 책들을 거리가 먼 도서관에서 구해오는 것과 비슷하다. CXL을 통한 메모리 확장은 집 옆에 창고를 지어 책을 보관하는 것으로 이해될 수 있다.
연구진이 개발한 AI 반도체(CXL-ANNS)는 CXL 스위치와 CXL 메모리 확장기를 사용해 근사 근접 이웃 탐색에서 필요한 모든 데이터를 메모리에 적재할 수 있어 정확도를 높이고 성능 감소를 없앴다. 또한 근사 근접 이웃 탐색의 특징을 활용해 데이터 근처 처리 기법과 지역성을 활용한 데이터 배치 기법으로 CXL-ANNS의 성능을 한 단계 향상했다. 이는 마치 창고 스스로가 필요한 책들의 내용을 요약하고 정리해 전달하고, 자주 보는 책들은 서재에 배치해 집과 창고를 오가는 시간을 줄이는 것과 유사하다.
연구진은 CXL-ANNS의 프로토타입을 자체 제작해 실효성을 확인하고, CXL-ANNS 성능을 기존 연구들과 비교했다. 마이크로소프트, 메타, 얀덱스 등의 글로벌 IT 기업에서 공개한 검색 데이터 셋을 사용한 근사 근접 이웃 탐색의 성능 비교에서 CXL-ANNS는 기존 연구들 대비 평균 111배 성능 향상이 있었다. 특히, 마이크로소프트의 상용화된 서비스에서 사용되는 방식과 비교하였을 때 92배의 성능 향상을 보여줬다.
정명수 교수는 "이번에 개발한 CXL-ANNS는 기존 검색 엔진의 문제였던 메모리 용량 제한 문제를 해결하고, CXL 기반의 메모리 확장이 실제 적용될 때 발생하는 메모리 접근 시간 지연 문제를 해결했다ˮ며, “제안하는 CXL 기반 메모리 확장과 데이터 근처 처리 가속의 패러다임은 검색 엔진뿐만 아니라 빅 데이터가 필요한 고성능 컴퓨팅, 유전자 탐색, 영상 처리 등의 다양한 분야에도 적용할 수 있다ˮ라고 말했다.
이번 연구는 미국 보스턴에서 오는 7월에 열릴 시스템 분야 최우수 학술대회인 유즈닉스 연례 회의 `USENIX Annual Technical Conference, 2023'에 ‘CXL-ANNS’이라는 이름으로 발표된 예정이다. (논문명: CXL-ANNS: Software-Hardware Collaborative Memory Disaggregation and Computation for Billion-Scale Approximate Nearest Neighbor Search)
한편 해당 연구는 파네시아(http://panmnesia.com)의 지원을 받아 진행됐다.
2023.05.25
조회수 6658
-
이지현 교수, CAADRIA 학회 사사다 상 수상
〈 이지현 교수 〉
우리 대학 문화기술대학원 이지현 교수가 15일 뉴질랜드 웰링턴에서 열린 컴퓨터 기반 건축 디자인 분야 국제학회 ‘CAADRIA 2019(the 24th Annual Conference of the Association for Computer-Aided Architectural Design Research in Asia)’에서 사사다 상(Sasada Prize)을 받았다.
건축 디자인 관련 세계 최고 학회 중 하나인 CAADRIA가 2007년 츠요시 사사다(Tsuyoshi Sasada, 1941-2005) 교수를 기리기 위해 제정한 사사다 상(Sasada Award)은 컴퓨터 보조 설계 차세대 연구자들을 지원하기 위한 CAADRIA의 미션 중 하나이다. 해당 분야 커뮤니티에 지속적인 공헌을 하고 탁월한 연구 성과를 낸 연구자에게 수여된다.
수상자인 이지현 교수는 최민규, 김미래 석사과정, 이태하 박사과정과 함께 연구한 ‘사례기반추론을 통한 부동산 지가 예측 시스템 (Land Price Prediction System Using Case-based Reasoning)’ 연구를 기반으로 그동안 CAAD (Computer-Aided Architectural Design) 분야에 기여한 점을 인정받아 2019년 수상자로 선정됐다.
이지현 교수는 해당 연구를 통해 서울특별시와 울산광역시를 제외한 6대 광역시로부터 40여 개 변수를 행정동 단위로 수집한 후 사례기반 추론 방법을 적용해 행정동 내의 평균 평당 아파트 가격을 예측하는 모델을 제시했다. 연구팀이 도출한 모델의 후속연구가 수행되면 기존의 전문가 판단을 대체할 수 있을 것이라는 가능성을 보여줬다.
이지현 교수는 수상 관련 연구 내용인 추천과 예측을 할 수 있는 인공지능의 한 분야인 사례기반추론(Case Based Reasoning)관련 2002년 졸업논문부터 근 20년간 꾸준하게 연구를 진행해 왔으며, CBR 관련 국내외 논문 40여 편을 발표한 바 있다.
이지현 교수는 “CAAD 관련 연구자에게 자랑스러운 상을 받게 돼 개인적으로는 매우 큰 영광이라 생각하지만 지난 수상자들을 볼 때 과분하다는 생각도 든다”라며 “6월 KAIST에서 열리는 ‘CAAD Futures 2019’가 성공적으로 이뤄질 수 있도록 준비함과 동시에 앞으로도 꾸준하게 CAAD 및 컴퓨테이셔널 디자인 연구를 선보여 국내외에서 KAIST의 위상을 높이는데 기여하겠다”라고 말했다.
2019.04.19
조회수 13847
-
‘지속가능성’연구, 세계속으로 파고들다
- 하계 다보스 포럼 ‘아이디어스랩’ 특별세션에 초청 돼 -- 서남표 총장, 지난 4일 GE사 초청강연 해 -
스위스 제네바 소재 세계경제포럼(World Economic Forum)에서 개최하는 대표적인 국제 회의인 ‘다보스 포럼’에서는 경제적인 측면에서 꾸준히 이 문제를 다뤄 왔다.
이 포럼의 중요한 프로그램중 하나로‘아이디어스랩(IdeasLab)’이라는 특별 세션을 만들어 세계 유수 대학 및 연구기관을 초청해 전세계 정상급 리더들과 혁신적인 아이디어를 나누고 논의하는 장을 마련해왔다.
한국 대학으로서는 최초로 서남표 총장이 오는 9월 중순(2010.9.13-15) 중국 텐진시에서 개최되는 Annual Meeting of the New Champions, 일명 ‘하계 다보스 포럼’에 초청돼 ‘융합기술을 통한 지속가능 신성장동력’이라는 주제의 아이디어스랩을 열고 다양한 아이디어를 발표할 계획이다.
올 초(2010.1.27-31)에 개최된‘다보스 포럼’에서는 유럽경영대학원(INSEAD), 스위스 연방 공과대(EPFL-ETH), MIT, 옥스퍼드, 예일, 하버드 등 7개 대학이 참여했다.
인류의‘지속 가능성’에 대한 탐구는 경제, 교육, 과학기술계는 물론 산업계에서도 활발하게 이루어지고 있다.
이와 관련된 주제로 서남표 총장은 서울을 방문한 세계적인 다국적 기업 제너럴 일렉트릭(The General Electric Company, GE)사의 고위급 간부 50명을 대상으로 강연을 했다. GE사의 초청으로 이뤄진 이 강연은 지난 4일 신라호텔 3층 라일락 룸에서 오전 9시부터 약 한 시간 정도 비공개로 진행됐다.
전 세계에 퍼져 있는 GE사 글로벌 사업운영부의 고위급 임원이 한 자리에 모이는 것은 이례적인 일로 강연은 당초 미국 본사에서 열릴 계획이었으나, 그 동안 산업과학기술계가 이룬 괄목할 만한 성장과 혁신적인 녹색기술개발 전략을 배우고자 서울에서 열리게 됐다.
이들 임원들은 서 총장으로부터 한국 과학기술의 혁신 현황, 중점 추진방향, 연구개발 역량과 더불어, KAIST의 목표와 비전, 세계적인 기업과의 과학기술협력 전략 등에 관한 내용을 들었다.
2010.05.20
조회수 20022