%ec%9d%b8%ea%b3%b5%ec%a7%80%eb%8a%a5%ec%97%b0%ea%b5%ac%ec%84%bc%ed%84%b0
-
인간 중심 AI 국제 워크숍 주최, 글로벌 AI 윤리논의 이끈다.
우리 대학은 11월 14일, 컴퓨터 과학 분야 세계적 권위의 학술대회인 ‘정보 및 지식관리 학회(The 34th International Conference on Information and Knowledge Management, CIKM 2025)’에서‘인간 중심 AI: 설명가능성과 신뢰성에서 실행 가능한 윤리까지(Human-Centric AI: From Explainability and Trustworthiness to Actionable Ethics)’를 주제로 국제 워크숍(워크샵 조직위원장: KAIST 김재철AI대학원 최재식 교수)을 개최할 예정이다.
이번 행사는 KAIST 김재철AI대학원이 주도하고 서울대, 서강대, 성균관대, 한국전자통신연구원(ETRI), 독일 TU Berlin 등 국내외 유수 기관이 공동으로 참여하는 자리다.
AI 기술의 잠재적 위험을 줄이고 책임 있는 활용을 위한 ‘인간 중심 AI’의 구체적 방향을 논의하기 위해 마련됐다. 워크숍에서는 AI의 설명가능성, 신뢰성, 윤리적 실행을 중심 주제로, AI 시스템이 투명하고 공정하며 인간의 가치에 부합하도록 운영되기 위한 기술적·정책적 방안이 심도 있게 다뤄진다.
이번 워크숍의 조직위원회는 KAIST 김재철AI대학원 최재식 교수와 전기및전자공학부 유창동 교수를 비롯해 서울대 한보형 교수, 서강대 구명완 교수, 성균관대 우사이먼성일 교수, ETRI 배경만 박사, 그리고 설명가능 인공지능(XAI) 분야 세계적 석학인 Wojciech Samek 교수(TU Berlin/Fraunhofer HHI)로 구성됐다.
행사는 세 개의 기조 강연(Keynote)과 구두 발표, 포스터 세션으로 구성된다. 기조연설에는 홍콩중문대학 어윈 킹(Irwin King) 교수가 ‘연합학습과 그 너머’를 주제로, KAIST 유창동 교수가 ‘대규모 비전-언어 모델의 공정한 정렬’를 주제로, 독일 프라운호퍼(Fraunhofer) HHI 연구소의 막시밀리안 드레이어(Maximilian Dreyer) 연구원이 ‘엔지니어처럼 AI를 검증하기: 설명에서 검증으로, 시맨틱렌즈와 함께’를 주제로 발표해 AI 신뢰성과 윤리 구현을 위한 최신 연구 동향을 공유한다.
우리 대학은 이번 행사를 통해 국내 AI 연구가 기술적 성과를 넘어 국제 윤리 논의의 중심으로 도약하고 있음을 보여줬다. 또한, 학계와 산업계의 전문가들이 한자리에 모여 신뢰할 수 있는 AI 구축을 위한 실천적 로드맵과 가이드라인을 논의하는 계기가 될 것으로 기대된다.
워크숍 조직위원장인 최재식 교수(KAIST 김재철AI대학원)은 “이번 워크숍은 인간 중심 AI의 핵심 주제인 설명가능성, 공정성, 프라이버시를 아우르는 글로벌 논의의 장이 될 것”이라며, “KAIST가 선도하는 인공지능 신뢰 연구가 국제 협력과 함께 윤리적 기술 발전의 방향을 제시할 것”이라고 말했다.
워크숍 참가를 희망하는 경우 CIKM 2025 학회 등록이 별도로 필요하며, 사전 등록은 https://bit.ly/hcai2025-reg 에서 가능하며 현장 등록도 가능하다.
한편, 이번 행사는 과학기술정보통신부 재원으로 정보통신기획평가원(IITP)이 지원하는‘인공지능 신뢰확보 분야 과제협의체’의 일환으로 추진되었으며, 국내외 연구자 간 학술 교류와 연구 성과 확산을 목표로 하고 있다. (참여과제 KAIST(RS-2022-II220984, RS-2022-II220184), 서울대(RS-2022-II220959), 서강대(RS-2022-II220621), ETRI(RS-2022-II220369), 성균관대(RS-2022-II220688)
2025.11.07 조회수 1136 -
KAIST 설명가능 인공지능연구센터, XAI 기술 이해 저변을 넓히기 위한 튜토리얼 시리즈 개최
인공지능(AI) 기술 발전과 활용 분야가 확대되면서 다양한 AI 기반 서비스들이 등장하고 있다. 하지만 실제로는 어떤 원리로 작동하는지 이해하기 어려워 이용자 입장에서는 막연하게 느껴질 때가 많다. 이 같은 상황에서 국내 대표적인 설명가능 인공지능 연구그룹인 KAIST 설명가능 인공지능연구센터 (센터장 최재식 교수) 연구진이 지난 1월 26일부터 2월 16일까지 7회에 걸쳐 ‘설명가능 인공지능 (XAI, Explainable Artificial Intelligence)’ 알고리즘, 평가기법, 툴 등 XAI 분야의 주요 기술을 총망라하여 소개하는 튜토리얼 시리즈를 개최했다. 이 행사에는 관련 분야 연구자뿐만 아니라 AI 기술기반 제품을 개발 중인 기업(성남시 소재) 관계자 약 130여명이 신청하여 XAI에 대해 높아진 관심을 알 수 있었다. 센터장 최재식 교수는 “AI기술을 활용하는 산업에서 필수로 자리잡게 될 XAI 분야 기반 기술에 대한 교육 프로그램을 제공하여 유관 연구기관 및 기업들이 성과를 높이는 데에 기여하고자 한다”고 행사 취지를 밝혔다.
이번 KAIST XAI 튜토리얼 시리즈엔 KAIST 설명가능 인공지능연구센터 소속 석박사과정 연구원 총 11명과 센터장 최재식 교수, 그리고 초청 연사로서 박우진 교수(서울대 산업공학과), 서민준 교수(KAIST 김재철AI대학원) 등 국내외 전문가들이 강연을 담당해 △다양한 XAI 알고리즘 △XAI 알고리즘의 평가기법과 툴 △사용자 중심 XAI 인터페이스 △대규모 언어모델 기반 추론 기술로 최근 주목을 받고 있는 Chain of Thoughts 등을 주제로 발표했다.
‘설명가능 인공지능’이란 기계학습 및 딥러닝 모델이 내놓은 결과에 대해 왜 그런 결과가 나온 것인지를 사람이 이해할 수 있는 방식으로 설명해주는 기술이다. 예를 들어, 자율주행차가 주행 중 장애물을 발견하여 급정거를 했을 때 왜 그런 판단을 했는지 사람에게 설명할 수 있어야 한다. 그래야 사고 위험을 줄일 수 있고 오작동 시 책임 소재도 가릴 수 있다. 최근 딥러닝 알고리즘의 성능이 향상되고 있지만 아직까지는 사용자들이 내부 로직에 대해 이해할 수 있는 설명을 제공하는 기술까지 적용된 사례는 많지 않다. 앞으로 다양한 산업분야에서 인공지능 기술을 도입함에 따라 적용된 AI기술에 대한 신뢰성과 투명성을 담보하기 위해서 반드시 함께 제공되어야 하는 것이 설명가능 인공지능 기술이라고 볼 수 있다.
KAIST 설명가능 인공지능연구센터 (http://xai.kaist.ac.kr)는 사람중심인공지능 핵심원천기술개발(R&D)사업의 일환으로 과학기술정보통신부와 정보통신기획평가원(IITP)의 후원으로 설립된 연구조직으로서 현재 KAIST 김재철AI대학원 성남연구센터에 자리잡고 있다. 튜토리얼 자료와 동영상은 KAIST 설명가능 인공지능연구센터 홈페이지에서 제공될 예정이다. (관련 문의: 김나리 교수(nari.kim@kaist.ac.kr))
2023.02.15 조회수 9476 -
인공지능연구센터, 네비웍스와 MOU 체결
우리 대학 인공지능연구센터(센터장 최호진)와 ㈜네비웍스(대표 원준희)는 인공지능 분야 기술개발의 공동연구를 위한 양해각서를 6월 2일 체결했다.
두 기관은 이번 양해각서 체결을 통해 (1)인공지능 분야 선행기술 연구개발을 위한 공동 연구 과제의 발굴 및 운영, (2)인공지능 분야 우수 인재 확보를 위한 추천 및 채용 연계 상호 협력, (3)그 외 인공지능 분야 기술 확보 사업 지원의 공동 목표 실현을 위해 필요한 사항 등을 협력할 계획이다.
우리 대학 전산학부는 ‘인간중심 컴퓨팅’이라는 비전 아래 50여 명의 교수진이 다양한 관련 교육 및 인공지능, 자연어 처리, 지식그래프 분야 기술로 소프트웨어공학 및 인간컴퓨터 상호작용 등 컴퓨터 공학 필수 분야와 시너지를 창출할 계획이다.
㈜네비웍스는 가상현실 교육훈련과 지능형 관제 서비스 전문 기업으로 2000년 설립되었다. 메타버스(Metaverse) 환경으로 진화하고 있는 비즈니스 환경에 맞춰 인간 삶의 다양한 분야에 초실감, 초연결을 제공하는 O2O(Offline to Online) 서비스를 고도화 하는 사업을 추진 중이다.
2일 열린 협약식은 류석영 전산학부장 및 최호진 인공지능연구센터장과 ㈜네비웍스의 원준희 대표를 비롯한 양 기관 임직원들이 참석한 가운데 진행되었다.최호진 인공지능연구센터장은 “과학기술 분야의 고급 인재와 기술이 실제 산업 현장과 만나 대한민국이 여러 분야에서 인공지능 강국으로 성장할 수 있는 좋은 기회가 될 것으로 생각한다”며 “양 기관이 적극적인 산학 협력을 통해 인공지능 분야의 한 획을 그을 수 있는 성과물을 창출하길 바란다”고 기대감을 전했다.
2021.06.08 조회수 47806