우리 대학이 인공지능 기술의 윤리적 활용을 주제로 한 국제 세미나 ‘인공지능 길들이기 : 공학, 윤리, 정책’을 21일(목) 오전 11시 서울 웨스틴 조선호텔에서 개최한다.
이번 세미나는 급속도로 발전하는 인공지능을 책임 있게 개발해 윤리적으로 활용하기 위한 공학적, 정책적 방안을 논의하는 자리로 과학기술정보통신부의 지능정보기술 플래그쉽 감성 디지털 동반자 과제 연구단(연구책임자 : 이수영 교수)이 주최하고 우리 대학 인공지능연구소와 4차 산업혁명 지능정보센터가 공동 후원한다.
알파고-이세돌 대국을 기점으로 인공지능에 대한 관심이 고조되며 사회 전 분야에 고도로 학습된 알고리즘이 도입될 미래에 대한 여러 전망이 나오고 있다.
인공지능의 적극적 도입을 통한 효율성 증대가 새로운 경제적 기회가 될 것이라는 희망적인 전망이 제시되는 한편 알고리즘에 의한 사회적 차별, 자동화에 따른 노동 대체, 자율적 로봇으로 인한 생명과 안전의 위협 등 새 위험요소가 등장하고 위기가 심화될 것이라는 우려 또한 존재한다.
이번 세미나에선 인공지능이 보여줄 새로운 기회와 위험 사이에서 파괴적 혁신의 속도와 방향을 조절하기 위한 방안을 모색한다. 영국, 일본, 호주 등에서 인공지능의 윤리에 관한 선도적 활동을 벌여온 학자들을 초청해 기술의 책임 있는 개발과 활용을 위한 공학적, 정책적, 윤리적 의견을 들을 예정이다.
이를 통해 위협이 될 수 있는 인공지능의 기술을 인간의 가치에 맞춰 길들이기 위해 학계, 산업계, 정부의 각 주체들이 실천할 수 있는 다양한 방안에 대해 토론한다.
호주 뉴사우스웨일즈 대학의 토비 왈시(Toby Walsh) 교수는 ‘자율적 살상 무기 : 인공지능 연구자는 무엇을 해야 하는가?’를 주제로 인공지능의 군사적 활용 사례 및 이에 대한 UN의 선제적 대처 등을 소개한다. 이어 연구 현장의 공학자들이 가져야 할 윤리적 실천에 대해 토론한다.
영국 노팅엄 대학의 안스가 쿠너(Ansgar Koene) 교수는 ‘자율 및 지능 시스템의 윤리에 관한 IEEE의 국제 이니셔티브’라는 제목으로 세계 최대 전기전자공학자 단체인 IEEE가 인공지능의 윤리적 개발을 위해 추진하는 산업 표준 제정 사례에 대해 발표한다. 공학자가 활용할 수 있는 디자인 가이드라인 개발에 대해서도 토론한다.
일본 동경대 에마 아리사(江間 有沙) 교수는 ‘일본의 인공지능 윤리 및 정책 : 일본 인공지능 학회가 주는 교훈’이라는 제목으로 발표한다. 로봇 및 인공지능 분야를 국제적으로 선도하고 있는 일본의 학계 및 대학의 윤리 관련 활동과 교훈을 소개한다.
마지막으로 이수영 교수는 ‘어떤 인공지능 윤리를 어떻게 가르칠 것인가?’라는 제목으로 발표하며 사용자의 감정을 인식하는 대화형 인공지능을 직접 개발하는 과정에서 마주친 윤리적 문제를 사례로 들 예정이다.
각 연사의 발표 이후 국내 인공지능 연구자 및 정책 연구자의 논평과 종합토론을 통해 인공지능의 책임 있는 개발을 위한 국내 학계의 실천 가능 정책과 국제 윤리 담론에 기여할 수 있는 방안을 심도 있게 논의할 예정이다.
신성철 총장은 “인공지능 기술이 가져올 파괴적 혁신은 경제적 기회뿐만 아니라 다양한 사회적 위험을 불러일으킬 수 있다. 변화하는 기술 및 사회 패러다임에 신속하게 대응하기 위한 선제적 전략이 시급하다”며 “KAIST는 첨단 인공지능의 개발은 물론 기술의 윤리적 사용에 대해서 역시 국제적 선도 연구를 꾸준히 수행하겠다”고 말했다.
이번 세미나의 참가는 사전 등록(링크: https://goo.gl/forms/vvvcYV7TzjpVFgB53 )를 통해 신청할 수 있다.
우리 대학 김재철AI대학원(원장 정송)은 지난 5월 2일(목) 서울 COEX에서 ‘KAIST 김재철AI대학원 AI기술설명회 2024’(공동주최: 성남산업진흥원, 서울특별시)를 열었다. 본 행사는 KAIST 김재철AI대학원에서 연구개발 중인 최신 AI기술을 일반 참관객 및 산업계 종사자에게 홍보하여 AI기술 확산에 기여하기 위해 마련됐다. 이번 설명회에는 약 650여명이 참석하여 KAIST에서 연구 중인 AI기술에 대한 큰 관심을 확인할 수 있었다. 오전 프로그램으로는 최근 관심이 높은 AI기술 분야에 대한 초청 강연을 진행했다. 최근 산업계의 주요 관심사인 ‘기업용 대형언어모델(LLM) 도입과 활용 전략’을 주제로 장동인 교수(KAIST 김재철AI대학원)가 강연했고, ‘AI와 로봇의 만남: 로봇러닝의 현재와 미래’라는 제목으로 임재환 교수(KAIST 김재철AI대학원)가 로봇러닝 분야의 연구동향과 성과를 설명했다.
2024-05-10우리 대학 김재철 AI대학원 김기응 교수가 자율 에이전트 및 다중 에이전트 시스템 국제재단(이하 IFAAMAS)으로부터 영향력 있는 논문상(Influential Paper Award)를 수상했다고 10일 밝혔다. 수상 논문은 공동 저자로 참여해 2000년도에 발표한 논문 `정책 탐색을 통한 협동 학습(Learning to Cooperate via Policy Search)'이다. 수상 발표는 인공지능 에이전트 분야의 국제 학술대회인 ‘자율 에이전트 및 다중 에이전트 시스템 학술대회 (AAMAS)’에서 이루어졌다. 본 논문에서는 다수의 인공지능 에이전트*가 분산화된 환경에서 협동 학습하는 상황에서, 개별 에이전트의 학습 시그널이 다른 에이전트의 정보에 의존하지 않음을 밝힘으로써, 저자는 이를 기반으로 분산 학습 알고리즘을 제안했다. *에이전트: 복잡한 동적인 환경에서 목표를 달성하려고 시도하는 시스템 이 학습 알고리즘은 간단하면서도 지역 최적점으
2024-05-10챗GPT가 촉발한 생성형 인공지능(AI)*이 세계적으로 열풍을 일으키는 가운데 새로운 인공지능 반도체의 생태계 구축을 위해 KAIST(총장 이광형)가 네이버(NAVER) 및 인텔(intel)과 손잡고 상호 보유 중인 역량과 강점을 한 곳에 집중한 ‘NAVER · intel · KAIST AI 공동연구센터(NIK AI Research Center)’를 설립한다. 업계에서는 이들 세 기관의 전략적인 제휴가 인공지능 반도체·인공지능 서버와 데이터센터의 운영에 필요한 오픈소스용 소프트웨어 개발 등 인공지능 분야에서 각자 보유하고 있는 하드웨어 및 소프트웨어 기술과 역량을 융합해서 새로운 인공지능 반도체 생태계를 구축하는 한편 시장과 기술 주도권 확보를 위해 선제적인 도전에 나선 것으로 보고 있다. 특히 첨단 반도체 CPU 설계부터 파운드리까지 하는 세계적인 반도체 기업 인텔이 기존의 중앙처리장치(CPU)를 넘어 인공지능 반
2024-04-30최근 자연어나 이미지, 동영상, 음악 등 다양한 분야에서 주목받는 생성형 AI가 신약 설계 분야에서도 기존 신규성 문제를 극복하고 새로운 혁신을 일으키고 있다고 하는데 어떤 기술일까? 우리 대학 화학과 김우연 교수 연구팀이 단백질-분자 사이의 상호작용을 고려해 활성 데이터 없이도 타겟 단백질에 적합한 약물 설계 생성형 AI를 개발했다고 18일 밝혔다. 신규 약물을 발굴하기 위해서는 질병의 원인이 되는 타겟 단백질에 특이적으로 결합하는 분자를 찾는 것이 중요하다. 기존의 약물 설계 생성형 AI는 특정 단백질의 이미 알려진 활성 데이터를 학습에 활용하기 때문에 기존 약물과 유사한 약물을 설계하려는 경향이 있다. 이는 신규성이 중요한 신약 개발 분야에서 치명적인 약점으로 지적되어 왔다. 또한 사업성이 높은 계열 내 최초(First-in-class) 타겟 단백질에 대해서는 실험 데이터가 매우 적거나 전무한데, 이 경우 기존 방식의 생성형 AI를 활용하는 것이 불가능하다. 연구팀
2024-04-18우리 대학이 서울시 · 서울시복지재단과 'AI안부확인서비스 데이터 활용연구를 위한 업무협약'을 29일 서면 교환 방식으로 체결한다. 이번 업무협약은 서울시가 2022년 10월부터 제공해 온 인공지능을 활용한 안부 확인 서비스를 고도화하기 위해 추진된다. 안부 대상자의 심리상태와 고립 위험 신호를 탐지할 수 있는 대화형 'AI안부확인서비스'를 개발해 고립가구 돌봄서비스에 활용하는 것이 목표다. 우리 대학은 이번 연구를 위해 인공지능-사회복지-HCI(인간컴퓨터상호작용)를 아우르는 융합연구팀을 구성했다. 차미영 전산학부 교수와 최문정 과학기술정책대학원 교수 및 IBS 수리 및 계산과학 연구단 데이터사이언스 그룹 진효진 박사가 참여한다. 연구팀은 서울시가 'AI안부확인서비스'를 운영하며 축적해 온 대화 데이터를 제공받아 ▴고립 위험 대상자를 찾아낼 수 있는 지표 개발 ▴고립감 해소 및 심리적 안정을 위한 시나리오 개발과 이를 반영한 대화형 인공지능 개발 ▴고령자 및
2024-03-29