%EC%A0%84%EC%9A%B0%EC%A0%95
-
전우정 교수, 한국 법학자 최초 군사 AI통제 과학적 도전 밝혀
우리 대학 문술미래전략대학원 전우정 교수가 우리나라 법학자 최초로 세계 최고 과학 학술지인 네이처(Nature)의 자매지 ‘네이처 일렉트로닉스(Nature Electronics)'의 코리스판던스(Correspondance) 섹션에 군사 AI 통제의 과학적 도전에 관한 기고문을 게재했다고 8일 밝혔다.
지난 9월 9일부터 10일까지 서울에서 개최된 ‘2024 인공지능(AI)의 책임 있는 군사적 이용에 관한 고위급 회의(REAIM 2024)'에서 군사 AI 거버넌스에 중요한 진전이 이뤄졌다. 우리나라 뿐만 아니라 네덜란드, 싱가포르, 케냐, 영국이 공동 주최국으로 참여한 이 회의에서 미국, 독일, 프랑스, 일본 등 61개국이 ‘행동을 위한 청사진(Blueprint for Action)'을 채택했다. 이후 두 개 국가가 추가로 동참해 현재 총 63개국이 채택하고 있다.
전우정 교수는 이번 기고문에서 군사 분야의 AI 활용에 대한 이러한 원칙들을 과학적·기술적 조치로 실천하는 데 상당한 어려움이 있음을 강조했다. 이는 전 세계 과학계의 관심과 노력이 필요하다고 밝혔다.
전 교수는 현대 전쟁에서 AI의 역할을 강조하며, AI가 육군, 해군, 공군뿐만 아니라 우주와 사이버 영역을 포함한 5개 군사 분야를 연결하는 핵심 요소라고 지적했다. AI는 신속 정확한 의사 결정, 물류 최적화, 작전 계획, 인공위성 영상 분석, 드론 공격 목표 식별, 리스크 평가 등을 통해 전투 효율성을 높일 수 있지만, 알고리즘 결함이나 상황 오판 등으로 인해 의도치 않은 결과가 발생할 위험도 존재한다고 설명했다.
이러한 도전을 해결하기 위해 전 교수는 몇 가지 핵심 분야에서의 집중적인 연구와 국제 협력이 필요하다고 제안했다. 적군 AI 시스템과의 경쟁시 초(秒)를 다퉈 작전을 수행해야 하는 상황에서 의미 있는 인간의 통제를 보장하고, 핵 무기 통제 시스템에 AI를 통합할 때 발생할 수 있는 잠재적 리스크를 해결하며, 투명성과 작전 보안을 균형 있게 유지하는 설명 가능한 AI (eXplainable AI, XAI)를 개발해야 한다고 강조했다.
자세한 내용은 다음 ‘네이처 일렉트로닉스' 링크에서 확인할 수 있다.
https://www.nature.com/articles/s41928-024-01275-0
https://doi.org/10.1038/s41928-024-01275-0
(기고문 제목: Scientific challenges in governing military AI)
한편, 문술미래전략대학원 전우정 교수는 공군 예비역 대위로, 공군학사장교회 국제위원장으로 봉사하고 있다.
2024.11.08 조회수 1046 -
국내 최초 인공지능과 리걸테크 학부 강좌 개설
최근 ChatGPT와 같은 생성형 AI 기술의 등장으로 인공지능 패러다임이 변화하면서, 모든 산업 분야가 새로운 국면을 맞이하고 있다. 생성형 AI 콘텐츠에 대한 윤리적 문제와 법적 해석, 그리고 리걸테크 산업에 대응할 수 있는 융합형 인재 양성의 필요성이 대두되고 있다.
우리 대학은 2024년 가을학기부터 학부생 대상으로 ‘생성형 AI와 리걸테크(Generative AI and Legal Tech)’과목을 신설한다고 30일 공식 발표했다.
이 과목은 최신 인공지능 기술과 법률 분야가 만나는 흥미로운 주제를 다룬다. 생성형 AI는 글쓰기, 이미지 생성, 음악 작곡 등 새로운 콘텐츠를 만들어내는 인공지능 기술을 말하며, 리걸테크는 법률 서비스에 기술을 접목한 것을 의미한다.
학생들은 이 과목을 통해 컴퓨테이션 법률학, 법률 AI 시스템, 거대언어모델 이론 및 생성형 AI의 법적 이슈, AI 윤리 등을 배우게 된다. 특히, 생성형 AI와 관련된 주요 법적 및 윤리적 이슈들을 심도 있게 다룰 예정이다.
우리 대학은 본 강좌의 전문성 강화를 위해 인텔리콘 연구소의 임영익 대표이사를 문술미래전략대학원 겸직교수로 임용했다. 임 대표는 지난 10여 년간 법률 인공지능과 컴퓨테이션 법률학 이론을 체계적으로 연구해 왔으며, 세계 법률 인공지능 대회에서 2년 연속 우승하는 등 법률 인공지능 분야에서 탁월한 실무 경험과 기술력을 보유하고 있다.
강의 주임교수를 맡은 전우정 교수는 인공지능 거버넌스, 지식재산권, 디지털자산, 계약법 등에 정통한 학자로, 임 대표와 협력하여 본 강좌를 이끌 예정이다.
전 교수는 “본 과목은 생성형 AI와 법률융합에 관한 학술적 이론과 차세대 리걸테크 시스템 개발 방법론을 제공한다. 구체적으로 AI가 만든 작품의 저작권, AI의 개인정보 처리, AI 결정에 대한 책임 문제, AI 규제, 설명가능성, 블랙박스(black box) 문제, 투명성 의무(transparency obligations) 등 생성형 AI 관련 법률 및 윤리 이슈에 대한 미래학적 접근을 포함하고 있다”라고 설명했다. 또한 “이를 통해 학생들은 기술의 발전이 법률 분야에 미치는 영향을 이해하고, 미래의 변화에 대비할 수 있는 지식을 얻게 될 것”이라고 덧붙였다.
인텔리콘 연구소의 임영익 대표는 “컴퓨테이션 법률학은 수학, 통계학, 뇌과학, 인지과학 등의 기초 학문과 거대언어모델(LLM) 같은 첨단 인공지능 기술, 그리고 법학이 복합적으로 연결된 초융합 분야”라고 설명하면서, “학부 과정에서 이러한 최첨단 이론을 접하는 것은 학생들의 시야를 넓히고, 세계를 선도할 수 있는 독창적인 진로를 개척하는 데 큰 도움이 될 것”이라고 강조했다.
이 과목은 법률 문서 자동 분석, 판결 예측, 법률 시각화 시뮬레이션, 법률 검색증강생성 기술(Legal-RAG) 등 리걸테크 개발 방법론도 함께 다룰 예정이다. 우리 대학은 이 과목을 통해 미래의 인공지능 산업과 법률 서비스가 어떻게 변화할지 예측하고 준비하는 데 도움을 줄 것으로 기대하고 있다.
2024.08.30 조회수 1901