KAIST, 한화시스템과 국방AI융합연구센터 열어
29개국 AI 연구자 57명
KAIST와 협력 보이콧
학교측 "무기 개발 목적 아냐"
구글도 'AI 드론' 착수하자
직원 3000여명 반대 성명
세계 29개국 57명의 인공지능(AI) 연구자들이 KAIST가 AI기술을 이용해 ‘살인 로봇’을 만들고 있다며 연구협력과 교류를 전면 중단하겠다고 선언해 논란이 일고 있다. 세계 최대 인터넷 검색 서비스 업체인 구글은 자사의 AI 기술을 적용하는 미국 국방부와의 협력 사업이 직원들로부터 큰 반발을 사고 있다.
5일 국제학술지 사이언스 등에 따르면 컴퓨터 과학자인 토비 월시 호주 뉴사우스웨일스대 교수가 주도하는 이들 과학자 그룹은 KAIST가 ‘국방AI융합연구센터’를 설립하고 자율무기와 살인 로봇을 개발하고 있다며 보이콧을 선언했다.
이들은 성명서에서 “KAIST 같은 권위 있는 기관이 무기 개발을 촉진하는 것에 대해 매우 유감스럽다”며 “KAIST 총장이 인간 통제력이 결여된 자율 무기를 개발하지 않겠다는 확신을 줄 때까지 모든 협력을 거부하겠다”고 주장했다.
이번 사태는 KAIST가 지난 2월 국내 방산업체인 한화시스템과 손잡고 AI기술을 적용한 신무기 체계를 개발하는 국방AI융합연구센터를 개소한 것이 발단이 됐다. 이 센터는 AI를 기반으로 하는 지능형 항공기 훈련시스템과 지능형 물체추적·인식기술, 지휘결심지원체계, 대형급 무인잠수정 복합항법 알고리즘 개발 등을 우선 과제로 선정해 산학 협동으로 공동 연구를 수행하고 있다.
성명에 참여한 과학자들은 AI 기술이 인간의 통제를 벗어난 자율 무기에 적용되는 것에 심각한 우려를 나타냈다. 월시 교수는 “자율무기는 지금까지 경험해보지 못한 수준의 더 빠르고 더 큰 규모의 전쟁을 가능하게 하고 테러무기가 될 잠재력이 있다”며 “KAIST가 인간 삶을 파괴하는 대신 개선하는 쪽으로 연구방향을 잡기를 촉구한다”고 지적했다.
KAIST는 국내와 해외에서 논란이 확산되자 이날 성명에 참여한 과학자들에게 총장 명의의 입장문을 보내고 국내외에 해명자료를 배포했다.
신성철 KAIST 총장은 한국경제신문과의 전화통화에서 “해외에 보도된 영문 기사 중 하나가 AI 무기를 연구한다고 오역되면서 오해가 빚어진 것으로 보인다“며 ”통제력이 결여된 자율 무기를 포함해 인간 존엄성에 어긋나는 연구 활동을 수행하지 않겠다“고 강조했다.
월시 교수는 신 총장의 해명 직후 사이언스와 한 인터뷰에서 “KAIST가 ‘AI에 대한 인간 통제’에 대해 최초로 공약한 것은 큰 의미가 있다”며 ”앞으로 이 문제에 관한 유엔의 논의에 무게를 더할 것“이라고 말했다. 다만 KAIST와 연구협력과 교류를 중단하겠다는 입장을 철회했다고 밝히진 않았다.
AI를 활용한 로봇 등 군사무기는 이미 국제적으로 큰 논란이 되고 있다. 영국 비영리 뉴스제공 기관인 탐사보도국에 따르면 지난해 군용 드론(무인항공기)의 폭격으로 852~1445명이 숨진 것으로 추정했다. 시민사회뿐 아니라 과학계 일각에선 인간과 같은 감정이 없고 판단력이 빠른 AI를 군용 로봇과 드론에 적용하면 가공할 파괴력을 보일 것이라며 이에 반대하는 목소리를 높이고 있다.
구글의 고위직 엔지니어들을 포함한 직원 3100명은 최근 순다르 피차이 최고경영자(CEO) 등 회사 경영진을 상대로 미 국방부(펜타곤)와 공동 프로젝트를 진행 중인 회사 정책에 반대하는 캠페인을 벌이고 있다. 이들은 “펜타곤의 파일럿 프로그램인 메이븐에서 철수하고 전쟁기술을 구축하지 않겠다고 발표하라”고 요구하고 있다.
메이븐은 AI를 사용해 군사용 드론의 비디오 이미지를 분석하고 드론의 타격 목표를 향상하는 연구 프로젝트다.
한국 내에서도 로봇과 AI 등의 무기화가 안보 논리를 근거로 별다른 사회적 논의 없이 추진되고 있다. 육군은 지난 2월 국방개혁 2.0 핵심과제로 지상작전사령부에서 사단급 부대까지 로봇과 드론을 배치해 드론봇 전투단을 편성하는 방안을 공개했다.
김유신 한국과학기술한림원 과학인권위원회 위원장(부산대 교수)은 “AI의 무기화는 미래 전장의 지형을 바꿀만한 가공할 파괴력을 갖고 있다”며 “미국과 소련이 전략핵무기감축협정을 맺은 것처럼 국제협약을 통해 국제적으로 감시를 받도록 해야 한다”고 주장했다.