실제로 인공지능이 자체적으로 판단해서 사람을 죽일수 있다면...
정말 무서운 일이겠지요
보통 드론을 조종하더라도 화면에 폭격지점에 민간인이 있다면
확인하고 적인지 다시 확인하지만....
인공지능이라면 그게 민간인인지 적군인지 판단을 ....
확률로 구분해서 상황과 정보를 종합해서
90%이상의 확률로 적이라고 판단하여
폭격을 실시할 수 도 있는거니까요
실제로 적이라고 판단했어도 사실은 민간인이었던
경우가 상당히 많았던 경우가 있으니....
오폭으로인한 인명 손실은 꾸준히 있어왔습니다
과거 전쟁처럼 융단폭격을 하는 경우는 사라지고
정밀 폭격으로 특정 인물이나 특정 집단에 대해
공격을 실시하지만...
여전히 판단은 사람이 내리고 있습니다
미국의 경우 이미 F-16을 Loyal Wingman 계획을 발표한적이 있습니다
F-35을 유인기로 하여 지휘하고 무인기인 F-16을 주변에 붙여
운용한다는 이야기인데요
실제로 무인 F-16은 기존에 입력된 지상의 공격목표를 타격하기 위하여
자율적으로 비행경로를 선택하고 지상 공격을 수행하고 미션중
예상치 못한 적기와 조우시 즉시 대응을 하고 미션을 완료했다고 하니....
이미 .... 완전 자율은 아니라도 명령받은 공격 무기들은 적으로 판단된
경우에 자율적으로 대응은 하고 있습니다
(사실.... 시뮬레이터상의 적기 역시 알고리즘 대응이지만 외부에서 보면
자율 대응이긴하죠)
하여간... 최근에는 딥러닝처럼 기계가 학습을 통해서 자율성을 확보하
는 경우가 생겼기 때문에 실제 작동하는 부분에서 자유를 주게되면
사고가 발생할 가능성도 있습니다
만일 해커가 침입해서 ....
이사람은 적이다 라고 즉시 판단 및 사살 명령을 심어뒀다가 갑자기
코드가 실행되버리면....
원격으로 살인이 가능한 상황이 되겠죠
어디서 쏜지는 모르지만 과녁은 관통한 상황
하여간....
자율성을 가진 무기란 정말....
터미네이터랑 똑같죠
특히 그게 국가에의해 통제되던 군사 무기가 아닌 일반
사람이 쉽게 구할수 있는 상황이 벌어지면....
작은 드론이 특정인을 인식하고 공격하면
(정말 드론 빠르죠)
피하기는 정말 힘들꺼에요
지금 있는 기술로도.... 특정인을 지정하고 쫓아다니는
부분은 제공되고 있으니까요
근접해서 원격으로 기폭장치를 터뜨린다면 그게
지금도 구현할 수 있는 킬러 로봇 킬러 드론이긴 하죠
중요한건..... 결국 누가 적인지를 지정해줄 .... 사람입니다
테러리스트라면 무고한 인명을 적이라고 입력할테고
그 반대라면 테러리스트를 입력할테지요.....
평화로운 세상이라면 아무도 입력하지 않겠지만요