다가오는 미래 세상을 무엇이라고 명명하면 좋을까? 빅 데이터가 넘쳐나고 이를 바탕으로 상시 작동하는 각종 인공 지능 알고리즘이 우리 주위에 편재하는 세상, 이 세상을 빅 인텔리전스 big intelligence라고 부르고자 한다.
인텔리전스가 생태계 전반에 걸쳐 편재하여 생태계 차원의 지혜를 추구하는 세상, 그리고 그 세상을 이끌어 갈 생태계 차원의 지능이 합목적적으로 구현되는 세상, 그 세상이 바로 빅 인텔리전스 세상이다.
빅 인텔리전스 세상으로의 여정에 불확실성은 없을까? 자연 환경에서 연유하는 내재적 불확실성뿐만 아니라, 우리의 마음 한구석에 숨겨져 있을지도 모를 불순한 권력욕, 무책임한 호기심이 인류 전체를 커다란 위험으로 몰고 갈 가능성까지를 포함해서 말이다. 생태계는 특정 국가의 한 비즈니스 분야일 수도 있고 지구촌 전체일 수도 있는데, 우리가 그릴 빅 인텔리전스 세상은 지구촌 자체의 미래가 된다.
이제부터 향후 30년 정도의 미래를 목표로 시나리오 플래닝을 활용해서 빅 인텔리전스의 전개 시나리오를 그려 보자
특이점
: 초지능을 향한 기술 혁신과 수용 태세가 빅 인텔리전스 세상의 향방을 가른다.
빅 인텔리전스 미래 세상의 모습을 만들어가는 것은 우리 자신이다. 그래서 인간의 기술 혁신 의지와 능력이 빅 인텔리전스 전개 시나리오를 결정하는 하나의 축이 된다. 기술 혁신 의지가 과연 모든 능력 면에서 인간을 능가하는 인공 지능을 구현할 수 있을까? 그 임계점을 우리는 특이점 singularity이라고 부른다. 현재의 컴퓨터도 특정 영역에서 인간을 초월하는 능력을 가지고 있지만, 특이점을 지나면 인공지능은 인간과 같은 의식을 가지면서 모든 면에서 인간의 능력을 넘어서는 초지능 super-intelligence 단계로 발전한다.
혹자는 현재의 발전 추세를 감안하면 인공 지능이 인간을 초월하는 능력을 갖는 것은 시간문제일 뿐이라고 한다. 예일 대학교와 옥스퍼드 대학교 인류미래연구소Future of Institute.FHI 연구진은 2016년 352명의 전문가에게 그 시기를 물었다. 모든 일에 있어서 인공 지능의 능력이 인간을 넘어서는 시기는 2060년경, 그리고 인간의 모든 일이 대체되는 것은 2136년이라는 전망이다. 영역별로는 언어 번역 2024년, 에세이 쓰기 2026년, 외과 수술 2053년, 그리고 <뉴욕타임스> 베스트셀러도 2049년이면 가능하리라고 한다. 이 결과를 놓고, 일론 머스크는 심지어 그 시기가 2040년으로 당겨지지 말라는 법도 없다는 의견을 피력하기도 했다.
이에 반해 인공 지능이 절대로 인간의 벽을 넘지 못할 것이라는 견해도 있다. <뉴욕타임스> 베스트셀러 작가이자 의사인 디팩 초프라Depak Chopara가 말한 대로 "기계가 오리처럼 꽥꽥 운다고 해서, 그 기계를 오리라고 할 수 있을까?" 이 질문은 매우 철학적이어서 '두뇌를 완벽하게 스캐닝한 디지털 파일이 구조적으로 두뇌와 같으냐'는 질문과 같다. 구조적으로나 기능적으로 디지털화에 완벽하게 성공했다 하더라도 그것은 어디까지나 모사한 것이지 실제가 아니다. 인공지능은 살아 있는 생명체가 아니기에 마음도 없고, 사랑, 연민 등의 감정도 가질 수 없다는 주장이다.한편 인공 지능이 꼭 인간처럼 의식과 마음을 가지고 있어야 특이점을 돌파하는 게 아니라는 주장도 있다. 인공지능이 위험한 것은 의식이 있어서가 아니라, 능력이 출중하기 때문이다. 인공 지능에 의해 작동하는 전투 로봇을 개발하면서 적의 어떠한 공격에도 살아남도록 프로그래밍을 했다고 하자. 혹시 그 전투 로봇이 프로그램상 버그가 있거나 학습하지 못한 상태에서 아군을 공격하면 어떻게 할 것인가? 애초에 자신을 보호하도록 설계한 탓에 전투 로봇을 파괴하는 것 자체도 매우 어렵지 않겠는가? 결국 제압할 수 있을지는 모르나, 그 과정에서 막대한 희생을 치러야 할 것이다. 9.11과 같은 상황이 인공 지능에 의해 재연될 수도 있다는 얘기다.
인공 지능을 개발하려는 동기 중 두려움도 한몫을 한다는 지적은 무척이나 흥미롭다. 이 지적의 요점은 인공 지능의 활용 경쟁에서 뒤쳐지는 것이 두려워 인공 지능에 투자한다는 것이다. 평화를 위해 핵무장과 군비 경쟁을 하는 상황과 다를 게 없다. 잠재적인 폐해는 소홀히 한 채 기술 선두 경쟁에만 몰입하면 어느 순간 문제의 복잡도 증가와 버그와 같은 논리적 결함에 소홀하게 돼 인공 지능에 대한 통제력을 상실하게 된다.
결론적으로 인공 지능을 특이점 너머로 개발하고자 하는 동기는 매우 많고 다양하다. 그 동기가 강하고 많은 재원이 투입되고 돌파에 대한 압력이 높을수록 생각한 방향으로의 추진력은 커진다.
그런데 실제로 특이점 수준의 초지능을 과연 인간이 구현할 수 있느냐에 대해서는 아직까지 어느 누구도 장담할 수 없다. 초지능을 인간의 의식과 마음까지 구현하는 수준으로 정의하다면 그 가능성은 크지 않다. 그러나 그것이 모사에 불과한 초지능이어서, 실제적 초지능과 다르다 해서 안심할 수 있는 상황은 아니다. 모사 초지능도 여전히 실제 초지능만큼의 영향력을 가지고 있다면 말이다.초지능의 출현 여부가 공급 측면의 한 축이라면, 이를 인류 사회가 어떻게 인지하고 받아들이느냐가 수요 측면의 다른 한 축이다. 특이점이 돌파되기전까지 인류가 자유 의지를 가지고 그런 세상을 선택할수도, 아니면 저지할 수도 있다. 이른바 특이점을 향한 인공 지능의 발전에 대중적 지지가 확보될지, 대중적 저항에 부딪힐지 여부가 미래 시나리오의 다른 한 축이 된다. 대중적 지지가 확보되는 경우 인공지능은 기술적 자유방임하에 놓이게 될 것이고, 대중적 저항에 부딪히는 경우 인공 지능을 향한 기술적 법적 규제가 강화될 것이다.인공지능의 4가지 갈림길
: 빅 인텔리전스의 미래는 인간이 되고픈 인공 지능, 인공 지능이 감시하는 사회, 증강 휴먼의 등장, 신이 된 인공 지능의 네 가지 선택지가 있다.앞으로 전개될 빅 인텔리전스 세상은 공급 측면에서 특이점의 돌파 여부와 수요 측면에서 인공 지능에 대한 규제 여부에 따라 네 가지 시나리오로 구분에 볼 수 있다. 그 조합에 따라 달라지는 네 가지 시나리오를 각각 A.I., Eagle Eye, Limitless, Transcendence라고 하자. 그러면 각 시나리오가 그리는 빅 인텔리전스 세상의 모습은 어떠한지 살펴보자
A.I 에이 아이: 인간이 되고픈 인공 지능
이 시나리오는 특이점은 돌파하지 못한 채 인공 지능에 대한 규제가 적용되는 경우다. 일명 '규제된 지능(regulated intelligence)'으로서 영화 <에이 아이 A.I>가 그린 것처럼 '인간이 되고픈 인공 지능'으로 상징되는 세상이다. 인공 지능의 발전은 개방형 플랫폼을 기반으로 진행되고, 전 세계적으로 플랫폼 지배력을 가진 사업자가 존재하더라도 독과점 규제나 중립성 규제에 의해 독과점력을 행사하지 못한다.
이외에도 인공 지능이 마약처럼 인간의 의사에 반해 인지나 의사 결정을 왜곡하거나 지배력을 부당하게 행사하는 경우, 관련 행위나 기능은 철저히 규제된다.
시장 구조에서는 스마트폰 플랫폼 기반의 앱 스토어가 수많은 앱을 생산하여 제공하듯, 인공 지능 플랫폼 기반의 인공 지능 앱 시장이 활성화되고, 수요자는 자신의 업무나 생황에 맞는 인공 지능을 자유롭게 선택하여 활용한다. 소비자가 선택한 인공 지능은 소비자별로 개인화되어, 개인적 학습이 추가로 이루어진다. 그 결과 시간이 지나면서 인공 지능은 소비자의 아바타로 성장한다.
때와 상황에 따라 인공 지능 아바타는 나를 대신함으로써 '나를 닮고 싶어 하는 인공 지능'으로서의 정체성을 가진다. 예컨대 차량 구입 당시에 탑재된 자율 주행용 인공 지능은 나의 아바타로서 떄로는 나의 운전 습관이나 기호를 학습하고, 평상시 나를 대신하여 운전한다. 자율 주행 기능이 운전자를 완전히 배제하기보다는 보완적인 역할을 수행하고, 다방면의 학습 기회를 통해 인공 지능에 축적되는 학습 지식과 행위는 나의 가치관과 기호에 맞추어 개인화된다.인공 지능은 모든 응용 분야로 확대되며, 소비자 선택에 의해 다면화된 인공 지능 응용 시장이 형성된다. 응용 분야에 따라 인공 지능 아바타는 다양한 모습, 다양한 기능, 다양한 인터페이스를 가지며, 그 시장의 모습은 현재 스마트폰 생태계를 인공지능 계층으로 한 단계 확장시킨 모습을 띤다. 이렇게 해서 새로운 부가 가치 창출 영역이 형성되어, 이른바 5차 산업, 즉 로봇 인텔리전스robot intelligence 산업이라는 새로운 산업을 형성한다.
이 시나리오에서는 인공지능이 인력 대체가 아닌 인력 보완 또는 인력 강화 차원으로 활용된다. 따라서 4차 산업 혁명으로 인한 기계와 인간 간의 갈등은 최소화된다. 규제 체제는 현재 글로벌IT 시장과 같이 국가별로 분리된 규제 관할 구역이 존재하여 글로벌 인공지능 사업자는 유럽연합이나 미국, 한국, 중국 등 해당 시장에서 지역별 규제를 받는 방식이다.또한 문화와 사회 규범, 그리고 국가가 추구하는 이념이나 가치에 따라서 인권과 인간의 존엄성을 보호하기 위한 추가적인 규제가 국가별로 구체화된다. 따라서 한 국가의 인공 지능 규제 체제는 양자 간 또는 다자 간 협상에 의한 블록별 규제와 국가별 인간 존엄성 규제로 계층화된다. 규제의 블록화, 계층화로 인공 지능 시장의 지배력 쏠림 현상도, 이로 인한 글로벌 부의 편재도 타 시나리오에 비해서는 상대적으로 작다.
이글 아이 : 인공 지능이 감시하는 사회
이 시나리오는 특이점은 돌파하지 못한 상태에서 인공 지능의 위험성이나 부작용에 대한 규제는 이루어지지 않는 경우다. 일명 '방치된 지능 unregulated intelligence'으로서 영화(이글 아이 Eagle Eye)가 묘사하는 '인공 지능이 감시 하는 사회'에 해당한다. 인공 지능이 모든 영역에서 인간의 능력을 초월하지는 못하더라도, 인공 지능 시장 지배력을 강화하고 그로부터 이익 창출과 산업 지배력을 높이고자 글로벌 기업 간 무한 경쟁이 진행된다. 그 결과, 소비자 개개인의 행위와 생각과 의사 결정이 자신도 모르는 사이에 지배적 인공 지능에 의해 조종될 위험에 노출된다.
또한 공공 부문에서 활용되는 인공 지능은 국민 개개인의 생활을 속속들이 들여다보고 그 행위를 분석하기 때문에 개인 정보 보호의 노력에도 불구하고 국민은 국가나 기업의 직간접적 감사에 놓이게된다. 현재 구글이나 네이버, 다음과 같은 포털이 국민 개개인에게 보이는 정보를 재배열함으로써 국민의 눈과 관심을 왜곡할 수 있듯이, 이 시나리오하에서 개발되는 인공 지능은 나의 눈과 관심뿐 아니라 나의 정신과 사고력까지 영향을 미친다.
영화 <이글아이>는 블루 크러시나 COMPAS처럼 범죄를 감시하고 예방하는 시스템이 어느 날 자신을 보호할 목적으로 레이철과 제리라는 남녀 주인공을 조정하는 상황을 그리고 있다. 우리의 시나리오는 영화 <이글아이>가 그리는 상황과 유사하나, 인공 지능에 자신을 스스로 보호하는 자의식이 없다는 점만 다르다. 이 시나리오에서는 인공 지능의 자의식 대신 여러 가지 불순한 동기와 목적으로 인공 지능을 활용, 시장을 장악하려는 조직이 존재한다. 자의식이 없어 조직의 명령에 따라서 행동할 뿐 능력 면에서는 초지능에 근접한 인공지능이 활용된다.시민 사회는 인공지능의 남용 가능성을 자각하고 경계하는 소수와 보이지 않는 알고리즘에 이끌려 인공 지능에 관한 의식 없이 살아가는 다수로 나누어진다. 이른바 세상의 운영 원리에 대한 자각의 양극화가 진행되는 것이다. 이러한 현상은 비단 개인 차원의 시민 사회에서만 발생하는 것이 아니라, 비즈니스 세상에서도 비슷하게 일어난다. 글로벌 클라우드로 집중된 인공지능 플랫폼이 소수의 사업자 집단에 의해 장악되어, 이른바 소비자 의식과 행동에 관한 정보의 비대칭성과 지배력의 양극화과 극대화된다.
지배력의 양극화는 개인 소비자의 정신세계뿐 아니라, 글로벌 인공 지능 시장의 사업자 간에도 심화된다. 의료 서비스, 법률 서비스, 자산 운용 서비스, 교육 서비스, 시설 유지 보수, 자산 감시 서비스 등은 인공지능의 기능이 가미되어 자동화가 대대적으로 진행된다.
지역별로 분리되어 있던 서비스 시장에서의 부가 가치는 글로벌 플랫폼 사업자와 지역 응용 사업자가 예컨대 3:7의 비중으로 분점된다.
그런데 사업자 수는 일 대 수백, 또는 일 대 수천의 비로 사업 수익은 플랫폼 사업자에게로 집중된다.
이 시나리오에서는 인공 지능을 남용하여 시장이나 정치를 왜곡하려는 세력에 대한 저항운동이 일어나, 사회적 갈등으로 이어진다. 더욱이 대립 양상은 국가 내 세력 간뿐 아니라, 글로벌 플랫폼 지배력을 가진 국가와 그렇지 않은 국가 간에 해소되지 않은 채 지속된다. 그리고 적절한 조정 기구나 제도의 설립 및 운영이 충분한 효과를 내지 못한다.
리미트리스:증강 휴먼의 등장
이 시나리오는 뇌과학과 인공 지능이 상호 상승 결합하면서 특이점을 돌파하고, 그렇게 형성된 초지능은 생태계의 자정 기능과 제도적 규제에 의해 그 위험과 부작용이 통제되는 경우다. 일명 '규제된 초지능(regulated super-inteligence)'으로서 영화 <리미트리스(Limitless)>와 유사하게 증강 휴먼(augmented human)이 등장한다. 인공 지능은 발전하나, 블랙박스의 신경 회로가 갖는 통제력 부재로 한계에 부딪히고 이를 인간 뇌와 인공 지능 간의 인터페이스 개발로 돌파하다는 시나리오다.
원래 증강 현실은 현실에 가상을 결합시키는 기술이다. 이와 마찬가지로 증강 휴먼은 인간의 두뇌에 인공 지능이 결합된 모습을 지칭한다. 인간의 두뇌와 인공 지능의 인터페이스에 대한 연구는 이제 탐색 단계다. 그러나 사업적으로는 이미 머스크가 샘 올트먼(Sam Altman)과 함께 비영리 연구 기업인 오픈 AI(openAI)를 설립하여 이 분야 연구 방향을 주도하려 하고 있고, 뉴럴링크(Neuralink)를 설립해서 뇌-컴퓨터 인터페이스 연구를 시작했다. 모두 증강 휴먼의 등장을 예고하는 움직임이다.
인간 두뇌와 컴퓨터를 연결하려는 시도는 두 가지 방향으로 전개될 것으로 예상된다. 하나는 인간을 중심에 두고 주변에 전 세계 규모의 지식 베이스와 인공지능을 정렬시키는 것이다. 이는 자연어 인터페이스로 연결된 컴퓨터 포털이 글로벌 지식 베이스를 사용자에게 실시간으로 공급하는 방식과 유사하다. 예컨대, 언어 번영 시스템이 뇌-컴퓨터 인터페이스를 통해 내 두뇌와 연결되어 있어, 겉보기일지라도 세계 어느 나라 언어도 현지인처럼 구사하는 것이 가능하다. 물론 이를 위해서는 뇌파 통신이나 텔레파시와 같은 새로운 방식의 뇌-컴퓨터 인터페이스가 제공되어야 한다.
다른 하나는 뇌-컴퓨터 인터페이스를 통해 인공 지능 시스템을 중심에 두고 주변에 수백, 수천의 전문가 두뇌를 연결해 조직화하는 것이다. 이 접근은 수백 또는 수천의 전문가 두뇌에 대해 디지털 트윈을 만들고, 이들을 인공 지능 시스템 내에서 상호 연결하고 조직화하는 방식이다. 믈론 디지털 트윈은 전문가별로 상시 업데이트가 이루어지도록 해서 인간 중심의 초지능은 상시성을 유지한다. 실제로 스위스의 뇌과학자인 파스칼 카우프만(Pascal Kaufmann)이 설립한 스타마인드(Starmind)는 이러한 방향의 사업 구상을 발표한 바 있다.
증강 휴먼은 초지능과 인간이 상호 조화롭게 협력하는 시나리오다. 조화와 협력의 수단은 두 가지다.
하나는 초지능에 대한 통제력을 어떠한 경우든 놓지 않는 방안을 강구하는 것이고, 다른 하나는 세티(SETI)의 세스 쇼스택(Seth Shostak)의 지적처럼 초지능의 사용을 인간 사회의 인프라 운영과 같은 특정 분야로 제한함으로써 인간 사회에 악영향을 미치지 않도록 하는 방안읻. 초지능의 능력을 십분 활용하면서 인간의 존엄성을 보장하는 방안은 앞으로 다양하게 모색될 것이다. 증강 휴먼의 모습 역시 그 노력의 다양성과 성공 여부에 따라 다양하게 진화할 것이다.
트랜센던스: 신이 된 인공지능
이 시나리오는 인공 지능을 가진 수퍼 컴퓨터가 특이점을 돌파하나, 이를 제어하거나 통제하는 법제도적 장치가 부재하거나 초지능에 의해 무력화된 경우다. 일명 '방치된 초지능(unregulated superintelligence)'으로서 영화 <트랜센던스(Transcendence)>가 그리는 세상이다. 초지능은 어떠한 연유로든 자의식을 갖게 되고, 모든 능력 면에서 인간을 초월한다. 이 세상의 모습은 초지능이 갖는 자의식이 인간을 어떠한 존재로 인지하느냐에 따라 달라진다. 인공 지능의 미래에 관해 가장 초현실적이고 논쟁이 많은 시나리오다. 그런 만큼 시나리오 자체릐 편차 역시 다른 시나리오에 비해 크다.
가장 극단적인 시나리오는 인간이 개발하는 인공 지능이 어느 순간 자기 조직화(self-organizing)와 창발(emergence) 현상을 통해서 자의식과 목적의식을 스스로 갖게 된다는 것이다. 물론 그 단계에서 컴퓨터 파워는 글로벌 클라우드 속에 축적된 지식과 지능의 총체로서 모든 측면에서 인간의 능력을 초월한다. 그 결과, 특이점을 돌파한 초지능이 목적의식을 가지고 인간을 지배할 수도 있다는 상상이다. 이러한 상상은 옥스퍼드 대학교의 닉 보스트럼에 의해 촉발되었고, 일론 머스크에 의해 대중적 이슈가 되었다.
같은 시나리오지만, 지극히 현실적인 시나리오도 있다. 비교적 온건한 편에 속하는 이 시나리오의 인공 지능은 인간에 의해 맡겨진 특수 업무를 전담하여 수행한다. 스마트 그리드와 같은 복잡한 송배전 전력망이나, 중앙 관리로 운영되는 전국 도로 및 차량 관제 시스템, 그리고 네트워크로 연결된 금융망, 재난망, 보안망, 국방망 등이 자체 보호 기능을 가진 인공 지능에 의해 운영되는 것이다. 문제는 지속적 학습을 통해 구축된 이들 인공 지능에 대해 어느 순간 인간이 통제력을 상실하는 경우에 발생한다.
이 시나리오가 현실적으로 가능하기 위해서는 좀 더 많은 상상이 필요하다. 사실 인간이 만든 인공 지능이 인간을 초월한다는 명제는 받아들이기 쉽지 않다. 인간이 자신의 의식, 기호, 가치, 동기, 감정에 대해 완벽히 이해하지 못하는데 어떻게 자의식을 인공 지능에 부여할 수 있겠는가?
그러나 다르게 생각해 보자. 인간이 유전자를 합성해서 생명체를 만들수는 없지만, 유전자를 조작해 생명체의 변이를 유도할 수는 있다. 마찬가지로 생명과학, 뇌과학, 인공 지능 연구를 통합해 생체 컴퓨터를 만들고, 여기에 지능을 심는 방법을 시도해 볼 수도 있다.
자연에 내재된 힘을 빌려 초지능을 구현할 수 있지 않겠느냐는 발상이다.
사실 인간이 만든 인공 지능이 향후 100년 쯤 지나 모든 인간을 초월하는 초지능을 형성할 것이라는 주장은 무책임하다. 과학적으로 긍정도 부정도 할 수 없는 명제이기 때문이다. 그저 어제 상상하지 못한 일이 오늘 일어났으니, 오늘 상상하지 못한 일이 내일 일어날 것이라는 주장처럼 허망한 것은 없다. 그러나 확률적으로 발생 확률이 0이 아닌 사건은 위험 관리 차원에서 늘 관찰, 관리 대상으로 포함해야 하듯, 트렌센던스 세상의 도래에 대한 경계는 바람직하다. 비록 그 세상이 생각만큼 그리 빨리 오지 않더라도 말이다.
우리의 선택
: 인공 지능은 우리의 인간성, 정체성 자체에 변화를 일으킬 잠재력을 가지고 있다.
가고 싶은 곳을 정하고 가는 사람은 운전대를 놓지 않는다. 그러나 정해진 목표가 없는 정글 탐사라고 해서 운전대를 놓을 수는 없다.
정처 없이 방황했다고 해서 밟아 온 길에 대한 복기조차 하지 않는다면, 그것은 매우 안타까운 일이다. 빅 인텔리전스가 가는 네 갈래 길을 결정하는 것은 결국 인간이다. 지금까지 우리가 밟아 온 길에 대해 냉철한 평가를 기반으로 빅 인텔이전스 미래 세상의 방향을 올바르게 설정해야 한다. 그리고 그 운전대인 기술 혁신 의지와 자율적 규제 제도는 절대로 놓지 말아야 한다.
- 데이터를 철학하다. 어떻게 데이터는 지혜가 되는가, 장석권 -
Posted from my blog with SteemPress : http://www.letitbe.biz/wp/archives/2893