안녕하세요. 찬포입니다
역시 이 글은 제 의식의 흐름을 따라서 작성되는 두서없는 글입니다.
요즘 4차산업혁명이니, 인공지능이니 하면서 한동안 시끌벅쩍 했었죠. 기업들은 앞다투어서 인공지능 비서 서비스를 시장에 내놓고 있고, 홍보에 열을 올리고 있습니다.
구글, 네이버 등의 번역서비스에 인공신경망 기술이 도입되면서, 번역의 질이 엄청나게 올라갔죠.
아직 우리가 생각하는 인공지능의 수준에 도달하려면 한창 멀었지만, 기술의 발전이 인공지능의 발전과 함께 할 것이라는 것은 당연한 일이 될 것 같습니다.
수십년 후면 정말 영화에서나 나올법 했던 인공지능이 등장하기 시작할 지도 모릅니다. 내 생활패턴에 완전히 맞춰서, 아침에 깨워주고, 일정을 조절해주고, 말동무도 해주고 이런 일들을 전부 대신하게 될 수도 있겠죠.
그리고 이러한 인공지능의 등장을 회의적으로 보시는 과학자분들이 상당히 많죠.
인류의 일자리를 전부 뺏어갈 것이다.
인류의 통제를 벗어나게 될 것이다.
등등 전부 근거가 있는 비판입니다. 그리고 실제로 일어나게 될지도 모르죠.
저는 강 인공지능(Strong AI - 자신의 목표를 스스로 정하는 AI) 의 출현을 긍정적으로 생각하고 있습니다.
인류는 오스트랄로 피테쿠스 일 때부터 일과 함께 했죠. 농업시절부터 산업혁명을 거쳐서, 지금까지도 일과 함께 하고 있습니다.
그런데 인공지능의 출현으로 인류가 일에서 해방된다면? 일에 투자되던 인류의 자원이 문화, 취미, 여가 등등에 투자되기 시작했을때 인류는 또 한번 크게 도약할 수 있을 것이라는 상상을 하고있거든요.
하지만 장미빛 미래가 언제나 현실로 다가오지는 않죠. 정말로 인공지능이 인류를 위협하게 될지도 모릅니다.
인류의 미래를 위해 인류의 통제를 결심한 AI가 나오는 영화 '아이로봇' 이라던가, 자신이 살아남기 위해 핵폭탄을 발사한 스카이넷이 나오는 '터미네이터' 등 (기억해! 구글이 스카이ㄴ..) 인공지능으로 인한 디스토피아를 그린 영화는 상당히 많습니다. 아마 과학자들의 이러한 우려가 반영된 이유도 크게 작용하겠죠?
이런 사태가 일어나는 것을 대비해 블록체인 시스템을 이용해 볼 수 있지 않을까? 라고 생각해보았습니다.
저도 블록체인에 대한 이해가 아직 완변하지는 않지만 그래도 개념은 알고 있거든요!
로봇 3원칙
이러한 사태를 미리 예측한듯한 대학교수 아이작 아시모프 는 자신의 소설에서 로봇3원칙을 제시했었죠
제1원칙 : 로봇은 인간에게 해를 입혀서는 안 된다. 그리고 위험에 처한 인간을 모른 척해서도 안 된다.
제2원칙: 제1원칙에 위배되지 않는 한, 로봇은 인간의 명령에 복종해야 한다.
제3원칙: 제1원칙과 제2원칙에 위배되지 않는 한, 로봇은 로봇 자신을 지켜야 한다.
하지만 이 3원칙은 모순이 많죠. 살인범 처벌같은 경우에는 1원칙 때문에 문제가 생깁니다.
인류전체에게 피해를 입히려는 사람이 계획을 하고있다고 해도, 1원칙이 작동하지 않습니다.
그래서 인류에게 해를 끼치면 안된다는 0원칙이 등장하기는 했지만, 이 로봇3원칙에 문제점이 상당히 많다는 건 많은 분이 동의하는 사실입니다.
인공지능이 발전하여 판사, 경찰, 정치인 같은 곳에 사용되기 시작했을 때 이 3원칙을 가지고 적용시킬 수 있을까요? 저는 그럴 수 없다고 생각합니다. 각각의 목표에 맞게 대전제를 새로 만들어야 할 것입니다. 그리고 인공지능을 유연하게 작동시키기 위해서는 최소한의 대전제가 작성되야여 할 것이고, 이는 큰 문제가 발생하게 될 것 같습니다.
만약에 대한민국 대통령에 인공지능이 당선됬다고 가정해봅시다. 대한민국의 국익을 위해 일한다. 대한민국 국민을 우선시 해야 한다. 등등 여러 대전제가 삽입되었고, 대통령으로써 임기가 시작되었습니다.
그리고 대통령 인공지능은 임기 첫 날에 이런 선언을 합니다. 대한민국의 국익을 위해 국민 개개인을 통제하겠습니다! 두둥
대한민국 국민을 우선시한다는 대전제가 국익을 위한다는 대전제보다 우선순위가 낮아 문제가 발생한 것이죠! 대전제 실수에 의한 인공지능 통제 실수는 언제나 벌어질 수 있는 문제입니다.
그리고 이러한 문제를 해결하기 위해 블록체인 기술을 도입한다면 어떨까! 하는 생각을 하게되었습니다.
어떻게?
블록체인 시스템에서는 거래가 발생하면 블록이 생성되고 거래내역을 수많은 사용자가 검증하죠.
그래서 조작할 수도 없고, 안정성이 보장됩니다.
이러한 시스템을 인공지능에 도입해봅시다.
대통령 인공지능은 수 많은 컴퓨터들의 연결로 작동한다고 가정해봅시다. (채굴장 같은 구조로 생각해봅시다!)
그리고 이 각각의 컴퓨터들은 연산능력을 제공함과 동시에, 인공지능의 명령을 검증합니다. 즉 대통령 인공지능을 보조하는 약 인공지능(weak AI - 명령을 받은 일만 수행합니다.)이라고 보면 될까요?
대통령 인공지능이 국민을 통제한다라는 결정을 내렸다고 생각해봅시다.
이 결정은 각각의 보조 인공지능들에게 전송됩니다. 이 보조 인공지능들은 수많은 대전제를 포함하고 있고, 각각의 보조 인공지능이 가지고 있는 대전제가 조금씩 다르다고 생각해봅시다.
컴퓨터를 발로 차면 안된다. 사람은 피곤하면 누워야 한다. 사람은 편해야 한다. 같은 인류에게 이익을 주는 대전제들이 보조 인공지능에 포함되어 있고, 국민을 통제한다 라는 대통령 인공지능의 결정은 이러한 보조 인공지능에 의해
반대 85퍼센트 찬성 15퍼센트로 기각되었습니다.
대한민국의 평화가 지켜졌군요!
두서없는 글 이라 죄송합니다.
이러한 개념이 블록체인과는 전혀 다를 수도 있지만, 자신의 생각을 쓰는 곳이 스팀잇 이니까요!
평소에도 인공지능에 관심이 많아서, 이러한 주제가 생각나서 써보았습니다. 하지만 글실력이 없어서, 제 생각이 제대로 전해졌는지는 모르겠네요.
인공지능의 위험성이 여러분야에서 많이 토론되고 있는 만큼, 블록체인에 대해 알아가시고 계신 미래를 앞서가는 스팀잇 여러분이 인공지능에 대해서도 많은 관심을 가져주시면 좋을 것 같습니다.
이상 찬포였습니다.