오늘날 경제학에서 가장 최신동향을 내보이고 있는 분야 중 하나는 행동경제학입니다. 그리고 행동경제학은 ‘합리적인 인간’을 가정한 그동안의 경제사상에 큰 반향을 불러일으킨 사상이기도 합니다. 이번에 소개드릴 게임이론은 그런 점에서 행동경제학과는 완전히 대척점에 있는 이론이라 할 수 있습니다.
컨센서스를 수학화하려는 움직임
컨센서스(Consensus)란 영어로 의견 일치, 합의를 일컫는 용어입니다. 인간이 타인과 관계를 맺게 되면서 얼마나 많은 컨센서스의 과정을 거치게 될까요? 사람마다 다르겠지만, 사회화의 숙명을 가진 현대인들에게 컨센서스는 일생동안 셀 수 없이 많이 겪어야 하는 일 가운데 하나임이 틀림없을 것입니다. 따라서 컨센서스의 과정을 수학화하여 정해진 공식이나 패턴을 만들고 논증에 성공한다면, 이보다 더 획기적인 일은 드물게 될 것이었습니다.
그리고 20세기에 들어서 이 컨센서스에 대한 문제의식을 가진 한 인물이 등장하게 됩니다. 그는 바로 폰 노이만이이었는데, 게임이론이 경제학에서 가장 널리 알려져 있는 것을 생각해보면 의외의 구석이 있는 사람이었습니다. 경제학자가 아닌 수학자이자 물리학자였기 때문입니다. 그러나 게임이론의 최초 문제의식은 ‘컨센서스의 수학화’그 자체였으므로, 경제학뿐만이 아니라 컨센서스와 관련된 모든 학문에는 활용의 여지가 있는 이론이었습니다. 실제로 오늘날에도 경제학에 게임이론이 많이 사용되고 있다고는 하지만, 다른 학문에서도 게임이론이 상당히 많이 쓰이고 있습니다.
그런데 이 무렵 폰 노이만에게는 한 가지 고민이 있었습니다. 컨센서스를 수학화해야겠다는 문제의식을 잡는 것은 성공적으로 해냈지만, 그 문제의식을 어떻게 실현해나갈 것이냐에 대한 감이 잡히지 않았던 것입니다. 폰 노이만이 오늘날 컴퓨터의 이론적 토대를 마련(최초로 컴퓨터를 이용해 기상을 예측)하고 양자 역학의 성립에 기여하였으며 미국의 원자폭탄 개발 프로젝트인 맨해튼 프로젝트에 참여한 엄청난 족적을 남긴 사람이라는 것을 감안하면, 컨센서스의 수학화가 말은 쉬워도 실현하기가 굉장히 어려운 문제였다는 것을 잘 알 수 있습니다.
다행히 폰 노이만이 고민하고 있었던 문제에 대해 오스카 모겐스턴이라는 경제학자가 도움을 주게 됩니다. 오스카 모겐스턴은 폰 노이만의 문제의식은 좋았지만, 컨센서스라는 개념 자체를 한 번에 해결해려다 보니 문제가 발생한 것이라 생각했습니다. 그래서 그는 추상적인 컨센서스를 한 번에 해결하는 것보다는 컨센서스의 사례를 하나하나씩 분석해보자는 제안을 했습니다. 그리고 그 사례는 모겐스턴 자신이 경제학자였던 만큼, 인간의 특정한 경제행동을 하나씩 밝혀내는 방향으로 굳혀졌습니다. 그렇게 해서 나온 이론이 바로 인간과 인간이 상호적인 의사결정을 했을 때, 어떤 결정이 가장 합리적인 결정이 될 것인지를 다룬 게임이론이었던 것입니다.
내시균형과 게임이론의 성립
폰 노이만과 오스카 모겐스턴이 게임이론의 토대를 마련한 시기는 1944년이었습니다. 이후 본격적인 게임이론이 나오게 된 시기는 1950년 존 내시에 의해서였습니다. 존 내시는 영화 [뷰티풀 마인드]의 주인공으로도 잘 알려져 있는 인물입니다. 일찍부터 천재적인 학문적 성과를 나타내며 학계에 주목을 받았지만, 조현병에 걸려서 수십 년 동안 고생을 하다가 말년에 결국 노벨상을 거머쥔 드라마틱한 삶을 살다간 인물이죠.
그가 게임이론의 선구자로 기억되는 결정적인 이유는 1950년 22살에 발표한 박사학위 논문 ‘비협력게임’때문이었습니다. 이 논문에서 그는 경제학의 철칙으로 여겨지던 애덤 스미스의 ‘보이지 않는 손’의 맹점을 지적했습니다. 영화 [뷰티풀 마인드]에서는 이것에 대한 영감을 예쁜 여자에게 구애하는 남자들의 모습을 보는 장면에서 얻게 되는 걸로 나오는데요. 예쁜 여자와 사귀는 남자는 아예 없거나 단 한 명에 불과하므로 나머지 남자들은 헛수고를 하는 것이 된다는 생각에서 애덤 스미스의 보이지 않는 손을 지적하게 됩니다. 보이지 않는 손은 KEEP!T History: 경제학의 아버지 애덤 스미스, 블록체인에서 다시 태어나다에서 말씀드렸던 것처럼, 각 개인의 이기적 행동에 따른 결과가 결국에는 사회 전체를 이롭게 한다는 주장이었는데요. 존 내시가 생각한 ‘예쁜 여자에게 구애하는 남자들’의 현상에 따르면 보이지 않는 손이 성립되지 않는 다는 것이 그 이유였습니다. 각 남자들이 예쁜 여자와 사귀기 위해 최선을 다했음에도 모두 그 여자와 이루어지는 게 아니라, 잘 되어봐야 한 남자만 이로워지기 때문입니다.
존 내시는 여기서 한 걸음 더 나아가 내시균형의 토대를 구축합니다. 게임이론의 근간이 되는 이 이론을 통해 존 내시는 훗날 노벨경제학상을 거머쥘 수 있게 됩니다. 그렇다면 내시균형이란 무엇일까요?
내시균형은 각 주체가 어떤 특정한 상황에서 상대방의 전략을 주어진 것으로 보고 서로 자신에게 최적인 전략을 선택할 때, 그 결과가 균형을 이루는 최적 전략의 집합을 의미합니다. 내시균형에 이르게 된다면 당사자는 전략을 수정할 필요가 없습니다. 정의만 들어서는 이해하기 어려울 수 있는 개념이라 예시를 하나 들어보죠. 영화 [뷰티풀 마인드]에서 나왔던 예쁜 여자에게 대시하는 남자들을 계속 예로 들어보겠습니다.
어차피 예쁜 여자와 사귀게 될 남자 1명을 제외하고는 모두 헛수고를 하게 될 것이라 판단한 존 내시는 이렇게 생각하게 됩니다. 예쁜 여자에게 차이게 될 나머지 남자들이 예쁜 여자의 친구들과 잘 해보려고 노력한다는 것입니다. 그러나 예쁜 여자의 친구들은 이미 남자들이 그 예쁜 친구에게 접근했다가 실패해서 자신들에게 접근한다는 사실을 알기 때문에 기분이 나빠서 그 남자들과 어울리지 않을 것입니다.
여기서 존 내시는 이렇게 최악의 상황으로 갈 바에는 ‘애초에 처음부터 예쁜 여자에게 대시하지 말고 예쁜 여자의 친구들과 어울렸으면 되었지 않을까’라는 생각을 하게 됩니다. 그리고 그렇게 되면 쪽수도 맞아서 남녀 모두 연애를 할 수 있는 가능성이 높아지고, 그에 따른 최대이익도 원래의 전략보다 더 커지게 된다는 결론을 내리게 됩니다. 연애라는 감정을 이익으로 환산하는 것이 조금 황당할 수는 있겠지만, 이것이 바로 내시균형의 토대가 되는 예시 중 하나임에는 틀림 없습니다.
오늘날 내시균형은 경제학뿐만 아니라 정말 다양한 곳에서 적용되고 있습니다. 공범으로 의심되는 A와 B에게 '둘 다 자백하지 않으면 1년 징역, 둘 다 서로의 죄를 자백하면 5년 징역, 둘 중 한 명이 자백하고 다른 한 명은 자백하지 않았다면 자백한 쪽은 석방, 자백하지 않은 쪽은 10년 징역에 처하게 된다'는 선택지를 고르게 하는 죄수의 딜레마 문제는 워낙 유명한 게임이론의 예시이기도 합니다. 여기서 내시균형은 A와 B가 모두 서로의 죄를 자백하는 것이 됩니다. 둘 다 자백하지 않아서 1년을 징역받는 게 좋은 것처럼 보이지만, 내가 자백하지 않아도 상대방이 자백했을 경우 10년의 징역을 당할 수 있기 때문에 결국에는 자백하는 게 합리적인 상황이 됩니다. 문제는 상대방도 나와 똑같은 전략을 세우는 것이 최선의 전략이기 때문에 자백하는 선택지를 동일하게 고르게 되겠죠. 결론적으로 마지막 순간에는 둘 다 자백하는 것이 수정의 여지가 없는 최선의 전략이기 때문에 이 상황에서 내시균형이 성립하게 됩니다.
이외에도 친구들이 모여서 식사비의 총합을 N분의 1로 계산하기로 했을 때, 내가 값싼 음식을 먹어도 상대방이 비싼 음식을 먹으면 내가 손해를 보기 때문에 너도나도 비싼 음식을 고르게 되는 식사의 딜레마 역시 내시균형을 찾을 수 있는 적절한 예시 중 하나가 될 수 있습니다. 결국 내시균형의 예시들을 통해 알 수 있는 것은, 내시균형이 각각의 참여자에게 최적의 결과를 의미하지는 않는다는 것입니다. 또한 내시균형은 보이지 않는 손을 지적했다는 점에서 인간의 합리성을 부정한 이론인 것처럼 보이지만, 특정 상황에서 최선의 전략을 찾아나가는 각 개인의 행동과정 자체가 인간의 합리성을 가정한 것이기 때문에 여전히 ‘합리적 인간’을 전제로 남겨둔 아이러니함이 있기도 합니다.
다음 화에서는 이러한 게임이론이 어떻게 해서 블록체인의 근간을 이루는 이론 중 하나가 되었는지, 행동경제학이 어떻게 해서 그 틈을 비집고 나오게 된 것인지에 대해 알아보는 시간을 가져보도록 하겠습니다. 이상 오늘의 KEEP!T이었습니다.
SH
