게임 이론으로 풀어본 사교육 문제 투덜이

들어가며

영어 유치원 보내느라 저축 못하는 부부들

취업 준비생에서 직장인까지 성인 사교육 시장 키운다

종종 경쟁이야말로 사회적 효율성을 높일 수 있는 전가의 보도인 양 언급된다. 하지만 그건 현실에서는 존재하기 어려운 가정들(완벽히 자기중심적이고 합리적으로만 행동하는 인간들, 완전히 공개된 정보 등)을 바탕으로 한 일종의 실험실적 세팅에서나 가능한 결과다. 실제 세상에서는 과도한 경쟁이 오히려 사회적으로 비효율을 양산하고 있는 경우가 많다. 대표적인 예가 바로 연령을 가리지 않고 번성해 사그러질 줄을 모르는 한국의 과외교육이다. 중고교생들은 물론이고 이제 유치원생부터 직장인들에까지 확대되기 시작한지 오래다.

그간 수많은 사람들이 한국의 과도한 과외교육의 원인과 해법에 대해서 다양하게 논해왔다. 나도 그 위에 별 영양가는 없을 내 생각을 하나 얹고자 한다. 조금 특이한 거라면 이 문제를 아주 초보적인 '게임 이론'을 통해서 풀어보겠다는 건데, 사실 이 아이디어는 예전 부터 가지고 있었다가 이제야 써보는 것이다. 근데 다행히 의외로 말이 좀 되는 듯.

게임 이론

게임 이론에 대한 전반적인 개괄을 여기서 할 생각은 없고 (게임 이론에 대한 교과서나 개괄적 논문들은 엄청나게 많고, 넷 상에서도 쉽게 좋은 글들을 찾을 수 있다), 꼭 필요한 내용만 먼저 언급하고자 한다.

게임 이론에서 행위자들은 주어진 선택지 중에 기본적으로 자신에게 최고의 효용을 가져다 주는 선택지를 택한다. 여기까지는 일반적인 경제학의 합리적 개인 가정과 다를바가 없다. 중요한 것은 게임 이론에서는 행위자들이 다른 행위자들 역시 나와 같이 합리적 선택을 할 것이라는 걸 알고, 그들이 합리적 선택을 한다는 가정 아래 내게 주어지는 최선의 선택을 하게 된다는 것. 그러므로 게임 이론은 한 사람의 행동이 다른 사람의 효용에도 영향을 미치는 상호 작용의 조건에서 매우 유용하다. 

아마 게임 이론에서 회자되는 게임 중 가장 유명한 게임은 죄수의 딜레마 게임일 것이다.

A와 B라는 두 사람이 있다고 하자. 두 사람은 모두 과외를 할 것이냐 (Y), 말 것이냐 (N)라는 선택 중 하나를 취할 수 있다. 여기서 두 사람 모두 자기 자신과 다른 사람의 선택에 따른 효용의 결과를 안다고 가정하자. 즉, 두 사람 모두 위의 그림을 알고 있다. 각 칸의 숫자들 중 첫번째는 A의 효용이고 두번째 숫자는 B의 효용이다. 예를 들면, 두 사람 모두 Y를 택했을 때, A는 1을, B 역시 1을 얻는다. 만일 A만 Y를 택하고, B는 N을 택하면, A는 3을, B는 0을 얻는다.


A의 입장에서 보면, B가 Y를 택하면 Y를 택할 것이고 (1>0). B가 N를 택한다면 역시 Y를 택할 것이다 (3>2). 모든 조건이 A와 B 모두에게 동일하므로, B 역시 같은 이유로 A가 Y를 택하던 N을 택하던 결국 Y를 택할 것이다. 따라서 이 게임에서 두 사람이 모두 만족할 수 있는 선택의 조합은 (Y, Y) 즉, 두 사람 모두 과외를 하는 것이다. 이렇게 이루어진 조합을 내쉬 평형(Nash Equilibrium)이라고 한다.

문제는 (Y, Y)가 두 사람 모두 N을 택했을 경우 즉 (N, N)의 경우보다 개인들에게는 물론이고 (1<2) 사회적으로도 비효율적인 결과를 가져온다는 것이다 (1+1<2+2). 이것이 죄수의 딜레마 게임의 특징이다.

다른 게임도 있다. 조정 게임(coordination game)이다.

같은 방식으로 이 게임의 내쉬 평형을 찾아보자. A는 B가 Y를 택하면 Y를 택할 것이다 (1<0). B가 N을 택하면 A는 N을 택할 것이다 (1<2). 같은 방식을 B에게도 그대로 적용하면, B 역시 A가 Y를 택하면 Y를, N을 택하면 N을 선택하는 것이 최선의 행동이다. 그러므로 이 게임에서 두 사람의 최선의 선택이 일치하는 조합 즉, 내쉬 평형은 (Y, Y)와 (N, N) 두 가지다. 이 경우를 복수의 평형 상태 (multiple equilibria)라고 하고, 이 게임은 조정 게임이라 한다. 왜냐하면 (Y, Y)와 (N, N) 모두 평형 상태 즉, 행위자들이 모두 만족하는 상태이므로 이 둘 중에 하나의 선택은 두 행위자 간 혹은 다른 조정자의 개입에 따른 게임 외적인 조정에 의해서 결정되기 때문이다.

사회적 효용으로 보면 (N, N) 선택지가 더 우월한데 (1+1<2+2), 그럼에도 불구하고 이 두 선택지들 사이에 어느 것으로 귀결되는지는 게임 자체만으로는 결정되지 않는다. 만일 어떤 역사적 사회적 이유로 (Y, Y) 평형이 이뤄졌다면, 게임 외적인 조정 과정이 없이는 게임의 결과는 바뀌지 않는다. 그러나 또 다른 어떤 외생적 변수가 조정자 역할을 함으로써 행위자들의 선택을 (Y, Y)에서 (N, N), 즉 실현되지는 않고 있던 또 다른 내쉬 평형으로 바꾸게 한다면, 그 이후에 행위자들은 (N, N) 상태에 만족하게 된다.

사교육 게임

이제 간단한 사교육 게임을 한번 만들어 보자.

A와 B라는 행위자가 있고, 두 사람 모두 사교육을 할지(Y) 아니면 안할지(N)를 선택한다. 사교육에는 비용이 든다. c라고 하자 (c>0). 사교육과 관련하여 교육의 경제적 결과(예를 들면, 임금)를 다음과 같이 정의할 수 있다. 만일 남들은 과외를 하고 나는 안했을 때 b0이라는 임금을 받는다. 나도 남들이 하는 만큼 하면, 즉 남들이 과외를 하고 나도 하거나, 남들도 안하고 나도 안하면, b1이라는 임금을 받는다. 만일 나만 하고 남들은 안하면, b2를 받는다. 여기서 b0<b1<b2라고 꽤 합리적인 가정을 하자.

그러면 다음과 같은 사교육 게임을 생각해 볼 수 있다.

이 게임의 내쉬 평형이 어떤 조합이 될지, 즉, 이 게임이 어떤 종류의 게임이 될지, 죄수의 딜레마 게임이 될지, 아니면 조정 게임이 될지, 아니면 다른 뭐가 될지는 각 선택지의 효용을 구성하는 b0~b2, 그리고 c의 크기에 달려있다. 구체적으로는 b1-c와 b0의 비교, 그리고 b2-c와 b1 간의 비교에 달려 있다.

(1) b1-c 대 b0

b1-c는 남들이 다할 때 나도 (어쩔 수 없이 뒤쳐지지 않기 위해) 사교육을 하는 경우 얻게 되는 효용이고, b0은 남들은 사교육을 해도 나는 그냥 사교육을 안할 경우의 효용이다. 즉, 남들은 사교육을 다 한다는 조건 아래, 내가 하느냐 마느냐에 대한 것이다. 만일 b1-c<b0이면, 이 말은 남들이 다 사교육을 하는 상황에서 내가 사교육을 해봐야 안 하느니만 못하다는 말이다. 반대로, b1-c>b0이면 남들이 다 사교육을 하는 상황이라면, 나 역시 사교육을 하는 것이 혼자 안하는 것보다는 낫다는 것을 뜻한다. 아마 남들이 다 하니까 울며 겨자먹기로 나도 어쩔 수 없이 사교육을 할 수밖에 없는 상황일 것이다.

(2) b2-c 대 b1

b2-c와 b1의 비교는 남들과의 경쟁에서 사교육을 통해 나만 한발 더 앞서는 경우의 효용에 대한 것이다. 즉, 사교육이 남들과의 경쟁에서 앞서는데 얼마나 효과가 있는가에 대한 것이다. 만일 b2-c>b1이면 사교육이 결과적으로 남들보다 앞서는데 효과가 있다는 것을 의미하고, 반대로 b2-c<b1이면 그 효과가 비용에 비해 미미하기 때문에 안 하는 것이 낫다는 것을 의미한다. 앞의 b1-c와 b0의 비교와는 달리, b2-c와 b1의 비교는 사교육이 경쟁에서 승리하기 위한 조건인가에 대한 질문이다.

이 두 쌍의 비교의 조합에 따라 위의 사교육 게임이 어떤 양상을 보이게 될지를 생각해 볼 수 있다.

(1) b1-c<b0 & b2-c<b1

이 경우 사교육은 남들보다 뒤쳐지지 않기 위한 데에도 별로 유용하지 않고, 남들보다 앞서는데에도 별로 효과적인 수단이 아니다. 이 게임의 유일한 내쉬 평형은 (N, N) 뿐이다. 즉, 아무도 과외를 하려고 하지 않는다. 뭐, 당연한 결과다.

(2) b1-c<b0 & b2-c>b1

만일 사교육을 안 해도 남들보다 뒤쳐지지는 않지만, 사교육을 하면 남들보다 앞서가는데는 효과적이라면? 이 경우엔 두 개의 내쉬 평형이 존재한다: (N, Y), (Y, N). 즉, 어떤 사람은 사교육을 하고 어떤 사람은 안 하게 되는데, 사교육을 하는 사람은 하는 사람대로, 안 하는 사람은 안 하는 사람대로 자신의 행동을 바꿔야 할 유인이 없다. 누가 사교육을 하고 누가 안 하는지는 게임이 말해주지는 않는다. 어떤 역사적, 사회적 이유가 초기 상태, 즉 누가 사교육을 하고 누가 안하는지를 결정하고, 이후에는 그것이 안정적으로 유지된다. 아마 보다 경제적으로 여유가 있는 사람 혹은 공격적 사교육을 통해 더 큰 효과를 기대할 수 있을 만한 사람(예를 들면, 성적이 우수한 학생들)이 사교육을 선택하고, 그렇지 않은 사람들이 사교육을 안 하는 선택을 할 것이다.

사회적 효율성의 측면에서 보면, 두 내쉬 평형은 차이가 없다. A와 B만 바뀔 뿐, 총 효용은 b0+b2-c로 동일하다. 일종의 조정 게임이기는 하지만 두 평형이 결과적으로 차별성이 없기(indifferent) 때문이다.

(3) b1-c>b0 & b2-c<b1

사교육이 남들보다 뒤쳐지지 않기 위해서는 필요하지만, 반면에 남들보다 앞서나가는 데에는 별 효과가 없는 경우다. 이 경우에도 두 개의 내쉬 평형이 존재하는 조정 게임이 성립한다: (Y, Y), (N, N). 즉, 다른 사람이 사교육을 하면 나도 해야 하고, 안 하면 나도 안 해도 된다. 이 경우 전자보다 후자가 더 개인들에게나 사회적으로나 바람직한 결과를 가져온다. 왜냐하면 (N, N)이 (Y, Y)보다 사교육비용의 총합(2c)만큼 더 높은 사회적 효용을 발생시키기 때문이다. 만일 어떤 이유로든 간에 (Y, Y)가 현실이라면, 행위자들 혹은 조정자의 적극적인 중재로 집합적 결정 상태를 (Y, Y)에서 (N, N)으로 바꾸는 것이 필요하다.

(4) b1-c>b0 & b2-c>b1

사교육이 남들보다 뒤쳐지지 않기 위해서도 필요하고, 동시에 남들보다 더 앞서기 위해서도 필요한 경우. 이 경우 게임은 전형적인 죄수의 딜레마 게임으로 귀결된다. (Y, Y) 즉, 너도 나도 사교육을 할 수밖에 없는 결과가 유일한 내쉬 평형이다.

한국 사회 현실에서의 정책적 함의

이 사교육 게임의 함의를 따져보기 위헤서는 우선 b1-c이 b0보다 큰지 작은지 (사교육을 안 하면 남들보다 뒤쳐지게 되는지 아닌지), 그리고 b2-c가 b1보다 큰지 작은지 (남들보다 앞서기 위해 사교육을 하는 것이 필요한지 그런 건 아닌지)에 대한 한국 사회의 현실을 생각해 볼 필요가 있다.

현재 한국 사회에서 사교육이 거의 보편적으로 이루어지고 있다고 할 정도로 만연되어 있기 때문에, 사교육을 하지 않을 경우 사교육을 하는 다른 사람들보다 뒤쳐질 것이라는 부등식 (b1-c>b0)이 반대의 경우보다 더 설득력 있어 보인다. 실제로 많은 부모들이 제살이 잘려나가는 듯한 경제적 무리수를 감수하면서도 아이들을 이런 저런 학원에 보내고 과외를 시키는 이유로 '이거라도 안하면 뒤쳐지니까'라는 말을 많이들 한다. 따라서 일단 한국 사회의 현실은 b1-c>b0에 더 부합한다고 볼 수 있을 것 같다.

그렇다면 위의 네 가지 게임 시나리오들 중 (3)과 (4)가 남게 된다. 만일 b2-c>b1이면, 즉 사교육이 남들보다 앞서는 경쟁에 효과적이라면 게임은 누구나 사교육을 택하는 죄수의 딜레마 게임이, 반대로 b2-c<b1 즉, 사교육이 남들보다 앞서는 경쟁에 실질적으로 효과가 있는 것이 아니라면, 게임은 너도 나도 사교육을 하는 현실 (Y, Y)에서 다 같이 사교육을 안 하는 쪽 (N, N)으로 정치적, 정책적 조정을 통해 다함께 옮길 수 있는 조정 게임이 된다.

그렇다면 한국 사회에서 사교육은 경쟁에서 승리하기 위해 필수적인 조건인가? 답하기 쉽지 않은 질문이다. 일단 그렇다, 즉 b2-c>b1이라고 해보자. 그렇다면 게임은 모두가 죽자살자 사교육에 매달릴 수밖에 없는 죄수의 딜레마 게임이다. 이 현실을 개선시킬 수 있는 길은, b2-c의 값을 b1 이하로 낮추는 길 밖에 없다. c, 즉 사교육의 비용을 높이거나, b2와 b1의 간격을 줄이는 일.

c의 경제적 비용을 높이는 일은 그리 현실적인 대안은 아니다. 이미 사교육 비용은 오를대로 올라있고, 그럼에도 불구하고 사람들은 오른 c값 만큼의 어려움을 감수하면서 Y를 택하고 있기 때문이다. 그 이유는 사람들이 b2가 b1에 비해 비싼 c를 상쇄하고도 남을만큼 크다고 생각하고 있기 때문일 것이다. 그렇다면 남은 해법은 b2와 b1 사이 간격을 줄이는 것이다. 다시 말해, 사교육을 통해 경쟁에서 앞서게 됨으로써 얻게 되는 열매의 이익을 줄이는 것.

여기에는 두 가지 별개의 이야기가 숨어있다: 첫째, 사교육이 경쟁에서 승리하는데 별 도움이 되지 않아야 한다. 둘째, 경쟁에서 승리하더라도 그 이득이 크지 않아야 한다. 첫째는 공교육의 강화를 요구하는 지점이다. 공교육이 경쟁력이 있다면 사적 자원을 들이붓는 사교육이 없이도 경쟁에서 충분히 성공적일 수 있을 것이다. 두번째는 승자독식의 사회가 아닌 적절한 분배정의가 실현되는 사회가 필요하다는 것.

이 두 개의 과제는 좀 근본적인 것들이라서 사교육을 감소시키기 위한 정책적 해법이라고 하기 머쓱해져 버린다. 그런데 한편 이것이 한국 사회가 당면한 어두운 현실일지도 모른다. 만일 지금 한국 사회의 사교육 현실이 죄수의 딜레마 게임이라면 이 두 근본적 해법이 이루어지기 전에는 사실상 현재 (Y, Y) 상황을 바꿀 수 있는 방법이 없다고 할 수 있다. 입시제도의 변화, 인터넷 강의의 활성화 등등의 단기적이고 손쉬운 정책들을 통해 이렇게 저렇게 조금씩 변화를 가져오려는 노력이 있더라도, 근본적인 게임의 양상을 바꾸지는 못할 것이다. 실제로도 그래왔고.

하지만, 만일 사교육이 꼭 경쟁에서 승리하는데 효과적인 것은 아니라면? 즉, b2-c<b1이라면? 사실 이 가능성도 배제할 수 없다. 사교육을 받은 학생들이 안 받는 학생들보다 유의미하게 좋은 성적을 얻고, 이후에 더 나은 성과를 노동시장에서 얻을 수 있을 가능성에 대해서는 동의할 수 있지만 (b1-c>b0), 반면 그것이 남들보다 더 앞서나가는데 효과적이라는 주장을 입증하기란 쉽지 않아 보인다.

많은 명문대생들이 사교육의 혜택을 받았겠지만, 비명문대 생들도 그만큼이나 많이들 사교육을 했을 가능성이 높은게 아마 한국사회의 현실에 더 가깝지 않을까 싶다. 또한 공부를 원래 잘 하는 학생들이 사교육을 더 받고 그 효과도 더 좋을 거라는 긍정적 선택이 작용한다면, 실제 사교육의 효과는 생각처럼, 보이는 것처럼 크지 않을 가능성이 높다. 그리고 많은 사람들이 생각하는 것보다 한국 공교육이 그렇게 최악은 아니기도 하고.

만일 b2-c<b1이라면 지금 한국 사회의 게임은 죄수의 딜레마 게임이 아닌 조정 게임이다. 다만 현실화된 양상이 (Y, Y)이기 때문에 죄수의 딜레마 게임의 결과와 구분이 안될 뿐이다. 그렇다면 필요한 것은 우리가 지금 모두에게 안 좋은 (Y, Y) 상황에 있는데, 다 함께 (N, N)으로 옮기면 모두가 만족할 수 있다라고 누군가가 조정을 해주는 것이다. 그 누군가는 정부 혹은 정치사회(정당)가 될 것이고, 혹은 시민들 스스로의 캠페인이 될 수도 있다. 정부가 현실이 죄수의 딜레마 게임이 아닌 조정 게임임을 홍보하고, 필요하면 법이나 규제를 통해 사교육을 금지하는 방향으로 강제할 수도 있다. 어떤 이들은 국민투표를 통해 조정하자는 의견을 내기도 했던 것으로 기억하는데 (노회찬이었던 걸로), 동반되는 법적-절차적-행정적 과제들만 처리된다면 기본적으로 큰 틀에서 바람직한 해법이라고 생각한다.

문제는 그 누구도 현실이 죄수의 딜레마 게임인지, 조정 게임인지 알 수 없다는 것이다. 사람들은 대체로 게임이 죄수의 딜레마 게임이라고 생각하고 있고. 여기서 정부와 정책 입안자들이 해야 할 일은 b2-c가 b1보다 작아지게끔 지속적인 정책적 노력을 하는 동시에 (마치 게임이 죄수의 딜레마 게임인 것처럼), 최선의 선택이 사교육을 다함께 하는 것이 아니라 다함께 안 하는 것임을 홍보하고 그쪽으로 다같이 이동하도록 조정하는 역할이다 (조정게임인 것처럼). 중요한 것은 '동시에'이다.

b1-c와 b0에 대해서도 언급할 필요가 있다. 만일 b1-c<b0, 즉 사교육을 하지 않아도 뒤쳐지지 않는다는 것이 현실이라면, 사교육이 현재처럼 번창하지는 않을 것이다. 내쉬 평형은 (N, N), (N, Y), (Y, N) 중 하나일 것이기 때문이다. 따라서 여기서도 두 가지 정책적 과제가 도출된다. 하나는 학교 교육에만 충실해도 남들보다 뒤쳐지지 않도록 학교 교육의 강화. 다른 하나는 조금 뒤쳐져도 충분히 행복하게 삶을 영위할 수 있을 사회적 안전망 및 직업 교육의 강화이다.

독일로 대표되는 방식의 유럽식 시스템의 특징 중 하나는 비교적 조기에 학생들을 아카데믹과 직업 트랙 사이에서 결정하게 한다는 것이다. 일단 결정을 하면 그 이후에는 바꾸기도 쉽지 않다. 이 과정에서 아카데믹한 학업 능력이 뒤쳐지는 학생들은 일찌감치 직업 교육을 선택하는데, 어떻게 보면 이들은 b0이라는 결과물을 받게 되는 거라 할 수 있다. 많은 사람들이 이런 시스템의 문제점으로 조기 진로결정이 세대 간 계급 불평등의 고착화를 가져온다는 합당한 비판하는데, 그럼에도 불구하고 이 시스템이 가진 장점은 b0이 b1이나 b2보다는 적지만, 그 자체로 삶을 안정적이고 인간답게 영위하는데 충분한 안전망을 보장해 준다는 것이다.

반면 한국사회에서는 b0이 형편없이 작다. 즉, 남들보다 뒤쳐지면 그 순간 인간다운 삶의 영위조차 어려운 조건으로 전락하기 쉬운 것이다. 이 상황에서라면 누구라도 있는 자원 없는 자원, 빚까지 다 동원해서 최소한 뒤쳐지지 않게 위해 자식들 사교육을 시키는 것이 당연한 일처럼 보인다. 

마무리

일단 사교육 문제를 가지고 이야기를 해봤지만, 사실 이 게임 이론적 접근은 다른 이슈들로도 적용이 가능할 것 같다. 극심한 경쟁이 개인들의 사적인 자원을 다 투자하는 물량 싸움이 되고, 그 결과 개인들은 물론 사회적으로도 큰 비효율이 발생하는 상황들이라면 대체로 비슷한 이야기가 가능할 것이다.

아마 너도 나도 울며 겨자먹기로, 결국 80%나 대학에 가게 되는 대학 진학의 현실도 비슷한 게임일지도 모르겠다. 최근 등록금 관련 투쟁들, 정치적 논의들은 일종의 조정 행위라고 볼 수 있고. 다른 점은 이 게임의 바람직한 해법이 (Y, Y)에서 (N, N)이 아니라 (N, Y) 혹은 (Y, N)쪽으로 옮겨가야 하는데, 그러려면 중요한 건 b1-c와 b0의 문제에 초점을 맞춰야 한다는 것일 터이다. 그리고 b1과 b0은 건드리지 않은 채 c'만' 줄이는 것은 오히려 해법에서 멀어지는 길이라는 게 문제일 것이고.

보다 넓게 생각해보면 신자유주의 담론의 광풍 속에서 연대가 아닌 자기계발에 몰두하게 되는 개인들의 게임으로 확대시켜 볼 수도 있을 것이다. 핵심은 상금의 배분이 승자와 패자 간에 갈리는 조건에서 개인들이 자기 자원을 최대한 동원해서 자기 경쟁력을 높이는 결정을 하게 되는 것은 당연한 일이라는 것. 하지만 더 중요한 것은 그 와중에도 상금의 배분을 어떻게 조정하는가에 따라 그 게임은 너도 나도 자기살을 깎으며 피튀기는 경쟁을 하는 죄수의 딜레마 게임이 될 수도, 반면 반드시 그렇지 않더라도 모두가 만족하는 보다 조화롭고 사회적으로도 효율적인 결과물을 가져올 수 있는 게임이 될 수도 있다는 것이겠다.  

다시 맨 앞에 링크한 기사들의 현실로 돌아가서 마무리하자면, 이런 현실이라면 도대체 이 경쟁의 의미는 뭐며, 원인은 뭐고, 그 해법은 뭘까에 대해 좀 더 생각해볼 필요가 있다고 생각한다. 그리고 이 간단한 게임이론이 그 생각들을 정리하고 정식화하는데 도움이 될 수 있지 않을까 생각해본다 (적어도 나에게는 그랬다).

끝 (아, 글이 길어졌다).


덧글

  • Kwan 2011/06/24 08:06 # 삭제 답글

    출판하셔야겠는데요? :-)
  • 하늘타리 2011/06/26 00:02 #

    ㅎㅎ 이 정도로는 택도 없지. 뒤에 경험적 검증 부분을 붙일 수 있으면 또 모르지.
댓글 입력 영역