나만 처질 수 없다, 미·소 핵경쟁과 한국 사교육 공통점

[이태환의 세상만사 경제학] 용의자의 딜레마 게임

10월 하순 넷플릭스에서 공개한 영화 ‘하우스 오브 다이너마이트’가 화제다. 누가 왜 어디서 발사했는지 모르는 핵미사일 단 한 발이 미국의 대도시를 향해 날아오기 시작한 뒤 18분간, 평범한 일상이 순식간에 악몽으로 변하는 과정을 여러 사람의 시각에서 번갈아 보여준다. 캐스린 비글로 감독의 쫄깃한 연출이 압권.

이 영화의 제목 ‘A House of Dynamite’는 말 그대로 폭발물이 가득한 집을 가리킨다. 과연 지구상에는 인류 문명을 완전히 날려버리기에 충분한 핵무기들이 곳곳에 가득하다. 어쩌다 이렇게 되었을까. 왜 우리는 스스로 만들어 낸 멸망의 공포에 끊임없이 시달리며 살아가고 있을까. 그리고 이 많은 핵무기에도 불구하고 1945년에 2차 대전이 끝난 뒤 80년이 흐르는 동안 제3차 세계대전이라고 부를 만한 대규모 전면전이 발발하지 않은 까닭은 무엇일까.

학자들은 20세기 냉전기에 미국과 소련이 군비경쟁을 한끝에 소위 ‘핵균형’이라고 부르는 상태에 도달했기 때문에 3차 대전이 벌어지지 않았다고 말한다. 미국과 소련이 서로를 완전히 초토화할 수 있는 핵무기를 각자 보유하게 되고 보니, 누군가 한쪽이 공격을 시작하기만 하면 양국 모두 멸망에 가까운 엄청난 피해를 볼 수밖에 없다는 것을 깨닫게 된 거다. 그래서 역설적으로 인류 역사상 가장 강력한 무기를 가진 두 나라가 누구도 감히 먼저 도발을 하지 못하고 눈치만 보고 있는 상태로 균형을 이루면서 매우 불안정한 평화가 유지되어 오고 있다.

미국·소련, 군비경쟁 끝에 ‘핵균형’ 도달

그러면 미국과 소련은 20세기에 왜 그렇게 파멸적인 군비경쟁에 몰두했을까. 국제정치 상황을 분석할 때 각 국가를 ‘인센티브에 반응하여 전략적으로 행동하는 개인’, 즉 경제적 인간(homo economicus)이라고 생각해 보면 유용할 때가 많은데 이 상황이 딱 그러하다. 그리고 경제적 인간들이 각자 특정 전략을 취했을 때 어떤 결과가 얻어지는가 하는 것을 분석하는 데 쓰이는 방법론을 게임이론이라고 부른다.

체스나 포커, 축구 같은 게임들을 생각해 보면 우선 정해진 수의 플레이어가 있다. 플레이어들에게는 각각 취할 수 있는 전략의 집합이 주어지는데, 게임에 참여한 모든 플레이어의 전략을 모아 놓으면 누군가는 승리하고 누군가는 패배한다든가 각자에게 점수가 부여되는 등 특정한 ‘결과’가 나오게 된다. 이런 것들을 모두 모아 놓으면 게임의 규칙이 된다. 몇 명이 참여하고, 각각 어떤 전략을 택할 수 있고, 그 전략들을 모았을 때 어떤 결과가 나오는가. 축구는 한 팀에 11명이 참여하고, 주로 발을 이용해 공을 이동시켜야 하며, 상대방 골대에 공이 들어가면 1점을 얻고 90분이 지난 뒤 더 많은 점수를 얻은 팀이 승리한다. 이렇게 주어진 규칙 하에서 플레이어들은 각자 자기에게 가장 유리한 결과를 얻기 위해 거기에 맞는 전략을 선택하게 된다. 이 과정은 경제적 인간이 자신의 행복을 극대화하기 위해 소비할 재화와 서비스의 종류와 양을 선택하는 것과 근본적으로 다를 바가 없다. 시장에서 경쟁자를 늘 의식하며 경영전략을 짜는 기업들도 마찬가지다.

냉전 시대 군비경쟁을 분석하는 데는 ‘용의자의 딜레마’라는 게임이 유용하다. 이 게임의 기본적인 틀은 다음과 같다. 경찰이 어떤 범죄의 용의자 두 명을 체포했다. 분명히 이 둘이 함께 그 범죄를 저지른 것 같은데, 다른 증거가 없어서 자백을 받아야 한다. 경찰은 이 두 용의자를 따로 떼어놓고 각각에게 이렇게 이야기한다. “만약 당신이 자백했는데 다른 용의자가 자백하지 않고 버티면 당신은 경찰에 협조한 것을 참작하여 그냥 풀어주겠다. 하지만 당신이 버텼는데 다른 용의자가 자백하면 그 사람은 풀려나고 당신은 10년 동안 감옥에서 지내야 할 거다. 둘 다 자백하면 수사에 협조한 것을 감안하여 각각 5년씩만 감옥에 보내겠다. 만약 둘 다 끝까지 버티면 이번 건으로는 감옥에 보내지 못하겠지만, 예전에 당신들이 저지른 다른 범죄를 이용해서 둘 다 1년씩은 감옥에 보내도록 하겠다.”

여기서 중요한 것은 용의자들을 서로 떼어놓았기 때문에 각 용의자는 상대방이 자백할지 안 할지 모르는 상태로 자신의 전략을 선택해야 한다는 점이다. 만약 상대방이 자백할 경우 내가 자백하면 5년형, 안 하면 10년형을 받게 된다. 따라서 자백하는 것이 유리하다. 상대방이 자백하지 않고 버티면 어떨까? 내가 자백하면 바로 풀려나고, 안 하면 1년형을 받는다. 역시 자백하는 것이 유리하다. 상대방이 자백을 하든 말든 나는 자백하는 게 유리한 것이다. 이렇게 다른 플레이어가 선택하는 전략과 관계없이 나에게 가장 유리한 전략이 하나 있을 경우에 이것을 우월전략이라고 부른다. 이 게임은 양쪽 플레이어에게 대칭적인 구조이므로 상대방도 자백하는 것이 우월전략이다. 결론적으로 둘 다 자백하는 결과가 얻어진다. 이처럼 모든 플레이어가 각자 우월전략을 택해서 나온 결과를 우월전략균형이라고 부른다.

그런데 이 게임에서 도달하는 우월전략균형은 용의자들에게 그리 좋은 상황이 아니다. 만약 서로를 믿을 수 있어서 둘 다 끝까지 버틴다면 1년형만 받고 끝나니까 둘 다 5년형을 받는 것보다 나은 결과다. 이렇게 우월전략균형이 있는데도 이것보다 플레이어들에게 더 이익이 되는 다른 결과가 존재하는 게임을 용의자의 딜레마 게임이라고 정의한다. 두 사람 모두에게 더 좋은 결과가 게임 안에 존재하는데 게임구조상 그것보다 나쁜 결과를 얻을 수밖에 없도록 되어있기 때문에 ‘딜레마’라고 부르는 것이다.

이 게임의 구조는 냉전 시대 군비경쟁에 그대로 적용할 수 있다. 소련이 핵무장을 하지 않을 때 미국이 핵무장을 하면 미국은 군사적으로 절대적인 우위에 올라설 수 있다. 반대로 소련이 핵무장을 할 때 미국이 핵무장을 하지 않으면 미국 입장에서는 그야말로 큰일이 난다. 핵무장을 해야 그나마 균형을 맞출 수 있지 않겠나. 이렇게 보면 미국은 소련이 핵무장을 하든 말든 핵무장을 하는 것이 유리하다. 즉 핵무장을 하는 것이 우월전략이다. 소련도 마찬가지. 그래서 양국 모두 국방비를 쏟아부어서 핵무기를 잔뜩 만드는 것이 우월전략균형이 된 것이다. 하지만 그 결과 전 세계 사람들은 인류가 하루아침에 멸망할지도 모른다는 공포 속에 살게 되었다. 누구도 핵무기를 갖지 않은 상태가 더 바람직한 것은 자명한 사실. 그래서 냉전 시대 미국과 소련의 군비경쟁은 전형적인 용의자의 딜레마 게임 구조가 된다.

한국의 사교육 시장에서도 용의자의 딜레마는 어김없이 작동한다. 서로 경쟁하는 학생들 사이에서 높은 등수를 차지하는 것이 목표인 게임을 생각해 보자. 내 경쟁자가 사교육을 받지 않고 있을 때 나 혼자 사교육을 받으면 내가 유리해지고, 내 경쟁자가 사교육을 받고 있다면 나 역시 사교육을 받아야 최소한 같은 수준에서 경쟁이 가능해진다. 상대방이 사교육을 받든 받지 않든 나는 사교육을 받는 것이 이익이 되고, 따라서 사교육을 받는 전략은 우월전략이다. 그리고 모든 사람이 같은 생각을 하기 때문에 우월전략균형은 모든 학생이 사교육을 최대한 많이 받는 것이 된다. 그런데 이것은 그리 좋은 결과가 아니다. 모든 사람이 사교육을 받는다면 성적에 있어서 상대적인 효과는 사라진다. 그러면 어차피 같은 석차가 나오는데 모두가 비효율적으로 시간만 낭비하고 있는 셈이 된다.

게임이론, 경제주체들의 전략적 선택 분석

우리가 원하는 것은 학생들이 학교에서 질 높은 교육을 정규 수업시간에 받고 나머지 시간은 독서나 운동, 친구와의 교류 등에 쓰는 세상이다. 인류가 핵무기의 공포에서 벗어난 세상도 만들 수 있다면 얼마나 좋을까. 용의자의 딜레마 게임은 군비경쟁이나 사교육 과열이 왜 이토록 쉽게 벌어지고 한번 빠져들면 벗어나기 힘든지 잘 설명해 준다. 그렇다고 희망을 놓을 필요는 없다. 문제의 구조적 원인을 파악하는 것이 개혁의 출발점이니까.