★ 나는 『협력의 진화』의 전도사이다. -리처드 도킨스
★ 미국 과학 진흥회 뉴컴 클리블랜드상 수상
★ 맥아더상 수상
★ 리처드 도킨스의 ‘내 인생의 책’
★ SBS, 조선일보, 경향신문, 매일경제, 뉴스타파, 서울경제, 프레시안, 연합뉴스, 한국일보, 중앙SUNDAY, 동아일보, 한겨레21 등에서 언급한 『협력의 진화』 40주년 특별판

이기적인 사회에서 성공하는 최고의 전략은 상대에게서 협력을 끌어내는 팃포탯

다윈 진화론의 논리에 따르면 남을 위한 희생심, 이타주의는 진화될 수 없다. 모든 생명은 제한된 자원을 두고 경쟁하는데, 남을 위해 자신의 생존과 번식을 희생하는 개체는 유전자를 후세에 전하지 못하며, 따라서 이타주의는 논리적으로 진화할 수 없다. (다윈 자신도 꿀벌과 같은 사회적 생물이 보이는 집단을 위한 자기희생을 두고 고민했다.) 그래서 일부 생물학자들은 집단의 이익을 위해 자신의 번식을 자제하는 행동 양식을 배운 종들이 자연 선택된다는 ‘집단선택설’을 폈다. 이것은 다윈의 개체 중심 자연 선택 이론과 어긋나는 것으로, 학계의 논란거리였다. 그러다 1960년대에 윌리엄 해밀턴이 이기적인 개체들 사이에서 어떻게 이타주의적 행동이 진화될 수 있는지 ‘혈연선택이론’으로 설명했다. 사회적 생물들은 서로 유전자를 공유하는 친족 사이이기 때문에 나 대신 형제나 사촌 여럿이 번식해도 유전자 관점에서는 마찬가지다. 이타주의 행동은 유전자 수준에서 보면 이기주의에 지나지 않는 것이다. 이 개념을 단적으로 표현한 것이, 개체는 다음 세대에 유전자를 전달하기 위한 한시적 생존 기계에 지나지 않으며 자연 선택되는 것은 집단도 개체도 아니고 유전자라는 리처드 도킨스의 ‘이기적 유전자’이다.
그러나 자연계에는 피를 나눈 혈족 사이가 아니면서 이기심을 자제하고 다른 개체나 다른 종과 협동하는 예가 흔하다. 이러한 순수 이타주의를 1970년대에 사회학자 로버트 트리버스는 ‘호혜주의이론’으로 설명하였다. 호혜주의는 ‘이번에는 내가 네 등을 긁어줄 테니 다음에는 네가 내 등을 긁어다오’라는 개념으로, 이를 뒷받침하는 많은 사례가 자연에서 발견되었다.

리처드 도킨스의 극찬 “성경을 대체할 만한 가치가 있는 책”

호혜주의를 기반으로 하는 이타주의가 자연적으로 진화될 수 있음을 과학적으로 증명한 사람이 바로 로버트 액설로드다. 액설로드는 컴퓨터 토너먼트를 이용한 연구 결과를 바탕으로 ‘협력이 창발’되는 메커니즘을 보여주는 논문을 1981년 《사이언스》에 발표하여 학계에 센세이션을 일으켰고, 1984년 이를 대중들에게 설명하기 위해 쓴 『협력의 진화』는 게임이론, 진화생물학, 사회학, 정치학, 심리학에 관심 있는 사람들에게 필독서가 되었다. 리처드 도킨스가 쓴 서문이 이 책의 영향력이 얼마나 큰지 증언해 준다. 액설로드의 논문 인용 건수는 현재 연간 400여 회에 이르며 앞으로도 계속 증가할 것이 확실하다.

인간의 행동에 대한 수학적 분석, ‘죄수의 딜레마’

여럿이 식당에 가서 각자 좋아하는 음식을 시켜 먹고, 다 같이 음식값을 나누어 내는 경우, 누구나 비싼 음식을 시키는 게 이득이며, 그 결과 모두가 더 많은 비용을 지출하게 된다. 빈 목초지에서 가축을 먹이는 마을 사람들은 각자 더 많은 가축을 방목할수록 이득이며 결국 목초지를 황폐화시키게 되는 ‘공유지의 비극’과 같은 경우다. 개인에게 논리적으로 옳은 판단이 집단에는 재앙을 가져오기 때문에 딜레마이고 이를 수학적으로 환원한 것이 ‘죄수의 딜레마’ 게임이다. 죄수의 딜레마 게임의 고전적인 예는, 공범 A와 B가 심문을 받는 경우이다. 둘 다 의리를 지켜 침묵을 지키면 1년 형(3점의 보상)을, 둘 중 하나가 배반하여 자백하면 자백한 자는 방면(5점), 의리를 지킨 자는 5년 형(0점)을, 둘 다 배신하여 자백하면 3년 형(1점)을 받는다. 논리적으로 따져보면 이런 경우 상대가 협력(의리)을 하든 배신을 하든 나는 배신하는 게 이득이다. 따라서 A, B 둘 다 배신을 결정하게 되고 결과적으로 둘이 협력했을 때보다 손해를 보게 된다. 배신이 합리적 결론이라면, 인간 사회와 자연계의 수많은 신뢰와 협동은 어떻게 진화될 수 있었을까? 말미잘과 물고기, 진딧물과 개미와 같은 다른 종 사이의 상호공생의 예를 비롯하여, 산호초의 큰 물고기들은 청소 물고기의 서비스를 받은 후 잡아먹으면 일석이조인데 왜 그렇게 하지 않을까?

반복적 죄수의 딜레마 컴퓨터 토너먼트의 승자, 팃포탯

해답은 그들의 관계가 오래 지속되는 것이라는 데 있다. 단 한 차례 게임을 한다면 배반이 가장 합리적인 결정이나, 같은 상대와 게임을 계속 반복할 경우에는 이야기가 달라진다. 반복적 죄수의 딜레마 게임에서 가장 점수를 많이 딸 수 있는 전략은 어떤 것일까? 로버트 액설로드가 다양한 게임이론 전문가들에게 죄수의 딜레마 게임을 할 프로그램을 출전시켜 달라고 하여 14개 프로그램들끼리 대적하는 토너먼트를 개최한 결과 놀랍게도 승자는 팃포탯(Tit for tat, 맞대응)이라는 이름의 가장 단순한 전략이었다. 팃포탯은 먼저 상대에게 호의를 보이고(협력), 절대 먼저 배반하지 않으며, 상대의 배반은 즉각 배반으로 보복하고, 상대의 협력에는 반드시 협력으로 대응하며, 상대의 배반은 한 차례의 응징 후 용서하는 관용성을 가지고 있다. 앞으로 충분히 오랜 기간 동안 함께 거래할 상대라면 팃포탯 전략을 쓰는 것이 가장 이득이다.

이기적인 사회에서 어떻게 협력을 증진시킬 수 있을까?

개인뿐 아니라, 단체, 국가 간의 관계에서 일어나는 수많은 복잡한 상황들도 결국은 죄수의 딜레마 게임 상황으로 정리된다. 액설로드는 반복적 죄수의 딜레마 상황에서 최선의 전략을 네 가지로 제안한다. 첫째, 질투하지 마라. 둘째, 먼저 배반하지 마라. 셋째, 협력이든 배반이든 그대로 되갚아라. 넷째, 너무 영악하게 굴지 마라. 죄수의 딜레마 상황은 제로섬 게임이 아니며, 상대가 나보다 잘해도 괜찮다. 사실 상대가 잘해야 나도 잘할 수 있다. 상대가 적어도 나만큼 잘하지 않는다면, 내가 충분히 협력해 주지 못했다는 뜻이다. 또한, 상대가 나의 다음 수를 예측할 수 없다면 상호협력이 생길 수 없다. 상대가 내 전략을 곧 알아낼 수 있도록 단순해야 한다. 팃포탯은 상대의 전략을 그대로 따라하기 때문에 몇 번만 게임해 보면, 협력을 하면 팃포탯이 자동으로 협력한다는 것을 깨닫게 된다. 그래서 굳이 배반을 선택하여 나쁜 점수를 받을 이유가 없게 된다. 리처드 도킨스가 주장하는 대로 “세계의 지도자들을 모두 가두어놓고 이 책을 준 다음 다 읽을 때까지 풀어주지 말아야 한다.” 그러면 이 세상이 좀 더 평화로워질 것이다.