◆ 기술 봉건주의란 무엇인가?

봉건주의는 서유럽 중세 사회의 조직과 관련된 역사적 개념으로 매우 독특한 사회경제적 형태를 지칭하는 명칭이기도 하다. 9세기와 10세기 중세 서유럽은 “소수의 권력자들이 대다수의 농민을 착취하며 압도적으로 지배하는 급격히 계층화된 사회”였다.

역사가들은 봉건 사회를 이해하기 위해 세 가지 기본 범주인 도미니움, 농노제, 봉신관계를 활용한다. 봉건 사회에서는 정치와 경제가 구분되지 않으며, 폭력이 지배적인 규율 원칙으로 작용한다. 이러한 이유로 봉건적 관계는 지배와 보호라는 문제를 중심으로 조직된다. ‘지배자와 피지배자 간의 사회적 관계’를 뜻하는 ‘도미니움’과 봉건제의 또 다른 핵심 제도인 봉신관계는 인구의 극소수인 귀족 계층에 한정된다. 이 비대칭적인 관계의 핵심은 토지에 대한 통제, 착취와 폭력을 기반으로 한 약탈이다.

놀라운 속도로 발전하고 있는 기술혁명의 시대인 21세기에 웬 봉건주의 타령인가 의아해할 사람이 많을 것이다. 저자 세드릭 뒤랑은 현재의 사회경제적 상황이 단순히 과거 봉건주의적 양상을 띠고 있다는 데 주목하는 게 아니라, 이 문제들이 자본주의 체제를 위협할 뿐 아니라 개인의 자율성과 민주주의까지 심각하게 훼손하고 있음을 지적하고 경종을 울림으로써 전 세계가 암울한 디스토피아로 추락하는 사태를 막고자 하는 것이다.

잉여물이 생산과정에서 멀리 떨어진 영주의 손에 집중되어 비생산적으로 쓰이고 생산요소가 고정화되면서 생산성이 침체한 결과, 봉건제는 역사의 뒤안길로 사라졌다. 그런데 지금처럼 기술이 비약적으로 발전함에 따라 극소수의 초국적 기술기업에 전 세계인이 종속되어 알고리즘적 통치의 감시 체제에서 ‘디지털 영지’에 얽매이는 상황이 계속된다면, 자본주의의 자정 기능을 잃을 뿐 아니라 결국 디스토피아 세계가 펼쳐질 것이다.

따라서 우리는 더 늦기 전에 ‘기술 봉건주의’의 본질과 핵심을 꿰뚫고, 이에 속수무책으로 당하지 않도록 주체성을 강화해서 ‘충분히 발전한 개인’으로 거듭나야 한다.

◆ 자유주의적 기술 낙관론의 배반

20세기 말, 인터넷의 등장은 정보기술·통신·미디어가 교차하는 새로운 사회적 공간을 만들어냈다. 갑작스럽게 일상적인 관행이 변하고, 새로운 경쟁 우위가 등장했으며, 정보는 처음 보는 경로를 통해 전달되기 시작했다. 이러한 격변 속에서 ‘캘리포니아 이데올로기’라는 자유주의적 기술 낙관론이 빠르게 퍼져나갔다. 여기에 1990년대 시장 개방의 물결 속에서 민주주의의 발전으로 이 세계가 활력을 되찾게 될 것이라는 장밋빛 전망까지 더해졌다. 그러나 이러한 낙관론은 오래가지 못했다. ‘실리콘밸리 신화’는 순전히 지역적 특수성에 기인하므로 예외적인 현상일 뿐이며, 결코 세계의 공통된 미래를 대표하지 않기 때문이다.

실리콘밸리를 참조하는 관행이 대단히 역설적이라는 점이 드러난다. 스타트업 정신은 사라지고, 그 자리를 사적 독점의 약탈적 행태가 대신하게 되었다. 개인적 자율성과 창의성을 찬미하던 분위기는 결국 고용 종속성을 심화시키는 전산화된 관리 도구로 이어졌다. 지역적 양극화, 소수의 ‘승자’에게 이익이 집중되는 현상, 지식의 확산을 가로막는 장애물들은 주변화를 부추겼다. 이는 혁신뿐만 아니라 혁신이 가져올 수 있는 잠재적 혜택을 누리는 데도 걸림돌이 되고 있다. 실리콘밸리와 더 나아가 그것이 상징하는 혁신의 세계는 성장과정에서 초기 성공을 이끈 원칙들과는 정반대의 현실로 변모했다. (중략)

실리콘밸리 합의에 금이 가고 있는 현실이 이를 증명한다. 예고된 것과 달리, 디지털 기술의 발전과 함께 급격히 진행된 사회경제적 변화는 자본주의에 새로운 활력을 불어넣지 못했다. 오히려 쌓여가는 증거들은 이 생산방식의 퇴보를 시사하는 경향을 보인다. (99~100쪽)

그 결과, 저자는 서구에서 민주주의가 겨울을 맞이했다고 진단한다(우리 또한 예외가 아니다). 그 이유는 “첫째, 자본주의를 규제하는 비민주적 형태의 증가다. 중국이나 러시아가 이러한 사회적 형태의 전형을 보여준다면, 유럽과 미국에서 권위주의적 지도자들의 선거 승리는 서구에서도 매우 비민주적인 정치적 선택지가 권력을 잡을 수 있음을 보여준다. 둘째, 실리콘밸리 기업들이 개인의 자유와 민주적 권리를 경시하는 태도를 보이는 것”이다.

◆ ‘빅 어더’(거대한 타자)라는 새로운 권력

인터넷을 토대로 한 정보통신기술이 세상을 움직이는 사회에서 살아가는 한 거대 기술기업들의 인프라인 ‘빅 어더’를 피해갈 방도는 없다. 빅 어더는 “우리가 제공하는 모든 데이터를 흡수하면서 결국 우리 자신보다 우리를 더 잘 알게 된다. 우리의 통신 내용부터 침실에서의 움직임, 소비 목록까지 모든 것을 탐색한다. 대규모 온라인 실험을 통해 우리의 행동을 이끄는 법을 배우며, 결국 새로운 형태의 전체주의를 구현하게 된다. 20세기 전체주의가 폭력을 통해 작동했다면, 주보프가 ‘도구주의적’이라는 성격을 부여한 이 새로운 권력은 행동의 변화를 통해 작동한다.”

빅 어더를 통해 수집된 ‘빅데이터’는 세 가지 특징을 갖고 있다. 첫째, 지속적으로 생성된다는 점, 둘째, 포괄성과 세부성을 동시에 목표로 한다는 점, 셋째, 언제든 추가적인 데이터 소스를 통합할 수 있도록 유연하게 생산된다는 점이다. 문제는 이 빅데이터에 사회적 편향과 지배관계가 내포되어 있어 결코 중립적이지 않다는 사실이다. 또한 무섭게 발전하고 있는 인공지능 프로그램은 단순히 제도와 권력관계에 깊이 뿌리박힌 인종 차별이나 성별 불평등을 반영하는 데 그치지 않고, 이를 증폭시키는 데 기여할 수도 있다. 이들 프로그램에 내재된 편견은 다른 알고리즘 결과에 다시 통합된다. 그것이 내포하는 편향과 편견을 수정한다 해도 우려를 완벽하게 해소할 수 없을 것이라는 점에서 저자의 지적과 경종은 매우 의미심장하다.

◆ 빅데이터에 포획된 디지털 경제

현대 경제는 ‘디지털 경제’라는 거대한 흐름 속에서 빅데이터에 포획되어 있으며, 이제 국가와 사회, 개인 모두 디지털 서비스라는 벗어날 수 없는 영지 속에 갇혀버렸다. 저자에 따르면, “이러한 하위 주체들이 디지털 토지에 의존하는 상황은 중요하다. 이는 지배세력이 경제적 잉여를 포착할 수 있는 능력을 결정하기 때문이다. 모든 사람이 소유자에게 의존하는 모습은 디지털 경제의 속성이며, 알고리즘 시대의 자유주의가 포식자로 변화했음을 나타낸다.”

이런 상황이 왜 위험한가? “디지털의 발전은 경쟁관계를 뒤흔들어 의존관계가 우위를 점하도록 하며, 이는 전체적인 메커니즘을 혼란스럽게 하고 생산보다 포식이 우선하게 만드는 경향이 있”고, 바로 이것이 저자가 “기술 봉건제도라고 부르는 결과를 낳”기 때문이다.이렇듯 과도하게 집중된 경제 권력의 폐해는 공급자에 대한 부당한 압력, 소비자에 대한 포획 상황, 미디어를 통한 정치 시스템의 통제는 물론 공공기관에서 여러 가지 부당한 혜택과 지원을 받는 구조를 만들 수도 있고, 너무 커서 실패할 수 없는 기업의 경우는 그들의 잠재적인 파산만으로도 시스템 자체를 위험에 빠뜨릴 수 있다. 게다가 언제든 초거대 기업들의 독점화에 대한 피해를 모두가 고스란히 떠안아야 할 가능성이 매우 크다는 점도 심각한 문제다.

◆ 알고리즘의 보이지 않는 손과 개인의 주체성 강화

저자의 지적대로 현대 자본주의의 궤적은 역설적이다. 디지털 기술의 발전이 혁신의 풍요로움과 생산·소비·교환 방식의 다방면에 걸친 질적 변화, 다시 말해 활력을 되찾았다는 신호를 보여주는 이면에는 GDP 성장과 생산성의 지속적인 둔화, 금융 부문의 비생산적 비중 증가, 지속적인 불완전 고용, 결정적으로 생태적 조건의 급속한 악화가 숨어 있다. 따라서 디지털 혁신 효과의 상당 부분이 시장교환 구조와 그에 따른 회계 체계에 포착되지 않는다는 점과 디지털의 가장 유용한 효과들이 상당 부분 시장경제를 벗어난다는 사실을 무시해서는 안 된다고 저자는 거듭 강조한다. 이는 현대 자본주의의 취약성을 나타내는 증상 중 하나이기 때문이다.

나아가 알고리즘이 지배하는 사회의 위험성을 다음과 같이 지적한다.

알고리즘이 지배하는 사회는 점차 “흰개미나 개미와 같은 기술적 사회”를 닮아가며, “사람들이 확률의 노예가 된 사회”로 변모한다. 존재를 확률로 축소하려는 시도는 개인과 공동체가 자신의 미래를 통제할 수 있는 능력을 상실하게 만들 위험을 내포하고 있다. 주체가 확률에 도전할 능력, 즉 현실에 도전할 능력을 박탈당하면, 모든 힘을 잃게 된다. 이러한 현실 왜곡의 위험이 반드시 나타나는 것은 아니지만, 디지털 기업들이 이윤을 추구하는 과정에서 알고리즘 기반 통치를 도구화하며 점점 더 커지고 있다. (131쪽)

저자는 특히 현대에 와서 더욱 심해진 자본주의의 구조적 불평등이 사적 영역과 공공 행동을 절대로 구분할 수 없게 만들어 공익이라는 개념 자체를 소멸시키는 동시에 공공 서비스와 사회 보호 체계의 와해, 광고 공세의 강화가 일상생활의 상업화를 더욱 촉진했다고 지적한다. 이것이 사람들을 수동적인 소비자 역할에 갇히고 성과에 집착하는 개인으로 원자화하는 경향을 낳고 있다는 것이다. 저자는 현재 우리가 처한 현실을 다음과 같이 진단한다.

인류 문명은 천천히 자본에 예속되었고, 마침내 위태로운 산의 정점에 서게 되었다. (283쪽)

알고리즘적 통치가 개인을 조정하려는 열망은 욕망의 형성을 허용하지 않으므로 결국 개인을 ‘슬픈 정념’의 기계로 전락하게 만든다. 개인은 자기 일에서 시작해 삶의 모든 단계에서 점점 자신의 존재를 외면당하고 있다. 철학자 에티엔 발리바르는 이러한 최종적 패배의 가능성을 ‘완전한 예속’이라고 부른다. 이는 “개인적 정체성과 자율성의 완전한 상실”을 의미한다.

기술 봉건주의가 강화되면서 억압의 논리도 빨라지고 있다. (284쪽)

그러나 저자가 시종일관 암울한 이야기만 들려주는 것은 아니다. 전 세계적으로 정치와 경제가 어려운 상황에 놓인 이런 시기일수록 저자의 제안에 진지하게 귀를 기울일 필요가 있다.

미래는 알고리즘의 보이지 않는 손에 달려 있다. 디지털 피드백 루프 덕분에 피곤하고 혼란스러운 물류의 우회과정이 점차 필요 없게 되고, 더는 노동 분업을 유지하는 데 걸림돌이 되지 않는다. 이 새로운 종류의 경제적 계산의 시대가 시작됨에 따라, 이를 수행할 주체가 누구인지를 아는 것이 문제로 대두된다. 기술적 봉건제도의 성채를 지키는 이들은 생산과 소비의 사회경제적 프로세스에 대한 지적 통제를 독점하겠다고 주장한다. 그러나 개인의 비현실화에 대한 저항은 이 프로젝트에 매우 심각한 장애물로 작용한다. ‘충분히 발전한 개인’이 나타나려면, 진정한 경제 민주주의가 이루어진 상황에서 시장과 결별하고 개인의 주체성을 강화해야 한다. 그때는 개인이 스스로 정한 자율성의 범위가 경제 문제는 물론 그 문제가 생태계에서 차지하는 위치와 관련이 있을 것이며, 집단의 통제와도 조화를 잘 이룰 것이다. (288쪽)