사회-물질적 맥락으로부터 분리된 '순수한 인공지능'은 존재하지 않는다

인공지능의 ‘뒷것들’을 통해 정치・권력・노동・환경을 다시 보다

 

이제 우리는 채용 과정에서 알고리즘의 선택을 기다리고, 복지 대상자를 데이터로 선별하며, 치안과 감염병 대응에 인공지능과 데이터 기술을 활용한다. 우리는 점점 더 많은 판단을 인공지능에 위임하지만, 정작 인공지능이 무엇으로 만들어지고 어떤 사회적 조건 속에서 작동하는지에 대해서는 충분히 묻지 않는다. 김은성의 신간 『순수한 인공지능은 없다』는 바로 이 질문에서 출발한다. 저자가 말하는 “순수한 인공지능은 없다”란 인공지능이 도덕적으로 타락했다는 뜻이 아니다. “사회적・물질적 맥락으로부터 분리된 인공지능은 애초에 존재할 수 없다”는 의미이다. 알고리즘 뒤에 있는 사람과 사회, 권력과 노동, 에너지와 환경을 함께 보아야 한다. 인공지능 뒤에는 데이터와 노동이 있다. 플랫폼과 자본, 국가와 제도가 있고, 다시 그 뒤에는 막대한 에너지와 물, 자원을 소비하는 물질적 인프라가 있다.

이 책에서는 인공지능이 어떻게 새로운 권력과 정치의 장을 재배치하는지, 플랫폼 자본과 감시의 메커니즘은 어떻게 작동하고, 자동화가 노동을 대체하는 동시에 어떤 새로운 노동을 만드는지 살핀다. 나아가 인공지능과 사회적 관계, 탈식민주의와 문화, 복지 불평등, 예측 치안과 안전, 팬데믹 대응에 이르기까지 인공지능이 사회 곳곳에서 일으키는 변화와 긴장을 들여다본다. 우리가 마주하는 인공지능의 앞모습이 아니라, 그 뒤편에서 작동하는 수많은 관계와 조건, 즉 인공지능의 ‘뒷것들’을 추적한다.

 

빛에 가려 미처 보지 못했던 인공지능 시대의 그림자들

『순수한 인공지능은 없다』 1부에서는 인공지능과 정치경제의 관계를 살핀다. 국가 권력과 플랫폼 자본에서부터 알고리즘 통치성과 인플루언서의 관심 권력에 이르기까지 인공지능이 만들어내는 새로운 권력의 스펙트럼을 분석한다. 호혜와 신뢰에 기반한 도덕경제, 인간과 비인간의 관계를 포착하는 신유물론적 관점까지 교차시키며 플랫폼 경제의 복잡한 지형을 보여준다. 또한 인공지능 자동화가 노동을 대체하는 동시에 어떤 새로운 노동과 ‘그림자 노동’을 만드는지, 인간만이 가진 암묵지가 자동화 과정에서 어떤 의미를 갖는지도 짚어본다.

2부에서는 인공지능이 우리의 사회적 관계와 문화, 복지에 미치는 영향을 탐색한다. 버추얼 아이돌과 인공지능 애착, 문화 제국주의, 디지털 식민주의, 데이터 기반 복지 행정의 ‘자동화된 불평등’ 등을 통해 인공지능이 인간의 관계와 사회적 질서를 어떻게 다시 구성하는지를 살펴본다.

3부에서는 인공지능과 안전을 주제로, 인간이 의사결정 권한을 위임한 인공지능 에이전트에서 발생할 수 있는 ‘주인-대리인 문제’와 복수의 인공지능이 상호작용하는 복잡계의 위험을 분석하고, 팬데믹 시기 한국의 디지털 역학과 예측 치안의 형성 과정을 통해 기술과 국가, 제도가 결합하는 구체적인 현장을 살펴본다.

마지막 4부에서는 인공지능을 작동시키는 가장 거대한 ‘뒷것’ 가운데 하나인 에너지와 환경에 주목한다. 인공지능은 저절로 작동하는 비물질적인 기술이 아니라 거대한 데이터센터와 에너지망, 물과 천연자원에 의존하는 물리적 시스템이다. 대형언어모델의 확장과 함께 급증하는 에너지 수요, 데이터 과학이 환경 감시와 정책 결정에 가져오는 가능성과 한계를 살펴보며 인공지능과 환경의 관계를 다시 묻고 있다.

 

미래는 아직 정해지지 않았다

결국 이 책이 보여주는 것은 인공지능의 미래가 기술 자체에 의해 이미 결정된 것이 아니라는 사실이다. 저자는 특정 사회이론 하나로 인공지능을 규정하기보다 과학기술학, 정치경제학, 도덕경제학, 조직사회학, 후기구조주의, 행위자-연결망 이론 등 다양한 이론적 관점을 교차시키며 인공지능의 복잡성과 불확실성을 드러낸다. 인공지능을 둘러싼 낙관과 비관 사이에서 한쪽의 답을 선택하기보다, 우리가 어떤 기술과 제도, 관계를 만들어갈 것인지 질문하는 것이 이 책이 제안하는 새로운 출발점이다. 그 결과 『순수한 인공지능은 없다』는 인공지능의 미래를 예언하는 책이 아니라, 이미 우리 사회에서 작동하고 있는 인공지능을 어떻게 이해하고, 어떤 미래를 만들어갈 것인지 질문하는 책이 된다. 인공지능을 둘러싼 찬반의 익숙한 논쟁에서 한 걸음 물러나, 우리가 미처 보지 못했던 인공지능의 ‘뒷것들’을 들여다볼 때 비로소 인공지능의 진짜 모습이 보이기 시작할 것이다.

 

 

PART 1 인공지능의 정치와 경제

∎ 〈인공지능 정치의 변검술〉 정치경제학 및 민주주의 이론에서부터 후기구조주의, 나아가 신유물론에 이르는 다양한 사회학적 렌즈를 투영하여 인공지능 정치의 다면성을 조망한다.

∎ 〈인공지능 권력의 스펙트럼〉 인공지능을 매개로 작동하는 국가 및 플랫폼 자본의 도구주의적 권력을 조명하고, 인플루언서의 관심 권력을 분석한다.

∎〈플랫폼의 정치경제, 도덕경제, 그리고 신유물론 관점〉 플랫폼 경제를 입체적으로 조망하는 세 가지 이론적 축으로서 정치경제학, 도덕경제학, 그리고 신유물론을 깊이 있게 살펴본다.

∎〈플랫폼 정치경제의 감각적 전환과 이에 대한 도전〉 멀티모달 인공지능에 의해 이루어지는 데이터의 다양한 감각 양식으로의 전환을 ‘감각 번역’이라는 개념으로 분석한다. 감각 번역은 감시 자본주의를 더욱 강화하는 기제로, 이 장에서는 플랫폼 기업들이 최근 멀티모달 인공지능 개발에 주력하는 이유를 설명한다.

∎〈인공지능 자동화, 암묵지, 플랫폼 노동〉 인공지능 도입에 따른 노동 환경의 변화를 암묵지와 플랫폼 노동의 특성을 중심으로 고찰한다.

 

PART 2 인공지능과 사회, 문화, 복지

∎ 〈인공지능 애착과 사회적 관계의 변화〉 인공지능 애착에 대한 지배적 담론과 달리, 버추얼 아이돌 사례를 통해 기존과 다른 새로운 관점을 제시한다.

∎ 〈인공지능과 탈식민주의〉 최근 생성형 인공지능의 확산은 영어권 중심 문화 제국주의를 강화하는 동시에, 역설적으로 비영어권 문화의 세계화를 촉진하는 양면성이 있다. 이러한 맥락에서 탈식민주의적 관점에서 인공지능이 문화에 미치는 영향을 살펴본다.

∎ 〈데이터 과학과 복지 불평등〉 인공지능과 빅데이터의 도입이 초래한 복지 체제의 재편과 그 과정에서 나타나는 사회적 불평등 문제를 살펴본다.

 

PART 3 인공지능과 안전

∎ 〈인공지능 에이전트의 주인-대리인 문제들과 정상 사고의 가능성〉 인공지능 에이전트가 초래할 수 있는 위험을 ‘주인-대리인 이론’을 통해 다각도로 해부한다.

∎ 〈팬데믹과 한국 디지털 역학의 탄생〉 2014년 조류독감 위기 대응 시기부터 코로나19 역학조사 지원시스템의 완성에 이르기까지 한국형 디지털 역학을 만든 기술적・사회적・제도적 요인들을 살펴본다.

∎ 〈예측 치안의 '마이너리티 리포트'〉 예측 치안에 내재한 권력과 정치를 추적하는 비판적・역사적 접근, 인식 문화 연구, 예측 기술의 사회적 수용성 연구를 두루 짚어본다.

 

PART 4 인공지능과 에너지 그리고 환경

∎ 〈인공지능의 '뒷것' 에너지〉 인공지능은 에너지 등 거대한 물리적 인프라구조에 의존하고 있다. 이 장은 인공지능 산업이 자원을 흡수하는 '추출주의'를 설명하기 위해 행위자-연결망 이론을 동원한다.

∎ 〈데이터 과학과 환경 정치의 미래〉 데이터 과학으로 인해 환경 정치는 재편되고 있다. 환경 센서 기술의 발달에 따른 ‘정밀 모니터링’에는 사회적 불평등 및 민주주의와 빅데이터 감시의 긴장이 존재하고 있다.

∎ 〈데이터 과학과 증거 기반 환경 정책〉 데이터 과학이 지니는 한계와 가능성을 규명한다. 인과적 설명 부족으로 데이터과학은 의사결정의 합리적 근거로는 한계를 지니지만, 전략환경영향평가, 정책 자원 배분 등의 영역에서는 유용한 방법이 될 수 있다.

 

[목 차]

서문

 

PART 1 인공지능의 정치와 경제

인공지능 정치의 변검술

인공지능 권력의 스펙트럼

플랫폼의 정치경제, 도덕경제, 그리고 신유물론 관점

플랫폼 정치경제의 감각적 전환과 이에 대한 도전

인공지능 자동화, 암묵지, 플랫폼 노동

 

PART 2 인공지능과 사회, 문화, 복지

인공지능 애착과 사회적 관계의 변화

인공지능과 탈식민주의

데이터 과학과 복지 불평등

 

PART 3 인공지능과 안전

인공지능 에이전트의 주인-대리인 문제들과 정상 사고의 가능성

팬데믹과 한국 디지털 역학의 탄생

예측 치안의 '마이너리티 리포트'

 

PART 4 인공지능과 에너지 그리고 환경

인공지능의 '뒷것' 에너지

데이터 과학과 환경 정치의 미래

데이터 과학과 증거 기반 환경 정책

 

맺음말

미주

[본 문]

서문＿순수한 인공지능은 없다. 이 말은 인공지능이 도덕적으로 타락했다는 뜻이 아니라, 사회-물질적 환경과 맥락으로부터 분리된 인공지능이란 존재하지 않는다는 의미다. 사회적・물질적 흔적이 거세된 인공지능은 존재한 적도 없으며, 존재할 수도 없다. …인공지능은 가상의 세계에서 존재하는 것이 아니다. 대형언어모델을 중심으로 형성된 이 육중한 사회-물질적 네트워크는, 영화 〈센과 치히로의 행방불명〉에서 마법에 걸려 돼지가 된 채 음식을 허겁지겁 집어삼키던 치히로의 부모를 연상시킨다. 그 기괴한 식욕처럼, 인공지능은 지구의 물과 에너지, 천연자원을 끊임없이 고갈시키고 있다._[4-5쪽]

 

인공지능의 정치와 경제＿미각, 후각, 촉각보다 시각과 청각을 우선시하는 근대적 감각 위계가 플랫폼 사회 내에서도 강화되고 있다. 인공지능 에너지 비용은 감각 양식에 따라 달라진다. 인공지능은 데이터 민주주의와 감각을 결합하여 기존의 지식정치를 넘어 새로운 감각 정치를 만든다. 앞으로 인공지능과 빅데이터에 관한 사회과학 연구의 '감각적 전환'이 요구된다. 감각과 정동 같은 신유물론적 개념들을 감시 자본주의 담론과 결합함으로써 플랫폼의 정치경제를 새롭게 이해할 수 있다._[플랫폼 정치경제의 감각적 전환과 이에 대한 도전/ 122쪽]

 

인공지능과 사회, 문화, 복지＿아이돌은 오랫동안 대중에게 위로와 정서적 지지를 제공하는 존재였으며, 버추얼 아이돌의 등장은 이러한 기능이 기술을 매개로 재구성되고 있음을 보여준다. 버추얼 아이돌은 팬들에게 강한 몰입이나 책임을 요구하지 않으면서도, 일상에서 지속적인 정서적 동반자로 기능한다. 이는 현대 사회에서 친밀한 인간관계가 점점 더 높은 감정 노동과 위험을 수반하게 된 상황과 맞물려, 저위험, 저부담의 관계 형식에 대한 수요가 증가하고 있음을 시사한다._[인공지능 애착과 사회적 관계의 변화/ 176쪽]

 

인공지능과 안전＿전수 조사와 다수 데이터베이스 연계가 넘어야 할 데이터 프라이버시 쟁점 역시 제도적・문화적 기제를 통해 우회되었다. 제도적으로는 2015년 메르스 사태의 학습 효과로 개정된 '감염병의 예방 및 관리에 대한 법률'이 코로나19 발생 이전인 2016년에 이미 역학적 목적을 위한 비동의성 개인정보 수집권을 명시하고 있었기에, 국가적 위기 국면에서 소모적인 신규 입법 논쟁을 거칠 필요가 없었다. 문화적으로는 공동체의 보건 안보를 위해 개인의 프라이버시의 희생을 용인한 대중적 수용성이 방파제가 되었다._[팬데믹과 한국 디지털 역학의 탄생/ 289쪽]

 

인공지능과 에너지 그리고 환경＿환경 거버넌스에 데이터 과학이 접목되면서 데이터 기반 환경 거버넌스의 시대가 본격적으로 열렸다. 데이터 과학이 전례 없는 수많은 이점을 제공하는 것은 분명한 사실이다. 그러나 이 기술이 환경 규제 영역에서 정치적 갈등을 모두 소거하고, 오직 가치 중립적이고 객관적인 기술 관료적 의사결정이라는 이상을 실현해 줄 것이라는 지나친 기대는 경계해야 한다. 오히려 지금 시점에서 가장 시급한 것은 데이터 과학과 전통 환경 과학이 서로 손을 잡는 협력적 문화를 조성하는 일이다._[데이터 과학과 증거 기반 환경 정책/ 396-397쪽]

 

맺음말＿지금 세계에 불어닥친 인공지능의 광풍이 새로운 세상으로 향하는 인류의 배에 돛을 달게 할 것인가? 새로운 재앙으로 나타날 것인가? …그 불안의 근원을 규명하고자 이 책은 다양한 사회과학 이론을 교차시키고 정치, 경제, 사회, 문화, 복지, 보건, 치안, 환경, 에너지 등 인공지능이 개입하는 다양한 맥락을 추적했다. 플랫폼의 정치와 경제를 보다 깊이 이해하기 위해 이미 널리 알려진 정치경제학과 후기구조주의뿐만 아니라 도덕경제학, 신유물론, 감각사회학을 동원했다._[400-401쪽]

 이재열 (서울대 사회학과 명예교수, 󰡔플랫폼 사회가 온다: 디지털 플랫폼의 도전과 사회질서의 재편󰡕 저자)

위험은 평등하게 온다지만, 인공지능이 만들어내는 위험은 개인적이고도 치명적인 파편이 되어 우리를 덮친다. 김은성의 『순수한 인공지능은 없다』는 바로 이 뼈아픈 역설에서 출발한다. 저자는 인공지능을 기술적이고 순수해 보이는 알고리즘의 문제로만 다루지 않고, 주권이 걸린 데이터와 땀이 밴 노동, 격돌하는 정치와 이데올로기, 막대한 에너지와 훼손되는 환경이 뒤엉킨 '잡스러운' 사회기술적 배치로 읽어낸다. 그는 이 책에서 다양한 이론적 자원을 잘 버무려서 입체적인 프레임워크로 빚어냈다. 감시자본주의와 데이터 식민주의부터 인공지능이 낳을 구조적 '정상 사고', 그리고 데이터센터가 삼켜버리는 물과 전기에 이르기까지, 이 책이 다루는 넓이는 단연 독보적이다. 글로벌한 기술변화와 갈등에서부터 송파 세 모녀, 배달 라이더, 반도체 공장의 여성 노동자 등 가장 약한 이들의 삶과 첨단 기술이 부딪히는 마찰까지를 포착해 내는 미시-거시 연계의 폭도 인상적이다. 인공지능은 이미 우리 사회의 가장 낮은 곳까지 파고들어 우리의 삶을 흔들고 있다. 기술이 모든 것을 압도하는 이 전환의 시대에, 사회를 바라보는 따뜻한 시선과 신뢰의 가치를 묻는 이 책은 더 나은 미래를 상상하는 이들에게 귀중한 나침반이 되어줄 것이다.

 

 홍성욱 (서울대 과학학과 교수, 󰡔인공지능 파놉티콘󰡕 저자)

『순수한 인공지능은 없다』는 인공지능을 하나의 기술이나 알고리즘으로 환원하지 않고, 그것이 데이터와 노동, 플랫폼과 국가, 자본과 윤리, 인간과 비인간이 얽혀 만들어 내는 사회-기술적 실천임을 설득력 있게 보여준다. 저자는 기술결정론적 낙관주의와 디스토피아적 비관주의라는 익숙한 대립을 넘어, 인공지능이 실제로 작동하는 현장과 그 속에서 형성되는 권력, 물질성, 역사성을 치밀하게 추적한다. 현장에 근거한 이러한 접근은 다양한 행위자들의 관계 속에서 기술과 사회의 접점을 이해하는 과학기술학(STS)의 핵심 문제의식을 충실히 구현한다. 특히 이 책의 가장 큰 미덕은 미래를 예언의 대상으로 다루지 않는다는 점이다. 미래는 이미 결정된 운명이 아니라, 오늘 우리가 어떤 기술을 만들고 어떤 제도를 설계하며 어떤 관계를 구축하느냐에 따라 끊임없이 다시 쓰이는 사회적 산물이다. 따라서 상상력은 그저 현실을 벗어난 공상이 아닌, 현실을 변화시키는 실천의 출발점이다. 더 나은 인공지능을 상상하는 일은 더 나은 사회를 설계하는 일과 다르지 않으며, 그 상상은 연구실과 기업, 정책과 시민사회, 그리고 우리의 일상적 실천 속에서 구체적인 형태를 얻는다. 인공지능의 미래를 두려움이나 환상 속에서 소비하는 대신, 그것을 함께 만들고 책임지는 공동의 과제로 전환시키는 힘에 대한 구체적인 논의가 바로 이 책의 가장 중요한 기여이다. 지금 우리 삶에 깊숙하게 침투한 인공지능을 더 깊게 이해하고 싶은 독자는 물론, 기술과 사회가 서로를 어떻게 만들어 가는지 고민하는 모든 이들에게 이 책을 자신 있게 권한다.

 

 정지범 (UNIST 지구환경도시건설공학과 교수)

인공지능 시대에 역설적으로 인간은 기계화되는가? 이러한 저자의 통찰처럼 '인간은 로봇과의 원활한 소통을 위해 자신의 언어와 행동을 기계의 논리에 맞게 단순화하고 정형화'하고 있다. 저자는 인공지능과 인간, 인공지능과 사회의 관계를 성찰하며, 우리가 맞이할 미래를 되묻는다