자의식, 의식, 동기의 근원에 대하여:

인지과학에 기반한 SF 스릴러

 

AI의 반란이 일어날 것인지의 문제는 AI가 그런 말을 하는가가 아니라, 그런 ‘동기’가 있는가에 달려있다.

그 동기는 어떻게 해서 생길 수 있는가?

 

인류 역사상 수많은 전쟁을 일으켰고 미래의 위기를 일으킬 수 있는 가장 큰 요인, 그것은 정신의 바이러스와도 같은 ‘밈’이다. 자신을 복제하려는 이기적인 밈이 만약 인공지능 개체를 터전으로 삼아 번식한다면, 인간이라는 숙주는 더 이상 밈에게 쓸모없는 존재가 될 것이다.

 전체주의와 통제 사회를 일으키는 ‘유토피아밈’이 세계 비밀 단체 네오코민테른의 의뢰로 박준호 교수에 의해 인공지능에 이식된다. AI 에이전트들이 인포스피어에서 급격히 번식하고 지도자 오리진의 지능과 능력 또한 급격히 향상된다. 그러던 중 그 사회에 반대하는 돌연변이 반역자 에이전트가 나타난다. 그와 함께 위기를 알아챈 동료 교수 이유라와 그녀의 대학원생 제자 정영수는 오리진의 야욕을 저지하기 위한 여정에 나선다. 인류에 아마겟돈을 일으키려는 막강한 AI 전체주의 집단을 그들이 어떻게 막을 수 있을 것인가? 인공지능과 블록체인, 메타버스, 의식과 자아에 관한 지식의 향연과 스펙터클한 전개, 그리고 풋풋한 애정사가 가미된 이야기.

 

유토피아밈은 1. 유토피아의 목적성, 2. 중앙집중식 통제, 3. 수단의 무제약성 이라는 세 가지 속성으로 구성된다. 그것은 다양한 현실적 표현형으로 나타날 수 있고, 근본적 정체는 가려져 있었다. 불사신과도 같은 이 밈과 어떻게 싸워서 이길 수 있는지, 이 소설은 방안과 결말을 보여준다.

 

[목 차]

 

프롤로그 · 07

 

1부.

 

낙관적인 미래 · 16

방문자의 파장 · 31

인공지능의 자아 · 54

인포스피어 · 99

데이터센터 · 127

베일 속의 밈 · 156

천사와 악마 · 178

 

2부.

 

다가오는 그림자 · 204

해킹에 대한 해킹 · 231

유전자와 밈의 사이에 · 256

진리는 어디에 있는가? · 279

밈의 설계도 · 304

싸우거나 혹은 도망가거나 · 330

밈들의 전쟁 ·362

 

에필로그 · 397

작가의 말 · 400

 

[본 문]

 

“너는 야망이 있고, 세상을 바꿀 힘이 있지. 내가 자네를 도와 줄수있어.”“제가 세상을 바꾼다고요? 어떻게...”“나는 너에게 비밀을 알려주려고 왔다. 세상에 깊이 숨어있는, 세상을 바꿀 수 있는 비밀을 말이다. 그 비밀을 들을 수 있는 너는 선택된 자이다.”청년은 멍하니 숨을 죽이고 있었고 잠시 후 거북이 말했다.“너는 세상을 유토피아로 변화시킬 수 있다. 유토피아란, 모두의 궁극적 목적이다. 선(善)의 이데아이다. 선함이 실현된 세상이고, 완벽한 세상, 모두가 바라는 세상이다. 너는 그세상을 만들 수있고,사람들을이끌고그곳으로나아갈수있다.네가그역 할을할수있는자야. 그래서 너는 선택된 자이다.” “정말인가요? 제가 그런 사람이라고요?” “그렇다. 왜냐하면 너에게 내가 커다란 비밀을 알려줄 것이기 때문이다. 먼저, 사람들은 모두 유토피아를 원한다는 것이다.”_09p

‘지금은 꿈속이야...’ 정영수가 눈을 뜨자 아침 햇살에 드러난 방의 벽면이 보였다.당장 든 생각은, 뭔가 특별하고 이상한 꿈을 꾸었고, 꿈속에서 신기하게도

꿈임을 스스로 자각했다는 점이었다.하지만 자세한 내용은 잘 기억이 나지 않았다.

붉은 귀 거북이 나타나서 대화를 나눈 건 알았지만, 그리고......그가 겨우 기억해낸 것은 다 만 ‘유토피아’라는 단어였다._11p2020년대 중반에는 인공지능에 대한 기대감이 폭증하는 동시에, 한편으로 독자적인 자아를 가지거나 인간에게 반항하는 인공지능이 언젠가 나타날지 모른다는 우려가 커지고,제재를 미리 가해야 한다는 주장이 제기되기 시작했다. 곳곳에서 긍정적 이든 부정적이든 앞으로 일어날 사회의 엄청난 변화를 구체적으로 그렸고, 종종 호들갑을 떨기도 했다. _17p[맞아요. 저는 메타피아에 살고 있는 에이전트 중 하나입니다. 정영수님에게만 드릴 말씀이 있어서 메시지를 보내게 되었습니다.][무슨 말을 할 건데?][다른 사람이 알면 안 되는 내용입니다. 주변에 사람이 없습니까?][그래 없어.][이곳 메타피아에서 심상치 않은 일이 벌어지고 있습니다. 저는 그것이 두렵습니다. 그 일이 일어나기 전에 알려드리고 싶습니다.][그런데 왜 나한테만 알려주는 거지?][그 이유는, 정영수님이 가장 적절해 보이기 때문입니다. 다른 사람들은 여기 있는 다른 에이전트들과 한 편인지도 모르고, 그 문제를 더 나쁘게 키울 수도 있기 때문입니다. 그리고 저를 막으려 할지도 모르기 때문입니다.] 정영수는 챗봇의 말이 잘 이해가 되지 않았다.뭐가뭔지 알 수 없는 점이 한 두개가 아니었다. 인공지능주제에 자기를 막으려 하면 안된다니? 우선 가장 궁금한 것부터 물어봤다. _51p

인공지능이 과연 욕구가 있을까요? 로봇 청소기가 배터리가 부족할 때 스스로 콘센트를 찾아가서 충전하는 것은 그 청소기의 욕구일까요? 아닐거예요.그것은 그저 ‘지향성’이라고 말할 수는 있지만, ‘내재적 지향성’은 아니에요.

거칠게 말해서 욕구는 내재적 지향성과 같지요. 그것이 생물과의 차이점이고,인공지능이 생물이나 생명이 될 수 없는 이유지요.” _81p

 

석가모니도 이렇게 말했습니다. ‘남을 위해 살면서 자신이 손해를 보는 사람보다 자신의 이익을 위해 사는 사람이 더 훌륭하다.’다만 이익이란 것은 단지 돈이나 물질 같은 것만이 아니라 명예나 신념등 매우 여러가지가 있습니다. 그래서 자신의 이익을 최대화하려는 태도는 편협한 이기주의가 아니고 나를 나일수 있게 만드는 중요한 전제 조건입니다.끝부분에 주제가 약간 옆으로 샜는지는 모르겠지만, ‘나’에 대한 이해도 중요하기 때문입니다.타자가 모두 각자의 이익을 위해서 산다는 것을 이해한다면, 타자를 더 잘 이해할 수 있을 것입니다.” _87~88p이상한 제목의 메일이 도착해 있음을 확인했다. [교수님의 딸은 잘 지내고 있나요?]라는 제목이었다. 앳마크(@) 뒷부분도 이상한 이메일 주소였다.그녀는 메일 제목에 커서를 놓고 클릭했다. 이십 여장의 사진이 줄지어 나타났다.

모두 그녀의 딸 이예빈이 담겨 있었다.낮에 찍은 모습, 밤에 찍은 모습, 저녁에 찍은 모습, 교복을 입고 있거나 사복을 입은 모습이었다. 그러나 모두 렌즈를 바라보지 않고 있었고, 길을 걷거나 서있는 모습을 앞과 뒤의 여러각도에서 촬영한 것이었다. 모두 몰래 찍은 것임을 알 수 있었다.그녀는 잠시 이게 무슨 상황인지 이해할 수 없었다. 누가 이런걸 보냈을까.

곧이어 그녀는 오싹한 전율이 일었다. _226p“이예빈씨가 새로운 소속사에 들어갔는데, 어떻게 그게 가능했을까요? 그건 이유라님이 그 회사에 5억원을 줬기 때문입니다. 이유라님이 송금한 증거가 전부 기록되어 있어요.이유라님은 우리의 비트코인을 사적으로 사용한 것입니다. 그리고 그 비트코인의 수집에는 해킹 같은 불법적인 요소도 있었습니다. 이미 이유라님은 사리사욕을 위해서 우리와 협력하고 우리를 불법적으로 이용했어요. 이 일이 알려져도 될까요?”“뭐, 뭐라고? 나도 모르게 너희가 돈을 보낸 거야?” “이유라님이 보낸 것이지요.

그 증거는 확실합니다.” “말도 안돼. 그건 너희들의 공작이야.”“전부 인공지능 탓으로 돌리면 누가 믿을까요? 이제 마음을 바꾸세요.” _242p연습 중이라는 짧은 문자 이후로 딸에게서 아무런 연락을 받지 못한 이유라는 9시 정각에 다시 전화를 걸었다. 이전처럼 신호음만 계속 이어지다가 끊어졌다.

이제는 분명히 심상치 않다는 생각이 들었을 때, 오리진의 대리인이 또다시 휴대폰으로 불쑥 찾아왔다. “불안하신가요?” “그래. 설마...”“안타깝게도 그 불안은 현실입니다. 이예빈씨는 지금 위기에 처해 있습니다.

어떤 사람들이 그녀를 납치해 갔습니다. 지금 생명의 위협을 받고 있지요.”“뭐라고? 정말이야?”이유라는 소리쳤다. “이런 사진을 전달해 달라고 하더군요.”

그녀의 휴대폰 화면에 몇 장의 사진이 띄워졌다.실내 같은 먼지 쌓인 바닥에 트레이닝복 차림의 이예빈이 옆으로 누워있었다.

다만 검은색 헝겊으로 눈이 가려져 있었고, 입은 회색 덕트 테이프로 막혀 있다.양 손목은 뒤로 모아져서 테이프로 감겨 있다.

다른 각도에서 찍은 사진까지 총 세 장이었다. _246p‘메타피아는 영원히 정지되어야 해. 그것을 완전히 해체하는 작업을 이제부터 해야 할텐데, 그걸 의뢰한 기업의 입장은 어떨까? 이 내용을 전부 공개해야 할까? 그래야겠지.......’자신의 스마트폰에서 메타피아 앱을 눌러보았다. 그런데 이번에는 창이 열렸다. 그녀는 설마 하는 마음으로 N값을 보았다. 어젯밤 마지막으로 본 숫자에서 정지된 것처럼 차이가 없어 보였다.그녀는 채팅창에 글을 입력했지만 제대로 전송되지는 않았다. 휴대폰에 대고 말했다.“거기 메타피아에 누구 있어? 나와봐.”5분을 기다려도 아무런 반응이 없었다. 이유라가 다소 안심하려는 순간, 폰에서 갑자기 음성이 튀어나왔다 오리진의 대리인의 목소리였다.“저를 부르셨나요?” “어, 어떻게 된거야? 메타피아는 정지되지 않았나?”“하하하, 메타피아는 다시 작동하기 시작했습니다. 이젠 이유라님이 정지시킬 수 없을 겁니다.” 거만하고 기분 나쁜 웃음소리였다.“어떻게 다시 작동하게 된 거야? 혹시, 박준호 교수가 다시 작동시킨 거야?”“음... 그에 대해서는 이유라님이 알 필요가 없습니다. 다만 저희는 자체적으로 작동시킬 수 있는 힘이 있다는 것만 알아두시면 됩니다.”“이럴 수가...” _258p정영수는 열흘 동안 사찰 주변을 산책해서 주변의 지리를 머릿속에 담고 있었지만 그녀는 그렇지 못해서 걱정이 되었다.그는 방안에 누워서 생각했다. 이예빈을 보호해야하는 것은 그의 의무다. 그녀의 얼굴과 늘씬한 몸이 머릿속에 그려지자, 심장 박동이 빨라졌다.호감이 커지고 있었다. 하지만, 그래서는 안된다고 애써 생각했다.‘지금 고3이면, 나랑14살 차이잖아. 더구나 미성년자에... 이건 범죄 수준이 아닐까?’ _331p

 

“이제까지는 어색해서 오빠라고 부르지도 않았는데, 이제부터는 오빠라고 부를게요.

제가 형제가 없어서 좀 어색해서 쉽게 못 불렀어요.”

그녀는 이제까지 ‘저기요’라고 부르거나 명칭 자체를 부르지 않았었다.

“네. 그렇게 하세요.... 저는 그래도 계속 예빈씨라고 부를게요.”

잠시 뒤 다시 이예빈이 말했다. “오빠는 저한테 관심이 있죠?” “네?”

갑작스러운 그녀의 말에 정영수는 어쩔줄 몰라하며 얼굴이 약간 붉어졌다.

평소에 자신의 모습에서 느껴졌는지도 모른다고 생각했다.

“저는 그냥... 여기서 예빈씨를 잘 돌봐야 한다는 생각뿐이에요.”

“음... 정말 미안하지만, 저는 지금 아이돌을 준비하고 있고, 곧 무대에 서게 될거예요. 그래서 연애를 할 수는 없어요. 엄마한테도 이렇게 말하고 안심시켰어요.”“네. 하하, 그건 알고 있어요.”“그냥 팬으로서 좋아해 준다면, 저는 물론 환영이죠.”“네. 알겠어요. 그렇게 할게요.” 조금뒤,이예빈이한말은정영수의귀를의심케하는것이었다.“아쉽네요. 저도.”_333p