“미래 세계는 어느 때보다 우리 지능의 한계에 대한 고군분투를 요구할 것이다.”
인공두뇌학 선구자 노버트 위너의 AI 시대에 대한 묵시록
인간과 기계의 공존, 인간과 기계의 새로운 관계에 대한 노버트 위너의 사유

인간과 기계의 공존, 인간과 기계의 새로운 관계를 위해 위너는 인간의 오래된 믿음, 종교에 메스를 댄다. 종교란 인간의 도덕적 규범 체계를 사이버네틱스란 과학 도구를 통해 재검토한다.
인공지능을 필두로 한 현대의 정보통신 혁명은 그 누구보다 어떤 한 사람에게 빚지고 있다. 그는 인공지능의 개념적 토대가 된 커뮤니케이션과 제어 과학인 ‘사이버네틱스’의 아버지 노버트 위너이다. 1948년 초판 출간된 《사이버네틱스》는 ‘동물과 기계의 제어와 커뮤니케이션’이란 낯선 부제를 달고 있다. 사이버네틱스는 인간과 동물 같은 생명체와 기계 같은 무생물체의 행위를 모두 피드백에 의한 정보 처리 과정으로 동일하게 설명해 ‘사이버’ 세상을 불러온 마법의 주문이 되었다. 사이버네틱스는 공학, 심리학, 사회학, 경제학, 미학 등 다양한 분야에 광범위한 영향을 미치며 자유로이 떠돌고 있다.
사이버네틱스에 대한 맹목적인 비난과 찬양 사이에서 노버트 위너는 오해의 간격을 줄이기 위해 일반인들을 위한 대중 저술과 강연, 비평 작업을 꾸준히 병행해왔다. 《인간의 인간적 사용》은 이런 과정에서 나온 사회철학적 저술이며 그의 마지막 저작인 《신 & 골렘 주식회사》는 1962년 예일 대학교와 루아요몽 국제철학콜리키움에서 있었던 강연을 정리해 다시 쓰고 구성한 것이다.
생명과 기계를 동일한 메커니즘으로 설명하여 인류의 오래된 인본주의적 믿음을 뿌리부터 흔들었던 사이버네틱스의 선구자 위너는 역설적이게도 인간과 사회의 개입이 없는 기술 발전의 위험성을 끊임없이 경고했다. 위너에 따르면 학습하는 기계와 자동화 기술은 제이콥스의 단편에 나오는 ‘원숭이 손’처럼 수단을 고려하지 않는 목적 달성 기계이다. 인간과 사회의 도덕과 가치는 목적에 대한 단계별 피드백을 통해 지속해서 이 목적 달성 자동화 과정에 개입해야 한다. 그리고 이 목적 달성 기계를 위해 “우리가 지불해야 할 막대한 비용은 바로 우리의 정직과 지능이다. 미래 세계는 어느 때보다 우리 지능의 한계에 대한 고군분투를 요구할 것이며 로봇 노예들이 옆에 대기하고 있는 편안한 해먹은 아닐 것이다”라고 말한다.
시작부터 학제 간 연구를 내세웠던 사이버네틱스 연구 그룹인 메이시 회의는 동물 행동, 심리, 사회, 언어, 경제에 이르는 광범위한 주제를 포괄하며 새로운 관점을 형성해갔다. 이후 수평적 과학 공동체라는 이상을 잃은 위너는 메이시 회의에서 멀어졌고 사이버네틱스는 각각의 분야에서 독자적으로 수용되고 전개되었다. 어쩌면 우리가 지금 맞닥뜨린 인공지능 시대는 이런 개별 연구들의 사회적 결과물일지도 모른다.
《신 & 골렘 주식회사》라는 기묘한 제목의 이 작은 책자는 죽기 전 위너의 마지막 저술이다. 18세에 하버드 박사 학위를 받았을 정도로 뛰어난 천재였던 위너는 신학자인 아버지 아래서 엄격한 교육을 받고 신앙생활을 했다. 평생 내적 혼란과 조울증에 시달렸을 정도로 혹독한 시련이었음에도 위너는 자신이 개발한 기술에서 윤리와 종교의 가치를 굳건히 이어가고자 했다. 학습하는 기계는 인간의 가치라는 우리의 오래된 인본주의적 믿음과 신앙을 뿌리부터 뒤흔드는 존재이다. ‘사이버네틱스가 종교를 침범하는 특정 측면에 관한 논평’이라는 다소 현학적 부제에서 위너는 종교를 인간의 도덕적 규범 체계로 보고 사이버네틱스의 개념과 이론을 통해 우리가 재검토해야 할 세 가지 측면을 다룬다. 위너는 종교를 전면적으로 부정하는 데까지 나아가지는 않지만 인간과 기계의 공존과 새로운 관계를 위해, 사회의 유연한 항상성을 위해 사이버네틱스라는 과학적 도구를 종교에 적용한다.
첫째, 기계는 인간처럼 학습할 수 있는가?
“그것이 이겼고, 이기는 법을 배웠다. 그리고 그 학습 방법은 원칙적으로 인간의 방법과 다르지 않았다.” 학습은 자의식을 가진 생명체의 속성으로 이해되어 왔지만 우리는 지금 학습하는 기계의 눈부신 성장을 나날이 지켜보고 있다.
둘째, 기계는 자기 재생산할 수 있는가?
위너는 “그렇다”고 답한다. 인간은 ‘다른 기계들을 자신의 형상으로 아주 잘 만들 수 있는 기계’를 만들었다. 기계는 진흙으로 빚어 생명을 불어넣은 현대판 골렘이다.
셋째, 이제 인간과 기계의 관계는 어떠해야 하는가?
“인간의 것은 인간에게, 기계의 것은 기계에게 주도록 하라.” 위너는 성경의 구절을 인용해 이렇게 답한다. 여기서 고려해야 할 것은 윤리적인 것이며 인간과 기계의 요소를 모두 포함한 시스템에 대한 연구이다.
이 책이 쓰인 1964년, 학습하는 기계는 체커 게임에서 몇몇 인간을 이겼고 보다 복잡한 체스에서 어려움을 겪고 있었다. 이제 학습하는 기계는 바둑에서도 인간을 넘어선 지 오래다. 정형화되지 않은 데이터 처리, 그림과 글 등의 창작 분야 역시 인간을 무섭게 압도하고 있다.
약 60년 동안 인공지능 기술은 눈부시게 발전했지만 이 새로운 혁명 앞에서 우리의 오래된 믿음과 인본주의는 여전히 답보 상태이다. 기계와 인간의 새로운 관계와 공존은 보수주의자들의 막연한 두려움에서 오는 것도 기계 숭배자들의 무조건적인 찬양에서 오는 것도 아닐 것이다.
노버트 위너의 예측은 이제 우리의 현실이 되었고 이제 우리 앞에 놓인 것은 지난 60년간 기술을 따라잡지 못한 우리의 윤리와 도덕, 사회에 대한 재검토이다. 신은 자신의 형상대로 인간을 빚었다고 하며 인간은 진흙으로 골렘을 빚어 생명을 불어넣었다. 위너는 인간과 기계의 새로운 관계는 신과 골렘의 요소를 모두 포함한 개별적 실체들의 운용 시스템, 주식회사에 있다고 말하는 듯하다.