초상권과 저작권 훼손에서 가짜 뉴스까지 누구나 피해자가 될 수 있는 딥페이크.

사회적 합의와 제도로 길들이고 바람직한 미래로 가는 명쾌한 해법!

 

타인의 얼굴과 목소리가 내 손 안에서 재탄생하는 시대

우리는 어디서 멈추고 어디까지 나아가야 하는가?

 

사전 동의와 명확한 표시, 허위 정보 차단으로 기술을 빛으로 바꾼다!

철학과 법학의 시선으로 해부한 딥페이크의 빛과 그림자

 

빛은 언제나 그림자를 동반한다.

인공지능이 만들어낸 정교한 가상, 딥페이크(Deepfake)는 그 빛과 그림자가 가장 극적으로 맞닿은 지점에 서 있다.

한쪽 끝에는 상상 속 장면을 현실로 불러오는 창조의 힘이 있고, 다른 끝에는 타인의 얼굴과 목소리를 빌려 진실을 왜곡하는 위장이 있다.

우리는 이 기술 앞에서 경이와 불안을 동시에 느낀다. 철학은 오래전부터 ‘무엇이 옳은가’와 ‘무엇이 진리인가’를 물어왔고, 이제 그 질문은 인공지능의 세계로 옮겨왔다. 초상권, 저작권, 그리고 죽은 자의 이미지까지. 우리는 어디까지 허용할 수 있으며, 어디서 멈춰야 하는가.

이 책은 단순한 기술 해설서가 아니다. 빛과 그늘을 모두 마주하려는 시도이자, 기술이 인간의 손을 떠나 폭주하지 않도록 붙잡기 위한 사유의 기록이다. 제도와 규범, 그리고 사회적 합의라는 이름으로 기술을 길들이려는 실천적 제안이 여기에 담겨 있다.

딥페이크라는 날카로운 도구를 쥔 우리는, 이제 선택해야 한다. 그것을 빛으로 쓰려는가, 아니면 그림자 속에 묻어버릴 것인가.

[목 차]

서문

 

Ⅰ. 인공지능 딥페이크(Deepfake) 기술에 대한 전반적 사항 탐색 및 검토

 

Ⅱ. 인공지능 딥페이크 기술의 빛

1. 기존의 딥페이크 기술

2. 인공지능을 활용한 딥페이크 기술

3. 윤리적으로 바람직하게 활용된 사례

 

Ⅲ. 인공지능 딥페이크 기술의 그늘

1. 초상권 침해

2. 저작권 침해

3. 사후 친족의 이미지 사용 문제

4. 가짜 뉴스 양산으로 사회적 혼란 야기의 문제

 

Ⅳ. 인공지능 딥페이크 기술에 대한 몇몇 고찰

1. 플라톤의 에피스테메(Episteme)와 독사(Doxa)에 비추어

2. 칸트의 정언 명법(Categorical Imperative)과 가언 명법(Hypothetical Imperative)에 비추어

3. 롤랑 바르트의 스투디움(studium)과 푼크툼(punctum)에 비추어

4. 롤즈 정의론에서 상정해 본 ‘악한 무지의 베일(Bad veil of ignorance)’

 

Ⅴ. 인공지능 딥페이크 기술의 안전한 활용을 위한 몇몇 제안

1. 제도권 교육의 활용과 평생 교육을 제안

2. 타인의 초상권 및 저작권 침해 금지에 관한 규범의 정립과 제안

3. 사후 친족의 이미지 사용 시 가이드라인 제안

Ⅵ. 기술의 사회적 파급에 대한 이익과 해악 평가위원회 설립 제안

 

참고문헌

[본 문]

헨리(윌 스미스)는 자신과 완벽하게 닮은 의문의 요원에게 맹추격을 당하는데, 이 의문의 요원은 20대의 헨리(윌 스미스)이다. 영화의 헨리는 포토샵을 이용한 CG(Computer Graphics) 처리가 아닌 딥페이크 기술을 활용한 디지털 디에이징으로 재현해 낸 스미스의 젊은 시절 모습을 갖고 있다.9 영화 ‘분노의 질주 더 세븐’에서는 촬영 중 사망한 배우 ‘폴 워커’를 살려내어 영화를 완성하였고, 넷플릭스 영화 ‘아이리시맨’에서도 배우 ‘로버트 드니로’의 젊은 시절 모습을 그래픽으로 재현해 내어 영화의 재미를 더했다고 한다.10 한편, 딥페이크 기술을 활용하여 역사적 인물들의 초현실적인 초상화를 만드는 예술가도 등장하였다고 한다. 그는 인간의 눈에 진짜처럼 보이는 미켈란젤로의 다비드부터 나폴레옹, 빈센트 반 고흐, 자유의 여신상의 사진을 만들었다고 한다.11

 

25쪽

 

 

5월 22일에 미국 국방부(펜타곤) 옆 건물이 불타고 있는 사진이 인터넷상에서 급속도로 퍼졌다.50 이로 인하여, 미국 S&P500 지수가 0.3%가량 급락했는데, 이후 미국 국방부가 “조작된 사진”이라고 공식 확인하면서 사태는 일단락됐다고 한다. 2023년 10월 31일 조 바이든 미국 대통령은 AI 규제 등의 내용을 담은 행정명령에 서명하기 전 연설에서 “나도 내 딥페이크를 본 적이 있는데 나는 ‘내가 도대체 언제 저렇게 발언했지’라고 (스스로) 말하기도 했다”고 놀랐다고 말했다.51 또한, 2023년 11월 초 기시다 일본 총리가 뉴스 프로그램에 출연해 외설적인 발언을 하는 동영상이 SNS를 통해 순식간에 퍼졌다고 한다.52 해당 영상은 2023년 여름 인터넷 동영상 채널인 ‘니코니코’ 등에 3분 43초 분량으로 게시됐는데 최근 이를 30초 분량으로 줄인 편집본이 SNS를 통해 확산하고 있다고 한다.53

 

53쪽

 

 

81푼크툼은 ‘찌름’의 라틴어 ‘punctionem’에서 비롯되어 롤랑 바르트(Roland Barthes)는 사진 이미지를 대하는 사람들은 두 가지 유형의 반응을 할 수 있다고 보았다.82 스투디움(studium)은 지적 즐거움(plaisir)으로서 오브비의 의미이다. 사진을 본다는 것은 시각적 정보를 즉각적으로 알아본다는 것을 말한다. 또한 스투디움은 ‘우리가 일상에서 거의 반사적으로 어떤 현상이나 상황을 즉각적으로 해석하는 것’, ‘일상의 친숙하고 익숙한 개념’이라 할 수 있다.83

 

75쪽

 

 

딥페이크는 전체 AI 생태계로 보면 일부분에 불과하지만, 사람들이 일상적으로 쉽게 접하는 미디어·콘텐츠와 연계되면서 사회에 미치는 파장도 점점 더 커지고 있다. 스탠포드대학교 인간중심 인공지능연구소(HAI)가 매년 발표하는 보고서 ‘AI Index 2023’에 의하면, 독립적이고 개방된 ‘인공지능, 알고리즘, 자동화 사고 및 논쟁 공공 데이터베이스(AIAAIC)’에 보고된 AI 사고 및 논쟁 수가 2012년 10건에서 2021년 260건으로 26배 증가했다고 한다.110

 

101쪽