AI 만능주의를 향한 범죄학자의 경고!

딥페이크, 가짜뉴스, 댓글부대, 여론 조작 …

AI 시대, 우리가 알아야 할 신종 AI 범죄와 법

순천향대 오윤성 교수 강력 추천! 인공지능기본법 법령 분석 수록

 

딥페이크 영상, 조작된 댓글, 가짜뉴스, 여론 조작… AI 기술은 이제 범죄의 도구가 되고 있다. 『당신은 AI를 어디까지 믿을 수 있나요?』는 AI의 편리함에 가려진 위험한 그림자를 정면으로 다룬 책이다. 순천향대 오윤성 교수를 포함한 법조계·수사기관 전문가들의 추천을 받은 이 책은 실제 범죄 사례부터 처벌 규정, 예방 프로그램, 그리고 곧 시행될 인공지능기본법 해설까지 폭넓게 담았다. 기술을 맹신하기 쉬운 지금, AI에 대한 신뢰가 어떻게 이용되고 범죄로 이어지는지, 그리고 우리는 무엇을 알고 대비해야 하는지를 명확하게 알려 주는 현실적인 경고장이다. 지금 이 책은 AI 시대를 살아가는 모든 사람을 위한 필독서다.

[목 차]

[프롤로그]

 

1부. 생성형 AI

 

01 저작권 침해

AI 작곡가가 저작권료를 받을 수 있을까요?

AI는 지금도 누군가의 저작물을 학습하고 있다

[사례] 울트라맨 사건

유럽연합의 인공지능법(AI Act)과 같은 법제화 필요

 

02 미술품 위작

둘 중 하나는 위작 논란에 휩싸인 작품입니다

생성형 AI 앞에 놓인 선택의 기로, 미술품 복원 vs 위작

[사례] 넥스트 렘브란트 프로젝트

[사례] 클림트 컬러 에니그마 프로젝트

미술품 시장을 위협하는 AI

[예방 프로그램] 작가의 스타일을 모방하지 못하도록 막는 기술 - 글레이즈 & 나이트셰이드

 

2부. 대규모 언어 모델, LLM

 

03 가짜 뉴스 생산

“미국 트럼프 대통령이 체포되었다고요?”

챗GPT에게 가짜 뉴스 생성을 시켜 봤습니다

광고 수익을 목적으로 가짜 뉴스를 제작하는 ‘콘텐츠 팜’

[예방 프로그램] 작성자를 분석해 주는 AI 탐지 프로그램 - GPT제로

 

04 스피어 피싱

“김OO 고객님, 주문하신 택배가 도착할 예정입니다. 배송 조회(클릭)”

손쉽게 스피어 피싱 메시지를 만드는 LLM

[사례] 챗GPT의 메시지 생성 능력 실험

[사례] LLM 모델별 메시지 생성 능력 비교 실험

 

05 악성코드 제작

“컴퓨터 파일을 복구하고 싶다면 비트코인으로 $300를 보내시오”

랜섬웨어 등 악성코드를 만드는 데 악용되는 LLM

LLM이 생성한 코드를 분석하고 탐지하기

 

3부. 딥페이크

 

06 로맨스 스캠

“OO 씨, 여기로 $700 보내면 비트코인 배당금 보낼게요”

[사례] 로맨스 스캠에 속아 7천만 원을 잃은 A씨

3배 이상 증가한 ‘로맨스 스캠’ 피해 규모

상대방이 제공하는 사진, 여권, 은행 계좌 등이 허위일 수 있습니다

온라인 플랫폼 운영자가 취해야 하는 조치

워터마킹을 활용한 딥페이크 라벨링 기술

 

07 딥페이크 성범죄물 제작

4천 명에 달하는 연예인 딥페이크 피해자

[사례] 작가 ‘베가 캐디’에게 온 협박 이메일

[사례] 서울대 n번방 사건

[예방 프로그램] 이미지 보호를 위해 ‘디지털 백신’ 접종하기

 

4부. 봇

 

08 여론 조작

“OOO 후보님 응원합니다” 한순간에 올라가는 댓글 공감 수

여론을 조작하는 검은 손, 소셜 봇

[사례] 영국 브렉시트 국민투표

[사례] 2016년 미국 대선 여론 조성 사건

[예방 프로그램] SNS 계정이 소셜 봇인지 검증하는 프로그램 - 봇 오미터 엑스

 

09 시세 조종

“아무 이유 없이 주가가 오르다가 어느 순간 바닥으로 떨어졌어요”

시세 조종에 사용되는 소셜 봇과 자전거래 봇

[사례] 청담동 주식 부자 ‘이희진 형제’ 코인 사기 사건

[예방 프로그램] 컴퓨터와 사람을 구별하는 테스트 프로그램, 캡차

사용자 행동 패턴 분석과 IP 추적

 

10 크리덴셜 스터핑

당신의 아이디와 비밀번호, 안전한가요?

[사례] 대성학원 개인정보 유출 사건

해커 대신 무작위 로그인 시도를 수행하는 봇

비밀번호 변경과 이중 인증 사용 등 기본적인 보안 실천 필요

 

11 온라인 쇼핑 사기

“이렇게 똑같은데 가짜 쇼핑몰이라고요?”

가짜 온라인 쇼핑몰에서 사기당하는 과정

[사례] 과일 업체 과장·허위 광고 사건

 

5부. 자율주행 기계

 

12 마약 운반

“드론이 마약을 싣고 교도소 담장을 넘었습니다”

자율비행 드론이 과연 의약품만 운반할까?

우범지대를 드론 비행 금지 구역으로 설정하기

경찰 드론을 활용한 공중 감시

 

13 인명 살상

“드론이 적군의 탱크, 수송차를 식별해 공격합니다”

군에서 주목받는 자율주행 기계

수사에 어려움을 주는 자율주행 기계 관련 범죄

자율주행 기계가 테러에 악용될 위험성

자율주행 기계의 ‘사물 식별 기술’ 향상하기

기계 장치별 사이버보안 기준 확립 필요

 

[부록 1] AI 용어 사전

[부록 2] 인공지능기본법

 

찾아보기

AI 기술의 발전은 축복이자 재앙

AI 기술의 발전은 우리에게 축복이자 재앙이다. 인류는 인공지능의 출현으로 도약의 기회와 동시에 새로운 위협에 노출되었기 때문이다. 범죄 수법은 진화한다. 저자는 AI를 범죄에 접목한 다양한 신종 수법을 면밀히 분석하여 AI 범죄의 현재와 미래를 조명한다. 신형 범죄 유형에 대처해야 하는 형사 사법 기관 종사자는 물론, 신종 범죄의 잠재적 피해자가 될 수도 있는 독자들에게 소중한 정보를 제공하는 필독서이다.

- 오윤성, 순천향대 경찰행정학과 석좌교수

 

기존 법체계를 넘어선 AI 범죄가 등장했다

AI 기술의 발전과 함께 범죄의 양상도 빠르게 변화하고 있다. 기존 법체계에서 예상하지 못했던 새로운 유형의 범죄가 등장하면서 이에 빠르게 대응하는 것이 시급한 과제가 되고 있다. 이 책은 AI가 범죄에 활용된 다양한 사례를 들어 설명하면서 이에 맞춰 법과 제도를 철저히 준비할 것을 강조한다. 법학자는 물론, AI 기술이 초래할 위험성에 관심 있는 독자들도 꼭 읽어 보길 바란다.

- 김성천, 중앙대 법학전문대학원 명예교수

 

지금은 AI의 법적, 윤리적 규제를 생각해야 할 때

AI는 우리 모두의 삶 속으로 성큼 들어와 버렸다. 이 책은 AI의 어두운 단면을 흥미진진하게 다룬다. 과연 인공지능 기술은 범죄에 어떻게 악용될 수 있을까? 우리가 마주할 새로운 범죄 유형은 무엇일까? AI는 어쩌면 범죄의 도구를 넘어 주체가 될지도 모른다. 그래서 AI의 법적, 윤리적 규제의 필요성은 매우 설득력 있게 다가온다. AI가 가져올 미래를 고민하는 독자들에게 이 책을 추천한다.

- 노성훈, 경찰대 행정학과 교수

 

AI 범죄의 위험성과 예방법을 알려 주는 길잡이

AI 기술 혁명은 이제 생성형 AI를 넘어 물리적 AI의 시대를 열고 있다. 그동안 로펌들은 주로 기업 고객을 대상으로 신기술 규제 이슈와 관련한 법률 서비스를 제공해 왔다. 하지만 이 책은 AI를 활용한 다양한 범죄 유형을 소개하면서 AI로 인한 법적 문제가 형사 사건으로까지 확장되고 있음을 보여 준다. 이제 AI 기술은 인간의 삶과 안전을 위협하고 있다. 이 책은 바로 그 위험을 알리고 우리가 그 위험을 어떻게 통제하고 예방할 수 있는지를 고민하는 데 중요한 길잡이가 될 것이다.

- 여철기, 법무법인(유) 광장 변호사