윈도우에서 WinDbg를 이용해 디버깅하는 방법을 중점적으로 설명한 책이다. 윈도우 디버깅 전문가들인 저자들이 현장에서 우러난 실전 경험을 바탕으로 한 다양한 예제를 제시하고 있는 완벽 가이드이다. 초보자부터 고급 개발자까지 쉽게 읽을 수 있도록 WinDbg 설치법부터 구체적인 디버깅 사례와 해결책, 툴의 기능 확장과 고급 디버깅 팁, 커널 리버싱 방법까지 수록했다.
WinDbg를 전혀 모르는 사람이라도 중간까지 읽다 보면 WinDbg란 어떤 것이고 어떤 식으로 사용하는지에 대한 기초를 배울 수 있다. 또한 중간부터 마지막까지는 조금 더 복잡하거나 어려운 상황에 대한 응용 방법을 엿볼 수 있다.
예제를 통한 유저모드 디버깅과 커널 모드 디버깅 케이스 스터디, 덤프 파일 활용에 관한 실전 팁, WinDbg를 활용한 윈도우 커널 분석, 성능 모니터를 활용한 디버깅 기법, 각종 유틸리티를 활용한 문제 해결 방법의 소개, 쉬운 디버깅과 유지보수를 위한 팀 협업 개발환경을 갖추는 방법 등을 다루고 있다. 제공되는 예제에는 곧바로 실행하며 테스트할 수 있도록 빌드된 실행파일, 심볼 및 MAP 파일, 본문 내용을 직접 따라가며 명령어를 실행해 볼 수 있는 덤프 파일, 책의 소스코드를 수록했다. 현업에서 종사하는 개발자나 분석가를 위한 다양한 실전 분석 기법과 커널 리버싱 방법도 수록해 분석력을 기를 수 있다.

[목 차]

1장. WinDbg에 대해

__1.1 WinDbg란
____1.1.1 WinDbg의 주요 기능
____1.1.2 WinDbg의 용도
____1.1.3 WinDbg와 SoftICE

__1.2 WinDbg 디버깅의 종류
____1.2.1 유저모드 디버깅과 커널모드 디버깅
____1.2.2 라이브 디버깅과 덤프 디버깅
____1.2.3 유저 덤프와 커널 덤프

__1.3 WinDbg 디버깅 용어
____1.3.1 디버거와 디버기
____1.3.2 블루스크린
____1.3.3 버그체크
____1.3.4 디버그 심볼 파일

__1.4 WinDbg 지원 범위
____1.4.1 윈도우 NT 계열 운영체제
____1.4.2 64비트 지원

__1.5 WinDbg 명령
____1.5.1 WinDbg 명령이란
____1.5.2 명령줄 구분
____1.5.3 명령별 사용 조건

__1.6 실습 환경 구성
____1.6.1 WinDbg 다운로드
____1.6.2 비주얼 스튜디오 2017과 WDK 설치
____1.6.3 Windows SDK로 WinDbg 만 설치
____1.6.4 WinDbg 버전
____1.6.5 예제 구성

__1.7 정리

2장. WinDbg 시작하기

__2.1 유저모드 라이브 디버깅
____2.1.1 WinDbg 실행
____2.1.3 심볼 파일 로드
____2.1.4 실행 및 정지
____2.1.5 브레이크 포인트 설정과 해제
____2.1.6 콜 스택 확인
____2.1.7 소스 연결해서 소스 창 열기
____2.1.8 Trace, Step으로 진행
____2.1.9 지역변수 확인
____2.1.10 전역변수 확인

__2.2 커널모드 라이브 디버깅
____2.2.1 디버거 시스템을 디버기 시스템에 붙이기
____2.2.3 정지 및 실행
____2.2.4 심볼 파일 로드
____2.2.5 브레이크 포인트 설정과 해제
____2.2.6 콜 스택 확인
____2.2.7 소스 연결해서 소스 창 열기
____2.2.8 Trace, Step으로 진행
____2.2.9 지역변수 확인
____2.2.10 전역변수 확인

__2.3 정리

3장. WinDbg로 디버깅하기

__3.1 유저모드 덤프 디버깅
____3.1.1 덤프 파일 수집
____3.1.2 덤프 파일 열기
____3.1.3 모듈 정보 보기
____3.1.4 심볼 맞추기
____3.1.5 콜 스택 보기
____3.1.6 로컬 창으로 변수 보기
____3.1.7 와치 창으로 메모리 보기
____3.1.8 메모리 창으로 메모리 보기
____3.1.9 프로세스와 스레드 보기

__3.2 커널모드 덤프 디버깅
____3.2.1 덤프 파일 수집
____3.2.2 덤프 파일 열기
____3.2.3 !analyze -v 메시지 보기
____3.2.4 모듈 정보 보기
____3.2.5 심볼 맞추기
____3.2.6 콜 스택 보기
____3.2.7 로컬 창으로 변수 보기
____3.2.8 와치 창으로 메모리 보기
____3.2.9 메모리 창으로 메모리 보기

__3.3 정리

4장. 유저모드 디버깅 케이스 스터디

__4.1 기본 케이스 스터디
____4.1.1. 잘못된 메모리 사용
____4.1.2 프로세스의 CPU 사용률이 100%를 기록할 때
____4.1.3 데드락이 발생해 멈춘 경우
____4.1.4 핸들 누수
____4.1.5 메모리 누수
____4.1.6 버퍼 오버플로우

__4.2 어셈블리와 스택의 이해
____4.2.1 어셈블리 기초
____4.2.2 스택의 이해
____4.2.3 호출 규칙
____4.2.4 64비트 스택의 이해

__4.3 고급 케이스 스터디
____4.3.1 예제 1: 잘못된 파라미터 전달
____4.3.2 예제 2: Drwtsn32 로그 파일 분석
____4.3.3 예제 3: MAP 파일을 이용한 분석
____4.3.4 윈도우 에러 리포트

__4.4 WinDbg Preview
____4.4.1 WinDbg Preview 설치
____4.4.2 WinDbg Preview Time Travel Debugging

__4.5 정리

5장. 커널모드 디버깅 케이스 스터디

__5.1 기본 케이스 스터디
____5.1.1 BugCheck 0x50
____5.1.2 BugCheck 0xD6
____5.1.3 BugCheck 0xC1
____5.1.4 BugCheck 0xC4-60
____5.1.5 BugCheck 0xCE
____5.1.6 BugCheck 0x7F
____5.1.7 BugCheck 0xD1
____5.1.8 BugCheck 0xF7
____5.1.9 커널모드 행 디버깅
____5.1.10 커널모드 데드락 디버깅

__5.2 고급 케이스 스터디
____5.2.1 BugCheck 0xA (분석 가능한 예제)
____5.2.2 BugCheck 0xA (분석 불가능한 예제)
____5.2.3 BugCheck 0x19 (분석 가능한 예제)
____5.2.4 BugCheck 0x19 (분석 불가능한 예제)
____5.2.5 BugCheck 0x8E

__5.3 실전 케이스 스터디
____5.3.1. BugCheck 0x50: UNICODE_STRING
____5.3.2. BugCheck 0x50: 숨겨진 콜 스택
____5.3.3. BugCheck 0x50: 해제된 핸들
____5.3.4. BugCheck 0x1A: 페이지 손상
____5.3.5. BugCheck 0xC5: 풀 헤더 손상
____5.3.6. BugCheck 0xC5: 해제 리스트 손상
____5.3.8. Hang: CPU 과점유
____5.3.9. Hang: 좀비 프로세스
____5.3.10. Hang: 완료되지 않는 IRP
____5.3.11. Hang: 위험한 락 사용

__5.4 드라이버 확인 프로그램
____5.4.1 드라이버 확인 프로그램 실행
____5.4.2 명령 프롬프트에서 설정

__5.5 정리

6장. 고급 디버깅

__6.1 WinDbg 사용팁
____6.1.1 조건 브레이크 포인트
____6.1.2 심볼 스토어 생성
____6.1.3 유저모드 원격 디버깅
____6.1.4 커널모드 원격 디버깅
____6.1.5 커널모드 디버깅으로 유저모드 디버깅하기 1
____6.1.6 커널모드 디버깅으로 유저모드 디버깅하기 2
____6.1.7 Event ID 2019 비페이징 풀 부족 원인 찾기

__6.2. Kernel Insider
____6.2.1. 핸들 테이블 탐험 I
____6.2.2. 핸들 테이블 탐험 II
____6.2.3. 프로세스 경로 획득
____6.2.4. 섹션 오브젝트에서 파일 경로 획득

__6.3 WinDbg Tools
____6.3.1 breakin.exe
____6.3.2 logger.exe, logviewer.exe
____6.3.3 ADPlus.exe(vbs)

__6.4 WinDbg 스크립트
____6.4.1 첫 번째 스크립트
____6.4.2 두 번째 스크립트

__6.5 WinDbg 확장 DLL
____6.5.1 확장 DLL 예제
__6.6 정리

7장. WinDbg 명령어

__7.1 일반 명령
____7.1.1 dt (Display Type)
____7.1.2 S(Search Memory)
____7.1.3 ds, dS (Display String)
____7.1.4 da, du (Display Memory: ASCII, Unicode)
____7.1.5 dl (Display Linked List)
____7.1.6 dds (Display Words and Symbols)
____7.1.7 x (Examine Symbols)
____7.1.8 uf (Unassemble Function)
____7.1.9 ub (Unassemble - b parameter)
____7.1.10 ? (Evaluate Expression)

__7.2 메타 명령
____7.2.1 .kdfiles (Set Driver Replacement Map)
____7.2.2 .reboot (Reboot Target Computer)
____7.2.3 .crash (Force System Crash)
____7.2.4 .dump (Create Dump File)
____7.2.5 .hh (Open HTML Help File)
____7.2.6 .symfix (Set Symbol Store Path)
____7.2.7 .reload (Reload Module)
____7.2.8 .enable_unicode (Enable Unicode Display)
____7.2.9 .enable_long_status (Enable Long Integer Display)
____7.2.10 .formats (Show Number Formats)

__7.3 확장 명령
____7.3.1 !-object
____7.3.2 !handle
____7.3.3 !process
____7.3.4 !stacks
____7.3.5 !drvobj
____7.3.6 !devobj
____7.3.7 !devstack
____7.3.8 !fileobj
____7.3.9 !for_each_module
____7.3.10 !vm
____7.3.11 !sym
____7.3.12 !poolfind
____7.3.13 !dml_proc
____7.3.14 !fltkd

__7.4 MEX 디버그 익스텐션 명령
____7.4.1 help
____7.4.2 mheap
____7.4.3 p
____7.4.4 addr
____7.4.5 eresource
____7.4.6 device-object
____7.4.7 driver-object
____7.4.8 dtpool
____7.4.9 evt
____7.4.10 file-object
____7.4.11 foreachcpu
____7.4.12 foreachprocess
____7.4.13 listticks
____7.4.14 mirp
____7.4.15 mirpfind
____7.4.16 mreg
____7.4.17 obj
____7.4.18 parsemem
____7.4.19 tag
____7.4.20 tasklist
____7.4.21 vadmodules
____7.4.22 vss
____7.4.23 workqueue
____7.4.24 count
____7.4.25 cut
____7.4.26 ddt
____7.4.27 dumpinfo
____7.4.28 grep
____7.4.29 thread
____7.4.30 dumpstackstrings
____7.4.31 executive
____7.4.32 lpcs
____7.4.33 listthreads
____7.4.34 ready .
____7.4.35 running
____7.4.36 searchthreadstacks
____7.4.37 standby
____7.4.38 suspended
____7.4.39 t
____7.4.40 uniquestacks
____7.4.41 userrequest
____7.4.42 wrlpcreceive
____7.4.43 wrresource
____7.4.44 imports
____7.4.45 mods

__7.5 정리

이 책에서 다루는 내용

- WinDbg 사용법과 다양한 디버깅 예제
- 예제를 통한 유저모드 디버깅과 커널 모드 디버깅 케이스 스터디
- 덤프 파일 활용에 관한 실전 팁
- WinDbg를 활용한 윈도우 커널 분석
- 성능 모니터를 활용한 디버깅 방법
- 각종 유틸리티를 활용한 문제 해결 방법의 소개
- 쉬운 디버깅과 유지보수를 위한 팀 협업 개발 환경을 갖추는 방법
- 초보자를 위한 디버깅에 필요한 어셈블리와 호출 규약, 스택의 기초
- 실전에 많이 쓰이는 WinDbg 명령어 소개와 그 활용 방법, 예제 소개
- 윈도우 XP부터 윈도우 10까지 다양한 예제와 설명

이 책의 대상 독자

윈도우용 소프트웨어를 개발하고 유지 관리하는 모든 일에 연관된 사람들을 대상으로 한다. 전문적인 소프트웨어 개발자, 테스트 엔지니어, 기술지원 엔지니어나 이제 소프트웨어 개발을 배우기 시작하는 학생들이 대상이 될 수 있다.
이 범주에 포함되면서 디버깅을 잘 모르고 있다면 이 책이 목표로 하는 정확한 대상이라고 할 수 있다. 디버깅을 이미 잘할 줄 아는 독자들은 디버깅 능력을 향상시키는 목적으로 이 책을 활용할 수 있다.
독자는 기초 C/C++ 언어 지식, 기초 디버깅 지식, 운영체제 기초 지식을 알고 있다고 가정한다. 이 책의 모든 예제는 C/C++ 언어로 작성됐으므로 최소한 C/C++ 언어는 읽을 수 있어야 한다. 디버깅 경험은 비주얼 베이직이나 C/C++ 등을 이용해 개발하면서 간단한 디버깅을 해본 정도면 충분하다. WinDbg에 대한 사전 경험은 없어도 된다.
WinDbg를 소개하면서 기초적인 사용법부터 설명할 것이다. 운영체제 기본 구조에 해당하는 프로세스, 스레드, 이벤트 등의 용어는 별도로 설명하지 않는다.

이 책의 구성

이 책은 7개의 장으로 구성돼 있다. 다음에서 각 장의 내용을 소개하면 다음과 같다.
제1장에서는 WinDbg의 기본 개념을 설명한다. WinDbg를 사용하려면 알아둬야 하는 주변 지식이나 용어들에 대한 내용이므로 가벼운 마음으로 훑어보면 된다.
제2장에서는 WinDbg를 처음 사용한다고 가정하고 WinDbg를 실행시키는 방법부터 시작해 초기 설정을 하고 간단한 디버깅을 해보는 것까지 설명한다. WinDbg로 응용프로그램과 커널모드 드라이버를 어떻게 제어하는지, 응용프로그램이나 커널모드 드라이버의 내용을 어떻게 확인하는지 보게 될 것이다.
제3장에서는 WinDbg로 문제를 분석하는 방법을 다룬다. 문제가 발생한 상황에서 어떤 식으로 원인을 찾아가는지 간단하게 살펴본다. 덤프 파일을 분석하는 예제로 진행하기 때문에 덤프 파일을 분석할 줄 모른다면 제3장을 참고해 기본적인 분석 절차를 배울 수 있다.
제4장에서는 유저모드에서 발생할 수 있는 여러 가지 문제 상황을 분석하는 예를 보인다. 흔하게 발생하는 문제로 잘못된 메모리 참조, 프로세스 행, 프로세스 데드락, 핸들 릭, 메모리 릭 등의 예제를 보인다. WinDbg를 비롯해 다양한 툴로 문제를 분석하고 원인을 찾아나가는 방법을 보게 될 것이다. 고급 주제로 들어가면 어셈블리도 참고해야 한다는 사실을 알게 될 것이다. 어셈블리를 잘 모른다면 제4장을 참고해 기초적인 내용을 공부할 수 있다.
제5장에서는 커널모드에서 발생할 수 있는 여러 가지 문제 상황을 해결해 나가는 예를 보인다. 커널모드에서 발생하는 문제란 사실 블루스크린을 의미한다. 블루스크린이 발생했다고 해서 모두 같은 블루스크린이 아니라는 사실을 알게 될 것이다. 블루스크린마다 문제를 나타내는 번호와 메시지를 담고 있으므로 대표적인 유형들을 예제로 마련했고 이것들을 분석하는 방법을 보게 될 것이다. 그리고 다양한 실전적인 예제와 커널 분석 예제를 통해 심도 깊은 학습도 가능하도록 배려했다.
제6장에서는 WinDbg를 좀 더 편리하게 사용하는 방법과 디버깅에 도움을 주는 여러 툴을 사용하는 방법을 설명한다. 사실 WinDbg는 기본적인 디버깅뿐만 아니라 디버깅을 도와주는 엄청난 기능들이 포함돼 있는 강력한 도구다. 이런 엄청난 기능들을 모두 알고 있다면 디버깅하는 작업은 기본적인 방법만 알고 있을 때보다 훨씬 더 간단해진다. 어떤 것들이 있는지 알지 못해서 못쓰는 것이 문제이므로 유용한 몇 가지를 소개해서 WinDbg의 편리한 기능을 활용하게 한다.
제7장에서는 유용한 WinDbg 명령들을 사용 예제 중심으로 설명한다. 사용 예제 중심이란 명령 자체에 대한 설명 중심이 아니라는 의미다. 명령은 대체로 다양한 기능을 수행할 수 있는데, 이것들을 종합적으로 설명하다 보면 설명만 복잡해지고 이해도가 떨어지게 된다. 따라서 설명은 가급적 줄이고 사용 예제를 도입해 어떻게 사용하는지를 실제로 보여주는 데 초점을 맞췄다.

최바울
안랩 기반기술팀에서 필터링 프레임워크, 실시간 검사, 자체보호, 가상화, 루트킷, 취약점 대응 관련 드라이버를 개발하며 다양한 특허를 등록하는 등 기술 연구를 하고 있다.
전문 분야가 메모리 덤프 분석, 성능 분석 그리고 리버싱인 개발자를 가장한 분석가다. 글로벌 백신 성능 테스트에서 V3를 세계 1위로 만든 하이퍼 스캔(Hi-Per Scan) 기술을 개발했다. 현재도 V3의 기능 향상을 위해 열정적으로 연구 중이다. 옮긴 책으로는 『Windows Internals 제 6판』(에이콘, 2014)이 있다.

이태화
안철수 연구소의 기반기술 팀에서 파일 시스템 필터 드라이버와 다수의 보안 모듈을 개발했으며, 현재는 한국마이크로소프트 기술지원부에서 Platform Server 기술지원을 담당하고 있다. Windows 운영체제에서 발생하는 다양한 문제점에 대한 해결 방법을 찾고 있으며, http://blogs.msdn.com/kocoreinternals/를 통해 윈도우의 내부, 디버깅 기법 등을 알리고자 한다.
taehwa@gmail.com

김희준
안철수 연구소의 기반기술 팀에서 드라이버와 보안 모듈을 개발했고, 현재는 엔씨소프트의 보안 팀에서 개발 프로젝트를 진행하고 있다. 인터넷 커뮤니티에서 주최하는 오프라인 세미나를 통해 미니필터나 SoftICE, WinDbg에 대한 공개 강의를 진행했고, 관련 내용들과 기타 드라이버 및 개발 자료들을 운영 중인 http://insidekernel.net 개인 사이트로 공유하고 있다.

김성현
안철수연구소에서 10년간 V3Pro2002, V3Pro2004, V3 Internet Security 2007, SpyZero 2.0 등의 제품에 탑재되는 실시간 감시 필터 드라이버와 엔진 드라이버를 개발했고, 현재는 기반기술 팀에서 V3의 보안 기능을 향상시키는 연구를 진행하고 있다.
greemate@gmail.com