이 책은 NVIDIA-Certified Associate: AI Infrastructure and Operations(NCA-AIIO) 자격증을 준비하는 분들을 위해 집필되었습니다.
AI 기술이 빠르게 발전하면서, 이제 AI는 특정 전문가만의 영역이 아니라 기업의 인프라와 운영 환경 전반에서 필수적으로 고려해야 할 기술이 되었습니다. 그만큼 AI를 “어떻게 개발하는가”뿐만 아니라
“어디에서, 어떤 인프라 위에서, 어떻게 운영되는가”를 이해하는 것이 중요해지고 있습니다.
NCA-AIIO 자격증은 이러한 흐름 속에서 AI 인프라와 운영에 대한 기본 개념을 체계적으로 정리할 수 있는 좋은 출발점이 되는 인증입니다.
하지만 처음 AI 인프라를 접하는 분들에게는 GPU, 데이터 센터, 네트워킹, 오케스트레이션과 같은 용어와 개념이 다소 어렵게 느껴질 수 있습니다.
이 책은 이러한 부담을 줄이기 위해, 비전공자나 입문자도 이해할 수 있도록 AI 인프라와 운영의 핵심 개념을 최대한 쉽게 풀어 설명하는 것을 목표로 했습니다. 복잡한 이론보다는 전체 구조와 흐름을 이해하는 데 집중하여, NCA-AIIO 시험에서 요구하는 내용과 실제 현업에서 마주하게 될 개념을 자연스럽게 연결하고자 했습니다.
이 책을 통해 독자 여러분이 NCA-AIIO 자격증 취득이라는 목표뿐만 아니라, AI 인프라와 운영 전반에 대한 기본적인 이해를 갖추는 데 도움이 되기를 바랍니다. 나아가 이 책이 AI와 인프라 분야로 한 걸음 더 나아가기 위한 든든한 첫 출발점이 되기를 기대합니다.

1 NCA-AIIO 시험소개
1.1 시험개요
1.2 시험 영역 및 상세항목
1.21 필수 AI 지식
1.22 AI 인프라
1.23 AI 운영
2 시험 출제 개념
2.1 GPU 기초
2.11 GPU
2.12 CUDA
2.13 학습과추론
2.14 AI, ML, DL 차이점
2.15 ML, DL 학습방법
2.2 GPU 및 하드웨어 아키텍처
2.21 NVIDIA GPU 제품군
-T4
-V100
-A100
-H100
-H200
-B200
2.22 MIG (Multi-Instance GPU)
2.23 vGPU 기술
2.24 Tensor Core
2.25 Ray Tracing Core
2.3 시스템 & 데이터센터 플랫폼
2.31 DGX 시스템
2.32 NVIDIA AI Enterprise
2.33 BMC
2.34 BCM
2.35 DCGM (Data Center GPU Manager)
2.36NVIDIA Fleet Command
2.4 인터커넥트 & 네트워킹
2.41 PCIe
2.42 NVLink
2.43 InfiniBand
2.44 RoCE
2.45 Bridge 기술
2.46 MPI
2.47 NCCL
2.5 GPU Direct 기술
2.51 GPU Direct 개요
2.52 GPU Direct RDMA
2.53 GPU Direct Storage
2.54 GPU Direct for Video
2.6 DPU & 가속 네트워크
2.61 NVIDIA DPU 개요
2.62 DOCA
2.63 OpenSM
2.7 가속 소프트웨어 스택
2.71 CUDA 프로그래밍 모델
2.72 cuDNN
2.73 TensorRT
2.74 NVIDIA Nsight
2.75 Dynamo
2.76 ONNX
2.8 AI 프레임워크 & 추론
2.81 PyTorch
2.82 TensorFlow
2.83 Triton Inference Server
2.84 NVIDIA NIMs
2.9 MLOps & AI 플랫폼 서비스
2.91 NGC (NVIDIA GPU Cloud)
2.92 NVIDIA TAO Toolkit
2.93 Slurm
2.94 Merlin (추천 시스템 프레임워크)
2.10. 시뮬레이션 & 디지털 트윈
2.101 Omniverse
2.102 Isaac SDK
2.103 Isaac Sim
2.11. 엣지 & 임베디드 AI & 산업특화
2.111 Jetson 플랫폼
2.112 IVA (Intelligent Video Analytics)
2.113 Metropolis
2.114 Aerial
2.115 NVIDIA Clara (Healthcare AI)

3 기출문제
3.1 예상기출 225문제
4 FAQ
4.1 GPU 모델별 추론 성능 차이
4.2 GPU 모델별 학습 성능 차이
4.3 다른 모델인데 CPU, 메모리가 같으면 성능이 같나요
4.4 GPU 개수 늘리는것과 GPU 등급 올리는 것 장단점
4.5 GPU 모델이 변경되면 개발자는 어떤 작업을 해야할까