[목 차]

책을 시작하기에 앞서

여는 말을 대신하여 – 장밋빛 기대와 엇갈린 재앙과 위험

제1부 인공지능 시대의 도래

1장 다양한 분야에서의 인공지능
1. 일상생활 및 교육 분야
∙ 일상생활 속에서의 인공지능 기술
∙ ‘에이전트 기반 전자상거래’ 시대
∙ 인공지능 기반 교육용 시스템과 도구
2. 보건의료 및 제약 분야
∙ 보건의료 분야에서의 실용적 접근
∙ 의료영상 판독 및 진단용 인공지능
∙ 홈 헬스케어 로봇의 기능과 작동 원칙
∙ 인공지능 기술을 활용한 신약 개발
3. 금융 및 법률 분야
∙ 인공지능 기술을 활용한 금융업
∙ 인공지능 투자자문역 로보어드바이저
∙ 생성형 인공지능의 활용과 리걸테크

2장 인공지능 시대의 쟁점
1. 인공지능 로봇과 인간
∙ 인공지능 로봇과 피지컬 인공지능
∙ 휴머노이드 로봇과 감정 인식 로봇
∙ 인공지능 섹스 로봇의 등장과 진화
∙ 인공지능 로봇과 인간의 관계
∙ 인공지능 로봇의 법적 지위와 권리
2. 트랜스휴머니즘과 인간의 미래
∙ 트랜스휴머니즘과 뇌·컴퓨터 인터페이스
∙ 트랜스휴머니즘의 낙관적 전망과 희망
∙ 트랜스휴머니즘에 대한 철학적·기술적 비판
∙ 트랜스휴머니즘에 대한 윤리적·사회적 비판
3. 인공지능 예술과 가상 인플루언서
∙ 인공지능 기술을 활용한 예술
∙ 창작의 보완적 동반자로서의 인공지능
∙ 가상 인플루언서의 등장과 활동
∙ 가상 인플루언서의 사회적·윤리적 쟁점

제2부 인공지능에 대한 비판적 고찰

1장 인공지능의 부정적 영향과 결과
1. 인공지능 기술 자체의 문제
∙ 생성형 인공지능의 ‘환각’ 현상
∙ 오픈 소스의 보안 위협
∙ 자율주행 자동차와 적대적 공격
2. 인공지능 기술의 역기능과 부작용
∙ 자율살상무기 시스템과 사이버 공격
∙ 딥페이크와 가짜뉴스
∙ ‘알고리즘·데이터’ 편향으로 인한 차별
∙ 생성형 인공지능과의 동반자 관계
3. 민주주의와 포스트휴먼 시대
∙ ‘디지털 파놉티콘’과 파놉티콘 감시
∙ 민주주의에 대한 위협과 부정적 영향
∙ 새로운 인간으로서의 포스트휴먼
∙ 포스트휴먼 시대의 사회적·정치적 문제
4. 일자리 감소와 환경 문제
∙ 노동환경의 변화와 일자리 퇴출
∙ 인공지능 기술로 인한 실업 문제
∙ 대량 실업으로 인한 사회적 갈등
∙ 인공지능 기술로 인한 환경 문제

2장 고전적 기술철학자의 고찰과 경고
1. 자크 엘륄의 기술 사상과 인공지능
∙ ‘기술 담론’에 대한 비판
∙ 기술의 자율성과 인공지능
∙ 기술의 양면성과 인공지능
2. 인공지능의 한계와 신성화된 인공지능
∙ 인공지능의 한계와 관련된 지적
∙ 인공지능의 한계에 대한 반론
∙ 신성화된 인공지능에 대한 비판
∙ 새로운 신화로서의 인공지능
3. 한스 요나스의 책임 윤리와 인공지능
∙ 기술 시대의 윤리로서의 책임 윤리
∙ 인공지능과 관련된 책임 윤리의 지침
∙ 인공지능 기술의 위험 요소와 책임 윤리

3장 인공지능 전문가와 사상가의 경고
1. 스튜어트 러셀과 초인적 지능
∙ 초인적 지능의 위험에 대한 경고
∙ 인공지능의 위험을 반박하는 주장에 대한 비판
2. 무스타파 술레이만과 인공지능 기술 억제
∙ 인공지능 기술에 대한 규제와 억제
∙ 인공지능 기술의 억제를 위한 단계
3. 닉 보스트롬과 초지능 인공지능
∙ 인류의 생존을 위협하는 초지능 인공지능
∙ 초지능 인공지능을 통제하는 방법
4. 유발 노아 하라리와 쓸모없는 계급
∙ 쓸모없는 계급으로 전락할 수 있는 인간
∙ 진화된 인공지능의 위험에 대한 경고

제3부 인간을 위한 인공지능

1장 윤리적 쟁점과 인공지능 윤리
1. 인공지능과 관련된 윤리적 쟁점
∙ 인공지능의 딥러닝과 ‘투명성’
∙ 인공지능의 편향성과 ‘알고리즘 편향’
∙ ‘책무성’과 ‘감사가능성’
2. 생명미래연구소와 국제전기전자공학자협회
∙ 생명미래연구소의 ‘아실로마 인공지능 23원칙’
∙ 국제전기전자공학자협회의 ‘윤리적 조율 설계’
3. 경제협력개발기구, 유네스코, 한국
∙ 경제협력개발기구의 ‘인공지능 윤리 원칙’
∙ 유네스코의 ‘인공지능 윤리 권고’
∙ 한국의 인공지능 윤리기준

2장 인공지능 관련 법 제도와 국제 협약
1. 유럽연합의 법 제도
∙ 유럽연합의 ‘일반개인정보보호규정’
∙ ‘유럽연합 인공지능법’의 장점과 특징
∙ ‘유럽연합 인공지능법’의 규제 사항
2. 미국, 중국, 한국의 법 제도
∙ 미국의 ‘알고리즘 책임법’
∙ 미국의 인공지능 패권 유지 전략
∙ 중국의 인공지능 기술 규제
∙ 한국의 ‘인공지능 기본법’
3. 인공지능 관련 국제 협약과 선언
∙ ‘히로시마 인공지능 프로세스’와 ‘브레츨리 선언’
∙ ‘국제 인공지능 안전 보고서’
∙ 인공지능 관련 공개서한과 성명서

3장 새로운 인공지능 시대를 향하여
1. 인공지능과 인간의 공존
∙ 인공지능으로 인한 재앙적 위험
∙ 공존 관계와 협력적 파트너십
∙ 신뢰할 수 있는 인공지능
2. 새로운 인공지능을 위한 방향
∙ 인간의 창의성과 인간다움의 특성
∙ ‘인공지능 격차’로 인한 불평등과 소외
∙ ‘인공지능 디톡스’를 향한 발걸음
3. 모두를 위한 인공지능 생태계
∙ 인공지능과 관련된 행위 주체별 책임
∙ 인공지능 생태계를 위한 ‘참여적 거버넌스’
∙ 지속 가능한 인공지능을 위한 방안

책을 마무리하며

인공지능 관련 용어

인공지능 관련 자료

외국어 약어

주(註)

참고문헌

[본 문]

“인공지능 개발의 성공은 인류 역사상 가장 큰 사건이 될 수 있지만,
위기를 피하지 못한다면 이것이 마지막이 될 수도 있다.”

“인공지능 기술을 섬기는 것이 아니라,
그 한계를 인식하고 도구로 사용하는 자세가 필요하다.”

“인공지능은 인류에게 최고의 기회가 될 수도, 최악의 재앙이 될 수도 있다.”

인공지능 개발의 성공은 인류 역사상 가장 큰 사건이 되겠지만, 우리가 위기를 피하는 법을 배우지 않는다면 이것이 마지막이 될지도 모른다. 우리는 역사상 인류에게 일어날 최고의 상황 또는 최악의 상황에 직면해 있다.
- 스티븐 호킹Stephen Hawking

‘초인적 지능’을 향한 행군을 멈출 수 없어 보이나 그 성공은 인류의 파멸이 될 수도 있다. 인간보다 더 지적인 존재가 되라는 잘못된 목표를 인공지능에 부여한다면, 인공지능은 이 목표를 기어코 달성할 것이고 결국 인류에게 파국이 올 것이다.
- 스튜어트 러셀Stuart Russel

인공지능 기술을 제대로 통제하지 못하면 재앙적 결과를 초래할 수 있다. 인공지능 기술에 대한 억제는 인공지능으로 인한 재앙을 막기 위해 인류가 통제권을 유지하도록 하는 ‘가드레일’이다.
- 무스타파 술레이만Mustafa Suleyman

인간 지능보다 수십 배, 수백 배 더 뛰어나고 매우 강력한 힘을 지닌 ‘초지능 인공지능’이 인류를 지배할 미래의 통치자가 될 것이다. ‘초지능 인공지능’이 어떤 행동을 통해 어떤 결과를 산출할지 예측이 어렵고, 이는 매우 위험한 결과로 이어질 가능성이 높다.
- 닉 보스트롬Nick Bostrom

인공지능은 인간이 예측하거나 파악하기 어려운 무수히 많은 종말 시나리오를 제시한다. 특히, 인간과 이질적인 지능의 계산에서 나온 시나리오여서 인간의 머리로는 도저히 상상할 수 없는 종말 시나리오도 있을 것이다.
- 유발 노아 하라리Yuval Noah Harari

인공지능으로 인한 멸종 위험의 완화가 팬데믹이나 핵전쟁 같은 다른 사회적 규모의 위험과 함께 글로벌 차원에서 우선순위가 되어야 한다.
- ‘인공지능 안전센터’Center for AI Safety의 성명서

- 본문 중에서