인공지능 기술이 고도화되면서 우리 사회와 인류의 삶에 어떤 변화가 초래될지에 대한 다양한 논의가 이루어지고 있다. 본서는 인공지능을 인간과 같은 의식, 의지, 의도가 존재하지 않는, 해를 찾아가는 일종의 수학적 방정식의 결합체로 본다. 따라서 가까운 미래에 인간과 같은 욕구를 가진, 인간의 지능과 대등하거나 이를 초월하는 초인공지능 등은 출현할 가능성은 없거나 극히 낮다는 관점에 서 있다.

그러나 인공지능은 대규모의 시각적, 청각적 자료의 인식과 분류에 고도로 특화되어 있어 1차, 2차, 3차 산업 영역에서 인간이 수행해 오던 운송업, 제조업, 농수산업 활동, 단순 서비스업 및 분류와 관련된 전문 서비스업 등은 인공지능에 의해 상당 부분 대체될 가능성이 높다. 현재 헌법상 보장된 사생활의 비밀과 자유가 침해되는 사례가 빈발하고 있는 상황에서 인공지능 기술이 고도화되면서 기본권 침해의 가능성이 더욱 커지고 있다. 나아가, 인공지능 주권의 확보와 인공지능 기술과 윤리에 대한 국제규범과 국제표준을 선도하기 위한 국가 간 경쟁도 치열한 상황이다.

본서는 이러한 인공지능이 가져올 사회변화에 대응하기 위해 투명성 확보의 차원, 인간존엄성 존중을 위한 전제요건, 개인정보보호 및 안전성 확보를 위한 전제요건, 인공지능과 국가 및 국민생활에의 주도권 확보 등의 공법적 규율과 그 방향을 제시하고자 한다. 이러한 공법적 규율 방향을 제대로 구현하기 위해서는 행정조직의 구조와 그에 부여된 임무가 정책 목표 달성에 적합한 형태를 가져야 한다. 이를 위해 행정 조직의 기능적 분할과 통합의 요청으로서 실질적 행정조직법정주의를 제시한다.

[목 차]

제1장 서론

제1절. 연구의 목적과 범위 / 8
Ⅰ. 연구의 목적 / 8
Ⅱ. 연구의 방법과 범위 / 10
1. 연구의 방법 / 10
2. 연구의 범위 등 / 11
제2절. 용어의 정의 / 13

제2장 인공지능의 발전과 각국의 법적 대응

제1절. 인공지능의 발전 / 16
Ⅰ. 인공지능 등에 대한 정의 / 16
Ⅱ. 인공지능의 발전 / 19
1. 퍼셉트론 개념의 발견 / 22
2. 인공지능 기술 발전의 침체 - 제1차 AI 겨울 / 23
3. 기울기 소실(Vanishing Gradient) 문제 – 제2차 AI 겨울 / 25
4. 대규모 언어모델(LLM)의 급속한 발전 / 29
Ⅲ. 소결 / 30

제2절. 인공지능에 대한 각국의 법적 대응 현황 / 31
Ⅰ. EU 인공지능법(EU AI Act) / 31
1. 법의 목적과 네거티브 규제 방식의 채택 / 33
2. EU 인공지능법에서 AI의 정의와 적용범위 / 35
3. 위험 기반의 접근 / 37
4. 벌칙 및 규제 등 / 60
5. EU 인공지능법에 대한 검토 및 시사점 / 62
Ⅱ. 미국의 인공지능 관련 법제 / 68
1. 개요 / 68
2. 연방정부와 주정부 간 규제 권한에 대한 논란 지속 / 68
3. ‘미국 AI 행동계획’ / 71
4. 미국 인공지능 관련 법제에 대한 검토 및 시사점 / 74
Ⅲ. 중국의 인공지능 관련 법제 / 76
1. 생성형 인공지능 서비스 관리 임시방안의 주요 내용 / 77
2. “인공지능+” 행동심화실시의견의 주요 내용 / 79
3. ‘데이터 3법’의 주요 내용 / 81
4. 인터넷 정보 서비스 알고리즘 추천 관리 규정 / 87
5. 중국 인공지능 관련 법제에 대한 검토 및 시사점 / 89
Ⅳ. 일본의 인공지능 관련 법제 / 93
1. 개요 / 93
2. 인간중심의 AI 사회 원칙 등 / 94
3. 인공지능 관련 기술의 연구 개발 및 활용 추진에 관한 법률 / 98
4. 일본 인공지능 관련 법제에 대한 검토 및 시사점 / 101

제3장 인공지능이 야기할 사회적 변화 및 위험성과 법적 쟁점

제1절. 인공지능이 야기할 사회적 변화와 위험성 / 106
Ⅰ. 의식과 욕망이 있는 위험한 초인공지능의 등장 가능성에 관한 검토 / 106
Ⅱ. 인공지능의 한계에 대한 논의 / 111
1. 이해와 창의력의 결여 등 / 112
2. 다양성 등의 결핍 등 / 114
3. 현실 세계와의 상호작용의 결여 등 / 115
4. 학습능력의 한계 등 / 116
5. 소결 / 117

제2절. 인공지능에 대해 제기되는 법적 쟁점들 / 118
Ⅰ. 인공지능의 자유의지와 권리 주체성에 관한 논의 / 118
1. 인공지능의 자유의지 발현 가능성 / 119
2. 인공지능의 생명으로서 인정 가능성 / 124
3. 소결 / 127
Ⅱ. 인공지능의 위험성과 권리 침해의 가능성에 대한 논의 / 129
1. 개관 / 129
2. 인공지능의 판단과 윤리적 문제의 충돌 가능성 – 자율주행인공지능 모델을 중심으로 / 132
3. 프라이버시권과 국가에 의한 대규모 통제의 가능성 / 134
4. 인공지능의 편향성 문제 / 136
5. 인공지능에 대한 과신과 의인화의 문제 / 138
6. 노동권 위기의 촉발 가능성 / 140
7. 저작권 침해의 문제 / 144

제3절. 소결 / 146

제4장 인공지능에 대한 공법적 규율과 그 방향

제1절. 인공지능에 대한 공법적 규율의 내용과 방향에 대한 논의 / 148
Ⅰ. 개관 / 148
Ⅱ. 신행정법학과 행정법학 패러다임의 변화 / 151
Ⅲ. 공법적 규율의 방향 / 157
1. 투명성 확보의 차원 / 157
2. 인간존엄성 존중을 위한 전제요건 / 169
3. 개인정보보호 및 안전성 확보를 위한 전제요건 / 183
4. 인공지능과 국가 및 국민생활에의 주도권 확보 / 191
Ⅳ. 소결 / 199

제2절. 공법적 규율 방향의 구체적 실현 방안으로써 실질적 행정조직법정주의 / 200
Ⅰ. 개관 / 200
Ⅱ. 규제 패러다임의 변화와 거버넌스 / 203
1. 개관 / 203
2. 행정계획과 규제 이론 등 / 206
Ⅲ. 행정조직의 기능적 분할과 통합의 요청 – 실질적 행정조직법정주의 / 212
1. 행정조직 구성에 권력분립 원칙의 적용 등 검토 / 212
2. 행정 조직의 기능적 분할 / 214
3. 조직 신설 만능주의의 억제 – 중복 조직의 지양 / 216
4. 권한의 통합과 그 기준 / 218
Ⅳ. 소결 / 223

제3절. 향후 인공지능기본법의 개정 방향 제안 / 226
Ⅰ. 인공지능기본법 개관 / 226
Ⅱ. 인공지능기본법의 문제점 등 / 230
Ⅲ. 개정 방향 제안 / 234

제5장 결론

참고문헌 / 243