2016년 이세돌 9단과 알파고 사이에 펼쳐졌던 세기적인 바둑 대국을 통해 우리는 인간보다 뛰어난 인공지능이 지금 여기에서 현실이 되고 있음을 체험하였다. 음악이나 미술, 글쓰기처럼 그 무엇인가를 새롭게 창작하는 일은 오직 인간만이 할 수 있는 창의적인 일로 여겼지만 이제 인공지능은 우리 인간처럼, 경우에 따라서는 인간보다 뛰어나게 저작물을 창작한다. 그리고 2022년 11월에 출시되어 현재 전 세계적으로 선풍적인 관심을 끄는 ChatGPT는 조만간 인간처럼 소통할 수 있는, 달리 말해 튜링테스트를 통과할 수 있는 인공지능이 멀지 않았음을 시사한다.

디지털 전환은 우리가 삶을 영위하는 세계도 확장하였다. 실제세계뿐만 아니라 실제세계와 연결된 메타버스와 같은 가상세계도 우리가 살아가는 세계일 수 있음을 보여주었다. 이에 따라 디지털 전환은 세계의 질서를 형성하고 유지하는 법규범의 본성에도 중대한 의문을 던진다. 실제세계를 규율하는 법과 가상세계를 규율하는 코드 사이에 과연 본질적인 차이가 있는가의 의문이 그것이다. 이 모든 것이 디지털 전환과 연결된다.

이 책은 이처럼 디지털 전환이 야기하는 변화와 위험 그리고 이에 관한 법적 문제를 다룬다. 디지털 전환에 관심을 가지고 전문적인 연구를 해온 한국과 일본의 학자 세 사람이 만나 고민하고 토론하여 얻은 결과물이 바로 이 책이다. 여러 사정으로 공동 연구가 그것도 국제적인 공동 연구가 쉽지 않은 상황에서 디지털 전환에 관해 이러한 공동 연구의 결과물을 내놓게 된 것을 자랑스럽게 생각한다. 물론 여전히 해명해야 할 여러 문제를 남겨 두고 있지만 이 책을 계기로 현대사회의 변화에 더 많은 법학자가 관심을 가져주기를 그리고 더 많은 한국과 일본의 학자들이 서로 협력할 기회가 마련되었으면 한다.

고려대학교 법과대학을 졸업하고 같은 대학 대학원에서 이상돈 교수의 지도로 법학석사를, 독일 프랑크푸르트대학교 법과대학에서 클라우스 귄터(Klaus Gnther) 교수의 지도로 법학박사를 취득하였다. 2006년 9월부터 영남대학교 법과대학 및 법학전문대학원에서 기초법 전임 교수로 학생들을 가르친다. 최근 세 가지 주제에 관심을기울이며 연구를 수행한다. 기초법학과 실정법학의 상호 연관성, 현대 과학기술이 법적 사고와 법체계에 미치는 영향 및 법의 진화, 우리 법학자의 법이론이 그것이다.
『부동산 명의신탁』(2010), 『서브프라임 금융위기와 법』(2011), 『법철학: 이론과 쟁점』(공저, 2012·2017·2022),
『민사법질서와 인권』(2013), 『빅데이터와 인권』(2016), 『법과 진화론』(공저, 2016), 『법해석학』(2017), 『현대 법사회학의 흐름』(공저, 2017), 『제4차 산업혁명과 법』(2017), 『디지털 트랜스포메이션과 정보보호』(공저, 2019), 『공학법제』(공저, 2020), 『유기천형법학연구: 유기천의 형법연구방법론(II)』(공저, 2020), 『인공지능 혁명과 법』(2021), 『코로나 시대의 법과 철학』(공저, 2021), 『삼단논법과 법학방법』(2021), 『데이터와 법』(공저, 2021) 등의 책을 쓰고 다수의 논문을 집필하였다.

제1장 서 론
[양천수 · 손형섭]

Ⅰ. 디지털 전환 시대 1
Ⅱ. 디지털 전환 시대의 법이론 2
1. 전체 구조 3
2. 각 장의 주요 내용 3
(1) 서론 3
(2) 현대사회의 구조변혁과 법규범의 대응 방향 3
(3) 법규범의 새로운 이해 가능성 4
(4) 아키텍처 설계 및 자유 재구성 5
(5) 감염병 대책을 위한 규제·넛지·데이터의 활용과 입법 과제 5
(6) 디지털 전환에 의한 지능정보화 사회의 거버넌스 6
(7) 디지털 뉴딜 관련 데이터 법제의 입법 방향에 관한 연구 7
(8) 디지털 전환에 의한 미디어 변화와 언론관계법 변화 8
(9) 인공지능 창작물과 저작권 9
(10) 인공지능의 위험과 윤리적 대응 10
(11) 지능정보기술의 위험과 법적 대응 10
(12) 인공지능 규제와 영향평가 11
(13) 인공지능 시대의 정의 구상 12

제1부 현대사회의 구조변혁과 법규범의 진화

제2장 현대사회의 구조변혁과 법규범의 대응 방향
[양천수]
Ⅰ. 들어가며 15
Ⅱ. 근대법체계의 사고 모델 16
1. 주체/객체/행위 모델 16
2. 인간중심주의 17
3. 유체물중심주의 18
4. 실제세계 중심주의 18
Ⅲ. 현대사회의 구조변혁 19
1. 변혁의 시대로서 현대 19
2. 제4차 산업혁명과 사회의 구조변혁 20
(1) 주체의 확장 20 (2) 객체의 확장 23
(3) 매체 및 세계의 확장 24
3. 코로나 사회와 사회구조의 변혁 25
(1) 사회적 거리두기 25 (2) 행위에서 소통으로 26
(3) 메타버스의 출현 26 (4) 진짜와 가짜의 경계 해체 28
Ⅳ. 사회 구조변혁의 부작용 29
1. 기본권 제한 29
2. ‘포함/배제’ 이분법 30
3. 사회적 소통에 관한 문제 31
(1) 소통의 왜곡 문제 31 (2) 소통매체 문제 31
(3) 소통의 수직적·차별적 구조 강화 32
(4) 친밀성의 위기와 생활세계의 변화 33
4. 사회의 구조변혁과 인간 존재의 부적응 33
Ⅴ. 법규범의 대응 방향 34
1. 법적 사고모델의 변화 필요성 35
2. 생명과 안전에 대한 관심과 이해 36
3. 정신 영역에 대한 관심과 이해 37
4. 국가의 패러다임으로서 절차주의적 포용국가 38
Ⅵ. 맺으며 39

제3장 법규범의 새로운 이해 가능성
[양천수]
Ⅰ. 들어가며 40
Ⅱ. 법으로서 코드 41
1. 코드의 의의 41
2. 아키텍처 규제 42
(1) 아키텍처 42 (2) 아키텍처 규제 44
(3) 법적 규제와 아키텍처 규제의 차이 45
3. 아키텍처 규제 논의 및 현황 45
(1) 직접적 논의 46 (2) 간접적 논의 47
Ⅲ. 코드로서 법 50
1. 법의 개념 요소 50
(1) 당위 50 (2) 국가 51
(3) 강제력 51 (4) 언어 51
2. 법개념의 확장 가능성 52
(1) 법다원주의 52 (2) 규칙으로서 법 52
(3) 코드로서 법 52 (4) 법과 코드의 유사점과 차이점 54

제4장 아키텍처 설계 및 자유 재구성
[나리하라 사토시(成原慧) · 손형섭(옮김)]
Ⅰ. 들어가며 55
Ⅱ. 일본에서의 아키텍처론의 수용과 전회(回) 56
Ⅲ. 아키텍처에 의한 규제 59
1. 아키텍처의 개념 59
2. 아키텍처에 의한 자유의 제약과 구성 60
3. 아키텍처에 의한 자유의 구성 60
4. 규제수단으로서의 아키텍처 61
Ⅳ. 선택 아키텍처와 넛지 62
1. 선택 아키텍처/넛지 개념의 제기 62
2. 선택 아키텍처/넛지론의 정책에 응용 63
3. 선택 아키텍처/넛지와 개인의 자율 · 자기통치 65
Ⅴ. 두 가지 아키텍처 67
1. 아키텍처 개념의 제기와 그 수용 67
2. 두 개의 아키텍처론과 자유론 69
3. 아키텍처 관점과 적극적 행동주의(hacktivism) 관점 71
Ⅵ. 자유를 위한 아키텍처를 어떻게 구축할까 74
1. 설계의 설계 74
2. 탈구축에 관한 권리 75
Ⅶ. 맺으며 78

제5장 감염병 대책을 위한 규제·넛지·데이터의 활용과 입법 과제
나리하라 사토시(成原慧) · 최혜선(옮김)
Ⅰ. 들어가며 79
Ⅱ. 행동 제한을 과하는 규제 79
Ⅲ. 행동의 변화를 불러오는 넛지 82
Ⅳ. 강제와 자율성의 사이 84
Ⅴ. 정책결정자의 지침이 되는 데이터의 수집분석 85
Ⅵ. 신뢰할 수 있는 정책결정자의 조건 - 스스로 정책결정을 하고 있다고 신뢰하기 위하여 87

제2부 디지털 전환의 헌법적 대응

제6장 디지털 전환에 의한 지능정보화 사회의 거버넌스
[손형섭]
Ⅰ. 들어가며 91
Ⅱ. 디지털 트렌스포메이션 93
1. 개념 93
2. 내용 94
3. 핵심기술과 비즈니스 모델 95
Ⅲ. 공공영역의 디지털 전환 96
1. 정부의 디지털 전환 96
2. 보텀업 방식의 청와대국회의 전자청원제도 98
3. 톱다운 방식의 거버넌스 100
Ⅳ. 사적영역에서의 전환 102
1. 의사결정의 디지털 전환 102
2. 팬데믹과 결합한 변화 106
3. 클라우드 서비스의 기여 106
4. 디지털 산업사회의 변화 109
5. 디지털에 의한 교육과 인권 강화 110
Ⅴ. 거버넌스의 전환 111
1. 신거버넌스의 필요성 111
2. 법치주의 거버넌스의 변화 113
(1) 효율성 제고 113 (2) 데이터 기반 거버넌스 114
3. 디지털 · 인공지능 거버넌스 115
4. AI 알고리즘 오남용 문제 120
Ⅵ. 맺으며 121

제7장 디지털 뉴딜 관련 데이터 법제의 입법 방향에 관한 연구
[손형섭]
Ⅰ. 들어가며 123
Ⅱ. 디지털 뉴딜과 디지털 전환 125
1. 한국의 디지털 뉴딜 125
2. 디지털 뉴딜의 문제 제기 126
(1) 사이버 보안 체계 문제 127
(2) 개인정보의 활용에 대한 비판 127
(3) 데이터 관련 기구 128
(4) 데이터 관리 책임 128
(5) 신분증과 주민등록번호의 오남용 128
3. 디지털 뉴딜의 방향성 129
(1) 디지털 전환 129 (2) 디지털 전환의 구현 131
Ⅲ. 데이터 법제의 쟁점 132
1. 데이터 법제의 과제 132
2. 개인정보 보호법 133
(1) 개인정보 결정권, 통제권, 보호권 133
(2) 데이터와 개인정보 138
(3) 위법한 활용의 경계 141
(4) 실제 판결과 처벌 143
(5) 법안의 재개정안 144
3. 신용정보보호법 등 146
4. 데이터 기본법 법안 147
(1) 법안의 내용 147 (2) 데이터 이동권 149
5. 데이터기반행정법 151
6. 지능정보화 기본법 151
Ⅳ. 데이터 법제의 입법 방향 152
1. 규범성 확보를 위한 전체 디자인 152
2. 규범의 명확화 154
3. 효과적인 규제 방법 155
(1) 데이터에 대한 규제 방법 155
(2) 규제의 합리화 156
4. 정보주체의 권리 현실화 158
5. 보호위원회, 금융위원회, 데이터 기관의 관계 정리 159
(1) 보호위원회의 역할 159
(2) 관계 정리 160
Ⅴ. 맺으며 161

제8장 디지털 전환에 의한 미디어 변화와 언론관계법 변화
[손형섭]
Ⅰ. 들어가며 163
Ⅱ. 디지털 전환과 미디어의 변화 164
1. 디지털 트랜스포메이션 164
2. 미디어의 변화 165
(1) 방송 미디어 165 (2) 신문 · 출판 매체 167
(3) 광고 168
3. 노출된 문제점 169
(1) 오보와 허위정보 169
(2) 사회의 통합과 분열 170
(3) 확증편향과 어뷰징 171
Ⅲ. 미디어법제의 변화 172
1. 언론관계법의 변화 172
(1) 언론법관계법 172 (2) 두 가지 흐름 174
2. 편집권과 기사배열 175
(1) 편집규약 운동 175 (2) 방송법 · 신문법의 편집권 175
(3) 인터넷뉴스서비스의 기사배열책임자 177
Ⅳ. 미디어의 알고리즘 178
1. 알고리즘 178
(1) 미디어 알고리즘 권력 178
(2) AI 윤리의 정립 179
2. 알고리즘 규범화 181
3. 알고리즘 저널리즘 183
(1) 추천 인공지능 183 (2) AI 알고리즘 설명요구권 185
4. 알고리즘 검토위원회 186
Ⅴ. 맺으며 188

제3부 인공지능의 유용성과 위험 그리고 대응

제9장 인공지능 창작물과 저작권
[양천수]
Ⅰ. 들어가며 193
1. 문제점 193
2. 접근 방법 194
Ⅱ. 인공지능과 저작물의 의의 195
1. 인공지능의 의의 195
(1) 개념 195 (2) 인공지능과 로봇 196
2. 인공지능의 유형 196
(1) 약한 인공지능 197 (2) 강한 인공지능 197
(3) 초인공지능 197
3. 인공지능의 발전 198
(1) 추론과 탐색의 시대 198
(2) 전문가 시스템의 시대 198
(3) 기계학습과 딥러닝의 시대 199
4. 저작물의 의의 199
(1) 개념 199 (2) 유형 200
Ⅲ. 저작물과 인공지능 기술 201
1. 인공지능 기술의 기본 구조 201
2. 인공지능 기술의 발전 203
(1) 개관 203 (2) 입력/출력 모델 203
(3) 신경망 학습과 딥러닝 204
(4) 인공지능 기술의 발전 205
3. 인공지능 저작물에 관한 기술 207
(1) 개요 207 (2) 딥페이크 207
(3) GAN 210 (4) 스타일GAN 211
(5) Few-Shot Adversarial Learning 211
(6) 음성합성 기술 212 (7) ASBS 212
Ⅳ. 인공지능 저작물의 현황 213
1. 서론 213
(1) 현상 213
(2) 법 · 예술 및 경제체계에 대한 도전 213
(3) 인공지능 저작물과 창작물 214
2. 인공지능과 음악 개관 215
3. 인공지능과 대중음악 216
(1) 인공지능 작곡 216 (2) 인공지능 연주 220
4. 인공지능과 클래식 음악 224
(1) 인공지능 연주 224 (2) 인공지능 작곡 225
5. 인공지능과 미술 226
(1) 현황 226 (2) 딥드림 227
(3) 오비어스와 에드몽 드 벨라미 227
(4) 넥스트 렘브란트 228
(5) AICAN 228
(6) 펄스나인의 이매진 AI 229
(7) 삼성전자의 툰스퀘어 230
(8) 인간 및 인공지능의 협업과 파이돈 230
6. 메타버스와 인공지능 232
(1) 메타버스의 의의 232
(2) 메타버스의 유형 233
(3) 메타버스의 핵심 기술 234
(4) 메타버스의 예 236
Ⅴ. 인공지능 저작물 침해에 대한 대응 방안 239
1. 세 가지 대응 방안 239
(1) 기술적 대응 방안 239
(2) 윤리적 대응 방안 240
(3) 법적 대응 방안 241
2. 법적 대응 방안의 기초로서 저작권법 241
(1) 저작권법의 의의 241
(2) 저작권의 의의 242
(3) 저작인접권 245
(4) 저작권의 효력 및 보호 246
(5) 카피레프트 운동 247
3. 저작권의 법적 기초로서 법적 인격 248
(1) 법에서 인격이 가지는 의미와 기능 248
(2) 법적 인격의 변화 250
(3) 탈인간중심적 인격 개념의 가능성 252
4. 인공지능의 법적 문제 검토 257
(1) 인공지능의 법적 인격 인정 가능성 257
(2) 법적 인격의 가능성과 필요성 259
5. 인공지능의 법적 문제 검토 259
(1) 인공지능의 거래주체성 259
(2) 인공지능의 손해배상책임 260
(3) 인공지능의 형사책임 260
(4) 인공지능 보호 필요성 261
6. 인공지능과 저작물에 대한 법정책의 방향 262
(1) 문제점 262
(2) 인공지능 저작권의 원칙적 인정 불필요성 262
(3) 인공지능 저작물 관련자의 저작권 배분 방향 263
(4) 인공지능 저작물 표시 의무 263
Ⅵ. 맺으며 263
1. 결론 요약 263
2. 정책 제언 265

제10장 인공지능의 위험과 윤리적 대응
[양천수]
Ⅰ. 들어가며 266
Ⅱ. 인공지능의 위험 사례 268
1. 개인 데이터 남용 268
2. 부정확한 알고리즘 사용 269
3. 편향된 알고리즘이 유발하는 문제들 270
(1) 대량살상 수학무기 270 (2) 대학평가 모델 271
(3) 범죄 예측 프로그램 272
(4) 채용 프로그램의 문제: 디지털 골상학 274
(5) 일정의 노예 275 (6) 알고리즘 편향과 보험 276
(7) 마이크로 타기팅 선거운동 277 (8) 커스터마이징 광고와 차별 277
(9) 프로파일링과 인격권 침해 278
4. 알고리즘과 감시국가 문제 278
5. 인공지능의 사회적 이용에 따른 위험 사례 279
Ⅲ. 인공지능 위험의 통제 방안 280
1. 고려 사항 280
2. 법을 통한 통제 280
3. 윤리를 통한 통제 281
Ⅳ. 유네스코 인공지능 윤리 권고안 281
1. 구성 282
(1) 개요 282 (2) 가치 282
(3) 원칙 282 (4) 과제 목표 및 정책 과제 282
2. 분석 283
(1) 가치와 원칙 구별 283
(2) 원칙의 유형화 283
(3) 인간중심적 사고와 생태주의적 사고의 결합 284
(4) 책임주체로서 AI 행위자 284
(5) 다양한 이해관계자를 고려하는 거버넌스 284
(6) 절차주의적 · 혁신적 사고 285
(7) 실질적인 윤리 원칙 285
3. 평가 286
(1) 가치와 원칙의 구별 286
(2) 개인정보보호 286
(3) 다양성 및 포용성 287
(4) AI의 사회적 및 경제적 영향에 대한 대응 287
(5) 책임성 등 288
Ⅴ. 국가 인공지능(AI) 윤리 기준 288
1. 초안 288
(1) 기본 구조 288 (2) 4대 속성 289
(3) 3대 기본원칙과 15개 실행원칙 289
(4) 분석 및 평가 289
2. 수정안 291
(1) 기본 구조 291 (2) 3대 기본원칙 291
(3) 10대 요건 291 (4) 평가 291
Ⅵ. 맺으며 292

제11장 지능정보기술의 위험과 법적 대응
[양천수]
Ⅰ. 들어가며 293
Ⅱ. 지능정보기술의 의의와 위험 294
1. 지능정보기술의 의의 294
2. 지능정보기술의 위험 295
(1) 지능정보기술의 구조 분석 295
(2) 지능정보기술의 위험 297
Ⅲ. 지능정보기술에 대한 법적 통제 방식과 한계 300
1. 쟁점 300
2. 법적 통제 방식 유형화 301
(1) 자율적 통제와 타율적 통제 301
(2) 행위 중심적 통제와 결과 중심적 통제 302
(3) 사전적-현재적-사후적 통제 303
(4) 결과비난 통제와 반성적 통제 304
3. 지능정보기술의 위험에 대한 현행 법체계의 통제 역량과 한계 305
(1) 개인정보 침해 위험에 대한 통제 역량 305
(2) 알고리즘의 부정확 및 편향에 따른 위험 통제 역량과 한계 305
(3) 지능정보기술의 사회적 이용에 따른 위험 통제 역량 308
Ⅳ. 지능정보기술의 위험에 대응하기 위한 최근의 입법 현황 308
1. 지능정보화 기본법 309
2. 정보통신망법 310
3. 신용정보법 311
Ⅴ. 지능정보기술의 위험에 대한 법적 대응 방안 312
1. 문제점 312
2. 규제원칙 313
(1) 지능정보기술 이용과 통제의 실제적 조화 313
(2) 자율적 통제 우선 313
(3) 행위 중심적 통제 우선 314
(4) 사전적 · 현재적 통제 우선 314
(5) 반성적 통제 우선 315
3. 개인정보 침해 위험과 데이터 거버넌스 315
4. 알고리즘 위험에 대한 규제 방안 316
(1) 윤리 316 (2) 지능정보기술인증 317
(3) 사전영향평가 317
(4) 설명 및 이의에 대한 권리 보장 318
(5) 지능정보기술 개선의무 318
(6) 일반적 디지털차별금지법 도입 여부 318
5. 지능정보기술의 사회적 사용 위험에 대한 규제 방안 319
Ⅵ. 맺으며 319

제12장 인공지능 규제와 영향평가
[양천수]
Ⅰ. 들어가며 320
Ⅱ. 영향평가의 의의 321
1. 개념 321
2. 유형 321
(1) 기술영향평가 322 (2) 환경영향평가 322
(3) 성별영향평가 322 (4) 개인정보 영향평가 323
(5) 규제영향평가 323 (6) 인권영향평가 323
(7) 기존 영향평가와 인공지능 영향평가 비교 324
Ⅲ. 인공지능 영향평가에 대한 비교법적 검토 325
1. 신뢰할 수 있는 인공지능 평가 목록(ALTAI) 326
2. 알고리즘 영향평가 327
3. 유네스코 인공지능 윤리 권고 328
4. 시사점 329
Ⅳ. 인공지능 영향평가의 제도화와 내용 329
1. 영향평가의 규제이론적 의미 329
2. 인공지능 영향평가의 규제이론적 의미 330
3. 인공지능 영향평가의 제도화에 관한 쟁점 331
(1) 객관적·주관적·사회적 위험 331
(2) 인공지능 윤리와 영향평가의 결합과 분리 333
(3) 인공지능 영향평가의 투명화 334
(4) 공적 인공지능과 사적 인공지능의 구별 335
4. 인공지능 영향평가의 실체적 기준 구상 336
(1) 출발점으로서 사회에 미치는 영향과 구체화 336
(2) 인간 존재에 의한 인공지능의 지배가능성 337
(3) 인간의 존엄성 존중 337
(4) 차별금지 338 (5) 개인정보 보호 338
(6) 인권 및 환경보호 338
(7) 책임성 338
5. 인공지능 영향평가의 제도화 방안 339
(1) 자율적 방안 339 (2) 강제적 방안 339
(3) 반자율적 방안 340
Ⅴ. 맺으며 340

제13장 인공지능 시대의 정의 구성
[양천수]
Ⅰ. 들어가며 341
Ⅱ. 인공지능의 바탕이 되는 기존 정의론과 한계 342
1. 인공지능의 정의론 342
(1) 공리주의 343 (2) 고객주의 343
2. 한계 344
(1) 공리주의의 한계 345
(2) 고객주의의 문제점 346
Ⅲ. 인공지능 시대의 정의 구상 347
1. 출발점 347
2. 정의론과 고려 사항 347
(1) 일원적 정의론의 한계 347
(2) 정의론의 고려 사항 348
3. 인공지능 시대의 정의 구상 350
(1) 적절한 복잡성으로서 정의 350
(2) 다원화된 정의 350 (3) 절차주의적 정의 350
(4) 포용적 정의 351
4. 절차주의적 포용국가 353

사항색인 357