생성형 AI의 발전 속도가 빠르다는 것과 생성형 AI의 성능과 인류에 대한 영향이 지대하는 것에 대해서 공감대가 이루어지고 있다. 이에 생성형 AI에 대한 법의 관심도 증가하고 있다. 이는 기본적으로 생성형 AI가 인간을 자율성, 독립성을 생성형 AI가 침해할 가능성이 있다는 점에 대한 기존 법률의 관심이다. 즉, 인간을 권리주체로 보고 구축된 기존의 법체계에 어떤 변화가 필요한지에 대한 관심이다. 또한 생성형 AI가 야기하는 문제점이나 부작용에 대한 법규제 이슈가 등장하고 있다. 본서는 이런 문제의식에 기반해 생성형 AI 도입, 확산에 따른 법적 이슈를 망라적으로 다루고 있다.

법무법인(유) 율촌 변호사, 기업금융부문 부문장 및 ICT팀 팀장. 서울대 정치학과 졸업 후 사법연수원 25기를 수료, UCLA 로스쿨에서 법학석사를 취득, 1996년 판사로 임관 후 1997년부터 국내외 로펌에서 기업법무 및 Technology 관련 업무를 담당하여 왔다. 2012년부터 율촌에서 기업금융 부문과 정보통신 부문을 맡고 있고, 개인정보, 인공지능, 빅데이터, 핀테크 등 업무를 하고 있다. 세계변호사협회(IBA) Technology Law Committee 수석부위원장 /환태평양변호사협회 방통통신위원회 부위원장을 맡고 있다.

PART Ⅰ
생성형 AI에 대한 이해

CHAPTER 1
생성형 AI의 기술적 이해 5
Section 01 | 서론 5
Section 02 | 생성형 AI 기술의 근간 9
Section 03 | 생성형 AI의 기술적 문제와 대응방안 14
Section 04 | 결론과 향후 과제 27

CHAPTER 2
생성형 AI 시장과 산업의 동향과 전망 34
Section 01 | 주요 빅테크 기업의 생성형 AI 서비스 현황 34
Section 02 | 이미지 생성 및 음악 생성 서비스 46
Section 03 | 전망 52
Section 04 | 결론 57

CHAPTER 3
생성형 AI가 가져올 변화와 정책과제 59
Section 01 | 생성형 AI 기술의 주요 특징 및 진화방향 60
Section 02 | 생성형 AI 기술이 가져올 변화 65
Section 03 | 정책과제 74

CHAPTER 4
생성형 인공지능(AI) 규제원칙에 관한 연구 86
Section 01 | 서론 86
Section 02 | 생성형 AI의 개념과 특성 88
Section 03 | 신기술 규제의 일반 원칙 92
Section 04 | 생성형 AI의 규제원칙 101
Section 05 | 결론 110

PART Ⅱ
생성형 AI 규범의 이슈

CHAPTER 5
글로벌 AI 규제 동향과 한국의 AI 규제 정립 방안 119
Section 01 | 들어가며 119
Section 02 | 글로벌 AI 규제 동향 120
Section 03 | 한국의 AI 규제 정립 방안 129

CHAPTER 6
AI 규제법과 AI 규제의 방향 135
Section 01 | 서론 135
Section 02 | 유럽연합 인공지능법의 배경 137
Section 03 | 유럽연합 인공지능법의 입법 과정 144
Section 04 | 유럽연합 인공지능법의 주요 내용 149
Section 05 | 인공지능 규제의 방향 163

CHAPTER 7
생성형 AI의 활용과 지식재산 쟁점 168
Section 01 | 쟁점 제기 168
Section 02 | AI 창작물 보호와 발명자성 170
Section 03 | 생성형 AI를 활용한 창작과 저작권 분쟁 180
Section 04 | 딥페이크 기술의 활용과 퍼블리시티권 문제 185
Section 05 | 데이터 수집의 문제와 데이터 분석 면책 187

CHAPTER 8
생성형 AI의 저작권법 이슈와 과제 195
Section 01 | 생성형 AI의 출현과 저작권 문제의 제기 195
Section 02 | AI 산출물에 대한 저작권법적 보호 가능성 198
Section 03 | AI 학습과 결과물 산출이 저작권 침해인가에 관한 쟁점 203
Section 04 | 향후의 대응과제 215

CHAPTER 9
생성형 AI의 개인정보 이슈와 과제 219
Section 01 | 서론 219
Section 02 | 생성형 AI와 개인정보 보호법의 적용 한계 220
Section 03 | 생성형 AI와 개인정보 보호의 주요 쟁점 222
Section 04 | 생성형 AI에서의 개인정보 보호 강화 방안 239
Section 05 | 결론 243

CHAPTER 10
생성형 AI의 경쟁법상의 이슈와 과제 245
Section 01 | 머리말 245
Section 02 | 경쟁법 측면에서 생성형 AI 산업의 특수성 249
Section 03 | 생성형 AI 산업 및 시장의 핵심적인 요소 256
Section 04 | 생성형 AI와 경쟁법적 이슈 261
Section 04 | 맺음말 279

CHAPTER 11
생성형 AI에서 허위정보 이슈와 과제 283
Section 01 | 머리말 283
Section 02 | 허위정보의 개념과 역사 285
Section 03 | 허위정보와 법률적 대응 290
Section 04 | 인공지능과 사회적 혼란 296
Section 05 | 인공지능과 혐오표현 298

CHAPTER 12
생성형 AI에서 알고리즘 규제 이슈와 과제 302
Section 01 | 들어가는 말 302
Section 02 | 생성형 인공지능에 대한 이해 303
Section 03 | 생성형 인공지능의 알고리즘 규제 논의 307
Section 04 | 결론 - 생성형 인공지능 알고리즘 규제의 과제 322

PART Ⅲ
생성형 AI와 법 분야별 쟁점

CHAPTER 13
생성형 인공지능 시대의 계약자유 원칙과 문제점 329
Section 01 | 서론 329
Section 02 | 인공지능과 법 330
Section 03 | 인공지능의 자율성과 의사표시의 문제 335
Section 04 | 인공지능의 등장과 계약자유 원칙의 변화 343
Section 05 | 결론 349

CHAPTER 14
생성형 인공지능을 활용한 행정의 이론적 문제와 대응 353
Section 01 | 서론 353
Section 02 | 생성형 인공지능의 등장 354
Section 03 | 행정의 의의 358
Section 04 | 행정에 대한 인공지능 활용 필요성과 문제 364
Section 05 | 자동적 행정의 문제에 대한 대응 368
Section 06 | 자동적 행정의 규제 방안 373
Section 07 | 맺음말 380

CHAPTER 15
생성형 AI를 활용한 해킹 범죄의 위험성과 대책 384
Section 01 | 들어가며 384
Section 02 | 생성형 AI의 발전과 해킹 범죄 386
Section 03 | 해킹 범죄 처벌을 위한 법률체계와 한계 393
Section 04 | AI를 활용한 해킹 범죄에 대한 대응방안 402
Section 05 | 나가며 412

CHAPTER 16
생성형 인공지능 이용범죄의 쟁점과 규제방안- 딥페이크 범죄를 중심으로 415
Section 01 | 들어가며 415
Section 02 | 딥페이크의 정의 및 이용방법 417
Section 03 | 딥페이크 이용 범죄 421
Section 04 | 딥페이크 관련 국내외 입법 동향 424
Section 05 | 악의적 딥페이크 사용에 대한 대응 과제 432
Section 06 | 맺음말 - 딥페이크 이용 범죄의 규제 439

CHAPTER 17
생성형 AI와 금융법의 과제 445
Section 01 | 서론 445
Section 02 | 인공지능과 금융 및 금융법의 관계 447
Section 03 | 인공지능 이용에 대한 금융법의 쟁점 453
Section 04 | 인공지능 발전에 따른 금융법의 새로운 과제와 규제방향 464
Section 05 | 결론 473

CHAPTER 18
AI의 기술발달에 따른 헌법적 관점에서의 기본권 보장에 관한 연구 478
Section 01 | 서론 478
Section 02 | AI와 기본권과의 관계 480
Section 03 | 쟁점별 검토 및 헌법적 관점에서의 기본권 보장 방안 493
Section 04 | 결론 508

PART Ⅳ
기타 생성형 AI 관련 법적, 정책적 쟁점

CHAPTER 19
생성형 AI의 오남용 문제와 사이버보안 517
Section 01 | 머리말 517
Section 02 | AI를 이용한 해킹 공격과 방어 520
Section 03 | AI를 이용한 가짜뉴스와 금융사기 525
Section 04 | 인공지능을 교란시키는 적대적 AI 기술 529
Section 05 | AI 슈퍼파워의 등장과 데이터 독점 537

CHAPTER 20
생성형 AI와 법률서비스의 이슈 및 동향 541
Section 01 | 들어가며: ChatGPT의 등장과 법률서비스 541
Section 02 | 법률서비스에서 생성형 AI의 수용과 발전 543
Section 03 | 생성형 AI와 변호사의 윤리적 의무 및 책임 552
Section 04 | 생성형 AI를 통한 사법접근성 제고 564
Section 05 | 맺음말: 생성형 AI 시대의 로여링(lawyering)과 법학교육의 방향성 570

CHAPTER 21
생성형 AI 및 글로벌 통상환경의 변화와 전망 577
Section 01 | 들어가며 577
Section 02 | 각국의 규범 관련 동향 579
Section 03 | 주요 국제기구의 논의 동향 584
Section 04 | 국제규범화 관련 동향 588
Section 05 | 나가며 599