인공지능의 미래는 아직 유동적인 측면이 많다. 그럼에도 우리가 인공지능을 법적 차원에서 논의하는 이유는 미래는 상당부분 우리의 선택이 만들어 가기 때문이다. 인공지능의 미래도 우리의 선택에 따라 다른 모습으로 나타날 것이다.법은 우리의 가치관 반영이므로 인공지능에 관한 선택의 기준이 될 수 있다. 다만, 법 자체도 절대적인 것이 아니기에 인공지능은 역으로 현재의 법을 재고할 필요성도 제기한다.

서세동점의 시대에 조선은 근대기술과 그것이 가져오는 사회적 함의에 대한 탐구를 게을리하여 참혹한 식민지가 되었다. 인공지능 또한 기업의 성패를 넘어서 국가·사회적 파급력을 가질 것이다. 인공지능을 움직이는 데이터의 구성과 알고리즘의 설계는 그렇기에 기술적일 뿐만 아니라 윤리적, 법적, 정치적이다.

인터넷이나 플랫폼에 관한 입법과 정책에 있어서는 유럽과 미국의 입장이 정부규제와 시장자유를 중시하면서 서로 대치되는 양상을 보였으나, 인공지능 입법에 있어서는 비록 유럽연합이 규제의 도입에 앞서고는 있으나 미국이 이와 다른 입장은 아닌 것 같다. 인공지능이 가져오는 혜택에 못지않게 중대한 위협이 될 수 있다는 점과 이에 대한 법제적 대응이 필요하다는 점에 공감대가 형성되고 있다.

급변하는 사회변화의 환경 속에서 적극적으로 우리의 미래를 결정하고, 나아가 인류의 미래를 설계하는 데에 동참할 것인가 아니면 중진국으로 후퇴할 것인가의 상당한 부분이 인공지능에 관한 우리의 탐구에 달렸다. 부족한 글이지만 후학의 역작을 기다리며 징검다리 하나 놓는 심정으로 내놓는다. 이 저서는 인하대학교의 지원에 의하여 연구되었다.

2024. 3.
정 찬 모

現, 인하대 법학전문대학원 교수
동 법학연구소 AI·데이터법센터 연구위원

前, 정보통신정책연구원(KISDI) 연구위원
예일대 ISP, 國立淸華大 科技法硏究所 방문교수
서울대 학사, 고려대 석사, 옥스퍼드대 박사

제1편 데이터·AI 시대

제1장 데이터와 인공지능 시대의 도래
Ⅰ 데이터의 중요성 증대 11
1. 사실, 데이터, 정보, 지식, 지혜 12
2. 데이터 경제로의 진화 13
3. 제4차 산업혁명 15
4. 빅데이터와 인공지능 17
Ⅱ 인공지능 시대의 도래 20
1. 정의, 분류, 발전 과정 20
2. 인공지능의 사회경제적 영향 25
3. 인공지능 윤리 26
4. AI 윤리의 특징 31
5. AI 윤리 영향평가 33

제2장 AI·데이터 거버넌스와 법
Ⅰ 인공지능 거버넌스의 구조 35
1. 개념과 의의 35
2. 종류 37
Ⅱ 인공지능과 국가질서 41
1. 헌법질서 41
2. 형사절차 44
3. 인공지능과 행정행위 45
4. 소결 46
Ⅲ 현행법상 데이터의 취급 47
1. 일반론 47
2. 개별법 49
3. 데이터 보호를 위한 민사법 해석론 52
5. 데이터 활용의 민사법 54
6. 소결 56
Ⅳ 인공지능 알고리즘의 규제 57
1. 알고리즘 규제의 개념 57
2. 인공지능 알고리즘의 규제 필요성 58
3. 알고리즘 규제방법 58

제2편 개인정보와 지식재산보호

제3장 이루다, 챗GPT, CLOVA X의 개인정보정책
Ⅰ 거대 언어모델 인공지능 63
Ⅱ 개인정보 보호위원회 심결 사례 64
1. 이루다 사건 64
2. 챗GPT 사건 69
3. 분석 71
Ⅲ 「CLOVA X」의 개인정보 처리방침과 현실 72
Ⅳ 정책적 대응 76
1. AI 관련 개인정보보호 원칙 선언 76
2. 「인공지능 시대 안전한 개인정보 활용 정책방향」 발표 77
3. 자동화된 결정에 대한 정보주체의 권리 구체화 79
Ⅴ 향후 과제 80
1. 개인정보 거버넌스 정비 80
2. 공개된 개인정보 수집·이용의 허용범위 확대 82
3. 개인정보 처리방침 및 관행 정립 83
Ⅵ 결론 83

제4장 인공지능과 개인정보보호
Ⅰ 프라이버시와 개인정보보호 85
Ⅱ 인공지능과 개인정보보호 87
1. 인공지능에 의한 개인정보 처리의 특징 87
2. 공개된 개인정보의 수집, 이용 88
3. 데이터3법 개정 89
Ⅲ 인공지능 시대 개인정보 보호법의 과제 91
1. 정보주체의 권리 유연화 91
2. 동의 규제의 한계와 개선 92
3. 「목적구속의 원칙」에서 「목적합치의 원칙」으로 93
4. 개인정보의 공정이용 95
5. 소결 96

제5장 인공지능과 지식재산보호
Ⅰ 학습용 데이터셋 관련 쟁점 97
1. 저작권법 98
2. 데이터산업법/부정경쟁방지법 100
3. 사례 101
Ⅱ 인공지능 학습완료 모델의 보호 105
1. 저작권법 105
2. 특허법 107
3. 영업비밀보호 111
Ⅲ 인공지능 생성물의 법적 취급 112
1. 서론: 창작의 주체로서 인공지능 112
2. 저작권법상 저작자 지위 여부 114
3. 특허법상 발명자 지위 여부 117
4. 결론 119

제3편 거래와 불법행위

제6장 데이터 거래와 표준계약서
Ⅰ 데이터 민사법 기초 123
Ⅱ 데이터 거래의 주요 법적 쟁점 126
Ⅲ 데이터거래 가이드라인과 표준계약서 128
1. 데이터 창출형(공동생산) 계약 128
2. 데이터 제공계약 130
3. 플랫폼형 계약 132
4. 데이터 담보책임 138
Ⅳ 플랫폼을 이용한 데이터 거래에서 3면의 계약관계 140

제7장 인공지능과 불법행위
Ⅰ 일반 불법행위책임 143
Ⅱ 특수 불법행위책임 145
1. 공작물책임 145
2. 제조물책임법 146
3. 자동차손해배상보장법 148
4. 자율주행자동차 상용화 촉진 및 지원에 관한 법률 151
5. 데이터 침해에 대한 책임 151
Ⅲ 인공지능 법인격 인정과 책임 151
Ⅳ 데이터와 국제사법 152
1. 국제재판관할 152
2. 준거법 153

제4편 외국의 AI 입법 및 규제

제8장 EU의 인공지능 관련 법
Ⅰ 디지털 저작권 지침 157
Ⅱ 인공지능법(AI Act) 159
1. AI의 정의 160
2. 적용범위 160
3. 위험수준별 규제(Risk-based approach) 161
4. 일반목적 인공지능 모델 164
5. 혁신 지원 조치 166
6. 거버넌스 구조 167
7. 벌칙 168
8. 중소기업 특혜 168
Ⅲ (인공지능) 제조물책임 지침 168
Ⅳ 인공지능 민사책임 지침 171

제9장 미국, 중국, 영국의 인공지능 규제 동향
Ⅰ 미국의 인공지능 규제 172
1. 배경 172
2. 주요내용 172
3. 의의 173
Ⅱ 중국의 인공지능 규제 174
Ⅲ 영국의 입장 175
Ⅳ 입법의 공통요소 176
1. 위험에 비례한 안전성 확보 176
2. 로그기록 보존의무 176
3. 중립적 규제기관 177
4. 인증과 상호인정 177

제5편 AI와 산업규제

제10장 데이터·AI와 국내산업
Ⅰ 시장과 산업규제 181
1. 데이터, 인공지능 경제의 특징 181
2. 데이터시장의 실패? 182
3. 데이터시장 조성을 위한 입법 183
4. 데이터 기반 독과점 우려 184
Ⅱ 데이터·인공지능과 개별산업 186
1. 데이터·인공지능과 금융산업 186
2. 데이터·인공지능과 보건의료 190
3. 데이터·인공지능과 법률서비스 196

제11장 인공지능과 국제통상법
Ⅰ 서론 198
Ⅱ WTO 법체제의 적용 200
1. 상품무역협정 200
2. 서비스무역협정 201
3. 무역관련 지식재산권협정 202
4. 인공지능 관련 무역제한조치가 허용되는 경우 205
Ⅲ FTA 디지털통상협정의 관련된 규정 208
1. 개인정보 보호 208
2. 정보의 국제적 이동 209
3. 컴퓨터 설비의 위치와 데이터에 대한 접근 210
4. 인공지능에 특화된 규정 212
5. 평가 및 제안 214
Ⅳ 결론 216

주요 참고문헌 217