인공지능에게 배신당하지 않고 살아가려면 어떻게 해야 할까?

“인공지능이 인류의 마지막 기술일 수 있다!”는 글로벌 리더들의 경고가 끊이지 않는다. 저자는 우리를 상대로 인공지능이 이미 흔들어대거나 조만간 흔들 이슈를 사례별로 정리하면서 인공지능에 의한 부작용과 역기능, 위험성을 모두 법으로 포괄해내기에는 인공지능의 발전 속도와 영역 확산으로 인해 불가능하다고 말한다. 미래에 인공지능에게 배신당하지 않고 함께 살아가려면 지금 방어적 준비로써 ‘인공지능 윤리’에 대한 사회적 담론을 제안한다. 네이버, 카카오, KT 등 국내 최고 IT 기업의 인공지능연구 책임자들이 ‘AI 윤리의 교과서, 필독서’라며 강력하게 이 책을 추천하고 있다.

서울대학교 컴퓨터공학과를 졸업한 후 같은 대학원에서 석사와 박사 학위를 받았다. 서울대학교 컴퓨터신기술공동연구소 특별연구원을 거쳐, 서울여자대학교에 교수로 부임하여 올해로 27년째를 맞는다.
1995년부터 서울지방검찰청 특수부에서 컴퓨터범죄 사건에 대한 수사 자문을 맡기 시작했다. 법무연수원에서 검사와 수사관을 대상으로 컴퓨터범죄 수사 기법을 상당 기간 교육했다. 교육을 마칠 즈음 사이버 수사 전담 부서가 검찰과 경찰 안에 신설되었다.
이 과정에서 정보 보호와 디지털 윤리가 갈수록 중요함을 느껴 바로 실천에 옮겼다. 2001년 수도권 최초로 서울여자대학교에 정보보호학과를 신설하고, 2014년 국내 최초로 교육부 지정 정보보호영재교육원도 설립하였다. 여러 전문가들과 함께 인터넷윤리실천운동을 전개하면서 ㈔한국인터넷윤리학회 회장도 맡았다. 인문학 및 사회과학 전문가들과 더불어 2년 넘게 연구하여 2018년 국내 최초로 <인공지능 윤리 가이드라인 Seoul PACT>를 만들어 국가에 헌정했다. 이 공로로 정보문화의 달에 근정포장 훈장을 받았다.
2019년 바른AI연구센터를 설립한 후 윤리적 상상력을 기반으로 바람직한 미래 사회를 그려가고 있다. 최근에는 인공지능윤리정책포럼 위원, 디지털포용포럼 위원 활동을 통해 사회적 공론화 작업에도 힘쓰고 있다.

프롤로그

1장 ‘죽음’을 흔드는 AI

디지털 부활의 시작
다시 살아나다 | 사후 디지털 고용과 명예훼손 | 사자의 퍼블리시티권과 경제적 이득
새로운 애도 프로그램의 출현
다시 만나다 | 디지털 페르소나 | 디지털 부활을 구현할 특허
디지털 흔적과 디지털 유산
고인이 남긴 디지털 기록들 | 프로파일링과 잊힐 권리 | 사망자 계정과 사후 프라이버시 | 고인의 죽음을 흔드는 손
살아 있는 자의 디지털 영생
디지털 쌍둥이 | 모호해진 산 자와 죽은 자의 경계
살아 있는 자의 생물학적 영생
노화와 죽음을 치료하려는 시도 | 새로운 기술, 새로운 생각 | 포스트 휴머니즘과 인공지능 | 인간과 인공지능의 공존 관계

2장 ‘존재’를 흔드는 AI

존재하지 않는 존재, 가상 인간
버추얼 휴먼과 아바타 | 인플루언서에 대한 국내외 인식 | 가상 인플루언서의 등장
가상 인플루언서
휴먼 인플루언서를 능가하는 가상 인플루언서 | 가상 인플루언서의 장점과 문제점 | 가상 인플루언서의 신뢰성 문제 해결 방식
가상 아나운서
한·중·일의 가상 아나운서 | 가상 아나운서의 영향력과 전망
가상 가수
한국과 일본의 가상 가수 1세대 | 보컬로이드 가상 가수 | 인공지능 기술과 가상 가수
아바타와 메타버스
아바타의 등장 | 메타버스의 급습 | 메타버스 윤리: 디지털 윤리 vs 아날로그 윤리

3장 ‘신뢰’를 흔드는 AI

인공지능과 혁신
이루다와 알파고 | 의료계를 뒤흔든 인공지능 | 금융계의 판도를 바꾼 로보 어드바이저 | 리걸 테크의 꽃 인공지능 변호사 | 예술 영역에도 발을 디딘 인공지능
인공지능과 4차 산업혁명
4차 산업과 4차 산업혁명 | 4차 산업혁명의 핵심 신기술 | 불안과 걱정을 몰고 온 인공지능
인류의 마지막 기술일까?
초지능 슈퍼인텔리전스 | 인류에 대한 초지능의 위협 | 인공지능이라는 ‘존재적 위험’
책임지지 않는 인공지능
자율 주행차 사고와 책임 소재 | 탈인간 중심의 법체계는 가능할까?
사람을 차별하는 인공지능
흑인을 차별하는 인공지능 | 여성을 차별하는 인공지능 | 공립학교를 차별하는 인공지능 | 챗봇이 보여준 차별과 편견
착각하게 만드는 인공지능
인공지능의 의인화 | 불쾌한 골짜기 | 딥페이크와 딥누드 | 의료 영상의 완벽한 위조
안전하지 못한 인공지능
적대적 공격과 오픈 소스 | 취약한 인공지능 컨테이너 | 신뢰할 수 있는 인공지능을 향해

4장 흔들림 너머 AI 바로 보기

흔들리는 인간을 위한 윤리
인공지능에게 윤리가 필요한 이유 | ESG 경영과 인공지능 윤리 | 개발자 중심에서 이용자 중심으로 | ‘윤리’의 바다를 항해하는 ‘법’이라는 배
인터넷 윤리를 품은 인공지능 윤리
인터넷 윤리의 등장 | 인공지능 윤리의 등장 | 개인 정보와 프라이버시 정보 유출 | 일라이자 효과 vs 중독 현상 | 새로운 윤리의 기본 원칙
인공지능 윤리 원칙의 도출
5 Whys에 의한 특성 분석 | 차별적 특성과 보편적 특성 | 인공지능 윤리의 기본 원칙
공공성과 책무성 이해하기
공공성 관련 원칙들 | 책무성 관련 원칙들
통제성과 투명성 이해하기
통제성 관련 원칙들 | 투명성 관련 원칙들
인공지능 바로 보고 마주하기
국가 인공지능 윤리 기준 | 교육 분야에서 인공지능 윤리 | 대학에서 인공지능 윤리 | 공공 분야에서 인공지능 윤리 | 인공지능 생태계와 정부의 역할 | 전 국민을 위한 인공지능 윤리

에필로그
주석
찾아보기
참고 문헌