2014년 출간 이후 [뉴욕 타임스], 아마존 베스트셀러영미권에서 13만 부 판매 19개 언어로 번역계약 체결인공지능의 문제점을 제기하여 세계적인 논의의 출발점이 된 책 빌 게이츠가 인공지능의 “현재를 확인하고 미래를 전망할 수 있는 반드시 읽어야 할 두 권의 책 중에서 한 권”으로 강력하게 추천한 이 책은 영미권에서만 13만 부 이상이 판매되었고, 19개 언어의 번역계약이 체결되었다. 이 책의 저자인 닉 보스트롬은 옥스퍼드 대학교의 철학과 교수이며, 이 대학의 인류 미래 연구소 소장이다. 그는 인공지능이 발전하여 인간의 능력을 훨씬 더 능가하는 슈퍼인텔리전스(초지능)의 개발 과정에서 인류가 심도 있게 고민해야 할 문제점들을 이 책에서 제기한다. 이 책은 우리 모두에게 초지능을 개발하기 이전에 우리가 무엇을 생각하고, 어떤 결정을 내려야 하는지에 대한 의문을 제기함과 동시에, 인공지능 개발의 현재와 미래를 탁월하게 전망한다.
닉 보스트롬은 영국 옥스퍼드 대학교의 철학과 교수이자, 옥스퍼드 마틴 스쿨의 인류 미래 연구소(Future of Humanity Institute) 소장, 미래 기술의 영향에 대한 프로그램(Programme on the Impacts of Future Technology)을 발족시킨 창립 센터장이다. 지금까지 약 200건의 저술을 집필한 저자로, 주요 저작으로는 Anthropic Bias(Routledge, 2002), Global Catastrophic Risks(Ed., OUP, 2008), Human Enhancement(Ed., OUP, 2009) 등이 있다. 영국 학사원에서 박사후 연구원 과정을 마쳤으며, 예일 대학교에서 가르친 바 있다. 또한 보스트롬은 철학뿐만 아니라 물리학, 계산 신경과학, 수리논리학 등의 다방면의 분야에 지적 기반을 두고 있다.
아직 끝이 나지 않은 이야기 : 참새와 부엉이의 우화서문감사의 글1 과거의 발전과 현재의 역량역사의 발전 형태와 거대사 _ 크나큰 기대 _ 기대와 절망의 시간들 _ 인공지능의 첨단 기술 _ 기계지능의 미래에 대한 몇 가지 의견 2 초지능으로 향하는 몇 가지 경로인공지능 _ 전뇌 에뮬레이션 _ 생물학적 인지능력 _ 뇌-컴퓨터 인터페이스 _ 네트워크와 조직 _요약 3 초지능의 형태 속도적 초지능 _ 집단적 초지능 질적 초지능 _ 직접적인 영향력과 간접적인 영향력 _ 디지털 지능의 장점들의 근원 4 지능 대확산의 동역학도약의 시기와 속도 _ 저항성 _ 최적화 능력과 대확산성 _ 5 확실한 전략적 우위선두주자에게 확실한 전략적 우위가 있을 것인가? _ 성공적인 연구 개발 과제는 얼마나 클 것인가? _ 확실한 전략적 우위에서부터 독점적 지배체제까지 6 인지적 초능력 기능성과 초능력들 _ 인공지능에 의한 통제력 장악 시나리오 _ 자연적 저항과 다른 에이전트의 저항을 극복하는 힘 7 초지능적 의지 지능과 동기 사이의 관계 _ 도구적 수렴성8 예정된 결말은 파멸인가? 지능 대확산의 예정된 결말은 존재적 재앙인가? _ 위험한 전환 _ 악성 실패 상황들 9 통제 문제 두 에이전트 문제 _ 능력 통제방법 _ 동기 선택방법 _ 개요 10 오라클, 지니, 소버린, 툴오라클 _ 지니와 소버린 _ 툴-인공지능 _ 비교 11 다극성 시나리오 말과 인간 _ 알고리즘 경제에서의 삶 _ 전이-후 독점적 지배체제의 출현? 12 가치 획득 가치-탑재 문제 _ 진화적 선택 _ 강화 학습 _ 결합된 가치 부여 _ 동기 부여적 임시 가설 _ 가치 학습 _ 에뮬레이션 조정 _ 제도 설계 _ 개요 13 선택의 기준 선택하기 간접적 규범성의 필요 _ 일관 추정 의지 _ 도덕률 모델 _ 내 취지대로 행동하라 _ 요소 리스트 _ 충분히 가까워지고 있다14 전략적 그림 과학과 기술의 전략 _ 경로와 조력자 _ 공동 작업 15 결정의 시간 기한이 있는 철학 _ 무엇이 이루어져야 하는가? _ 최선의 인간 본성이 나타나서 문제를 해결하기를 주 참고 문헌 역자 후기 찾아보기
