코드 3줄이 딥러닝 프레임워크가 되는 마법

이 책은 ‘밑바닥부터’ 직접 만들어보며 즐겁게 딥러닝을 익히는 시리즈의 장점을 그대로 따랐다. 코드 3줄로 시작해 60단계까지 차근차근 구현해보자. 어느새 파이토치, 텐서플로와 같은 현대적이지만 미니멀한 딥러닝 프레임워크가 완성돼 있을 것이다. 딥러닝과 파이썬 지식을 어느 정도 갖췄다면 전편을 읽지 않고도 충분히 따라 할 수 있다. 동적 계산 그래프(Define-by-Run) 구조와 딥러닝 프레임워크 기본 설계, 두 마리 토끼를 잡아보자!

1984년 나가사키 현 쓰시마 태생. 도쿄공업대학교 공학부를 졸업하고 도쿄대학대학원 학제정보학부 석사 과정을 수료했다. 현재는 기업에서 컴퓨터 비전과 기계학습 관련 연구·개발에 매진하고 있다. 오라일리재팬에서 『밑바닥부터 시작하는 딥러닝』을 집필했으며, 『실천 파이썬 3』, 『컴퓨터 시스템의 이론과 구현』, 『실천 기계학습 시스템』 등을 번역했다.

제1고지 미분 자동 계산
__1단계 상자로서의 변수
__2단계 변수를 낳는 함수
__3단계 함수 연결
__4단계 수치 미분
__5단계 역전파 이론
__6단계 수동 역전파
__7단계 역전파 자동화
__8단계 재귀에서 반복문으로
__9단계 함수를 더 편리하게
__10단계 테스트

제2고지 자연스러운 코드로
__11단계 가변 길이 인수(순전파 편)
__12단계 가변 길이 인수(개선 편)
__13단계 가변 길이 인수(역전파 편)
__14단계 같은 변수 반복 사용
__15단계 복잡한 계산 그래프(이론 편)
__16단계 복잡한 계산 그래프(구현 편)
__17단계 메모리 관리와 순환 참조
__18단계 메모리 절약 모드
__19단계 변수 사용성 개선
__20단계 연산자 오버로드(1)
__21단계 연산자 오버로드(2)
__22단계 연산자 오버로드(3)
__23단계 패키지로 정리
__24단계 복잡한 함수의 미분

제3고지 고차 미분 계산
__25단계 계산 그래프 시각화(1)
__26단계 계산 그래프 시각화(2)
__27단계 테일러 급수 미분
__28단계 함수 최적화
__29단계 뉴턴 방법으로 푸는 최적화(수동 계산)
__30단계 고차 미분(준비 편)
__31단계 고차 미분(이론 편)
__32단계 고차 미분(구현 편)
__33단계 뉴턴 방법으로 푸는 최적화(자동 계산)
__34단계 sin 함수 고차 미분
__35단계 고차 미분 계산 그래프
__36단계 고차 미분 이외의 용도

제4고지 신경망 만들기
__37단계 텐서를 다루다
__38단계 형상 변환 함수
__39단계 합계 함수
__40단계 브로드캐스트 함수
__41단계 행렬의 곱
__42단계 선형 회귀
__43단계 신경망
__44단계 매개변수를 모아두는 계층
__45단계 계층을 모아두는 계층
__46단계 Optimizer로 수행하는 매개변수 갱신
__47단계 소프트맥스 함수와 교차 엔트로피 오차
__48단계 다중 클래스 분류
__49단계 Dataset 클래스와 전처리
__50단계 미니배치를 뽑아주는 DataLoader
__51단계 MNIST 학습

제5고지 DeZero의 도전
__52단계 GPU 지원
__53단계 모델 저장 및 읽어오기
__54단계 드롭아웃과 테스트 모드
__55단계 CNN 메커니즘(1)
__56단계 CNN 메커니즘(2)
__57단계 conv2d 함수와 pooling 함수
__58단계 대표적인 CNN(VGG16)
__59단계 RNN을 활용한 시계열 데이터 처리
__60단계 LSTM과 데이터 로더

부록 A 인플레이스 연산(14단계 보충)
부록 B get_item 함수 구현(47단계 보충)
부록 C 구글 콜랩에서 실행