딥러닝의 기초 지식, 수학, 파이썬부터 실전 프로그래밍 구현까지,RNN, LSTM, GRU, VAE, GAN을 망라하는 최신 딥러닝 모델 마스터!현 시점에서 개발자가 꼭 알아야 할 최신 딥러닝 기술들만을 골라 수식과 코드를 번갈아가며 매우 이해하기 쉽게 알려준다. 간결하고 이해하기 쉬운 예제 코드들을 하나 하나 따라 해가다 최종적으로 실전에서도 활용할 수 있는 완결된 딥러닝 코드를 완성해본다. 이 책에서는 파이썬과 기초 수학부터 시작해서, RNN(순환 신경망)과 LSTM, GRU, VAE(변이형 오토인코더), GAN(생성적 적대 신경망)까지, 최신 딥러닝의 필수 모델과 원리, 내부 동작을 빠짐없이 자세하게 설명한다. 파이썬 프로그래밍을 직접 코딩하면서 차근차근 순서대로 공부해 나가다 보면 딥러닝의 기초를 완벽하게 습득할 수 있다.
‘인간과 AI의 공존’을 미션으로 하는 주식회사 SAI-Lab의 대표이사로, AI 관련 교육과 연구 개발에 종사하고 있다. 토후쿠대학 대학원 이학연구과 수료 후 이학박사(물리학)를 취득했다. 인공지능(AI), 복잡계, 뇌과학, 특이점(singularity) 등에 관심이 많으며 프로그래밍/AI 강사로서 지금까지 오프라인에서 1000명 이상, 온라인에서는 2만 명에 가까운 인원을 지도했다. 세계 최대 교육 동영상 플랫폼인 유데미(Udemy)에서 ‘처음 시작하는 파이썬’, ‘실전 데이터과학과 머신러닝’, ‘모두의 딥러닝’, ‘모두의 AI 강좌’ 등을 강의하고 있다. 엔지니어로도 일하면서 VR, 게임, SNS 등 분야를 불문한 다양한 애플리케이션을 개발했다.
[1장] 딥러닝의 발전1.1 딥러닝 개요__1.1.1 AI와 머신러닝__1.1.2 딥러닝1.2 딥러닝 응용 분야__1.2.1 이미지 인식__1.2.2 이미지 생성__1.2.3 이상 탐지__1.2.4 자연어 처리__1.2.5 강화학습__1.2.6 기타 분야에서의 응용 사례1.3 이 책에서 다루는 딥러닝 기술__1.3.1 RNN__1.3.2 생성 모델[2장] 학습 준비2.1 아나콘다 개발 환경 구축__2.1.1 아나콘다 다운로드__2.1.2 아나콘다 설치__2.1.3 주피터 노트북 실행__2.1.4 주피터 노트북 사용__2.1.5 노트북 종료2.2 구글 코랩 사용__2.2.1 구글 코랩 준비__2.2.2 코랩 노트북 사용__2.2.3 GPU 사용__2.2.4 파일 사용2.3 파이썬 기초__2.3.1 변수와 변수형__2.3.2 연산자__2.3.3 리스트__2.3.4 튜플__2.3.5 딕셔너리__2.3.6 if문 __2.3.7 for문__2.3.8 함수__2.3.9 변수의 범위__2.3.10 클래스2.4 넘파이와 맷플롯립__2.4.1 모듈 임포트__2.4.2 넘파이 배열__2.4.3 배열을 생성하는 다양한 함수__2.4.4 reshape를 이용한 형태 변환__2.4.5 배열 연산__2.4.6 원소 값에 접근__2.4.7 그래프 그리기__2.4.8 이미지 생성2.5 수학 기초__2.5.1 벡터__2.5.2 행렬__2.5.3 각 원소 간의 곱셈__2.5.4 행렬 곱__2.5.5 행렬 전치__2.5.6 미분__2.5.7 연쇄 법칙__2.5.8 편미분__2.5.9 연쇄 법칙의 확장__2.5.10 정규분포[3장] 딥러닝 기초3.1 딥러닝 개요__3.1.1 딥러닝이란?__3.1.2 층의 방향과 층의 개수__3.1.3 경사 하강법__3.1.4 에포크와 배치3.2 전결합층 순전파__3.2.1 순전파의 수식__3.2.2 순전파를 행렬로 표현__3.2.3 순전파를 코드로 구현3.3 전결합층 역전파__3.3.1 역전파 수식__3.3.2 역전파를 행렬로 표현__3.3.3 역전파를 코드로 구현3.4 전결합층 구현__3.4.1 공통 클래스 구현__3.4.2 은닉층 구현__3.4.3 출력층 구현3.5 단순한 딥러닝 구현__3.5.1 손글씨 숫자 이미지 데이터 확인__3.5.2 데이터 전처리__3.5.3 순전파와 역전파__3.5.4 미니 배치 구현3.6 손글씨 숫자 이미지 인식의 전체 코드[4장] RNN4.1 RNN 개요4.2 RNN층의 순전파__4.2.1 순전파 개요__4.2.2 순전파 수식__4.2.3 순전파를 코드로 구현4.3 RNN층의 역전파__4.3.1 역전파 수식__4.3.2 역전파를 행렬로 표현__4.3.3 역전파를 코드로 구현4.4 RNN층 구현__4.4.1 RNN층 클래스 4.5 간단한 구조의 RNN 구현__4.5.1 훈련 데이터 생성__4.5.2 데이터 전처리4.5.3 훈련__4.5.4 예측__4.5.5 곡선 생성__4.5.6 sin 곡선 예측에 대한 전체 코드4.6 2진수 덧셈 학습__4.6.1 2진수 덧셈__4.6.2 2진수 준비__4.6.3 출력층__4.6.4 훈련__4.6.5 2진수 계산에 대한 전체 코드4.7 RNN의 단점[5장] LSTM5.1 LSTM 개요__5.1.1 LSTM 개요__5.1.2 기억 셀__5.1.3 망각 게이트 주변__5.1.4 입력 게이트와 새로운 기억__5.1.5 출력 게이트5.2 LSTM층의 순전파__5.2.1 LSTM층의 순전파__5.2.2 순전파 코드 구현5.3 LSTM층의 역전파__5.3.1 역전파 수식__5.3.2 망각 게이트__5.3.3 입력 게이트__5.3.4 새로운 기억__5.3.5 출력 게이트__5.3.6 행렬로 표현__5.3.7 역전파 코드 구현5.4 LSTM층 구현__5.4.1 LSTM층 클래스5.5 간단한 LSTM 구현__5.5.1 LSTM 훈련__5.5.2 sin 곡선 예측에 대한 전체 코드5.6 LSTM을 이용한 문장 자동 생성__5.6.1 텍스트 데이터 읽어들이기__5.6.2 문자와 인덱스 관련__5.6.3 문자 벡터화__5.6.4 출력 결과의 의미__5.6.5 텍스트 생성용 함수__5.6.6 기울기 클리핑__5.6.7 문장 생성에 대한 전체 코드__5.6.8 결과 확인[6장] GRU6.1 GRU 소개 __6.1.1 GRU__6.1.2 리셋 게이트__6.1.3 새로운 기억__6.1.4 업데이트 게이트6.2 GRU층의 순전파__6.2.1 GRU의 순전파__6.2.2 순전파를 코드로 구현6.3 GRU층의 역전파__6.3.1 새로운 기억__6.3.2 업데이트 게이트__6.3.3 리셋 게이트__6.3.4 입력의 기울기__6.3.5 이전 시점 출력의 기울기__6.3.6 GRU의 각 기울기를 행렬로 나타내기__6.3.7 GRU의 역전파를 코드로 구현하기6.4 GRU층 구현__6.4.1 GRU층의 클래스6.5 GRU 구현__6.5.1 GRU 구현의 전체 코드6.6 RNN을 이용한 이미지 생성__6.6.1 이미지를 시계열 데이터로 간주하기__6.6.2 훈련 데이터 준비하기__6.6.3 이미지 생성6.7 Seq2Seq[7장] VAE7.1 VAE 소개__7.1.1 오토인코더__7.1.2 VAE7.2 VAE의 구조__7.2.1 잠재 변수 샘플링__7.2.2 재파라미터화 트릭__7.2.3 오차 정의__7.2.4 재구성 오차__7.2.5 규제화항7.3 오토인코더의 구현__7.3.1 신경망 구현__7.3.2 각 신경망층의 구현__7.3.3 순전파와 역전파 구현__7.3.4 미니 배치 학습 구현__7.3.5 오토인코더 구현의 전체 코드__7.3.6 생성된 이미지 나타내기7.4 VAE에 필요한 신경망층__7.4.1 VAE 구성__7.4.2 평균과 표준편차를 출력하는 신경망층__7.4.3 샘플링층__7.4.4 출력층7.5 VAE의 구현__7.5.1 순전파와 역전파__7.5.2 VAE를 구현하는 전체 코드__7.5.3 잠재 공간의 시각화__7.5.4 이미지 생성하기7.6 VAE에서 파생되는 기술__7.6.1 조건부 VAE__7.6.2 β-VAE__7.6.3 VQ-VAE__7.6.4 VQ-VAE-2[8장] GAN8.1 GAN 소개__8.1.1 GAN__8.1.2 DCGAN__8.1.3 GAN의 용도8.2 GAN의 구조__8.2.1 식별자의 학습 과정__8.2.2 생성자의 학습 과정__8.2.3 오차의 정의8.3 GAN에 필요한 신경망층__8.3.1 생성자와 식별자의 구조__8.3.2 생성자의 출력층__8.3.3 식별자의 출력층8.4 GAN의 구현__8.4.1 순전파와 역전파__8.4.2 GAN의 훈련__8.4.3 GAN의 학습__8.4.4 이미지 생성__8.4.5 GAN을 구현하는 전체 코드__8.4.6 오차와 정확도 추이8.5 GAN에서 파생되는 기술__8.5.1 조건부 GAN__8.5.2 pix2pix__8.5.3 Cycle GAN[9장] 딥러닝 추가 학습을 위한 유용한 정보9.1 최적화 알고리즘__9.1.1 최적화 알고리즘 개요__9.1.2 확률적 경사 하강법(SGD)__9.1.3 모멘텀__9.1.4 아다그라드__9.1.5 RMSProp__9.1.6 아담__9.1.7 최적화 알고리즘 구현 예9.2 학습 테크닉__9.2.1 드롭아웃__9.2.2 Leaky ReLU__9.2.3 가중치 감소__9.2.4 배치 정규화9.3 데이터 세트 소개__9.3.1 사이킷런 데이터 세트__9.3.2 케라스 데이터 세트9.4 딥러닝의 미래[부록]A.1 간단한 구조의 RNN을 이용한 텍스트 생성A.2 GRU를 이용한 텍스트 생성A.3 참고문헌
