희망도서 신청

단단한 심층강화학습

<로라 그레서>,<와 룬 켕> 저/<김성우> 역 | 제이펍

출간일: 2022-06-22

파일포맷: PDF

용량: 68 M

지원기기

현황: 신청 건수 : 0 건

간략 신청 메세지

심층강화학습의 확고한 기반을 다지기 위한 완벽한 방법!

이 책은 이론과 실무적 내용을 독특하게 결합한 심층강화학습 소개서다. 직관적인 설명에서 시작하여 심층강화학습 알고리즘에 대한 자세한 설명과 SLM Lab 라이브러리를 이용한 구현 방법으로 이어지고, 마지막으로는 심층강화학습을 실무에 적용하기 위한 세부 내용을 다룬다.

옮긴이 머리말 xii베타리더 후기 xiii추천사 xv시작하며 xvi감사의 글 xxiCHAPTER 01 강화학습 소개 11.1 강화학습 11.2 MDP로서의 강화학습 71.3 강화학습에서 학습하는 함수 111.4 심층강화학습 알고리즘 13 1.4.1 정책 기반 알고리즘 14 1.4.2 가치 기반 알고리즘 15 1.4.3 모델 기반 알고리즘 16 1.4.4 결합된 방법 17 1.4.5 이 책에서 다루는 알고리즘 18 1.4.6 활성정책과 비활성정책 알고리즘 19 1.4.7 요약 191.5 강화학습을 위한 심층학습 201.6 강화학습과 지도학습 22 1.6.1 오라클의 부재 23 1.6.2 피드백의 희소성 24 1.6.3 데이터 생성 241.7 요약 25PART I 정책 기반 알고리즘과 가치 기반 알고리즘CHAPTER 02 REINFORCE 292.1 정책 302.2 목적 함수 312.3 정책 경사 31 2.3.1 정책 경사 계산 332.4 몬테카를로 표본추출 362.5 REINFORCE 알고리즘 37 2.5.1 향상된 REINFORCE 382.6 REINFORCE 구현 39 2.6.1 최소 형태의 REINFORCE 구현 39 2.6.2 파이토치로 정책 생성하기 42 2.6.3 행동 추출 44 2.6.4 정책 손실 계산 45 2.6.5 REINFORCE 훈련 루프 46 2.6.6 활성정책 재현 메모리 472.7 REINFORCE 에이전트의 훈련 502.8 실험 결과 53 2.8.1 실험: 할인율 ?? 의 효과 53 2.8.2 실험: 기준값의 효과 552.9 요약 572.10 더 읽을거리 572.11 역사 58CHAPTER 03 살사(SARSA) 593.1 Q 함수와 V 함수 603.2 시간차 학습 63 3.2.1 시간차 학습에 대한 직관 663.3 살사의 행동 선택 73 3.3.1 탐험과 활용 743.4 살사 알고리즘 75 3.4.1 활성정책 알고리즘 763.5 살사의 적용 77 3.5.1 행동 함수: 엡실론 탐욕적 77 3.5.2 Q 손실의 계산 78 3.5.3 살사 훈련 루프 80 3.5.4 활성정책 배치 재현 메모리 813.6 살사 에이전트의 훈련 833.7 실험 결과 86 3.7.1 실험: 학습률의 효과 863.8 요약 873.9 더 읽을거리 883.10 역사 89CHAPTER 04 심층 Q 네트워크(DQN) 914.1 DQN의 Q 함수 학습 924.2 DQN의 행동 선택 94 4.2.1 볼츠만 정책 974.3 경험 재현 1004.4 DQN 알고리즘 1014.5 DQN의 적용 103 4.5.1 Q 손실의 계산 103 4.5.2 DQN 훈련 루프 104 4.5.3 재현 메모리 1054.6 DQN 에이전트의 훈련 1084.7 실험 결과 111 4.7.1 실험: 신경망 아키텍처의 효과 1114.8 요약 1134.9 더 읽을거리 1144.10 역사 114CHAPTER 05 향상된 DQN 1155.1 목표 네트워크 1165.2 이중 DQN 1195.3 우선순위가 있는 경험 재현(PER) 123 5.3.1 중요도 표본추출 1255.4 수정된 DQN의 구현 126 5.4.1 네트워크 초기화 127 5.4.2 Q 손실의 계산 128 5.4.3 목표 네트워크의 업데이트 129 5.4.4 목표 네트워크를 갖는 DQN 130 5.4.5 이중 DQN 130 5.4.6 우선순위가 있는 경험 재현 1315.5 아타리 게임을 위한 DQN 에이전트의 훈련 1375.6 실험 결과 142 5.6.1 실험: 이중 DQN과 PER의 효과 1425.7 요약 1465.8 더 읽을거리 146PART II 결합된 방법CHAPTER 06 어드밴티지 행동자-비평자(A2C) 1496.1 행동자 1506.2 비평자 150 6.2.1 어드밴티지 함수 151 6.2.2 어드밴티지 함수에 대한 학습 1556.3 A2C 알고리즘 1566.4 A2C의 구현 159 6.4.1 어드밴티지 추정 160 6.4.2 가치 손실과 정책 손실의 계산 162 6.4.3 행동자-비평자 훈련 루프 1636.5 네트워크 아키텍처 1646.6 A2C 에이전트의 훈련 166 6.6.1 n단계 이득을 이용한 A2C를 퐁 게임에 적용 166 6.6.2 GAE를 이용한 A2C를 퐁 게임에 적용 169 6.6.3 두 발 보행자 문제에서 n단계 이득을 이용한 A2C 1706.7 실험 결과 173 6.7.1 실험: n단계 이득의 효과 173 6.7.2 실험: GAE의 ??가 미치는 효과 1756.8 요약 1766.9 더 읽을거리 1776.10 역사 177CHAPTER 07 근위 정책 최적화(PPO) 1797.1 대리목적 180 7.1.1 성능붕괴 180 7.1.2 목적 함수의 수정 1827.2 근위 정책 최적화(PPO) 1897.3 PPO 알고리즘 1937.4 PPO의 구현 195 7.4.1 PPO 정책 손실의 계산 195 7.4.2 PPO 훈련 루프 1967.5 PPO 에이전트의 훈련 198 7.5.1 퐁 게임을 위한 PPO 198 7.5.2 두 발 보행자를 위한 PPO 2017.6 실험 결과 203 7.6.1 실험: GAE의 ??가 미치는 효과 204 7.6.2 실험: 클리핑 변수 ??의 효과 2057.7 요약 2077.8 더 읽을거리 208CHAPTER 병렬화 방법 2098.1 동기 병렬화 2108.2 비동기 병렬화 212 8.2.1 호그와일드! 2138.3 A3C 에이전트의 훈련 2168.4 요약 2198.5 더 읽을거리 219CHAPTER 09 알고리즘 요약 221PART III 실전을 위한 세부사항CHAPTER 10 심층강화학습으로 작업하기 22510.1 소프트웨어 공학적 기법 226 10.1.1 단위 테스트 226 10.1.2 코드 품질 232 10.1.3 깃 워크플로 23310.2 디버깅 팁 236 10.2.1 생존 신호 236 10.2.2 정책 경사에 대한 진단 237 10.2.3 데이터에 대한 진단 238 10.2.4 전처리기 239 10.2.5 메모리 239 10.2.6 알고리즘 함수 240 10.2.7 신경망 240 10.2.8 알고리즘 간소화 243 10.2.9 문제 간소화 243 10.2.10 하이퍼파라미터 244 10.2.11 Lab 워크플로 24410.3 아타리 트릭 24510.4 심층강화학습 알마낵 249 10.4.1 하이퍼파라미터 표 249 10.4.2 알고리즘 성능 비교 25210.5 요약 255CHAPTER 11 SLM Lab 25711.1 SLM Lab에 구현된 알고리즘 25711.2 spec 파일 260 11.2.1 검색 스펙 구문 26211.3 SLM Lab의 실행 265 11.3.1 SLM Lab의 명령어 26511.4 실험 결과의 분석 266 11.4.1 실험 데이터의 개요 26611.5 요약 268CHAPTER 12 네트워크 아키텍처 26912.1 신경망의 유형 269 12.1.1 다층 퍼셉트론(MLP) 270 12.1.2 합성곱신경망(CNN) 272 12.1.3 회귀신경망(RNN) 27412.2 네트워크 그룹 선택을 위한 가이드 275 12.2.1 MDP와 POMDP 275 12.2.2 환경을 위한 네트워크 선정 27912.3 Net API 282 12.3.1 입력과 출력 층위 모양의 추정 284 12.3.2 네트워크의 자동 생성 286 12.3.3 훈련 단계 289 12.3.4 기반 메소드의 노출 29012.4 요약 29112.5 더 읽을거리 292CHAPTER 13 하드웨어 29313.1 컴퓨터 29413.2 데이터 유형 30013.3 강화학습에서 데이터 유형 최적화 30213.4 하드웨어의 선택 30713.5 요약 308CHAPTER 14 상태 31114.1 상태의 예제 31214.2 상태의 완결성 31914.3 상태의 복잡성 32014.4 상태 정보 손실 325 14.4.1 이미지 그레이스케일링 325 14.4.2 이산화 326 14.4.3 해시 출동 327 14.4.4 메타정보 손실 32714.5 전처리 331 14.5.1 표준화 332 14.5.2 이미지 처리 333 14.5.3 시간적 전처리 33514.6 요약 339CHAPTER 15 행동 34115.1 행동의 예제 34115.2 행동의 완결성 34515.3 행동의 복잡성 34715.4 요약 35215.5 더 읽을거리: 일상에서의 행동 설계 353CHAPTER 16 보상 35716.1 보상의 역할 35716.2 보상 설계의 가이드라인 35916.3 요약 364CHAPTER 17 전이 함수 36517.1 실현 가능성 확인 36617.2 현실성 확인 36817.3 요약 371APPENDIX A 심층강화학습 타임라인 372APPENDIX B 환경의 예제 374B.1 이산적 환경 375 B.1.1 CartPole-v0 375 B.1.2 MountainCar-v0 376 B.1.3 LunarLander-v2 377 B.1.4 PongNoFrameskip-v4 378 B.1.5 BreakoutNoFrameskip-v4 378B.2 연속 환경 379 B.2.1 Pendulum-v0 379 B.2.2 BipedalWalker-v2 380에필로그 381