국내 최초 인공지능의 신뢰 문제에 관한 본격적인 논의와 가이드라인을 담은 책! 인공지능의 윤리와 신뢰의 문제는 미래의 일이 아닌 지금 일어나는 시급한 일이다!인공지능과 어떻게 공존할 것인가인공지능의 의사결정 지원을 신뢰할 수 없다면 어떻게 될까? 『신뢰할 수 있는 인공지능』은 국내 최초로 최근 인공지능 논란의 핵심으로 떠오른 신뢰성 문제를 본격적으로 다루고 있다. 그럼 왜 지금 인공지능의 신뢰성이 문제인가? 인공지능 기술이 일상생활, 기업활동, 사회 시스템에 활용되면서 과거 전문 영역에서 사용하던 차원과는 다른 일들이 일어나기 시작했기 때문이다. 인공지능 자체에 여러 가지 취약점이 있다는 것이 밝혀지면서 해킹 가능성이나 오류 발생의 문제가 사회 구성원 전체에게 미칠 영향이 크다는 것을 알게 된 것이다. 인공지능이 인류에게 유익하게 사용돼야 한다는 것에는 모두 다 동의한다. 그런데 어떻게 그렇게 할 것인가에 대한 논의는 없다. 지금 우리가 인공지능의 신뢰성에 대해 논의해야 하는 이유이다.
서울대학교 컴퓨터공학과를 졸업했고 카이스트에서 인공지능 분야 중 지식 표현에 관한 연구로 박사학위를 받았다. 삼성전자 전략기획실과 미디어 서비스 사업팀에서 인터넷 사업을 담당한 후 2003년 다음커뮤니케이션 전략대표와 일본 법인장을 역임했다. 두 번의 창업을 했고 카이스트와 세종대학교 교수를 거쳐 2011년부터 테크프론티어 대표를 맡고 있다.
현재 기업을 위한 기술 전략컨설팅과 정부 정책 자문과 연구를 하고 있으며 기술과 사회에 관한 강연을 하고 있다. 인공지능 윤리를 위한 기술 프레임워크, 신뢰 가능한 인공지능 등에 관한 연구 과제를 수행했다. 『AI타임스』 등 여러 매체에 기술 관련 칼럼을 기고하고 있다. 공공 영역에서는 인공지능 데이터세트 구축을 위한 인공지능 데이터 로드맵 총괄기획위원, 인공지능 그랜드 챌린지 기획위원 등으로 활동하고 있다.
주요 저서로는 『한상기의 소셜미디어 특강』이 있다. 그 외 주요 공저로는 『인공지능은 어떻게 산업의 미래를 바꾸는가』『4차 산업혁명과 미래사회』『초연결시대 인간-미디어-문화』『2019 미래를 읽다』 등이 있다.
들어가는 글 1장 인공지능의 신뢰성 1. 왜 인공지능의 신뢰성이 중요한 이슈인가 2. 우리가 주목해야 할 원칙과 기준은 무엇인가 아실로마 23원칙 / 유럽연합 집행위원회의 가이드라인과 프레임워크 / 경제협력개발기구의 인공지능 원칙 / 유럽연합의 인공지능 법 초안과 추가 전략들 / 그 외 기관들이 만든 원칙 또는 선언문 / 국내의 접근 3. 주요 테크 기업은 신뢰성에 어떻게 대응하는가 구글의 책임감 있는 인공지능 정책 / 마이크로소프트의 인공지능 원칙 / IBM의 신뢰할 수 있는 인공지능 / 페이스북의 책임감 있는 인공지능 / 국내 기업의 경우: 카카오, 네이버, 삼성전자 4. 마치며 2장 인공지능의 공정성 1. 왜 내 얼굴은 잘 인식하지 못하는가 2. 왜 언어 처리에서 불공정성이 생기는가 3. 왜 나에 대한 인공지능 평가가 불공정한가 4. 인공지능은 감시사회를 만들 것인가 5. 주요 테크 기업은 공정성에 어떻게 대응하는가 6. 마치며 3장 인공지능의 윤리성 1. 철학, 인지과학, 심리학에서는 어떻게 논의되고 있는가 2. 학자들의 인공지능 윤리 연구는 어떻게 되고 있는가 초기의 연구들 / 윤리적 딜레마 / 개별적 윤리 결정 / 집단적 윤리 결정 3. 인공지능 윤리 연구의 주요 그룹은 무엇이 있는가 4. 마치며 4장 인공지능의 투명성과 설명 가능성 1. 왜 인공지능의 투명성이 필요한가 2. 인공지능의 투명성 연구는 어떻게 되고 있는가 3. 주요 테크 기업은 투명성에 어떻게 대응하는가 4. 마치며 5장 인공지능의 견고성과 안전성 1. 왜 적대적 머신러닝이 위험한가 2. 왜 자율주행차는 사고를 일으키는가 3. 로봇이 일으키는 사건들은 무엇이 있는가 4. 딥페이크의 문제는 무엇이고 어떻게 대응해야 하는가 5. 주요 연구 그룹은 안전성 연구를 어떻게 하는가6. 마치며 나오는 글미주
