거침없이 배우는 하둡

 

 

  거침없이 배우는 하둡

 

 

 저자 Chuck Lam

 역자 이현남, 강택현

 감수 김병곤, 장회수, 원종석, 김완철

 

 

 

    400 페이지

   978-89-93827-47-7

 

 

 

 

             목차&서문

 

 

 

 

 

 

 

2007년 뉴욕 타임즈는 자유롭게 1851~1922년 사이에 있는 모든 종류의 기사를 웹 사이트에서 볼 수 있는 시스템을 구축하기로 결정합니다. 하지만 절대 만만한 작업이 아니였죠!

변환할 기사가 무려 총 천백만 개나 되었고, 데이터의 양은 4TB나 되었습니다.

얼핏 생각해도 상당한 시간소요와 인력이 투입될 것 같았던 이 프로젝트를 단 한명의 엔지니어가 24시간 만에 데이터 변환 처리를 했다면 믿으시겠습니까? 그것도 240달러만 지출하고 말입니다. 이후 수많은 사람들은 손쉽게 역사적인 사건들을 무료로 인터넷에서 찾아 볼 수 있게 되었죠.

 

이처럼 저렴하고, 빠르고, 저인력으로 방대한 데이터를 처리할 수 있었던 그 중심에는 하둡이 있었습니다.

방대한 데이터의 분석처리가 기존의 관계형 데이터 베이스 방식으로는 기술적 한계, 막대한 비용소모 등 여러 문제들이 발생했습니다. 이를 해결하고자 비정형 데이터속에서 의미있는 정보를 뽑아내서 활용하자는 생각들이 지금의 하둡 탄생의 계기가 되었답니다.

 

잘 알고계시겠지만, 하둡은 대용량의 정보를 분산처리하는 오픈소스 프레임워크 입니다.

하둡의 핵심은 분산과 그에 따른 분석 처리라고 할 수 있는만큼 클라우드 컴퓨팅 기술과 접목되면서 그 효과가 증대되고 있답니다. 우리 삶속의 일부가 되어버린 페이스북, 트위터도 하둡을 활용하고 있답니다.

 

이처럼 오늘 날 여러 기관과 기업 등에서 빅 데이터와 관련한 프로젝트 들이 큰 이슈가 되고 있는데요, 

하둡은 빅 데이터 프로젝트의 핵심입니다. 이처럼 하둡의 필요성은 증대되는데, 국내에 하둡에 관련하여 소개된 도서가 매우 부족한 상황에서, 매우 시의적절한 타이틀이 등장했습니다!

 

지앤선의 7월신간 '거침없이 배우는 하둡'

 

'거침없이 배우는 하둡'은 하둡의 설치에서부터 활용까지 이해하기 쉽게 단계적으로 구성되어 있으며 특히 아마존 클라우드에서 하둡을 직접 구성할 수 있도록 하여 그 활용성을 높였습니다. 그뿐만 아니라 대용량의 데이터를 병렬적으로 처리하기 위한 MapReduce 프로그램의 상세한 설명과 고급수준의 언어로 대용량 데이터를 처리할 수 있는 Pig에 대해서도 다루고 있고 위에서 언급했던 뉴욕 타임즈의 예처럼 하둡의 실제 비즈니스 적용 사례연구를 담고 있습니다.

 

이 책의 감수를 맡아주신 JBoss User Group 의 리더분들의 기술적 검토를 통해 많은 도움을 주셨고, 아래와 같은 평을 해주셨답니다!

 

하둡의 시작은 설치라고 할 정도로 인프라와 밀접하게 관련 있는 하둡은 초보자에게 있어서 설치부터 그 외 모든 것이 거대한 산과 같아 보입니다. 빅 데이터 기술의 근간인 하둡이 A에서 Z까지 초심자를 위해서 잘 구성된 이 책을 통해 많은 하둡 개발자들이 활동할 수 있는 계기가 되었으면 하며 또한 빅 데이터가 IT 산업 전반에 걸쳐 많이 도입되었으면 하는 바람입니다.

 

김병곤  한국자바개발자협의회(JCO) 회장/클라우다인 대표이사 

            지식경제부 SWMaestro 멘토/JBoss User Group 대표 운영자

 

 

지금까지 나온 하둡 및 분산처리 관련 서적 중에서 가장 practical한 서적이라고 생각합니다. 이전에 나온 하둡 책들이 이론과 API에 대해서 주로 다룬 책이었다면 본 서적은 하둡을 처음 접근하는 사람이 차근차근 다뤄가면서 익히기 좋은 책입니다. 실습 환경을 갖추기 어려운 초심자를 위해서 AWS, S3를 통한 적용을 다루는 등 초심자에 대한 세심한 배려가 인상적입니다.

 

장회수 JBoss User Group

 

원서 자체가 실용적으로 잘 정리된 훌륭한 책으로서 그 번역서가 나왔다는 점은 매우 고무적인 것 같습니다. 하둡 설치 시 어려웠던 점을 본 서적에서 매우 쉽게 다루고 있어서 초심자에게 있어서 큰 도움이 될 것으로 생각하며 최근 Hadoop 1.0.x를 현장에서 적용 중임에도 활용하는 데 전혀 무리가 없을 만큼 훌륭한 내용을 담고 있습니다. 특히 초심자에게 추천합니다. 

 

원종석  KTH 데이터 지능팀/JBoss User Group 운영자

 

하둡은 병렬처리를 통한 빠른 데이터 처리능력뿐만 아니라 하둡을 기반으로 한 여러 가지 오픈 소스를 통해 원하는 데이터를 빠르고, 쉽게 만들어 낼 수 있어, 빅 데이터 처리 분야에서 주목을 받고 있으며, 비용 때문에 구축을 어려워하던 기업들에 최상의 서비스를 제공해줄 수 있는 멋진 오픈소스 플랫폼이라 할 수 있습니다. 또한, 대량의 데이터를 처리하는 기업들이 적극 도입한다면, 데이터 분석을 통해 새로운 비즈니스 창출과 기업 운영에 많은 도움이 될 수 있을 것입니다.

 

김완철  네오위즈/JBoss User Group

 

 

진정 '거침없이 배우는 하둡'은 하둡을 처음 접하는 사람들에게 좋은 가이드 역할을 할 도서입니다.

 

오늘부터 7월18일까지 예약판매가 진행 중이오니 많은 관심 부탁드립니다. :)

 

PART 01 하둡 - 분산 프로그래밍 프레임워크

 

CHAPTER 01 하둡 소개
1.1 왜 하둡의 실행을 다루는가?
1.2 하둡은 무엇인가?
1.3 분산시스템과 하둡의 이해
1.4 SQL 데이터베이스와 하둡의 비교
1.5 MapReduce의 이해
  1.5.1 간단한 프로그램의 확장
  1.5.2 동일한 프로그램을 MapReduce를 이용해 확장
1.6 프로그램의 첫 번째 실행 - 하둡을 이용한 단어세기
1.7 하둡의 역사
1.8 요약
1.9 참고 자료

 

CHAPTER 02 하둡 시작하기
2.1 하둡의 구성 요소
  2.1.1 NameNode
  2.1.2 DataNode
  2.1.3 Secondary NameNode
  2.1.4 JobTracker
  2.1.5 TaskTracker
2.2 하둡 클러스터를 위한 SSH의 설정
  2.2.1 일반적인 계정 정의
  2.2.2 SSH 설치와 확인
  2.2.3 쌍으로 이루어진 SSH 키의 생성
  2.2.4 공개 키 배포와 로그인 테스트
2.3 하둡의 실행
  2.3.1 Standalone(독립실행) 모드
  2.3.2 Pseudo-distributed(가상분산) 모드
  2.3.3 Fully distributed(완전분산) 모드
2.4 웹 기반의 클러스터 UI
2.5 요약

 

CHAPTER 03 하둡 컴포넌트
3.1 하둡 파일 다루기
  3.1.1 기본적인 파일 명령어
  3.1.2 프로그램을 이용한 HDFS의 읽기와 쓰기
3.2 MapReduce 프로그램의 구조
  3.2.1 하둡 데이터 타입
  3.2.2 Mapper
  3.2.3 Reducer
  3.2.4 Partitioner - Mapper 결과를 여러 Reducer로 전달
  3.2.5 Combiner - 로컬 reduce
  3.2.6 미리 정의된 mapper와 reducer클래스를 이용한 단어 세기
3.3 읽기와 쓰기
  3.3.1 InputFormat
  3.3.2 OutputFormat
3.4 요약

PART 02 하둡 인 액션

 

CHAPTER 04 MapReduce 기본프로그램 작성
4.1 특허 데이터 가져오기
  4.1.1 특허 인용 데이터
  4.1.2 특허 기술 데이터
4.2 MapReduce 프로그램의 기본 템플릿(견본) 작성
4.3 카운팅하기
4.4 변경된 하둡API 적용
4.5 하둡 Streaming
  4.5.1 유닉스 명령어 기반의 Streaming
  4.5.2 스크립트를 이용한 Streaming 처리
  4.5.3 키/값 쌍을 이용한 Streaming
  4.5.4 Aggregate 패키지를 이용한 Streaming
4.6 Combiners를 이용한 성능의 향상
4.7 배운 내용 연습
4.8 요약
4.9 참고 자료

 

CHAPTER 05 고급 MapReduce
5.1 MapReduce job들의 사슬 엮기
  5.1.1 MapReduce job들을 순서대로 연결하기
  5.1.2 복잡한 의존 관계에 있는 MapReduce job들의 사슬 연결
  5.1.3 전처리와 후처리 단계를 사슬 관계로 처리하기
5.2 다양한 자료를 활용하기 위한 데이터 조인
  5.2.1 Reduce-side 조인
  5.2.2 분산캐시(distributed cache)를 사용한 replicated 조인
  5.2.3 Semijoin(중간 형태의 조인): reduce 단계의 조인과 map 단계의 필터링
5.3 Bloom 필터의 생성
  5.3.1 Bloom 필터의 기능
  5.3.2 Bloom 필터의 실행
  5.3.3 하둡 0.20+ 버전에서의 Bloom 필터
5.4 배운 내용 연습
5.5 요약
5.6 참고 자료

 

CHAPTER 06 프로그래밍 연습
6.1 MapReduce 프로그램의 개발
  6.1.1 Local(독립실행) 모드
  6.1.2 Pseudo-distributed(가상분산) 모드
6.2 Production 클러스터의 모니터링과 디버깅
  6.2.1 카운터
  6.2.2 잘못된 레코드 건너뛰기
  6.2.3 IsolationRunner를 이용한 실패한 태스크의 재실행
6.3 성능향상을위한튜닝
  6.3.1 Combiner에서 네트워크 트래픽의 개선
  6.3.2 입력 데이터량의 감소
  6.3.3 압축의 이용
  6.3.4 JVM의 재사용
  6.3.5 추론적인 실행(speculative execution)을 통한 동작
  6.3.6 코드와 알고리즘의 수정
6.4 요약

 

CHAPTER 07 CookBook
7.1 Job 관련 파라미터를 태스크로 전달
7.2 태스크 관련 정보검색
7.3 다수의 출력 파일들로 파티셔닝
7.4 데이터베이스로부터 입력, 데이터베이스로의 출력
7.5 모든 출력을 정렬된 순서로 유지
7.6 요약

 

CHAPTER 08 하둡 관리
8.1 실사용을 위한 파라미터 값 설정
8.2 시스템 Health 체크
8.3 권한 설정
8.4 쿼터 관리
8.5 휴지통(trash) 활성화
8.6 DataNode 제거
8.7 DataNode 등록
8.8 NameNode 관리와 Secondary NameNode
8.9 NameNode 장애복구
8.10 네트워크 레이아웃과 랙 인식 디자인
8.11 다수 사용자의 job 스케줄링
  8.11.1 다수의 JobTracker
  8.11.2 Fair Scheduler
8.12 요약

 

PART 03 하둡의 성장

 

CHAPTER 09 클라우드에서 하둡 수행
9.1 아마존 웹 서비스(AWS) 소개
9.2 AWS 설정
  9.2.1 AWS 인증 정보(credentials) 가져오기
  9.2.2 커맨드 라인 툴
  9.2.3 SSH 키 쌍 준비
9.3 EC2에서 하둡설정
  9.3.1 보안 파라미터 설정
  9.3.2 클러스터 타입 구성
9.4 EC2에서 MapReduce 프로그램 수행
  9.4.1 애플리케이션 코드를 하둡 클러스터로 전송
  9.4.2 하둡 클러스터에 있는 데이터 접근
9.5 EC2 인스턴스 종료 및 정리
9.6 아마존 EMR과 그 외 AWS 서비스
  9.6.1 아마존 EMR
  9.6.2 AWS Import/Export
9.7 요약

 

CHAPTER 10 Pig 프로그래밍
10.1 Pig처럼 생각하기
  10.1.1 데이터 흐름 언어
  10.1.2 데이터 형식
10.2 Pig 설치
10.3 Pig 수행
  10.3.1 Grunt 셸 관리
10.4 Grunt로부터 Pig Latin 수행
10.5 Pig Latin
  10.5.1 데이터 타입과 스키마
  10.5.2 표현(expression)과 함수(function)
  10.5.3 관계 연산자
  10.5.4 실행 최적화
10.6 사용자 정의 함수 사용
  10.6.1 사용자 정의 함수 사용
  10.6.2 사용자 정의 함수 작성
10.7 스크립트 수행
  10.7.1 주석
  10.7.2 파라미터 치환
  10.7.3 멀티쿼리(multiquery) 실행
10.8 유사한 특허들을 계산하는 예제
10.9 요약

 

CHAPTER 11 Hive와 하둡 지원 프로젝트들
11.1 Hive
  11.1.1 Hive의 설치와 구성
  11.1.2 쿼리 예제
  11.1.3 HiveQL
  11.1.4 Hive 요약
11.2 하둡과 관련된 또 다른 프로젝트
  11.2.1 HBase
  11.2.2 ZooKeeper
  11.2.3 Cascading
  11.2.4 Cloudera
  11.2.5 Katta
  11.2.6 CloudBase
  11.2.7 Aster Data와 Greenplum
  11.2.8 Hama와 Mahout
  11.2.9 search-hadoop.com
11.3 요약

 

CHAPTER 12 사례연구
12.1 뉴욕 타임즈 보관소에 있는 천백만 개의 이미지 문서 변환
12.2 차이나 모바일에서의 데이터 마이닝
12.3 스텀블어폰에서 최고의 웹사이트 추천
  12.3.1 스텀블어폰에서 분산 처리 시작
  12.3.2 HBase와 스텀블어폰
  12.3.3 스텀블어폰에서 하둡 이상의 것들
12.4 기업용 검색을 위한 분석- IBM Project ES2
  12.4.1 ES2 구조
  12.4.2 ES2 크롤러
  12.4.3 ES2 분석
  12.4.4 결론
  12.4.5 참고 자료

 

부록 HDFS 파일 명령어
찾아보기