알라딘

헤더배너
상품평점 help

분류

이름:안건국

최근작
2014년 11월 <아파치 하둡 YARN>

안건국

데이터 관련 모든 것에 관심이 있지만, 최근에는 메모리 기반에서 데이터 처리와 데이터 샘플링 같은 데이터 엔지니어링에 관심이 많다. 또한 시각화가 없는 데이터 분석은 아무런 의미가 없다는 것을 깨닫고 뒤늦게 시각화에 대한 공부에 집중하고 있다. 에이콘출판사에서 펴낸 『하둡과 빅데이터 분석 실무』(2013), 『하둡 맵리듀스 프로그래밍』(2013)을 번역했다.  

대표작
모두보기
저자의 말

<아파치 하둡 YARN> - 2014년 11월  더보기

글로벌에서도 마찬가지겠지만, 대한민국에서 빅데이터 기반 비즈니스를 하려면 기승전하(둡)이라는 말이 생길 정도로, 하둡은 기술적 트렌드의 중심에 있다. 그리고 2012년, 하둡 서밋(Hadoop Summit)에서 하둡 버전 2가 발표됐고 정식 버전 릴리스까지는 많은 시간이 흘렀다. 그리고 드디어 2013년 10월, 알파와 베타가 아닌 정식 하둡 2 버전이 나왔다. 그 당시 많은 엔지니어들은 하둡 1.x 버전에 심취해 있었고, 테크기업이 아닌 일반기업에서는 여전히 하둡을 도입할지 고민하고 있을 찰라 2.x가 가파르게 소개가 됐다. 이후 Strata 같은 데이터 관련 컨퍼런스에서 하둡 2.x 도입의 성공 사례와 다양한 유스케이스가 소개가 됐고, 대한민국도 하둡 2.x를 기업에 도입하기 시작했다. 이후 호튼웍스와 EMC 같은 하둡 벤더 회사들도 국내 지사를 설립하면서 비즈니스 세일즈를 하게 됐다. 하둡 2.x부터의 변화는 더 많은 에코시스템이 나오는 것보다 기존 에코시스템의 안정성과 성능 위주로 발전하게 됐고, 데이터 웨어하우스를 지향함으로써 다양한 SQL on Hadoop 같은 기존 에코시스템은 더 큰 발전을 하게 됐다. 동시에 이런 핵심 에코시스템은 광의적 플랫폼에 포팅되기 시작했다. 그것이 YARN이라는 이름을 갖는 플랫폼이다. YARN은 세 가지 주요 컴포넌트가 있으며, 이들 간의 통신과 연계는 매우 복잡하다. 이 책은 호튼웍스 엔지니어들에 의해 쓰여진 책이다. 하지만 한두 장을 제외하고 다른 벤더의 하둡을 이해하는 데 문제가 전혀 없다. 앞서 말했던 것처럼 YARN은 매우 복잡한 아키텍처를 갖고 있는데, 이 책으로 해결할 수 있을 것이다. 그런데 이 책은 실용서나 예제 위주의 쿡북(Cookbook) 스타일과는 거리가 멀다. 이 책은 하둡 아키텍처 책에 가깝고 YARN 내부를 이해하는 데 도움이 되는 책이다. 저자가 4명인데 그 중 일부 저자는 글쓰는 취향 때문인지 한 문장을 3~4줄로 작성한 부분이 많고, 지나치게 장황하게 쓴 만연체가 많아 번역에 어려움이 많았다. 특히 4장, 7장, 8장은 이 책의 가장 핵심이 되는 장이며, YARN 아키텍처 관련 장으로 페이지의 양도 매우 많다. 옮긴이의 역량이 부족해 매끄럽게 번역한다고 했으나 일부 표현이 저자의 의도대로 정확하게 전달됐는지 염려스러워 미리 독자에게 양해를 구한다. 최근 하둡은 아파치 스파크(Spark)에 밀려 레거시(Legacy)처럼 돼가는 것처럼 보인다. 그러나 스파크는 데이터 퍼시스턴스의 역할로 HDFS를 사용하고 있다. 아직 스파크는 하둡의 완전체(?)가 되려면 시일이 걸릴 것으로 보인다. 예를 들어 SQL를 지원하지만 사용자 클라이언트 인터페이스는 부족하며, 스파크를 이해하려면 스칼라(Scala) 언어를 알아야 할 정도로 학습 곡선(Learning Curve)이 높다. 또한 Domain Specific 관련 배치 처리의 비용은 하둡이 덜 든다. (물론 물리적 비용이 싸지면서 역전되고 있지만, 그래서 스파크도 배워야 한다. ^^)따라서 데이터 관리와 운영 관점에서는 하둡 YARN 기반에서 운용되는 HDFS와 자원 관리, 그리고 스케줄링 부분의 이해는 여전히 필요하다. 앞으로 당분간 하둡의 기술은 지속될 것이고, 스트리밍과 실시간, 그리고 메모리기반 데이터 처리 기술이 발전할 것이다. 그런데 데이터의 영속성 측면에서 하둡은 무시할 수 없다. 아무쪼록 이 책으로 하둡 YARN의 핵심 부분을 이해하는 데 도움이 됐으면 좋겠다.

가나다별 l l l l l l l l l l l l l l 기타
국내문학상수상자
국내어린이문학상수상자
해외문학상수상자
해외어린이문학상수상자