맵리듀스 편집하기

IT위키

경고: 로그인하지 않았습니다. 편집을 하면 IP 주소가 공개되게 됩니다. 로그인하거나 계정을 생성하면 편집자가 사용자 이름으로 기록되고, 다른 장점도 있습니다.

편집을 취소할 수 있습니다. 이 편집을 되돌리려면 아래의 바뀐 내용을 확인한 후 게시해주세요.

최신판 당신의 편집
7번째 줄: 7번째 줄:
== 구성/절차 ==
== 구성/절차 ==
;맵(Map) 작업과 리듀스(Reduce) 작업으로 구성
;맵(Map) 작업과 리듀스(Reduce) 작업으로 구성
* 아래의 맵 - 셔플 - 리듀스 작업을 여러 번 반복
[[파일:맵-셔플-리듀스.png]]
[[파일:맵-셔플-리듀스.png]]


=== 맵 ===
=== 맵 ===
* 분산된 데이터를 Key-Value로 구성
* 분산된 데이터를 Key-Value로 모은다


=== 셔플 ===
=== 셔플 ===
* 중간 결과를 리듀스로 전달
* 중간 결과를 리듀스로 전달한다.


=== 리듀스 ===
=== 리듀스 ===
24번째 줄: 23번째 줄:
** 맵, 리듀스 함수는 대상 데이터에 맞추어 설계해야 한다/
** 맵, 리듀스 함수는 대상 데이터에 맞추어 설계해야 한다/
* 기존 RDBMS의 개념을 도입하여 맵리듀스 작업을 수월하게 도와주는 도구가 '''[[하이브]]'''
* 기존 RDBMS의 개념을 도입하여 맵리듀스 작업을 수월하게 도와주는 도구가 '''[[하이브]]'''
== 단점 ==
* 하이브를 이용한 기본적인 맵리듀스 작업은 아주 느림
* 맵리듀스의 가치는 빠른 처리가 아닌 처리할 수 없던 데이터를 처리할 수 있게 해주는 것
* 더 빠른 처리를 위해 [[스파크]] 등이 사용됨
IT위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-비영리-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는 IT위키:저작권 문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요.
또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다. 저작권이 있는 내용을 허가 없이 저장하지 마세요!
취소 편집 도움말 (새 창에서 열림)