익명 사용자
로그인하지 않음
토론
기여
계정 만들기
로그인
IT 위키
검색
아파치 스파크 Accumulator
편집하기 (부분)
IT 위키
이름공간
문서
토론
더 보기
더 보기
문서 행위
읽기
편집
원본 편집
역사
경고:
로그인하지 않았습니다. 편집을 하면 IP 주소가 공개되게 됩니다.
로그인
하거나
계정을 생성하면
편집자가 사용자 이름으로 기록되고, 다른 장점도 있습니다.
스팸 방지 검사입니다. 이것을 입력하지
마세요
!
==사용 방법== Spark에서 Accumulator를 사용하는 기본적인 방법은 다음과 같다. ===Accumulator 생성=== Accumulator는 SparkContext를 사용하여 생성할 수 있다.<syntaxhighlight lang="scala"> val spark = SparkSession.builder.appName("AccumulatorExample").getOrCreate() val sc = spark.sparkContext // 정수형 Accumulator 생성 val acc = sc.longAccumulator("My Accumulator") </syntaxhighlight> ===Accumulator 값 업데이트=== 각 노드에서 실행되는 코드에서 Accumulator 값을 증가시킬 수 있다.<syntaxhighlight lang="scala"> val rdd = sc.parallelize(Array(1, 2, 3, 4, 5)) rdd.foreach(x => acc.add(x)) // 최종 Accumulator 값 확인 println(s"Accumulator Value: ${acc.value}") // 결과: 15 </syntaxhighlight> ===트랜스포메이션 내에서의 문제점=== 트랜스포메이션(`map`, `filter` 등) 내에서 Accumulator를 사용하면 중복 업데이트가 발생할 수 있다. 예를 들어, `map` 연산은 Lazy Evaluation(지연 실행)되므로 여러 번 실행될 가능성이 있다.<syntaxhighlight lang="scala"> val rdd2 = rdd.map(x => { acc.add(x) // 이 코드가 여러 번 실행될 수 있음 x * 2 }) println(acc.value) // 예상한 값보다 클 수 있음 (중복 실행 가능성) </syntaxhighlight>위 코드에서 `map` 연산이 여러 번 실행될 경우, Accumulator 값이 중복 증가할 수 있다. 따라서 Accumulator는 `foreach`와 같은 액션에서 사용하는 것이 안전하다.
요약:
IT 위키에서의 모든 기여는 크리에이티브 커먼즈 저작자표시-비영리-동일조건변경허락 라이선스로 배포된다는 점을 유의해 주세요(자세한 내용에 대해서는
IT 위키:저작권
문서를 읽어주세요). 만약 여기에 동의하지 않는다면 문서를 저장하지 말아 주세요.
또한, 직접 작성했거나 퍼블릭 도메인과 같은 자유 문서에서 가져왔다는 것을 보증해야 합니다.
저작권이 있는 내용을 허가 없이 저장하지 마세요!
취소
편집 도움말
(새 창에서 열림)
둘러보기
둘러보기
대문
최근 바뀜
광고
위키 도구
위키 도구
특수 문서 목록
문서 도구
문서 도구
사용자 문서 도구
더 보기
여기를 가리키는 문서
가리키는 글의 최근 바뀜
문서 정보
문서 기록