소프트웨어 개발/Scala - Functional

Spark 의 애플리케이션 실행할때의 프로세스

늘근이 2017. 1. 10. 20:37

spark-submit 을 이용해서 애플리케이션 실행

spark-submit은 드라이버 프로그램을 실행, 사용자는 main()메서드 호출

드라이버 프로그램은 클러스터 매니저에게 익스큐터 실행을 위한 리소스 요청

클러스터 매니저는 익스큐터 실행

드라이버는 단위 작업 형태로 익스큐터에게 보냄.

익스큐터는 이를 실행

끝이나면 익스큐터 중지 후 클러스터 매니저에 사용했던 자원 반환