본문 바로가기

Oracle/etc

[ETL] ETL JOB Monitoring (View 조회)

* View 생성

 - 케이스 별로 발생했을 상황과 보고자 하는 정보를 조회하는 쿼리 생성함.

 - 작업 수행 정보

  1. 배치 수행 / 미수행

  2. 작업 수행 성공 / 실패

  3. 데이터 이슈 (별도 정의)

  4. 기타 이슈 발생 상황

 - 정확한 정보를 담기 위해서는 ETL 작업에 대한 메타 정보를 DB에 별도 테이블로 관리 하여 View 스크립트 생성시 참조 할 수 있도록 하며, 지속적인 관리로 최신화를 유지한다. 

 - View 명: V_ETL_Monitoring


* ETL 작업 생성

 - View를 조회하여 Row가 존재할 경우, 해당 Output을 파일을 첨부로 하여, 담당자나 운영자에게 Mail로 현황을 전송.

 - 작업 진행 절차 (수도코드)

if (View Rows > 1) then

   make file through output;

   send an issue mail with the file;

end if


* 활용

 - 일배치일 경우, 매일 배치 작업 종료 예정 시간대에 해당 작업을 수행하도록 일정 걸어놈. 

 - 매일 아침 관련 메일 확인을 통해 이슈 상황 조기 체크 가능.

 - SMS나 기타 알림 서비스를 통해 전파.

 - 전송 정보도 별도 저장하여 통계로 활용.