Data Engineer / Data Platform
리워드 광고 플랫폼에서 광고 성과 리포트와 리워드 정산에 쓰이는 하루 6TB 초당 3800건 규모의 광고 postback 로그와 서비스 DB 데이터를 수집하고 적재하는 데이터 플랫폼을 운영하고 있습니다. 레거시 배치 잡 500개를 성격에 맞춰 배치와 스트리밍으로 나눠 다시 설계했고 BigQuery 비용 이상 탐지와 스토리지 정리로 운영 비용을 줄였습니다.
11년 동안 백엔드 개발을 하며 쌓은 API와 인프라 그리고 장애 대응 경험을 데이터 플랫폼 운영으로 넓혀 왔습니다.
하루 6TB 규모의 광고 postback 로그와 서비스 DB 데이터를 수집하고 적재하는 플랫폼을 운영합니다. postback 로그는 광고 성과 리포트와 리워드 지급 정산 그리고 어뷰징 탐지와 광고주 리포트에 쓰이고 DB 데이터는 사업팀 매출 분석과 마케팅 지표 그리고 경영 대시보드에 쓰입니다.
이마트와 트레이더스 그리고 노브랜드 상담 챗봇의 API 서버와 데이터 파이프라인을 담당했습니다.
미국과 유럽 그리고 한국의 기상 데이터 전처리 파이프라인과 발전량 예측 API를 담당했습니다.