Azure Databricks에는 대화형 클러스터와 자동화 클러스터라는 두 가지 유형의 클러스터가 있습니다. 대화형 클러스터를 사용하여 대화형 노트북과 공동으로 데이터를 분석합니다. 자동화된 클러스터를 사용하여 빠르고 강력한 자동화 작업을 실행합니다.
예: 예약된 배치 워크로드(ETL 작업을 실행하는 데이터 엔지니어)
이 시나리오에는 Databricks 플랫폼을 통해 정기적으로 일괄 작업 JAR 및 노트북을 실행하는 작업이 포함됩니다.
제안된 모범 사례는 중요한 작업을 실행할 때마다 새 클러스터를 시작하는 것입니다. 이렇게 하면 공유 클러스터의 기존 워크로드(시끄러운 이웃)로 인한 문제(실패, SLA 누락 등)를 방지하는 데 도움이 됩니다.
참조:
https://docs.databricks.com/administration-guide/cloud-configurations/aws/cmbp.html#scenario-3-scheduled-batch-workloads-data-engineers-running-etl-jobs

참조:
https://adatis.co.uk/databricks-cluster-sizing/
https://docs.microsoft.com/en-us/azure/databricks/jobs
https://docs.databricks.com/administration-guide/capacity-planning/cmbp.html
https://docs.databricks.com/delta/index.html

참조:
https://docs.microsoft.com/en-us/stream-analytics-query/session-window-azure-stream-analytics
https://docs.microsoft.com/en-us/stream-analytics-query/tumbling-window-azure-stream-analytics

참조:
https://docs.microsoft.com/en-us/azure/synapse-analytics/sql-data-warehouse/sql-data-warehouse-overview-what-is
주제 2, Litware, Inc.
요구사항
사업 목표
Litware는 다음 요구 사항을 충족하기 위해 Azure에서 새로운 분석 환경을 만들고 싶어합니다.
매장 전체의 재고 수준을 확인하세요. 데이터는 최대한 실시간에 가깝게 업데이트되어야 합니다.
과거 데이터에 대한 임시 분석 쿼리를 실행하여 충성도 클럽 할인이 할인된 제품의 판매를 증가시키는지 여부를 확인합니다.
4시간마다 판매 데이터의 과거 수요를 기반으로 얼마나 많은 준비된 식품을 생산할지 매장 직원에게 알립니다.
기술 요구 사항
Litware는 다음과 같은 기술 요구 사항을 식별합니다.
비즈니스 목표를 달성하는 데 필요한 다양한 Azure 서비스 수를 최소화합니다.
가능하면 PaaS(Platform as a Service) 제품을 사용하고 Litware에서 관리해야 하는 가상 머신을 프로비저닝할 필요가 없도록 하세요.
분석 데이터 저장소는 회사의 온-프레미스 네트워크 및 Azure 서비스에서만 액세스할 수 있는지 확인하세요.
가능하면 Azure AD(Azure Active Directory) 인증을 사용하세요.
보안을 설계할 때 최소 권한 원칙을 사용하십시오.
분석 데이터 저장소에 데이터를 로드하기 전에 Azure Data Lake Storage Gen2에서 인벤토리 데이터를 준비합니다. Litware는 데이터가 더 이상 사용되지 않으면 Data Lake Storage에서 임시 데이터를 제거하려고 합니다. 수정된 날짜가 14일보다 오래된 파일은 제거해야 합니다.
전화번호와 같은 고객 연락처 정보에 대한 비즈니스 분석가의 접근을 제한하십시오. 이러한 유형의 데이터는 분석적으로 관련이 없기 때문입니다.
손상되거나 실수로 삭제된 경우 분석 데이터 저장소의 복사본을 1시간 이내에 신속하게 복원할 수 있는지 확인하십시오.
계획된 환경
Litware는 다음 환경을 구현할 계획입니다.
애플리케이션 개발 팀은 POS(Point of Sale) 시스템 및 출력에서 ​​매장 번호, 날짜, 시간, 제품 ID, 고객 충성도 번호, 가격 및 할인 금액을 포함한 실시간 판매 데이터를 수신하기 위해 Azure 이벤트 허브를 만듭니다. Azure의 데이터 저장소에 데이터를 저장합니다.
이름, 연락처 정보, 고객 번호를 포함한 고객 데이터는 SaaS 애플리케이션인 Salesforce에서 제공되며 8시간마다 한 번씩 Azure로 가져올 수 있습니다. 행 수정 날짜는 원본 테이블에서 신뢰할 수 없습니다.
제품 ID, 이름, 카테고리를 포함한 제품 데이터는 Salesforce에서 제공되며 8시간마다 한 번씩 Azure로 가져올 수 있습니다. 행 수정 날짜는 원본 테이블에서 신뢰할 수 없습니다.
일일 인벤토리 데이터는 개인 네트워크에 있는 Microsoft SQL 서버에서 가져옵니다.
Litware는 현재 5TB의 과거 판매 데이터와 100GB의 고객 데이터를 보유하고 있습니다. 회사는 내년에 매월 약 100GB의 새로운 데이터를 예상하고 있습니다.
Litware는 FoodPrep이라는 맞춤형 애플리케이션을 구축하여 매장 직원에게 4시간마다 생산할 준비된 식품 수에 대한 계산 결과를 제공합니다.
Litware는 Azure ExpressRoute 또는 온-프레미스 네트워크와 Azure 간의 VPN을 구현할 계획이 없습니다.

참조:
https://docs.microsoft.com/en-us/azure/stream-analytics/stream-analytics-use-reference-data