추가 모드: 마지막 트리거 이후 결과 테이블에 추가된 새 행만 외부 저장소에 기록됩니다. 이는 결과 테이블의 기존 행이 변경되지 않을 것으로 예상되는 쿼리에만 적용됩니다.
https://docs.databricks.com/getting-started/spark/streaming.html

https://docs.microsoft.com/en-us/azure/stream-analytics/stream-analytics-define-outputs

작업을 위해 높은 동시성 클러스터가 필요합니다.
메모:
단일 사용자에게는 표준 클러스터를 권장합니다. Standard는 모든 언어로 개발된 워크로드를 실행할 수 있습니다.
파이썬, R, 스칼라, SQL.
높은 동시성 클러스터는 관리형 클라우드 리소스입니다. 높은 동시성 클러스터의 주요 이점은 리소스 활용도를 최대화하고 쿼리 지연 시간을 최소화하기 위해 Apache Spark 네이티브 세분화된 공유를 제공한다는 것입니다.
참조:
https://docs.azuredatabricks.net/clusters/configure.html
데이터 보안 설계 및 구현
테스트렛 1
사례 연구
이것은 사례 연구입니다. 사례 연구는 별도로 시간이 지정되지 않습니다. 각 사례를 완료하고 싶은 만큼 시험 시간을 사용할 수 있습니다. 그러나 이 시험에 추가 사례 연구 및 섹션이 있을 수 있습니다. 주어진 시간 내에 이 시험에 포함된 모든 문제를 완료할 수 있도록 시간을 관리해야 합니다.
사례 연구에 포함된 질문에 답하려면 사례 연구에 제공된 정보를 참조해야 합니다. 사례 연구에는 사례 연구에 설명된 시나리오에 대한 추가 정보를 제공하는 전시 및 기타 리소스가 포함될 수 있습니다. 각 질문은 이 사례 연구의 다른 질문과 독립적입니다.
이 사례 연구가 끝나면 검토 화면이 나타납니다. 이 화면에서 답을 검토하고 시험의 다음 섹션으로 이동하기 전에 변경할 수 있습니다. 새 섹션을 시작한 후에는 이 섹션으로 돌아갈 수 없습니다.
사례 연구를 시작하려면
이 사례 연구의 첫 번째 질문을 표시하려면 다음 버튼을 클릭하십시오. 질문에 답하기 전에 왼쪽 창에 있는 버튼을 사용하여 사례 연구의 내용을 탐색하십시오. 이 버튼을 클릭하면 비즈니스 요구 사항, 기존 환경 및 문제 설명과 같은 정보가 표시됩니다. 사례 연구에 모든 정보 탭이 있는 경우 표시되는 정보는 후속 탭에 표시되는 정보와 동일합니다. 질문에 답할 준비가 되면 질문 버튼을 클릭하여 질문으로 돌아갑니다.
개요
Litware, Inc.는 미국 전역에 300개의 편의점을 소유 및 운영하고 있습니다. 이 회사는 샌드위치, 피자와 같은 다양한 조리 식품뿐만 아니라 다양한 포장 식품 및 음료를 판매합니다.
Litware에는 회원이 결제 시 회원 번호를 제공하여 특정 품목에 대해 매일 할인을 받을 수 있는 로열티 클럽이 있습니다.
Litware는 Microsoft Power BI를 사용하여 데이터를 분석하는 것을 선호하는 비즈니스 분석가와 Azure Databricks 노트북에서 데이터를 분석하는 것을 선호하는 데이터 과학자를 고용합니다.
요구 사항
사업 목표
Litware는 다음 요구 사항을 충족하기 위해 Azure에서 새로운 분석 환경을 만들려고 합니다.
* 매장 전체의 재고 수준을 확인하세요. 데이터는 가능한 한 실시간에 가깝게 업데이트되어야 합니다.
* 충성도 클럽 할인이 할인 제품의 판매를 증가시키는지 여부를 식별하기 위해 과거 데이터에 대한 임시 분석 쿼리를 실행합니다.
* 4시간마다 판매 데이터의 과거 수요를 기반으로 생산할 준비된 식품 품목의 수를 매장 직원에게 알립니다.
기술 요구 사항
Litware는 다음과 같은 기술 요구 사항을 식별합니다.
* 비즈니스 목표를 달성하는 데 필요한 다양한 Azure 서비스의 수를 최소화합니다.
* 가능한 한 PaaS(Platform as a Service) 제품을 사용하고 Litware에서 관리해야 하는 가상 머신을 프로비저닝하지 않아도 됩니다.
* 분석 데이터 저장소는 회사의 온-프레미스 네트워크 및 Azure 서비스에서만 액세스할 수 있는지 확인합니다.
* 가능할 때마다 Azure Active Directory(Azure AD) 인증을 사용합니다.
* 보안 설계 시 최소 권한 원칙을 사용합니다.
* 데이터를 분석 데이터 저장소에 로드하기 전에 Azure Data Lake Storage Gen2에서 인벤토리 데이터를 준비합니다. Litware는 데이터가 더 이상 사용되지 않으면 Data Lake Storage에서 일시적인 데이터를 제거하려고 합니다.
수정 날짜가 14일보다 오래된 파일은 제거해야 합니다.
* 전화번호와 같은 고객 연락처 정보에 대한 비즈니스 분석가의 액세스를 제한합니다. 이러한 유형의 데이터는 분석적으로 관련이 없기 때문입니다.
* 손상 또는 실수로 삭제된 경우 1시간 이내에 분석 데이터 저장소 사본을 신속하게 복원할 수 있는지 확인하십시오.
계획된 환경
Litware는 다음 환경을 구현할 계획입니다.
* 애플리케이션 개발팀은 판매 시점(POS) 시스템 및 Azure의 데이터 저장소에 데이터를 출력합니다.
* 이름, 연락처 정보, 로열티 번호를 포함한 고객 데이터는 SaaS 애플리케이션인 Salesforce에서 가져오며 8시간마다 한 번씩 Azure로 가져올 수 있습니다. 행 수정 날짜는 원본 테이블에서 신뢰할 수 없습니다.
* 제품 ID, 이름 및 범주를 포함한 제품 데이터는 Salesforce에서 가져오고 8시간마다 한 번씩 Azure로 가져올 수 있습니다. 행 수정 날짜는 원본 테이블에서 신뢰할 수 없습니다.
* 일일 인벤토리 데이터는 사설 네트워크에 있는 Microsoft SQL 서버에서 가져옵니다.
* Litware는 현재 5TB의 과거 판매 데이터와 100GB의 고객 데이터를 보유하고 있습니다. 회사는 내년에 매월 약 100GB의 새 데이터를 예상합니다.
* Litware는 FoodPrep이라는 사용자 지정 응용 프로그램을 구축하여 매장 직원에게 4시간마다 생산할 준비된 식품 품목의 수에 대한 계산 결과를 제공합니다.
* Litware는 온-프레미스 네트워크와 Azure 간에 Azure ExpressRoute 또는 VPN을 구현할 계획이 없습니다.

참조:
https://docs.microsoft.com/en-us/azure/azure-sql/database/dynamic-data-masking-overview