Databricks-Certified-Professional-Data-Engineer-KR 문제 41

PySpark에서 ETL 코드에 DataFrame.transform을 사용하는 모듈식 및 테스트 가능한 방법을 보여주는 접근 방식은 무엇입니까?

Databricks-Certified-Professional-Data-Engineer-KR 문제 42

데이터 엔지니어 팀은 새로운 데이터 파이프라인으로 마이그레이션을 시작하기 전에 개발, 테스트 및 프로덕션 환경을 구성하고 있습니다. 팀은 코드 실행 결과로 생성되는 코드와 데이터 모두에 대한 광범위한 테스트가 필요하며, 가능한 한 실제 운영 환경과 유사한 데이터를 사용하여 개발 및 테스트를 진행하고자 합니다.
신입 데이터 엔지니어가 프로덕션 데이터를 개발 테스트 환경에 마운트하여 프로덕션 전 코드가 프로덕션 데이터를 대상으로 실행될 수 있도록 하자고 제안했습니다. 개발 환경에서는 모든 사용자가 관리자 권한을 가지고 있으므로, 해당 엔지니어는 팀을 위해 권한을 설정하고 데이터를 마운트하는 작업을 직접 수행하겠다고 했습니다.
다음 중 이 상황에 대한 최적의 방안을 나타내는 진술은 무엇입니까?

Databricks-Certified-Professional-Data-Engineer-KR 문제 43

상위 소스는 Parquet 데이터를 시간 단위로 현재 날짜로 명명된 디렉터리에 배치 형식으로 저장합니다. 야간 배치 작업은 날짜 변수에 지정된 날짜의 전날 데이터를 모두 가져오기 위해 다음 코드를 실행합니다.

customer_id와 order_id 필드가 각 주문을 고유하게 식별하는 복합 키 역할을 한다고 가정합니다.
상위 시스템에서 단일 주문에 대해 몇 시간 간격으로 중복 항목이 생성되는 경우가 있는 것으로 알려져 있다면, 다음 중 어떤 설명이 맞습니까?

Databricks-Certified-Professional-Data-Engineer-KR 문제 44

쿼리 실행 시간이 너무 오래 걸립니다. Spark UI를 조사한 결과, 데이터 엔지니어는 상당한 양의 디스크 스필이 발생했음을 발견했습니다. 사용 중인 컴퓨팅 인스턴스의 코어 대 메모리 비율은 1:2입니다.
데이터 엔지니어가 데이터 유출을 최소화하기 위해 취해야 할 두 가지 단계는 무엇입니까? (두 가지를 선택하세요)

Databricks-Certified-Professional-Data-Engineer-KR 문제 45

델타 호수에 해당하는 것은 무엇일까요?