Professional-Data-Engineer 문제 111

사례 연구 2 - MJTelco
회사 개요
MJTelco는 전 세계에서 빠르게 성장하고 서비스가 부족한 시장에 네트워크를 구축할 계획인 신생 기업입니다.
이 회사는 혁신적인 광통신 하드웨어에 대한 특허를 보유하고 있습니다. 이러한 특허를 기반으로 저렴한 하드웨어로 안정적인 고속 백본 링크를 많이 만들 수 있습니다.
회사 배경
경험이 풍부한 통신 경영진이 설립한 MJTelco는 원래 우주에서 통신 문제를 극복하기 위해 개발된 기술을 사용합니다. 운영의 기본은 실시간 분석을 주도하고 기계 학습을 통합하여 토폴로지를 지속적으로 최적화하는 분산 데이터 인프라를 구축해야 합니다. 하드웨어가 저렴하기 때문에 위치 가용성 및 비용에 대한 역동적인 지역 정치의 영향을 설명할 수 있도록 네트워크를 과도하게 배포할 계획입니다.
그들의 관리 및 운영 팀은 데이터 소비자 사이의 다 대 다 관계를 생성하고 시스템에서 제공하는 전 세계에 위치하고 있습니다. 신중한 고려 끝에 그들은 퍼블릭 클라우드가 그들의 요구를 지원하는 완벽한 환경이라고 결정했습니다.
솔루션 개념
MJTelco는 자체 연구실에서 성공적인 개념 증명(PoC) 프로젝트를 실행하고 있습니다. 그들은 두 가지 기본 요구 사항이 있습니다.
* PoC를 확장하고 강화하여 50,000개 이상의 설치로 진입할 때 생성되는 훨씬 더 많은 데이터 흐름을 지원합니다.
* 기계 학습 주기를 조정하여 토폴로지 정의를 제어하는 ​​데 사용하는 동적 모델을 확인하고 개선합니다.
MJTelco는 또한 개발/테스트, 스테이징 및 프로덕션의 세 가지 개별 운영 환경을 사용하여 실험 실행, 새로운 기능 배포 및 프로덕션 고객 서비스 요구를 충족할 것입니다.
비즈니스 요구 사항
* 최소한의 비용으로 프로덕션 환경을 확장하고 예측할 수 없는 분산 통신 사용자 커뮤니티에서 필요할 때 언제 어디서나 리소스를 인스턴스화합니다.
* 최첨단 기계 학습 및 분석을 보호하기 위해 독점 데이터의 보안을 보장합니다.
* 분산된 연구 작업자의 분석을 위해 데이터에 대한 안정적이고 시기 적절한 액세스 제공
* 고객에게 영향을 주지 않고 기계 학습 모델의 신속한 반복을 지원하는 격리된 환경을 유지합니다.
기술 요구 사항
* 원격 측정 데이터의 안전하고 효율적인 전송 및 저장 보장
* 인스턴스를 빠르게 확장하여 각각 여러 흐름이 있는 10,000~100,000개의 데이터 공급자를 지원합니다.
* 약 2년 동안 저장된 데이터를 추적하는 데이터 테이블에 대한 분석 및 프레젠테이션 허용
100m 레코드/일
* 원격 측정 흐름과 프로덕션 학습 주기 모두에서 데이터 파이프라인 문제 인식에 초점을 맞춘 모니터링 인프라의 신속한 반복을 지원합니다.
CEO 성명서
우리의 비즈니스 모델은 특허, 분석 및 동적 기계 학습에 의존합니다. 우리의 저렴한 하드웨어는 매우 안정적으로 구성되어 비용상의 이점을 제공합니다. 안정성 및 용량 약속을 충족하려면 대규모 분산 데이터 파이프라인을 신속하게 안정화해야 합니다.
CTO 선언문
우리의 퍼블릭 클라우드 서비스는 광고된 대로 작동해야 합니다. 데이터를 확장하고 안전하게 유지하는 리소스가 필요합니다. 또한 데이터 과학자가 모델을 신중하게 연구하고 신속하게 조정할 수 있는 환경도 필요합니다. 우리는 데이터를 처리하기 위해 자동화에 의존하기 때문에 반복하면서 작동할 개발 및 테스트 환경도 필요합니다.
CFO 선언문
데이터 및 분석에 필요한 하드웨어와 소프트웨어를 유지 관리하기에는 프로젝트가 너무 큽니다.
또한 많은 데이터 피드를 모니터링하기 위해 운영 팀에 인력을 배치할 여력이 없으므로 자동화 및 인프라에 의존할 것입니다. Google Cloud의 기계 학습을 통해 양적 연구원은 데이터 파이프라인의 문제가 아니라 가치가 높은 문제를 해결할 수 있습니다.
MJTelco는 지난 2년간의 기록을 분석할 수 있도록 Google Bigtable에서 스키마를 생성해야 합니다. 들어오는 각 레코드는 15분마다 전송되며 장치의 고유 식별자와 데이터 레코드를 포함합니다. 가장 일반적인 쿼리는 특정 날짜의 특정 장치에 대한 모든 데이터에 대한 것입니다. 어떤 스키마를 사용해야 합니까?

Professional-Data-Engineer 문제 112

Google Cloud Bigtable 스키마를 설계할 때 _________하는 것이 좋습니다.

Professional-Data-Engineer 문제 113

귀하의 회사는 매시간 20,000개의 파일을 생성합니다. 각 데이터 파일은 4KB 미만의 CSV(쉼표로 구분된 값) 파일 형식입니다. 모든 파일은 처리되기 전에 Google Cloud Platform에서 처리되어야 합니다. 회사 사이트의 Google Cloud 지연 시간은 200ms이고 인터넷 연결 대역폭은 50Mbps로 제한됩니다. 현재 데이터 수집 지점으로 Google Compute Engine의 가상 머신에 보안 FTP(SFTP) 서버를 배포하고 있습니다. 로컬 SFTP 클라이언트는 CSV 파일을 있는 그대로 전송하기 위해 전용 시스템에서 실행됩니다. 목표는 경영진이 사용할 수 있는 전날의 데이터로 보고서를 만드는 것입니다.
매일 오전 10시. 이 디자인은 대역폭 사용률이 다소 낮음에도 불구하고 현재 볼륨을 간신히 따라잡을 수 있습니다.
계절성으로 인해 회사에서 향후 3개월 동안 파일 수가 두 배가 될 것으로 예상한다고 들었습니다. 어떤 두 가지 조치를 취해야 합니까? (두 가지를 선택하세요.)

Professional-Data-Engineer 문제 114

MJTelco 사례 연구
회사 개요
MJTelco는 전 세계에서 빠르게 성장하고 서비스가 부족한 시장에 네트워크를 구축할 계획인 신생 기업입니다. 이 회사는 혁신적인 광통신 하드웨어에 대한 특허를 보유하고 있습니다. 이러한 특허를 기반으로 저렴한 하드웨어로 안정적인 고속 백본 링크를 많이 만들 수 있습니다.
회사 배경
경험이 풍부한 통신 경영진이 설립한 MJTelco는 원래 우주에서 통신 문제를 극복하기 위해 개발된 기술을 사용합니다. 운영의 기본은 실시간 분석을 주도하고 기계 학습을 통합하여 토폴로지를 지속적으로 최적화하는 분산 데이터 인프라를 구축해야 합니다. 하드웨어가 저렴하기 때문에 위치 가용성 및 비용에 대한 역동적인 지역 정치의 영향을 설명할 수 있도록 네트워크를 과도하게 배포할 계획입니다.
그들의 관리 및 운영 팀은 데이터 소비자 사이의 다 대 다 관계를 생성하고 시스템에서 제공하는 전 세계에 위치하고 있습니다. 신중한 고려 끝에 그들은 퍼블릭 클라우드가 그들의 요구를 지원하는 완벽한 환경이라고 결정했습니다.
솔루션 개념
MJTelco는 자체 연구실에서 성공적인 개념 증명(PoC) 프로젝트를 실행하고 있습니다. 그들은 두 가지 기본 요구 사항이 있습니다.
PoC를 확장하고 강화하여 더 많은 데이터 흐름을 생성할 때 생성되는 훨씬 더 많은 데이터 흐름을 지원합니다.

50,000개 이상의 설치.
제어에 사용하는 동적 모델을 확인하고 개선하기 위해 기계 학습 주기를 개선합니다.

토폴로지 정의.
MJTelco는 또한 개발/테스트, 스테이징 및 프로덕션의 세 가지 별도 운영 환경을 사용합니다.
- 실험 실행, 새로운 기능 배포 및 프로덕션 고객 서비스 요구 사항을 충족합니다.
비즈니스 요구 사항
최소 비용으로 생산 환경을 확장하고 언제 어디서나 리소스를 인스턴스화합니다.

예측할 수 없는 분산 통신 사용자 커뮤니티에 필요합니다.
최첨단 기계 학습 및 분석을 보호하기 위해 독점 데이터의 보안을 보장합니다.

분산된 연구 작업자의 분석을 위해 데이터에 대한 안정적이고 시기적절한 액세스 제공

없이 기계 학습 모델의 신속한 반복을 지원하는 격리된 환경을 유지합니다.

고객에게 영향을 미칩니다.
기술 요구 사항
원격 측정 데이터의 안전하고 효율적인 전송 및 저장 보장

여러 흐름으로 10,000에서 100,000 사이의 데이터 공급자를 지원하도록 인스턴스를 빠르게 확장

각.
약 2년 동안 저장된 데이터를 추적하는 데이터 테이블에 대한 분석 및 프레젠테이션 허용

100m 레코드/일
데이터 파이프라인 문제 인식에 초점을 맞춘 모니터링 인프라의 신속한 반복 지원

원격 측정 흐름과 프로덕션 학습 주기 모두에서.
CEO 성명서
우리의 비즈니스 모델은 특허, 분석 및 동적 기계 학습에 의존합니다. 우리의 저렴한 하드웨어는 매우 안정적으로 구성되어 비용상의 이점을 제공합니다. 안정성 및 용량 약속을 충족하려면 대규모 분산 데이터 파이프라인을 신속하게 안정화해야 합니다.
CTO 선언문
우리의 퍼블릭 클라우드 서비스는 광고된 대로 작동해야 합니다. 데이터를 확장하고 안전하게 유지하는 리소스가 필요합니다. 또한 데이터 과학자가 모델을 신중하게 연구하고 신속하게 조정할 수 있는 환경도 필요합니다. 우리는 데이터를 처리하기 위해 자동화에 의존하기 때문에 반복하면서 작동할 개발 및 테스트 환경도 필요합니다.
CFO 선언문
데이터 및 분석에 필요한 하드웨어와 소프트웨어를 유지 관리하기에는 프로젝트가 너무 큽니다.
또한 많은 데이터 피드를 모니터링하기 위해 운영 팀에 인력을 배치할 여력이 없으므로 자동화 및 인프라에 의존할 것입니다. Google Cloud의 기계 학습을 통해 양적 연구원은 데이터 파이프라인의 문제가 아니라 가치가 높은 문제를 해결할 수 있습니다.
MJTelco는 지난 2년간의 기록을 분석할 수 있도록 Google Bigtable에서 스키마를 생성해야 합니다. 들어오는 각 레코드는 15분마다 전송되며 장치의 고유 식별자와 데이터 레코드를 포함합니다. 가장 일반적인 쿼리는 특정 날짜의 특정 장치에 대한 모든 데이터에 대한 것입니다. 어떤 스키마를 사용해야 합니까?

Professional-Data-Engineer 문제 115

잘 설계된 행 키를 사용하여 Cloud Bigtable에 데이터를 쓰는 데이터 파이프라인이 있습니다. Cloud Bigtable 클러스터의 크기를 언제 늘릴지 결정하기 위해 파이프라인을 모니터링하려고 합니다. 이를 달성하기 위해 취할 수 있는 두 가지 조치는 무엇입니까? (두 가지를 선택하세요.)