AIGP 문제 26
AI의 리소스 집약적 컴퓨팅 요구와 관련된 조직적 위험의 유형은 무엇입니까?
AIGP 문제 27
사례 연구
다음 질문에는 다음을 사용하여 답변하세요.
미국의 한 지방 경찰서가 소셜 미디어 피드, 온라인 마켓플레이스 및 기타 공공 정보 출처를 모니터링하고 분석하여 불법 활동(예: 약물 판매 또는 도난품 판매)의 증거를 감지하는 AI 시스템을 조달했습니다. AI 시스템은 공공 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별합니다. 법 집행 기관에서 관리하는 데이터와 개인을 교차 참조한 다음 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요인을 기반으로 범죄 활동 가능성의 백분율 점수를 할당합니다.
경찰서는 조달 과정에서 제3자 컨설턴트의 지원을 유지했는데, 특히 두 개의 최종 후보를 평가하기 위해서였습니다. 각 공급업체는 시스템의 정확도, 교육 데이터의 다양성 및 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 공급업체의 시스템의 정확도가 더 높다고 판단했고, 이 정보를 바탕으로 이 공급업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 공급업체를 선택하여 AI 시스템을 구현했습니다. 구현의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 만들었는데, 여기에는 경찰관에게 시스템 작동 방식과 조사 프로세스에 통합하는 방법에 대한 교육이 포함됩니다.
경찰서는 이제 1년 동안 Al 시스템을 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 활동 가능성을 90% 이상으로 평가할 때마다 경찰 조사에서 해당 개인이 실제로 범죄를 저질렀다는 사실이 확인되었습니다. 이러한 결과에 따라 경찰서는 Al 시스템이 최소 90%의 점수를 부여한 사건에 대한 조사를 포기하고 바로 체포를 진행하려고 합니다.
제3자 컨설턴트가 요청한 정보 범주를 기준으로 볼 때 조달 과정에서 식별되지 않았을 수 있는 AI 위험은 무엇입니까?
다음 질문에는 다음을 사용하여 답변하세요.
미국의 한 지방 경찰서가 소셜 미디어 피드, 온라인 마켓플레이스 및 기타 공공 정보 출처를 모니터링하고 분석하여 불법 활동(예: 약물 판매 또는 도난품 판매)의 증거를 감지하는 AI 시스템을 조달했습니다. AI 시스템은 공공 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별합니다. 법 집행 기관에서 관리하는 데이터와 개인을 교차 참조한 다음 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요인을 기반으로 범죄 활동 가능성의 백분율 점수를 할당합니다.
경찰서는 조달 과정에서 제3자 컨설턴트의 지원을 유지했는데, 특히 두 개의 최종 후보를 평가하기 위해서였습니다. 각 공급업체는 시스템의 정확도, 교육 데이터의 다양성 및 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 공급업체의 시스템의 정확도가 더 높다고 판단했고, 이 정보를 바탕으로 이 공급업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 공급업체를 선택하여 AI 시스템을 구현했습니다. 구현의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 만들었는데, 여기에는 경찰관에게 시스템 작동 방식과 조사 프로세스에 통합하는 방법에 대한 교육이 포함됩니다.
경찰서는 이제 1년 동안 Al 시스템을 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 활동 가능성을 90% 이상으로 평가할 때마다 경찰 조사에서 해당 개인이 실제로 범죄를 저질렀다는 사실이 확인되었습니다. 이러한 결과에 따라 경찰서는 Al 시스템이 최소 90%의 점수를 부여한 사건에 대한 조사를 포기하고 바로 체포를 진행하려고 합니다.
제3자 컨설턴트가 요청한 정보 범주를 기준으로 볼 때 조달 과정에서 식별되지 않았을 수 있는 AI 위험은 무엇입니까?
AIGP 문제 28
AI 시스템을 훈련할 때 공정성을 보장하는 데 가장 중요한 요소는 무엇입니까?
AIGP 문제 29
사례 연구
다음 질문에는 다음을 사용하여 답변하세요.
중간 규모의 미국 의료 네트워크는 성인에서 발생할 가능성이 가장 높은 암 유형을 감지하는 AI 솔루션을 개발하기로 결정했습니다. 구체적으로, 의료 네트워크는 모든 영상에 대한 초기 검토를 수행한 다음 합의된 기준(예: 임계값 아래의 신뢰 점수)에 따라 2차 검토를 위해 방사선과 의사에게 기록을 라우팅하는 인식 알고리즘을 만들려고 합니다.
지금까지 의료 네트워크는 다음과 같은 단계를 거쳤습니다. AI 윤리 원칙 정의, 시스템의 의도된 사용 목적과 성공 기준을 파악하기 위한 조사 수행, AI 거버넌스 위원회 설립, 명확한 역할과 책임을 지닌 광범위하고 다기능적인 팀 구성, 프로젝트 기간 동안 표준, 워크플로, 타임라인 및 위험 임계값을 문서화하기 위한 정책 및 절차 작성.
의료 네트워크는 솔루션을 호스팅할 클라우드 공급업체와, 의료 네트워크의 기존 데이터와 대규모 미국 임상 연구 파트너로부터 라이선스를 받은 익명화된 데이터를 사용하여 알고리즘을 개발하는 데 도움을 줄 컨설팅 회사를 고용할 계획입니다.
설계 단계에서 임상 연구 파트너로부터 데이터를 수집하는 데 가장 중요한 단계는 무엇입니까?
다음 질문에는 다음을 사용하여 답변하세요.
중간 규모의 미국 의료 네트워크는 성인에서 발생할 가능성이 가장 높은 암 유형을 감지하는 AI 솔루션을 개발하기로 결정했습니다. 구체적으로, 의료 네트워크는 모든 영상에 대한 초기 검토를 수행한 다음 합의된 기준(예: 임계값 아래의 신뢰 점수)에 따라 2차 검토를 위해 방사선과 의사에게 기록을 라우팅하는 인식 알고리즘을 만들려고 합니다.
지금까지 의료 네트워크는 다음과 같은 단계를 거쳤습니다. AI 윤리 원칙 정의, 시스템의 의도된 사용 목적과 성공 기준을 파악하기 위한 조사 수행, AI 거버넌스 위원회 설립, 명확한 역할과 책임을 지닌 광범위하고 다기능적인 팀 구성, 프로젝트 기간 동안 표준, 워크플로, 타임라인 및 위험 임계값을 문서화하기 위한 정책 및 절차 작성.
의료 네트워크는 솔루션을 호스팅할 클라우드 공급업체와, 의료 네트워크의 기존 데이터와 대규모 미국 임상 연구 파트너로부터 라이선스를 받은 익명화된 데이터를 사용하여 알고리즘을 개발하는 데 도움을 줄 컨설팅 회사를 고용할 계획입니다.
설계 단계에서 임상 연구 파트너로부터 데이터를 수집하는 데 가장 중요한 단계는 무엇입니까?
AIGP 문제 30
귀하는 대형 전자상거래 회사의 개인정보 보호 프로그램 관리자로, 회사 웹사이트, 챗봇 및 회사가 소셜 미디어에서 수집한 공개 데이터에서 수집한 방문자의 개인정보를 기반으로 개인화된 제품을 추천하기 위해 AI 도구를 사용합니다.
사용자는 해당 미국 주 개인정보보호법에 따라 데이터 접근 요청을 제출하며, 특히 제품 추천을 위한 프로필을 만드는 데 사용된 정보를 포함한 개인 데이터의 사본을 요청합니다.
이 요청을 관리하는 데 가장 어려운 측면은 무엇입니까?
사용자는 해당 미국 주 개인정보보호법에 따라 데이터 접근 요청을 제출하며, 특히 제품 추천을 위한 프로필을 만드는 데 사용된 정보를 포함한 개인 데이터의 사본을 요청합니다.
이 요청을 관리하는 데 가장 어려운 측면은 무엇입니까?