AIGP 문제 26
Sam Simon is charged with implementing an AI governance program at his company, Spenger Inc. The company has implemented some AI systems already but has not really considered the risks involved and wants to ensure it has solid procedures and policies in place.
Sam researches how to build an AI governance program, including talking with some of the company's other risk management professionals and the legal department to determine the best way to begin. Sam knows an algorithmic impact assessment is necessary to manage AI risks and adopt responsible, ethical AI practices, but he is not sure where to begin.
Which of the following options will help ensure the assessment is both appropriate and effective.
What should Sam do first?
Sam researches how to build an AI governance program, including talking with some of the company's other risk management professionals and the legal department to determine the best way to begin. Sam knows an algorithmic impact assessment is necessary to manage AI risks and adopt responsible, ethical AI practices, but he is not sure where to begin.
Which of the following options will help ensure the assessment is both appropriate and effective.
What should Sam do first?
AIGP 문제 27
인공지능 영향 평가의 주된 목적은 무엇인가요?
AIGP 문제 28
GDPR에 따르면, 개인은 자동화된 결정이 다음과 같은 경우가 아닌 한, 사람이 해당 결정을 확인하거나 대체하도록 요청할 권리가 있습니다.
AIGP 문제 29
사례 연구
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 중견 규모 의료 네트워크가 성인에게 가장 흔하게 발생하는 암 유형을 탐지하는 인공지능(AI) 솔루션을 개발하기로 결정했습니다. 구체적으로, 이 의료 네트워크는 모든 영상 자료를 초기 검토한 후, 합의된 기준(예: 특정 임계값 미만의 신뢰도 점수)에 따라 영상의학과 전문의에게 2차 검토를 의뢰하는 인식 알고리즘을 개발할 계획입니다.
현재까지 해당 의료 네트워크는 다음과 같은 성과를 거두었습니다.
- 인공지능 윤리 원칙을 정의했습니다.
- 의도된 사용 목적과 성공 가능성을 파악하기 위한 사전 조사 활동을 수행했습니다.
시스템 기준.
- AI 위험 위원회를 설립했습니다.
- 명확한 역할 분담을 통해 여러 부서로 구성된 팀을 구성했습니다.
책임.
- 표준 및 워크플로를 문서화하기 위한 정책 및 절차를 수립했습니다.
프로젝트 진행 중 일정 및 위험 허용 범위.
해당 의료 네트워크는 솔루션 호스팅을 위해 클라우드 제공업체를 선정할 예정입니다. 또한, 소규모 데이터 과학 팀을 보완하고 의료 네트워크가 보유한 기존 데이터와 미국 대형 임상 연구 파트너로부터 라이선스 받은 익명화된 데이터를 활용하여 알고리즘을 개발하는 데 도움을 줄 대형 컨설팅 회사도 고용할 계획입니다.
의료 네트워크의 기존 데이터와 임상 연구 파트너의 데이터를 결합할 때 가장 큰 위험은 무엇입니까?
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 중견 규모 의료 네트워크가 성인에게 가장 흔하게 발생하는 암 유형을 탐지하는 인공지능(AI) 솔루션을 개발하기로 결정했습니다. 구체적으로, 이 의료 네트워크는 모든 영상 자료를 초기 검토한 후, 합의된 기준(예: 특정 임계값 미만의 신뢰도 점수)에 따라 영상의학과 전문의에게 2차 검토를 의뢰하는 인식 알고리즘을 개발할 계획입니다.
현재까지 해당 의료 네트워크는 다음과 같은 성과를 거두었습니다.
- 인공지능 윤리 원칙을 정의했습니다.
- 의도된 사용 목적과 성공 가능성을 파악하기 위한 사전 조사 활동을 수행했습니다.
시스템 기준.
- AI 위험 위원회를 설립했습니다.
- 명확한 역할 분담을 통해 여러 부서로 구성된 팀을 구성했습니다.
책임.
- 표준 및 워크플로를 문서화하기 위한 정책 및 절차를 수립했습니다.
프로젝트 진행 중 일정 및 위험 허용 범위.
해당 의료 네트워크는 솔루션 호스팅을 위해 클라우드 제공업체를 선정할 예정입니다. 또한, 소규모 데이터 과학 팀을 보완하고 의료 네트워크가 보유한 기존 데이터와 미국 대형 임상 연구 파트너로부터 라이선스 받은 익명화된 데이터를 활용하여 알고리즘을 개발하는 데 도움을 줄 대형 컨설팅 회사도 고용할 계획입니다.
의료 네트워크의 기존 데이터와 임상 연구 파트너의 데이터를 결합할 때 가장 큰 위험은 무엇입니까?
AIGP 문제 30
사례 연구
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
ABC Corp는 개인 고객에게 다양한 보험 상품을 제공하는 선도적인 보험사입니다. ABC는 인공지능을 활용하여 고객 확보 및 보험 인수 프로세스를 간소화하고 개선하기로 결정했으며, 여기에는 보험료 책정의 정확성과 효율성 향상도 포함됩니다.
ABC는 클라우드 서비스 제공업체와 계약을 체결하여 사전 학습된 범용 대규모 언어 모델(LLM)을 활용하고 최적화할 계획입니다. 특히 ABC는 신청서, 보험 계약, 청구 내역을 포함한 기존 고객 데이터와 자체 개발한 가격 책정 및 위험 관리 전략을 활용하여 잠재 고객에 대한 초기 적격성 평가를 수행하고, 이를 담당 언더라이터에게 전달하여 최종 검토를 받도록 할 예정입니다.
ABC와 클라우드 제공업체는 LLM에 대한 교육 및 테스트를 완료하고 준비 상태 평가를 수행한 후 LLM을 실제 운영 환경에 배포하기로 결정했습니다. ABC는 내부 규정 준수 팀을 구성하여 첫 달 동안 모델을 모니터링하고, 특히 결과의 정확성, 공정성 및 신뢰성을 평가하도록 했습니다. 첫 달 운영 후, ABC는 LLM이 여성의 대출 신청을 거절하는 비율이 더 높다는 것을 알게 되었는데, 이는 주로 여성이 남성보다 역사적으로 낮은 임금을 받아왔기 때문입니다.
다음 단계 중 운영 첫 달 동안 규정 준수 팀이 공정성 테스트를 수행하는 데 도움이 되지 않는 단계는 무엇입니까?
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
ABC Corp는 개인 고객에게 다양한 보험 상품을 제공하는 선도적인 보험사입니다. ABC는 인공지능을 활용하여 고객 확보 및 보험 인수 프로세스를 간소화하고 개선하기로 결정했으며, 여기에는 보험료 책정의 정확성과 효율성 향상도 포함됩니다.
ABC는 클라우드 서비스 제공업체와 계약을 체결하여 사전 학습된 범용 대규모 언어 모델(LLM)을 활용하고 최적화할 계획입니다. 특히 ABC는 신청서, 보험 계약, 청구 내역을 포함한 기존 고객 데이터와 자체 개발한 가격 책정 및 위험 관리 전략을 활용하여 잠재 고객에 대한 초기 적격성 평가를 수행하고, 이를 담당 언더라이터에게 전달하여 최종 검토를 받도록 할 예정입니다.
ABC와 클라우드 제공업체는 LLM에 대한 교육 및 테스트를 완료하고 준비 상태 평가를 수행한 후 LLM을 실제 운영 환경에 배포하기로 결정했습니다. ABC는 내부 규정 준수 팀을 구성하여 첫 달 동안 모델을 모니터링하고, 특히 결과의 정확성, 공정성 및 신뢰성을 평가하도록 했습니다. 첫 달 운영 후, ABC는 LLM이 여성의 대출 신청을 거절하는 비율이 더 높다는 것을 알게 되었는데, 이는 주로 여성이 남성보다 역사적으로 낮은 임금을 받아왔기 때문입니다.
다음 단계 중 운영 첫 달 동안 규정 준수 팀이 공정성 테스트를 수행하는 데 도움이 되지 않는 단계는 무엇입니까?