AIGP 문제 6
인공지능 모델의 작동을 평가하는 가장 중요한 정책은 다음 사항을 따르는 것입니다.
AIGP 문제 7
사례 연구
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
조달 과정에서 제3자 컨설턴트가 각 공급업체에게 데이터 세트의 다양성에 대한 정보를 요청한 가장 가능성 높은 이유는 무엇일까요?
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
조달 과정에서 제3자 컨설턴트가 각 공급업체에게 데이터 세트의 다양성에 대한 정보를 요청한 가장 가능성 높은 이유는 무엇일까요?
AIGP 문제 8
인공지능 영향 평가의 주된 목적은 무엇인가요?
AIGP 문제 9
대본:
한 기업이 자사 플랫폼에 통합할 목적으로 여러 타사 생성형 AI 도구를 평가하고 있습니다. AI 거버넌스 정책의 일환으로, 타사 솔루션 사용 시 편향, 데이터 오용 및 법적 책임과 관련된 위험을 줄이는 가장 효과적인 방법을 모색하고 있습니다.
다음 중 타사 AI 도구 또는 애플리케이션으로 인해 발생할 수 있는 잠재적 위험을 줄이기 위해 일반적으로 채택되는 프로세스 및 정책이 아닌 것은 무엇입니까?
한 기업이 자사 플랫폼에 통합할 목적으로 여러 타사 생성형 AI 도구를 평가하고 있습니다. AI 거버넌스 정책의 일환으로, 타사 솔루션 사용 시 편향, 데이터 오용 및 법적 책임과 관련된 위험을 줄이는 가장 효과적인 방법을 모색하고 있습니다.
다음 중 타사 AI 도구 또는 애플리케이션으로 인해 발생할 수 있는 잠재적 위험을 줄이기 위해 일반적으로 채택되는 프로세스 및 정책이 아닌 것은 무엇입니까?
AIGP 문제 10
What is the best method to apply to an AI model so that it is statistically unlikely that a specific piece of training data can be identified from a model ' s output?