AIGP 문제 36
CASE STUDY
Please use the following to answer the next question:
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
제3자 컨설턴트가 요청한 정보 범주를 기준으로 할 때, 조달 과정에서 식별되지 않았을 AI 위험은 무엇입니까?
Please use the following to answer the next question:
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
제3자 컨설턴트가 요청한 정보 범주를 기준으로 할 때, 조달 과정에서 식별되지 않았을 AI 위험은 무엇입니까?
AIGP 문제 37
프랑스의 한 의료 연구 센터는 환자의 유전 정보를 바탕으로 심각한 질병의 위험을 예측하는 인공지능 기반 시스템을 개발하고자 합니다. 이를 위해 센터는 한 기술 회사와 계약을 체결하고, 연구 과정에서 수집한 환자 데이터를 해당 회사에 제공합니다. 민감한 개인정보를 처리할 때 관련 법규를 준수하기 위해 의료 연구 센터는 다음 사항을 보장해야 합니다.
AIGP 문제 38
In the machine learning context, feature engineering is the process of?
AIGP 문제 39
한 조직에서 개인 정보 처리에 대한 자동화된 의사 결정을 위해 AI를 사용하는 새로운 내부 애플리케이션을 도입할 예정입니다. 투명성을 확보하기 위해 다음 문서 중 어떤 문서를 업데이트해야 합니까?
AIGP 문제 40
다음 중 AI 시스템에 대한 책임성을 가장 효과적으로 고취하는 것은 무엇입니까?