AIGP 문제 76
대본:
한 조직이 시스템적 영향을 미칠 수 있는 강력한 범용 인공지능(GPAI) 모델을 개발하고 있습니다. 해당 조직의 규정 준수팀은 EU 인공지능법에 따라 적용되는 법적 의무 사항을 검토하고 있습니다.
EU AI법에 따라 다음 중 시스템적 위험이 있는 범용 AI 모델에만 적용되는 규정 준수 조치는 무엇입니까?
한 조직이 시스템적 영향을 미칠 수 있는 강력한 범용 인공지능(GPAI) 모델을 개발하고 있습니다. 해당 조직의 규정 준수팀은 EU 인공지능법에 따라 적용되는 법적 의무 사항을 검토하고 있습니다.
EU AI법에 따라 다음 중 시스템적 위험이 있는 범용 AI 모델에만 적용되는 규정 준수 조치는 무엇입니까?
AIGP 문제 77
A company is creating a mobile app to enable individuals to upload images and videos, and analyze this data using ML to provide lifestyle improvement recommendations. The signup form has the following data fields:
1.First name
2.Last name
3.Mobile number
4.Email ID
5.New password
6.Date of birth
7.Gender
In addition, the app obtains a device's IP address and location information while in use.
What GDPR privacy principles does this violate?
1.First name
2.Last name
3.Mobile number
4.Email ID
5.New password
6.Date of birth
7.Gender
In addition, the app obtains a device's IP address and location information while in use.
What GDPR privacy principles does this violate?
AIGP 문제 78
What is the technique to remove the effects of improperly used data from an ML system?
AIGP 문제 79
EU가 제품 책임 지침 개정을 검토하는 주된 이유는 무엇입니까?
AIGP 문제 80
사례 연구
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
경찰관은 체포 시 인공지능 시스템 사용에 대해 무엇을 설명해야 할까요?
다음 질문에 답하실 때 아래 내용을 참고해 주십시오.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 판매)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 인공지능(AI) 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 조사하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다.
이 시스템은 법 집행 기관에서 관리하는 데이터와 개인 정보를 대조한 후, 이전 범죄 경력, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율 점수로 나타냅니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체를 평가하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 해당 업체의 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰은 인공지능 시스템이 90% 이상의 점수를 준 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
경찰관은 체포 시 인공지능 시스템 사용에 대해 무엇을 설명해야 할까요?