AIGP 문제 31
다음 중 고위험 AI 시스템을 개발 및 배포한 EU 조직에 대해 공개 의무가 없는 것은 무엇입니까?
AIGP 문제 32
사례 연구
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
미국의 한 중견 규모 의료 네트워크가 성인에게서 가장 흔하게 발생하는 특정 유형의 암을 탐지하는 AI 솔루션을 개발하기로 결정했습니다. 구체적으로, 이 의료 네트워크는 모든 영상 자료를 초기 검토한 후, 합의된 기준(예: 신뢰도 점수가 임계값 미만인 경우)에 따라 영상의학과 전문의에게 2차 검토를 의뢰하는 인식 알고리즘을 개발할 계획입니다.
현재까지 해당 의료 네트워크는 다음과 같은 조치를 취했습니다. AI 윤리 원칙을 정의하고, 시스템의 의도된 사용 목적과 성공 기준을 파악하기 위한 사전 조사를 수행했으며, AI 거버넌스 위원회를 설립하고, 명확한 역할과 책임을 가진 광범위하고 다양한 분야의 전문가로 구성된 팀을 구성했으며, 프로젝트 진행 과정에서 표준, 워크플로, 일정 및 위험 임계값을 문서화하는 정책 및 절차를 수립했습니다.
해당 의료 네트워크는 솔루션 호스팅을 위해 클라우드 제공업체를 선정하고, 의료 네트워크의 기존 데이터와 미국의 대형 임상 연구 파트너로부터 라이선스를 받은 익명화된 데이터를 활용하여 알고리즘 개발을 지원할 컨설팅 회사를 선정할 계획입니다.
설계 단계에서 임상 연구 파트너로부터 데이터를 수집하는 데 있어 다음 단계 중 가장 중요한 단계는 무엇입니까?
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
미국의 한 중견 규모 의료 네트워크가 성인에게서 가장 흔하게 발생하는 특정 유형의 암을 탐지하는 AI 솔루션을 개발하기로 결정했습니다. 구체적으로, 이 의료 네트워크는 모든 영상 자료를 초기 검토한 후, 합의된 기준(예: 신뢰도 점수가 임계값 미만인 경우)에 따라 영상의학과 전문의에게 2차 검토를 의뢰하는 인식 알고리즘을 개발할 계획입니다.
현재까지 해당 의료 네트워크는 다음과 같은 조치를 취했습니다. AI 윤리 원칙을 정의하고, 시스템의 의도된 사용 목적과 성공 기준을 파악하기 위한 사전 조사를 수행했으며, AI 거버넌스 위원회를 설립하고, 명확한 역할과 책임을 가진 광범위하고 다양한 분야의 전문가로 구성된 팀을 구성했으며, 프로젝트 진행 과정에서 표준, 워크플로, 일정 및 위험 임계값을 문서화하는 정책 및 절차를 수립했습니다.
해당 의료 네트워크는 솔루션 호스팅을 위해 클라우드 제공업체를 선정하고, 의료 네트워크의 기존 데이터와 미국의 대형 임상 연구 파트너로부터 라이선스를 받은 익명화된 데이터를 활용하여 알고리즘 개발을 지원할 컨설팅 회사를 선정할 계획입니다.
설계 단계에서 임상 연구 파트너로부터 데이터를 수집하는 데 있어 다음 단계 중 가장 중요한 단계는 무엇입니까?
AIGP 문제 33
사례 연구
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 거래)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 AI 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다. 식별된 개인 정보를 법 집행 기관이 보유한 데이터와 대조한 후, 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율로 점수화합니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체에 대한 평가를 지원하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이러한 정보를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능(AI) 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰서는 AI 시스템이 90% 이상의 점수를 부여한 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
조달 과정에서 제3자 컨설턴트가 각 공급업체에게 데이터 세트의 다양성에 대한 정보를 요청한 가장 가능성 높은 이유는 무엇일까요?
다음 질문에 대한 답변은 아래 내용을 참고해 주세요.
미국의 한 지역 경찰서가 불법 활동(예: 마약 판매 또는 장물 거래)의 증거를 탐지하기 위해 소셜 미디어, 온라인 마켓플레이스 및 기타 공개 정보 출처를 모니터링하고 분석하는 AI 시스템을 도입했습니다. 이 AI 시스템은 공개 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별하는 방식으로 작동합니다. 식별된 개인 정보를 법 집행 기관이 보유한 데이터와 대조한 후, 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요소를 기반으로 범죄 활동 가능성을 백분율로 점수화합니다.
경찰서는 조달 과정, 특히 최종 후보 두 업체에 대한 평가를 지원하기 위해 외부 컨설턴트를 고용했습니다. 각 업체는 시스템의 정확도, 훈련 데이터의 다양성, 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 업체의 시스템이 더 높은 정확도를 보인다고 판단하고, 이러한 정보를 바탕으로 해당 업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 업체를 선정하여 AI 시스템을 도입했습니다. 시스템 도입 과정의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 수립했으며, 여기에는 경찰관들에게 시스템 작동 방식과 수사 과정에 시스템을 활용하는 방법을 교육하는 내용이 포함됩니다.
경찰서는 인공지능(AI) 시스템을 1년 동안 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 가능성을 90% 이상으로 평가한 모든 경우에 경찰 수사에서 해당 인물이 실제로 범죄를 저지른 것으로 확인되었습니다. 이러한 결과를 바탕으로 경찰서는 AI 시스템이 90% 이상의 점수를 부여한 사건에 대해서는 수사를 생략하고 바로 체포로 진행하기를 원합니다.
조달 과정에서 제3자 컨설턴트가 각 공급업체에게 데이터 세트의 다양성에 대한 정보를 요청한 가장 가능성 높은 이유는 무엇일까요?
AIGP 문제 34
한 기업의 인공지능 기반 채용 도구가 비슷한 자격을 갖춘 여성 지원자보다 남성 지원자를 지속적으로 더 높게 평가하는 것으로 나타났습니다.
다음 중 이 문제를 해결하기 위해 가장 시급하고 중요한 정부 조치는 무엇입니까?
다음 중 이 문제를 해결하기 위해 가장 시급하고 중요한 정부 조치는 무엇입니까?
AIGP 문제 35
인공지능의 자원 집약적인 컴퓨팅 요구 사항과 관련된 조직적 위험 유형은 무엇입니까?