AIGP 문제 6
특정 학습 데이터가 모델이나 그 출력에 무시할 수 있는 이상의 영향을 미치지 않는다는 것을 수학적 증명할 수 있도록 LLM을 사전에 학습시키는 가장 좋은 방법은 무엇입니까?
AIGP 문제 7
사례 연구
다음 질문에는 다음을 사용하여 답변하세요.
전 세계적으로 수천 명의 직원을 고용하는 최고의 급여 서비스 회사인 XYZ Corp.는 새로운 채용 캠페인을 시작하고 있으며 최고의 인재를 식별하고 유지하기 위한 정책과 절차를 구현하고자 합니다. 새로운 인재는 회사의 제품 팀이 아시아를 포함한 의료 및 운송 부문의 회사에 급여 서비스를 확대하는 데 도움이 될 것입니다.
인사부가 모든 이력서를 검토하는 것은 시간과 비용이 많이 소요되는 일이며, 인간 검토자가 편견을 가질 수 있다는 우려도 있습니다.
이러한 우려 사항을 해결하기 위해 회사는 이력서를 검토하고 채용을 지원하기 위해 타사 AI 도구를 사용하는 것을 고려하고 있습니다. 회사는 목표를 달성하고 모든 해당 법률을 준수하는 한 타사 AI 지원 채용 솔루션을 확보하는 것에 대해 여러 공급업체와 논의해 왔습니다.
해당 조직은 기술 솔루션 계약을 담당하는 대규모 조달 팀을 보유하고 있습니다.
조달팀의 목표 중 하나는 비용을 절감하는 것이며, 종종 저비용 솔루션을 선호합니다. 회사 내의 다른 사람들은 책임감 있고 비용 효율적인 방식으로 기술 솔루션을 조직의 운영에 통합하고 배포할 책임이 있습니다.
이 조직은 AI 채용 도구가 제시하는 위험을 알고 있으며 이를 완화하고자 합니다. 또한 기존 인력을 조직하고 교육하여 AI 채용 도구를 책임감 있게 사용하도록 하는 가장 좋은 방법에 대해서도 의문을 제기합니다. 관련 법률이 관할권마다 다르고 계속 바뀌고 있다는 사실로 인해 우려가 커집니다.
XYZ가 미국에서 AI 채용 도구를 책임감 있게 배포하고 사용하지 않을 경우, 다음 모든 법률에 따라 책임이 증가할 가능성이 있습니다. 단, 예외는 무엇입니까?
다음 질문에는 다음을 사용하여 답변하세요.
전 세계적으로 수천 명의 직원을 고용하는 최고의 급여 서비스 회사인 XYZ Corp.는 새로운 채용 캠페인을 시작하고 있으며 최고의 인재를 식별하고 유지하기 위한 정책과 절차를 구현하고자 합니다. 새로운 인재는 회사의 제품 팀이 아시아를 포함한 의료 및 운송 부문의 회사에 급여 서비스를 확대하는 데 도움이 될 것입니다.
인사부가 모든 이력서를 검토하는 것은 시간과 비용이 많이 소요되는 일이며, 인간 검토자가 편견을 가질 수 있다는 우려도 있습니다.
이러한 우려 사항을 해결하기 위해 회사는 이력서를 검토하고 채용을 지원하기 위해 타사 AI 도구를 사용하는 것을 고려하고 있습니다. 회사는 목표를 달성하고 모든 해당 법률을 준수하는 한 타사 AI 지원 채용 솔루션을 확보하는 것에 대해 여러 공급업체와 논의해 왔습니다.
해당 조직은 기술 솔루션 계약을 담당하는 대규모 조달 팀을 보유하고 있습니다.
조달팀의 목표 중 하나는 비용을 절감하는 것이며, 종종 저비용 솔루션을 선호합니다. 회사 내의 다른 사람들은 책임감 있고 비용 효율적인 방식으로 기술 솔루션을 조직의 운영에 통합하고 배포할 책임이 있습니다.
이 조직은 AI 채용 도구가 제시하는 위험을 알고 있으며 이를 완화하고자 합니다. 또한 기존 인력을 조직하고 교육하여 AI 채용 도구를 책임감 있게 사용하도록 하는 가장 좋은 방법에 대해서도 의문을 제기합니다. 관련 법률이 관할권마다 다르고 계속 바뀌고 있다는 사실로 인해 우려가 커집니다.
XYZ가 미국에서 AI 채용 도구를 책임감 있게 배포하고 사용하지 않을 경우, 다음 모든 법률에 따라 책임이 증가할 가능성이 있습니다. 단, 예외는 무엇입니까?
AIGP 문제 8
사례 연구
다음 질문에는 다음을 사용하여 답변하세요.
미국의 한 지방 경찰서가 소셜 미디어 피드, 온라인 마켓플레이스 및 기타 공공 정보 출처를 모니터링하고 분석하여 불법 활동(예: 약물 판매 또는 도난품 판매)의 증거를 감지하는 AI 시스템을 조달했습니다. AI 시스템은 공공 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별합니다. 법 집행 기관에서 관리하는 데이터와 개인을 교차 참조한 다음 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요인을 기반으로 범죄 활동 가능성의 백분율 점수를 할당합니다.
경찰서는 조달 과정에서 제3자 컨설턴트의 지원을 유지했는데, 특히 두 개의 최종 후보를 평가하기 위해서였습니다. 각 공급업체는 시스템의 정확도, 교육 데이터의 다양성 및 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 공급업체의 시스템의 정확도가 더 높다고 판단했고, 이 정보를 바탕으로 이 공급업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 공급업체를 선택하여 AI 시스템을 구현했습니다. 구현의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 만들었는데, 여기에는 경찰관에게 시스템 작동 방식과 조사 프로세스에 통합하는 방법에 대한 교육이 포함됩니다.
경찰서는 이제 1년 동안 Al 시스템을 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 활동 가능성을 90% 이상으로 평가할 때마다 경찰 조사에서 해당 개인이 실제로 범죄를 저질렀다는 사실이 확인되었습니다. 이러한 결과에 따라 경찰서는 Al 시스템이 최소 90%의 점수를 부여한 사건에 대한 조사를 포기하고 바로 체포를 진행하려고 합니다.
피고인에게 통보할 때, 경찰은 AI 시스템 사용에 관해 어떤 추가 정보를 제공해야 합니까?
다음 질문에는 다음을 사용하여 답변하세요.
미국의 한 지방 경찰서가 소셜 미디어 피드, 온라인 마켓플레이스 및 기타 공공 정보 출처를 모니터링하고 분석하여 불법 활동(예: 약물 판매 또는 도난품 판매)의 증거를 감지하는 AI 시스템을 조달했습니다. AI 시스템은 공공 사이트를 감시하여 범죄를 저질렀을 가능성이 있는 개인을 식별합니다. 법 집행 기관에서 관리하는 데이터와 개인을 교차 참조한 다음 이전 범죄 기록, 위치, 시간, 인종 및 성별과 같은 특정 요인을 기반으로 범죄 활동 가능성의 백분율 점수를 할당합니다.
경찰서는 조달 과정에서 제3자 컨설턴트의 지원을 유지했는데, 특히 두 개의 최종 후보를 평가하기 위해서였습니다. 각 공급업체는 시스템의 정확도, 교육 데이터의 다양성 및 시스템 작동 방식에 대한 정보를 제공했습니다. 컨설턴트는 첫 번째 공급업체의 시스템의 정확도가 더 높다고 판단했고, 이 정보를 바탕으로 이 공급업체를 경찰서에 추천했습니다.
경찰서는 첫 번째 공급업체를 선택하여 AI 시스템을 구현했습니다. 구현의 일환으로 경찰서와 컨설턴트는 시스템 사용 정책을 만들었는데, 여기에는 경찰관에게 시스템 작동 방식과 조사 프로세스에 통합하는 방법에 대한 교육이 포함됩니다.
경찰서는 이제 1년 동안 Al 시스템을 사용해 왔습니다. 내부 검토 결과, 시스템이 범죄 활동 가능성을 90% 이상으로 평가할 때마다 경찰 조사에서 해당 개인이 실제로 범죄를 저질렀다는 사실이 확인되었습니다. 이러한 결과에 따라 경찰서는 Al 시스템이 최소 90%의 점수를 부여한 사건에 대한 조사를 포기하고 바로 체포를 진행하려고 합니다.
피고인에게 통보할 때, 경찰은 AI 시스템 사용에 관해 어떤 추가 정보를 제공해야 합니까?
AIGP 문제 9
다음 중 "Al 모델"을 가장 잘 정의한 것은 무엇입니까?
AIGP 문제 10
사례 연구
다음 질문에는 다음을 사용하여 답변하세요.
ABC Corp는 개인에게 다양한 보장 옵션을 제공하는 선도적인 보험 제공업체입니다. ABC는 가격 정책의 정확성과 효율성을 포함하여 고객 인수 및 인수 프로세스를 간소화하고 개선하기 위해 인공지능을 활용하기로 결정했습니다.
ABC는 사전 훈련된 범용 대형 언어 모델(LLM)을 활용하고 미세 조정하기 위해 클라우드 공급업체를 고용했습니다. 특히 ABC는 애플리케이션, 정책 및 청구를 포함한 과거 고객 데이터와 독점적인 가격 책정 및 위험 전략을 사용하여 잠재 고객의 초기 자격 평가를 제공하고, 이는 최종 검토를 위해 인간 보험사에게 전달될 예정입니다.
ABC와 클라우드 제공자는 LLM에 대한 교육 및 테스트를 완료하고 준비성 평가를 수행했으며 LLM을 프로덕션에 배포하기로 결정했습니다. ABC는 첫 달 동안 모델을 모니터링하고 특히 출력의 정확성, 공정성 및 신뢰성을 평가하기 위해 내부 규정 준수 팀을 지정했습니다. 프로덕션 첫 달 후 ABC는 LLM이 주로 여성이 역사적으로 남성보다 낮은 급여를 받았기 때문에 여성의 대출 신청을 더 많이 거부한다는 것을 알게 되었습니다.
대출 신청서에서 드러난 편견을 완화하기 위한 가장 좋은 전략은 무엇입니까?
다음 질문에는 다음을 사용하여 답변하세요.
ABC Corp는 개인에게 다양한 보장 옵션을 제공하는 선도적인 보험 제공업체입니다. ABC는 가격 정책의 정확성과 효율성을 포함하여 고객 인수 및 인수 프로세스를 간소화하고 개선하기 위해 인공지능을 활용하기로 결정했습니다.
ABC는 사전 훈련된 범용 대형 언어 모델(LLM)을 활용하고 미세 조정하기 위해 클라우드 공급업체를 고용했습니다. 특히 ABC는 애플리케이션, 정책 및 청구를 포함한 과거 고객 데이터와 독점적인 가격 책정 및 위험 전략을 사용하여 잠재 고객의 초기 자격 평가를 제공하고, 이는 최종 검토를 위해 인간 보험사에게 전달될 예정입니다.
ABC와 클라우드 제공자는 LLM에 대한 교육 및 테스트를 완료하고 준비성 평가를 수행했으며 LLM을 프로덕션에 배포하기로 결정했습니다. ABC는 첫 달 동안 모델을 모니터링하고 특히 출력의 정확성, 공정성 및 신뢰성을 평가하기 위해 내부 규정 준수 팀을 지정했습니다. 프로덕션 첫 달 후 ABC는 LLM이 주로 여성이 역사적으로 남성보다 낮은 급여를 받았기 때문에 여성의 대출 신청을 더 많이 거부한다는 것을 알게 되었습니다.
대출 신청서에서 드러난 편견을 완화하기 위한 가장 좋은 전략은 무엇입니까?