A. "상위 p"는 자주 발생하는 토큰에 페널티를 부여합니다.

B. "Top p"는 확률에 따라 정렬된 "Top k" 토큰 중에서 토큰을 선택합니다.

C. "Top p"는 응답당 최대 토큰 수를 결정합니다.

D. "상위 p"는 확률의 합을 기준으로 토큰 선택을 제한합니다.

A. 미세 조정은 새로운 데이터로 전체 모델을 학습해야 하므로 상당한 계산 비용이 발생하는 반면, PEFT는 매개변수의 작은 하위 집합만 업데이트하므로 계산 요구 사항과 데이터 요구 사항을 최소화합니다.

B. PEFT는 새로운 작업에 맞게 특별히 설계된 새 아키텍처로 전체 모델 아키텍처를 교체해야 하므로 미세 조정보다 훨씬 더 많은 데이터를 필요로 합니다.

C. 미세 조정과 PEFT 모두 모델을 새로운 데이터로 처음부터 학습해야 하므로 데이터와 계산 집약도가 모두 높습니다.

D. 미세 조정과 PEFT는 모델 수정을 수반하지 않습니다. 둘은 학습에 사용하는 데이터 유형만 다릅니다. 미세 조정은 레이블이 지정된 데이터가 필요하고 PEFT는 레이블이 지정되지 않은 데이터를 사용합니다.

A. 그들은 항상 응답을 생성하기 위해 외부 데이터베이스를 사용합니다.

B. 대규모 텍스트 코퍼스에 대한 사전 학습 중에 학습한 내부 지식에 의존합니다.

C. 미세 조정 없이는 응답을 생성할 수 없습니다.

D. 그들은 벡터 데이터베이스만을 사용하여 답변을 생성합니다.

A. 온도를 높이면 가장 가능성 있는 단어의 영향이 사라집니다.

B. 온도를 낮추면 분포가 넓어지고, 덜 나올 법한 단어가 더 나올 가능성이 커집니다.

C. 온도를 높이면 분포가 평평해져 더 다양한 단어 선택이 가능해집니다.

D. 온도는 확률 분포에 영향을 미치지 않습니다. 단지 디코딩 속도만 변경합니다.

A. StreamlitChatMessageHistory는 지정된 키의 Streamlit 세션 상태에 메시지를 저장합니다.

B. 주어진 StreamlitChatMessageHistory는 유지되지 않습니다.

C. 주어진 StreamlitChatMessageHistory는 사용자 세션 간에 공유되지 않습니다.

D. StreamlitChatMessageHistory는 모든 유형의 LLM 애플리케이션에서 사용할 수 있습니다.