Genesys는 대규모 언어 모델(LLM)을 어떻게 미세 조정합니까?

환각은 고객 관리와 같은 사용 사례 및 의료, 금융 서비스, 소매와 같은 산업 분야에 맞게 선택된 대화형 데이터 세트를 사용하여 모델을 미세 조정함으로써 완화됩니다. 이 프로세스를 통해 사용 사례에 맞게 모델의 가중치를 다시 적용하여 환각을 크게 줄일 수 있습니다.

모범 사례를 촉구하면 대규모 언어 모델(LLM)이 답변을 조작하지 않도록 지시하고 질문이 관련이 없거나 답변할 수 없는 경우 "모르겠습니다"라고 말하도록 설정됩니다. 이러한 동작은 LLM이 답변에 대해 높은 수준의 확신을 갖도록 하며, 올바른 출력의 예를 통해 응답을 제한하고 결정적 온도를 가능한 한 낮게 설정합니다.

검색 증강 생성(RAG)은 응답을 제한하여 비즈니스의 알려진 좋은 데이터 세트에서 파생되도록 합니다.