비전 모델까지 지원하는 Jev 스타일 LLM 래퍼

Jev 스타일 LLM 래퍼가 제공하는 기능과 구현 방법을 소개합니다.

Jev 스타일 LLM 래퍼는 일반 LLM을 활용하여 긴 답변 대신 각 선택지의 확률과 점수를 반환하는 기능을 제공합니다. 본 문서에서는 Python 함수 'score()'의 구현 방법을 설명하며, 질문과 A/B/C 선택지를 제공하여 특정 문자를 생성하게 하고, 토큰별 확률을 분석하여 분류 결과와 참일 확률을 계산하는 방법을 다룹니다.

An introduction to the features and implementation of the Jev-style LLM wrapper.

The Jev-style LLM wrapper enables the use of standard LLMs to return probabilities and scores for choices instead of long answers. This article explains the implementation of the Python function 'score()', which generates specific characters by providing a question and A/B/C choices, and analyzes token probabilities to calculate classification results and true probabilities. It's a practical approach to leveraging LLMs effectively.