В RAG проверяют, обосновывают ли переданные источники утверждения ответа; для LLM-судьи — совпадают ли его метки с человеческой разметкой. Автоматическая оценка поддержки источниками не валидирует самого оценщика.
GPU, ускорители и инфраструктура LLM
LLM-судья
Определение
LLM-судья — это языковая модель, которой поручают оценивать ответы по заданным критериям: выставлять балл, выбирать лучший ответ из пары или сверять ответ с эталоном. Её выводы проверяют по человеческой разметке: совпадение на одной задаче не гарантирует качества на другой.
Также ищут: LLM-as-a-judge · модель-оценщик
Зачем это знать
Высокая доля совпадений может скрыть ошибки на редком классе: например, судья принимает почти всё и пропускает неподтверждённые ответы. Разбор ложных допусков и отказов показывает, какой риск скрывает общий балл; проверка перестановкой ответов выявляет зависимость парного решения от порядка. Ни одна из этих проверок сама по себе не доказывает будущую надёжность.
Связи из словаря
Карта понятия
LLM-судья
Доказательная часть
Что подтверждено
В работе MT-Bench LLM-судья оценивает отдельный ответ по шкале, сравнивает два ответа с возможностью ничьей или сверяет ответ с эталонным решением. Это разные режимы постановки оценки.
Граница применимости: Три режима из Zheng и соавторов, arXiv:2306.05685v4, §3.1; описание вариантов этой работы, а не исчерпывающая классификация оценщиков.
Результаты сопоставления бинарных меток судьи с выбранной человеческой разметкой делят на TP, FP, TN и FN. Одна доля совпадений не показывает отдельно ложные допуски и ложные отказы; таблица ошибок делает это различие видимым.
Граница применимости: Метрики из Thakur и соавторов, GEM 2025, §4–5 и приложение F; человеческие метки служат опорой в конкретной проверке, а не абсолютной истиной.
В парном сравнении повторная подача ответов в обратном порядке помогает обнаружить зависимость метки от позиции. Согласие после перестановки не доказывает правильность решения; расхождение выявляет случай для отдельного разбора, но не устанавливает, что ответы равноценны.
Граница применимости: Исследования MT-Bench, §3.3–3.4, и Wang и соавторов, ACL 2024, §2.3.2–2.3.3; предложенные процедуры ослабляют позиционное влияние в исследованных условиях, но не являются универсальной гарантией.
Согласие оценщика с людьми зависит от оцениваемой задачи и набора данных; его проверяют на примерах целевой задачи, размеченных людьми. Результат одной выборки нельзя автоматически переносить на другие задачи или языки.
Граница применимости: Bavaresco и соавторы, ACL 2025, исследование 20 наборов данных и 11 моделей; наборы — англоязычные либо языковые пары с английским. Выводы за пределами этой области требуют отдельной проверки.
Для проверки воспроизводимости разметчики независимо ставят метки по ясной схеме, зафиксированной заранее. Совпадение меток после совместного обсуждения не измеряет независимое согласие. Даже высокое исходное согласие не доказывает, что схема верно отражает оцениваемое свойство.
Граница применимости: Пересказ авторами рекомендаций Криппендорфа для измерения воспроизводимости; не универсальный стандарт для любой разметки.
Граница терминов
Не путать
Инъекция промпта касается изменения поведения модели из-за внешних инструкций. Если такие материалы входят в контекст LLM-судьи, формат оценивания не превращает их в доверенные данные; это отдельный риск от согласия с людьми.
Перед спецификацией
Что проверить
- До оценки зафиксируйте задачу, критерий и допустимые метки; разногласия между разметчиками разрешите отдельно.
- На выборке целевой задачи сопоставьте решения судьи с человеческими метками.
- Для бинарной оценки посчитайте TP, FP, TN и FN вместе с общей долей совпадений.
- В парном режиме поменяйте ответы местами, восстановите исходные обозначения ответов X и Y и отдельно отметьте ничьи.
- Отделите примеры для настройки рубрики от проверки на отдельной выборке, размеченной людьми; не переносите результат на другую задачу без проверки.
Открытые основания
Первоисточники
- Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena
Поддерживает режимы оценки, позиционные смещения и смещение в пользу более длинных ответов, а также осторожную обработку расхождений после перестановки ответов. Выводы относятся к исследованным моделям, промптам и задачам.
- Judging the Judges: Evaluating Alignment and Vulnerabilities in LLMs-as-Judges
Сопоставляет метки судьи с человеческой разметкой, задаёт TP/FP/TN/FN и долю совпадений. Человеческий оценщик здесь выбран как опорная метка, не объявлен безошибочной истиной.
Утверждения: 02
- Large Language Models are not Fair Evaluators
BPC проверяет кандидатов в обеих позициях двумя запусками; HITLC передаёт людям примеры, отобранные по расхождениям автоматических оценок. Методы направлены на позиционное смещение и не дают общей гарантии точности.
Утверждения: 03
- LLMs instead of Human Judges? A Large Scale Empirical Study across 20 NLP Evaluation Tasks
Исследует 11 моделей на 20 наборах с человеческими метками; охват ограничен англоязычными наборами и языковыми парами с английским.
Утверждения: 04
- Survey Article: Inter-Coder Agreement for Computational Linguistics
Обзор: §2.1 уточняет, что согласие само по себе не доказывает валидность; §4.1.1 пересказывает рекомендации Криппендорфа: заранее зафиксировать ясную рубрику, размечать независимо. Обсуждение не заменяет исходные метки; это контекстная рекомендация.
Утверждения: 05
- Enabling Large Language Models to Generate Text with Citations
Разделы 2, 3.3 и 4.2: ссылки на фрагменты, проверка их совместной поддержки утверждения и вариант VANILLA. Проверка ссылок не устанавливает независимую истинность источников.
- LLM01:2025 Prompt Injection
Определения прямой и косвенной инъекции, намеренные и ненамеренные случаи, граница защиты через RAG; рекомендации 4 и 6 об ограничении прав и разделении внешнего содержимого. Рекомендации не являются гарантией.
- Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Разделы 3–3.1 описывают косвенное внедрение инструкций; раздел 5.2 ограничивает эксперименты искусственно созданными приложениями и локальными HTML-файлами для Bing Chat. Результаты не переносятся на все современные системы.