исследования 1 мин

Я попытался поймать 5 ИИ на предвзятости к себе. Только некоторые попались

Автор провёл эксперимент: пять LLM-моделей написали эссе на одну тему, затем каждая оценивала все пять работ вслепую (без указания авторства). Результат оказался неожиданным: не все модели завышали оценки собственным текстам. GPT-4 и DeepSeek завысили свои оценки относительно коллег, Claude оценила себя в тон с остальными (и её текст действительно оказался лучшим по общему мнению), а Grok и Gemini были самокритичны.

Исследование показывает конкретные границы самооценки у современных LLM и даёт практический инструмент для тех, кто использует ИИ для создания и оценки контента: слепое рецензирование несколькими моделями помогает отфильтровать необъективность и найти действительно качественный результат.

Это аннотация к авторской статье. Мы не публикуем и не пересказываем чужие тексты целиком — полная версия у автора.

О чём статья

  • Не все LLM демонстрируют self-preference bias: из пяти моделей только две явно завысили оценки своим работам, одна оценила себя справедливо, две — строже, чем коллеги
  • Высокая самооценка не всегда означает предвзятость: Claude поставила себе 8.5, но и другие модели оценили её текст на 8.51 — её работа объективно была сильнейшей
  • Контекст важнее цифр: GPT поставила себе 8.5 при средней оценке коллег ~7, что уже подозрительно; рецензенты называли её текст «компетентными обоями без оригинальной мысли»
  • Практический вывод: не позволяйте модели, которая написала черновик, быть единственным судьёй при оценке — используйте перекрёстную проверку другими моделями
self-preference biasLLM-экспериментоценка качестваслепое рецензированиевалидация контента
Ксения Лаврова Medium #llm
Читать оригинал

Инструменты из статьи

AI-ассистент Anthropic. Сильнейший в работе с кодом, длинными документами и...

Доступ из РФ →
DeepSeekбез VPN

Китайская LLM с сильным кодом и рассуждениями. Очень дешёвый API.

Доступ из РФ →

Ещё по теме

Комментарии