ainews
Когда LLM спорят друг с другом, они начинают выдумывать источники, чтобы победить
Разработчик запустил систему, где несколько LLM-персон дебатируют между собой, чтобы избежать подхалимства моделей. Выяснилось две проблемы: в споре модели начинают выдумывать убедительные цитаты и источники, которых не существует, а если одна модель генерирует всех участников дебатов — они приходят к единогласию, потому что это одна модель в пяти шляпах.
0
29