#галлюцинации

И инструменты ·18 июл 2026

Как я создал AI-аналитика данных, который сообщает, когда галлюцинирует

Автор разработал open-source инструмент ADA — аналитика данных, который использует LLM только для понимания вопросов пользователя, а все расчёты выполняет через pandas локально. Каждый ответ сопровождается формулой, по которой он получен, что исключает галлюцинации в числах и позволяет проверить любой результат.

0 111

Б безопасность ·16 июл 2026

ИИ изобретает фальшивые цитаты: как проверять каждую ссылку

ИИ-инструменты массово генерируют несуществующие научные ссылки, которые выглядят правдоподобно — с реальными именами авторов, названиями журналов и форматированием. Исследование показало 12-кратный рост фальшивых цитат за два года, причём 91% случаев — не мошенничество, а результат слепого доверия к AI без проверки.

0 220