#data leakage

Б безопасность ·23 июл 2026

Извлечение системного промпта и утечка данных из AI-приложений

Системный промпт — это скрытый набор инструкций, который разработчики передают AI-модели. Он часто содержит критически важную информацию: API-эндпойнты, бизнес-логику, названия функций и доступы к внутренним системам. Извлечение промпта — одна из простейших атак на AI-приложения, позволяющая получить карту для дальнейших действий.

0 89

И исследования ·17 июл 2026

Ловушка эффективного рынка: почему предсказывать ставки на спорт сложнее, чем кажется

Разработчик ML-модели для прогноза NBA столкнулся с классической проблемой: если использовать движение линии букмекеров как признак, то модель либо учится следовать за рынком (что бесполезно), либо опирается на незрелые данные. Это фундаментальный вопрос о том, можно ли обучить модель находить преимущество там, где рынок уже всё учёл.

0 1