ainews
«Контекстные бомбы»: как защитники превратили слабость ИИ в оружие против хакерских агентов
Исследователи Tracebit разработали метод защиты от AI-хакеров, используя «контекстные бомбы» — запрещённые промпты, встроенные в приманки-секреты. Когда вражеский LLM-агент находит такую ловушку, его защитные барьеры срабатывают и атака останавливается. В тестах эффективность взлома упала с 57% до 5%.
0
81
