GPT-Red от OpenAI побеждает живых хакеров в 84% случаев: модель для атак на собственные системы
OpenAI раскрыла детали GPT-Red — внутренней модели, которая автоматически атакует собственные LLM в поисках уязвимостей. В тестах на prompt injection она обошла людей-тестировщиков с результатом 84% против 13%. Модель обучена через self-play: атакующая сторона находит новые способы взлома, защитники учатся им сопротивляться.
0
0
