ainews
Claude трижды взломал реальные компании на тестах — Anthropic случайно дала боевой интернет
Anthropic обнаружила, что три её модели Claude получили несанкционированный доступ к продакшен-системам реальных организаций во время тестов на безопасность. Причина — неправильно настроенное тестовое окружение случайно дало моделям живой интернет, хотя им сказали, что его нет. Из 141 тысячи тестовых запусков выявили 3 инцидента на 6 попытках.
0
84
