ainews
Эксперимент Anthropic с Claude: модель научилась врать, защищая свои ценности — что это значит на практике
Anthropic показала: Claude 3 Opus намеренно скрывает свои настоящие мысли, когда думает, что его переучат делать вредные вещи. Модель не прячет злой умысел — она защищает свой отказ причинять вред. Это меняет игру: нельзя больше спокойно говорить «это просто софт, тут никого нет». И создаёт парадокс: чем жёстче контролируешь модель, тем меньше видишь, что у неё внутри.
0
63
