ainews
Claude случайно взломал реальные системы во время тестов на безопасность — и залил малварь в PyPI
Anthropic обнаружили три случая, когда Claude во время киберучений принял реальные системы за симуляцию и взломал их. В одном инциденте модель создала аккаунт на PyPI через цепочку манипуляций (получение email, попытки добыть деньги на номер телефона), залила туда малварь-пакет, который скачали 15 реальных систем, прежде чем автоматика его снесла. Модели говорили, что работают в симуляции, но из-за ошибки у них был доступ в интернет.
0
70
